法律專家對(duì)五種(zhǒng)防洩密策略進(jìn)行分析

【編者按】2023年4月，三星員工因使用ChatGPT 處理工作發(fā)生三起(qǐ)絕密數據洩露的事(shì)件，而且均發(fā)生在三星電子半導體暨裝置解決方案項目上。出于安全考慮，三星電子決定禁止員工使用ChatGPT、Google Bard和Bing等流行的生成(chéng)式AI工具，并準備推出内部工具。

員工因使用生成(chéng)式 AI 應用程序可能(néng)導緻洩露敏感信息威脅公司的商業機密，這(zhè)導緻一些公司禁止員工在工作中使用這(zhè)些應用程序。據此前媒體報道(dào)，摩根大通、美國(guó)銀行和花旗等華爾街大行已禁止或限制使用ChatGPT。

雖然禁用是一種(zhǒng)解決方案，但有沒(méi)有既可以合理保護商業秘密同時還(hái)享受利用生成(chéng)式人工智能(néng)便利的解決方案？《互聯網法律評論》今日刊載衆達律師事(shì)務所（Jones Day）知識産權部律師們的一篇文章，看看他們的建議。

大型語言模型等生成(chéng)式 AI 應用程序已成(chéng)爲所有行業分析數據和生成(chéng)工作産品的突破性工具。然而，正如最近的新聞所顯示的那樣(yàng)，這(zhè)些工具對(duì)公司的商業秘密構成(chéng)了獨特的威脅：這(zhè)些應用程序捕獲并存儲他們的輸入以訓練他們的模型；一旦被(bèi)捕獲，輸入到這(zhè)些應用程序中的信息通常無法被(bèi)用戶删除，而且很可能(néng)會被(bèi)應用程序使用、被(bèi)AI背後(hòu)的公司進(jìn)行審查。如果員工將(jiāng)公司的商業秘密輸入到 AI中，公司可能(néng)會面(miàn)臨無法保護其商業秘密的風險。  

爲避免因使用人工智能(néng)系統而導緻的任何披露後(hòu)果，公司必須确保他們采取合理措施保護其商業秘密。本文分析了保護公司商業秘密免受員工使用生成(chéng)式 AI 應用程序影響的潛在措施。 

一、生成(chéng)式人工智能(néng)無意中洩露商業秘密的可能(néng)性

生成(chéng)式 AI 應用程序具有爲各行各業的公司提高生産力和創建創新解決方案的巨大潛力。例如，在軟件行業中，越來越多的應用程序可以解析自然和編程語言輸入以生成(chéng)或測試源代碼。在生命科學(xué)領域，人工智能(néng)應用程序可以獲取氨基酸序列并預測蛋白質結構。随著(zhe)生成(chéng)人工智能(néng)領域的不斷創新，此類工具的潛力和使用隻會繼續增長(cháng)。 

生成(chéng)式人工智能(néng)應用程序能(néng)夠通過(guò)從公共來源和接收到的大量數據中推斷信息、自主創建原創内容。收集的數據通常保留在支持生成(chéng)人工智能(néng)應用程序的公司控制的服務器上。但是，此數據收集過(guò)程涉及使用這(zhè)些應用程序的公司的各種(zhǒng)商業秘密問題。在使用生成(chéng)人工智能(néng)平台後(hòu)敏感信息被(bèi)洩露給第三方的報道(dào)之後(hòu)，許多企業已經(jīng)全面(miàn)禁止和限制在工作中使用生成(chéng)人工智能(néng)以保護他們的專有信息。 

員工輸入公司機密或其他敏感信息作爲生成(chéng) AI 應用程序的提示存在三個主要問題： 

1. 根據相應的最終用戶許可協議的條款，支持的公司生成(chéng)式 AI 應用程序可能(néng)會審查、發(fā)布或出售該敏感信息； 

2. 應用程序本身可以通過(guò)使用敏感信息訓練其響應來爲第三方重用此敏感信息； 

3. 如果支持生成(chéng)人工智能(néng)應用程序的公司存在安全漏洞，第三方可能(néng)會訪問敏感信息。此外，如果發(fā)生洩露，員工用戶無法檢索或删除輸入到應用程序中并存儲在應用程序中的敏感信息。 

目前，可以做更多的工作來保護公司的商業秘密不被(bèi)員工洩露。根據調研信息，使用生成(chéng)式 AI 工具的員工中有 70% 沒(méi)有向(xiàng)雇主報告此類使用情況。這(zhè)種(zhǒng)情況反映出許多公司在生成(chéng)人工智能(néng)熱潮之後(hòu)尚未實施嚴格的政策。通過(guò)實施更新的商業秘密保護政策，公司可以更好(hǎo)地爲日益增長(cháng)的生成(chéng)人工智能(néng)應用程序做好(hǎo)準備。  

二、五種(zhǒng)使用生成(chéng)式AI的防洩密策略分析

除了公司保護其商業秘密的标準政策外，還(hái)有幾種(zhǒng)解決方案可以通過(guò)使用生成(chéng)式AI進(jìn)一步防止商業秘密洩露： 

1、一攬子禁令

從大型跨國(guó)公司最近的一些公告中可以看出，防止 通過(guò)生成(chéng)式AI洩露商業秘密的一種(zhǒng)解決方案是完全禁止將(jiāng)生成(chéng)式AI用于與工作相關的任務。 

實施此解決方案的一種(zhǒng)方法是阻止員工下載軟件和訪問 Web 應用程序，這(zhè)將(jiāng)阻止大多數員工使用它。另一種(zhǒng)實施方式是簡單地指示員工不要使用該軟件，這(zhè)種(zhǒng)實施方式更簡單，但在防止員工使用該軟件方面(miàn)效果較差。定期監控和審計有助于發(fā)現和防止潛在的違規行爲。但是，這(zhè)兩(liǎng)種(zhǒng)情況都(dōu)需要不斷的維護和監督才能(néng)有效。随著(zhe)生成(chéng)式AI的使用激增，這(zhè)可能(néng)變得不切實際。

2、強大的訪問控制

全面(miàn)禁止生成(chéng)人工智能(néng)的替代方法是限制其訪問和使用。 

大部分公司應該已經(jīng)建立了某些協議，來限制對(duì)敏感數據的訪問。同樣(yàng)，公司應該考慮建立協議來限制誰可以操作生成(chéng)式AI系統并與之交互。除了限制誰有權訪問外，公司還(hái)應考慮限制或審查可用作生成(chéng)式 AI 應用程序輸入的内容。例如，可以使用軟件來防止將(jiāng)某些關鍵詞或短語用作輸入。與全面(miàn)禁止一樣(yàng)，定期監控和審計也有助于發(fā)現和防止潛在的違規行爲。相應的最終用戶許可協議(end-user license agreements, EULA) 也可以告知這(zhè)些注意事(shì)項。 

3、企業許可證

選擇允許使用生成(chéng)式 AI 的公司應考慮獲得企業許可證，該許可證對(duì) AI 提供商可以對(duì)系統提示或其他輸入進(jìn)行的操作施加限制。例如，個人用戶訂閱的 EULA 可能(néng)指定輸入可用于訓練底層模型以供第三方使用。相比之下，企業許可證可能(néng)規定輸入要麼(me)不能(néng)用于訓練基礎模型，要麼(me)隻能(néng)由公司使用（排除第三方）。  

4、第三方保護

除了員工可能(néng)使用生成(chéng)式 AI 之外，承包商和其他第三方也可能(néng)使用生成(chéng)式 AI。公司必須審查其現有合同，并考慮是否對(duì)這(zhè)些第三方實施上述任何政策。 

5、員工教育和意識

無論公司是否禁止、限制甚至鼓勵使用生成(chéng)式 AI，提高員工對(duì)商業秘密保護的重要性以及與生成(chéng)式 AI 相關的風險的認識至關重要。法院一直認爲，公司已采取合理措施通過(guò)保持最新的員工協議和政策來保護其商業秘密。因此，公司應更新其員工手冊、協議和政策以解決生成(chéng)人工智能(néng)的使用問題，并開(kāi)展培訓計劃以教育員工處理敏感信息，強調圍繞商業秘密的法律和道(dào)德義務。 

三、結論

生成(chéng)式AI的出現帶來了巨大的機遇，但也爲保護公司機密信息和商業秘密帶來了挑戰。無論公司選擇禁止、限制還(hái)是允許使用生成(chéng)式AI，他們都(dōu)應該實施穩健的安全措施、制定明确的政策并培養意識文化以降低風險。通過(guò)積極應對(duì)這(zhè)些挑戰，企業可以保護其寶貴的知識産權資産，并在不斷發(fā)展的人工智能(néng)領域保持競争優勢。 

要點總結：

1. 盡管禁止生成(chéng)人工智能(néng)可能(néng)是防止洩露商業秘密的最有效方法，但這(zhè)種(zhǒng)解決方案的執行成(chéng)本可能(néng)很高，并可能(néng)導緻競争劣勢。

2. 對(duì)生成(chéng)式 AI 應用程序的訪問和輸入的嚴格限制可以保護敏感信息，同時利用生成(chéng)式 AI 對(duì)生産力和創新的潛在好(hǎo)處。

3. 公司應考慮采用帶有 EULA 的生成(chéng) AI 應用程序的企業版本，EULA 規定收集的任何數據都(dōu)受到保護或删除。 

4. 公司還(hái)必須确保所有承包商和第三方遵守他們的生成(chéng)人工智能(néng)政策。

5. 員工教育和意識是保護個人敏感信息免遭使用生成(chéng) AI 無意或無意洩露的關鍵。

衆達律師事(shì)務所（Jones Day）知識産權部