大廠“禁用”ChatGPT

Callejon

不久之前，三星推出了一項新政策，要求員工不得在工作場所使用OpenAI的ChatGPT和谷歌Bard等生成式人工智能。

目前，三星員工被禁止在公司設備上使用人工智能工具，包括電腦、平板電腦、手機等。但員工仍可以在個人設備上使用人工智能工具，不過僅限于與工作無關的事情。備忘錄中還強調，要求員工認真遵守安全準則，若違規并導致公司信息或數據泄露的話，員工將得到紀律處分，情節嚴重者將被解雇。

事實上，在三星這項“嚴厲”的新政策之前，全球范圍內，不少企業便陸續發布了“限制”自家員工使用ChatGPT的公告。

首先對ChatGPT發出“不友好”聲音的企業，來自金融行業。

ChatGPT掀起熱潮不久后，今年2月，JP摩根大通、美國銀行、花旗、富國銀行等華爾街巨頭陸續表示將禁止或限制使用ChatGPT。據了解，摩根大通不準員工在辦公室使用ChatGPT，其表示，有關禁令并非源自任何特定事件，而是基于公司對第三方軟件的正常管控。

美國銀行例行提醒員工切勿使用未經授權軟件時，也特別點名提到ChatGPT。德意志銀行更是表明，嚴禁員工在公司內用ChatGPT，并從內部阻斷連接OpenAI網站。而盡管高盛鼓勵編程人員采用AI來輔助編程，但禁止旗下交易員使用ChatGPT。

日本方面，軟銀、日立、富士通、日本瑞穗金融集團等企業也開始限制ChatGPT等交互式人工智能服務在商業運作中的使用。

相比金融行業，科技行業的動作絲毫不慢。

今年3月初，臺積電發布了一系列內部公告，提醒員工謹慎使用網絡工具如ChatGPT或Bing AI Chat等。除三星外，同屬韓國企業的全球第二大存儲芯片巨頭SK海力士亦稱“除必要時刻外”，禁止公司內網使用ChatGPT。

不可否認，ChatGPT這樣的生成式AI對提高工作效率很有幫助，但對于這樣一個還不足夠成熟的AI工具來說，它所展現出的負面效應，并不小于它的正面效應。就如同一把雙刃劍，在沒有“劍鞘”作為一種保護機制出現之前，對于ChatGPT的“圍剿”絕對不會停止。

能夠預料的是，禁用ChatGPT的企業，仍然會持續增加。

數據安全是核心原因

ChatGPT的火爆，實際上是“深度學習”大模型的成功。

生成式AI工具，離不開大數據的幫助。它的進化，需要海量的數據來訓練，通過感應器采集數據，進行信息存儲、加工，通過算力進行計算，最后形成決策機制，進行反饋。龐大的數據訓練，造就了ChatGPT強大功能，但這也意味著，ChatGPT實際上在不斷地接觸各種對話，其中可能包含相關的敏感信息。

無論是個人、企業，還是國家層面，機密數據、文件隱私，都有可能在使用過程中被ChatGPT采集到，從而被大規模地擴散。這些數據的泄露，也很有可能會對個人、企業，甚至是國家造成重大的損失。

三星無疑是一個典型的“受害者”。

據了解，今年3月三星的半導體事業暨裝置解決方案事業部（DS）部門允許員工使用ChatGPT，隨后20天內就發生了三起將公司內部半導體數據上傳到ChatGPT的事件。

其中，員工A用ChatGPT幫自己查一段代碼的bug；員工B想用ChatGPT幫自己優化一段代碼；員工C想先用AI語音助手Naver Clova將自己的會議錄音轉成文字，再用ChatGPT幫他總結一下會議內容，做成摘要。

前兩起案件已分別導致三星公司的半導體設備測量資料、產品良率等機密內容錄入到ChatGPT的學習資料庫中，這讓三星很是擔憂其數據將通過人工智能平臺最終落入其他用戶手中。

不止三星，數據安全服務Cyberhaven曾檢測到并阻止了其客戶公司160萬名員工中，4.2%的人將數據輸入ChatGPT的請求，因為存在泄露機密信息、客戶數據、源代碼或監管信息的風險。

Cyberhaven還發現，隨著ChatGPT的應用率越來越高，給它上傳企業數據的打工人數量也越來越多。一天之內（3月14日），每10萬名員工就平均給ChatGPT發送了5267次次企業數據。

ll1z2y3

保密嚴格的很正常

Wong1998

出現過泄露，三星這么做也是正常