ChatGPT 爆火4個月,已逐漸成為各路打工人的“輔助神器”:能寫代碼、能編小說、還能給出策劃方案……而事實證明,ChatGPT 提升的不僅是工作效率,還有安全隱患。
上周,據韓媒報道:三星剛引入ChatGPT還不到 20天,就發生了3起機密數據泄漏事件,其中涉及三星半導體設備測量資料、產品良率等信息。
韓媒認為,這些三星的機密資料已“完整地”傳給了美國,被存入ChatGPT學習數據庫中。
不到20天,發生3起數據泄露事件
實際上,最初三星因擔心內部機密外泄,一直禁止員工在工作中使用ChatGPT。
然而,隨著ChatGPT進入各個企業的步伐加速,越來越多員工認為技術需要迭代變化,加之半導體本身就是構建“生成式 AI”的核心要素,于是三星決定:3月11日起,半導體設備解決方案(DS)部門可開始使用ChatGPT。
一般來說,企業在引入新技術時,都會對員工進行相關的培訓和教育,讓員工了解新技術的使用方法和注意事項,避免因為員工的不當操作而導致機密泄漏等安全問題。所以,三星向員工發出了提醒:“注意公司內部信息安全,不要輸入私人內容。”
但所謂“怕什么就來什么”,三星剛允許員工使用ChatGPT不到20天,光掌握到的數據泄露事件就有3起—— 2起設備信息泄露和 1 起會議內容泄露:
DS 部門的A員工在運行半導體設備計量數據庫(DB)下載程序的源代碼時,發現有 Bug,便將代碼復制到了ChatGPT中找解決方法。據韓煤報道,這個操作將使三星半導體設備測量相關代碼成為ChatGPT的學習資料。
DS 部門的B員工為了解設備產量和產品良率等信息,將所有相關代碼復制到 ChatGPT 中,并要求 ChatGPT 優化其代碼。
DS 部門的C員工通過相關應用將會議錄音轉成文字,然后將文字輸入到 ChatGPT 中,要求其整理成一份完整的會議記錄。對此,韓媒稱:“雖然不是技術秘密,但也可能導致會議內容泄露。”
三星啟動“緊急措施”:提問不得超過1024字節
根據OpenAI網站上ChatGPT的常見問題解答,其確實指出與ChatGPT的對話可能會用作訓練數據:
提問:你們會使用我的對話進行培訓嗎?
答:是的,我們的 AI 培訓師可能會審核你的對話,以改進我們的系統。
但有些令人費解的是,盡管韓媒對此言之鑿鑿,許多網友卻提出了關鍵疑問:“你們是怎么確認這些機密數據已被泄露了的?”,“就算這些對話被用作 ChatGPT 的學習數據,會這么快就出現在回答中嗎?”
對于這個疑問,三星方面沒有給出正面回答:“因為是公司內部情況,所以很難確認。”網友對此猜測,很可能是三星員工在內部承認了這些行為,由此引發了公司擔憂。
對于這 3 起數據泄露事件,三星迅速向員工進行了通報:“在 ChatGPT 中輸入內容的瞬間,數據就會被發送到外部服務器并存儲,公司無法回收。如果 ChatGPT 學習了三星內部資料,敏感內容就可能會提供給其他人。”
與此同時,三星還啟動了“緊急措施”:將向 ChatGPT 提問的上傳容量限制在 1024 字節以內;調查信息泄露的原委,必要時給予員工處罰;若采取緊急措施后仍發生類似事故,三星可能會切斷 ChatGPT 服務。
據了解,由于使用 ChatGPT 的這些隱患,三星正考慮通過 DS 部門的創新中心,研發一個三星專屬的內部 AI 服務。
有關 ChatGPT 的爭議一直沒停
回顧 ChatGPT 問世的這4個月,其實有關它的爭議一直沒有定論:提高工作效率是真的,但它會把對話內容作為訓練數據也是真的。
據 Cyberhaven 統計結果顯示,近160萬名打工人中,有 8.2% 的員工在工作場所使用過它——許多人稱,因為使用 ChatGPT,他們的工作效率“提高了 10 倍”。同時,有 6.5% 的員工表示會將公司數據復制到 ChatGPT 中,更有 3.1% 的員工表示曾將公司的機密數據放入 ChatGPT。
“在2月26日至3月4日的一周內,平均有10萬名員工的公司職員將機密文件放入 ChatGPT 中共199次,放入客戶數據 173 次,放入源代碼159次。”
因此,與之相對應的,越來越多企業因擔心機密數據外泄,禁止員工訪問 ChatGPT,正如之前的三星,還有摩根大通、美國銀行、花旗集團、高盛、德意志銀行等。近期軟銀也向全體員工通報了禁止向 ChatGPT 輸入機密信息等注意事項。甚至,意大利個人數據保護局(Garante)也在3 月31日宣布,即日起禁止使用聊天機器人 ChatGPT,并限制 OpenAl 處理意大利用戶信息。
對于這些企業及國家的禁用動作,部分業內人士表示:“因為 ChatGPT 是熱門話題,現在大家都在使用和學習,但對于信息泄露的憂慮等,國內企業也需要更加警惕。”
及時掌握網絡安全態勢 盡在傻蛋網絡安全監測系統
本文來源:互聯網
如涉及侵權,請及時與我們聯系,我們會在第一時間刪除或處理侵權內容。
電話:400-869-9193 負責人:張明