經濟觀察網 記者 歐陽曉紅
(資料圖片僅供參考)
一
4月1日是“愚人節”，對ChatGPT意大利用戶來說，這個“玩笑”開大了；對OpenAI而言，卻有些猝不及防——它有20天的調整適應期。
當地時間3月31日，以“非法收集個人資料；未成年人年齡核實系統缺失”之名，意大利個人數據監管局（Guarantor for the Protection of Personal Data，GPDP）宣布禁用ChatGPT，直到它尊重隱私法規；行政措施立即生效。同時，監管部門立案偵查。
而在30日就發出的行政措施文件中，GPDP稱，對ChatGPT進行多次測試，并就用戶數據隱患問題先后指出以下幾點：
1、ChatGPT并未告知用戶任何關于OpenAI通過該服務數據收集的相關信息。
2、缺失對于用戶個人數據的處理，以及對其作為ChatGPT算法優化途徑的合格評判基準。
3、服務方提供的數據相關信息與部分事實不符。
4、在OpenAI發布的條款中明確該公司產品不為13歲以下用戶提供服務，ChatGPT卻缺失任何對于用戶年齡的驗證。
GPDP還稱，3月20日發生了有關付費服務訂閱者的用戶與ChatGPT對話和支付信息的數據泄露。并指出，最重要的是OpenAI缺乏法律依據來證明其收集和大量存儲個人數據是合理的，以便“訓練”平臺操作的基礎算法。此外，根據OpenAI條款，服務用戶是13歲以上的人，但GPDP強調，沒有任何過濾器來驗證用戶的年齡，使未成年人面臨對其發展程度和自我意識絕對不合適的答案。
OpenAI在歐盟未設辦事處，但在歐洲經濟區任命了一名代表，GPDP要求其必須在20天內反饋為實施GPDP要求而采取的措施，從該文件發布即日起，OpenAI有二十天的時間根據歐盟相關法律對產品作出調整，否則同樣根據歐盟法律，其將被處以最高2000萬歐元或最高4%的全球年營業額的罰款。
因此，OpenAi需要在規定時間提供有關數據收集的所有文件，包括還必須明確要采用哪些系統來驗證訪問其服務的用戶年齡，悉數滿足要求后，才能繼續在意大利運營。
就此，OpenAI創始人Sam Altman在社交媒體上回應，當然會服從意大利政府，并已停止在意大利提供ChatGPT（盡管其認為遵守所有的隱私法）。“意大利是我最喜歡的國家之一，期待很快再次訪問。”
事實上，GPDP叫停ChatGPT后，OpenAi在意大利連夜暫停了對該服務的訪問。4月1日，當一早醒來的意大利用戶嘗試連接OpenAI時，得到的網頁響應是：《網站所有者可能設置了阻止用戶訪問的限制》。
針對付費訂閱用戶，OpenAI將向3月份購買ChatGPTPlus訂閱的意大利所有用戶退款；還暫停了意大利的訂閱續訂，以便在 ChatGPT 暫停期間不會向用戶收費。
“我們致力于保護人們的隱私，并相信我們提供的 ChatGPT 符合GDPR和其他隱私法。我們將與意大利數據保護局合作，以盡快恢復您的訪問權限。”OpenAI支持團隊在致意大利ChatGPT用戶的公開信中表示，“許多人告訴我們，發現 ChatGPT 對日常任務很有幫助，我們期待很快再次提供它。”
二
是這樣嗎？據英國BBC報道，OpenAI承認對數據的處理缺失存在漏洞，隨后又稱ChatGPT之所以有收集數據的機制，是為了讓其“學習這個世界”，而非“學習用戶個人”，并表示“希望早日恢復對意大利的服務”。
問題在于，意大利用戶不知道，20天“整改期”之后的結果如何。Sam Altman認為，OpenAi遵守了所有的隱私法；但GPDP有異議，需要OpenAI提供相關證明文件（但它們看起來并不容易），包括對用戶年齡的核實系統問題何解？而且，意大利對基于歐盟人權法律下的個人隱私權極其重視，GPDP行政措施中所列的每一項內容均引自相關法律。
“我們需要停止ChatGPT，我們不知道它對我們的數據做了什么。”GPDP董事會成員之一的律師Guido Scorza就此接受媒體采訪時表示。
自2020年開始，就一直是GPDP董事會成員的Guido Scorza說，GPDP此次是獨立行動。現在OpenAi有20天的時間來遵守規定。
當被問及ChatGPT 收集了哪些數據時，Guido Scorza稱，并不清楚。“我們唯一可以說的是（ChatGPT）收集個人數據是為了開發算法。如果不是這種情況，當我們向他詢問或多或少有名的人物簡介時，ChatGPT無法回答我們的問題。”
提及律師與OpenAI的分歧或異議，Guido Scorza直言，特別是三種不同的違規行為：(a) 收集了數十億人的個人數據來訓練他們的算法，而沒有告知他們這種情況，并且可能沒有適當的法律依據，(b)在對話期間收集用戶的個人數據在不告知他們這些數據的命運的情況下，以及(c)生成內容以回答問題，這些內容有時會歸因于人們不準確和不真實的事實和情況，從而提出對他們個人身份的歪曲表述。
Guido Scorza舉例稱，如果他問聊天機器人Guido Scorza 是什么時候進入數據保護局的，答案為2016年，但事實是2020年。“這（回答）還算不錯；但如果他說我在海邊撞到一個孩子然后逃跑了，而真相并非如此，那將永遠毀了我的生活。而且我認為我們不允許發生這種情況。”Guido Scorza說。
他強調，這次GPDP是獨立行動，因為 OpenAi不在歐洲相關隱私保護機構合作程序之內。不過，他認為，接下來的幾天里，歐洲層面肯定會有討論的空間，以了解是否以及如何合作和共同行動。
其畫外音或是，GPDP“打響禁用ChatGPT頭炮”之后，歐洲相關組織可能也會采取行動。
“AI熱潮下，意大利禁用ChatGPT也許不會是個案。”分析人士認為，“而OpenAI自身漏洞也是不可忽視的長期隱患。在完全不知走向的科技革命中，任何一步均可能演變為無法彌補或逆轉的歷史，無論對錯、代價如何；因此，現階段下的AI向前推進的每一步都需審慎評估。”
就在幾天前，包括埃隆·馬斯克(Elon Musk) 在內的1000多人聯名呼吁暫停高級人工智能的開發，直到獨立專家開發、實施和審計這類設計的共享安全協議。
當地時間29日，據路透社報道，馬斯克和一群人工智能專家、行業高管在由非營利組織未來生命研究所（FLI）發布的一封公開信中，呼吁暫停開發比GPT-4更強大的系統，暫停6個月，并指出其對社會和人類存在潛在風險。他們在信中寫道：只有在我們確信它們的效果是積極的，風險是可控的情況下，才應該開發強大的人工智能系統。
這種擔憂其實由來已久。在派拓網絡副總裁兼亞太及日本地區首席安全官Sean Duca看來，ChatGPT（AI）是把“雙刃劍”。多年來，全世界都在猜測AI可能即將統治世界。如今，用戶可以使用AI驅動的安全工具和產品，在幾乎無需人為干預的情況下應對大量網絡安全事件，但業余黑客也可以利用同樣的技術開發智能惡意軟件程序并發起隱形攻擊。
Sean Duca認為，ChatGPT帶來的網絡安全隱患不容忽視。比如，此前在拉斯維加斯舉行的黑帽和Defcon安全大會上，一個技術團隊展示了AI在生成釣魚郵件和魚叉式釣魚信息方面是如何超越人類的。當務之急是采取智能化的行動來化解這些不斷發展的威脅。好消息是自主響應如今能夠在無需人類干預的情況下有效解決威脅。但隨著AI驅動的攻擊成為常態，受到自動化惡意軟件攻擊的企業、政府和個人需要越來越多地依靠AI和機器學習（ML）等新興技術做出自動化響應。
誠然，隨著技術的發展，人們越來越多地意識到數據隱私和保護的重要性。根據Gartner預測，到2024年末，全球75%人口的個人數據將得到現代隱私法規的保護。面對愈發完善的數據法律法規，作為數據管理領域全球領導者的Commvault列出了2023年數據隱私和保護的十大工作重點。
其中，重點一是數據保護策略：在不斷變化的數據環境中，企業應該創建整體數據保護策略中的數據隱私、備份和恢復，以及災難恢復計劃，并不斷更新。重點二是“加密”，加密對于數據保護和保護隱私數據至關重要。數據加密有助于防止對個人信息的未授權訪問。這對于醫療機構、金融機構等需要處理大量隱私數據的企業機構尤為重要。
此外的重點六是數據治理和洞察；調查顯示，57%的首席信息安全官承認，他們不清楚他們的一部分數據（或所有數據）位于何處，又是如何被保護的。隨著隱私數據量的不斷增長，法規的數量也在成倍增加。企業需要了解他們的數據，包括數據的位置以及哪些數據存在風險等等。企業如此，個人數據保護亦然。
“AI和人類之間的微妙平衡將成為實現網絡安全的關鍵因素。”Sean Duca表示。
（責任編輯：劉暢 ）關鍵詞：
