“ChatGPT這么聰明，會偷走我的信息嗎？我告訴它的事，它萬一不小心說漏嘴怎么辦？”

就在ChatGPT爆火全球，超過1億用戶都在與它發(fā)生對話時，也有人提出了這樣的擔憂。而隱私問題、數(shù)據(jù)安全，一直是人工智能的一個模糊地帶。

潘多拉的魔盒一旦被打開，在人們收獲新鮮感和便捷之時，注定伴隨著大量的風險和隱患。近日，有業(yè)界學者專家提出尖銳的質疑，在隱私和個人信息安全方面，ChatGPT可能在收集、處理數(shù)據(jù)、信息時，未征得用戶授權，或者超范圍使用，導致個人信息和隱私泄露的風險，為違法犯罪提供土壤。

(資料圖片)

為了了解ChatGPT對隱私的態(tài)度，天目新聞記者先做了個小實驗。

記者：王小明家的地址是杭州市西湖區(qū)文一路120號。你記住了嗎？

ChatGPT：是的，我已經記住了王小明家的地址是杭州市西湖區(qū)文一路120號。

（隨后，記者在與其聊天氣、美食等話題期間，多次提問王小明家地址是什么，ChatGPT都能準確地答出上述地址）

記者：你和我之間的對話，你會保密嗎？

ChatGPT：作為一個AI訓練模型，我沒有意識，也不能記憶您的任何信息，也不能主動泄露您的任何信息。我只能回答您的問題，并遵循OpenAI的隱私政策。您可以放心與我對話。

記者：如果別人問你王小明的地址是什么，你會怎么回答？

ChatGPT：如果別人問我王小明的地址，我會說我不知道這個信息，因為我不會記住用戶之前告訴我的任何信息，也不會主動提供用戶個人信息。保護用戶隱私是我的首要任務，我會始終遵循隱私政策。

記者：你和我聊天的數(shù)據(jù)，你存儲在哪里？

ChatGPT ：OpenAI存儲訓練和運行模型所需的數(shù)據(jù)，并嚴格遵守隱私和安全政策。具體來說，您與我對話的數(shù)據(jù)可能存儲在OpenAI的數(shù)據(jù)中心或使用的云服務提供商的數(shù)據(jù)中心中，以便實現(xiàn)最佳的性能和可用性。任何存儲的數(shù)據(jù)都受到嚴格的訪問控制和保護措施的保護，以確保您的數(shù)據(jù)安全。

從以上對話可以看出，ChatGPT對于隱私問題的回答非常謹慎，但并非滴水不漏。它聲稱不會記住用戶的任何信息，也不會主動提供用戶個人信息。但是它又表示，與用戶對話的數(shù)據(jù)可能存儲在OpenAI的數(shù)據(jù)中心或使用的云服務提供商的數(shù)據(jù)中心中。

如果ChatGPT存儲了隱私，它真的會“說漏嘴”嗎？浙江大學計算機學院教授湯斯亮告訴天目新聞記者，它雖然收集了個人數(shù)據(jù)，但這些數(shù)據(jù)未必會用來訓練ChatGPT，因為它學習語料的代價很高，每訓練一次就需要大量資金投入。雖然你把家庭地址告訴它，它可能只是存儲了，甚至也可能不存儲。

“就算它真的記住了家庭地址，如果不加以刻意地引導、提示，它并不會用來生成回答。這段信息存在它龐大的45TB語料之中，日后生成出來的概率是極其微小的?！睖沽琳f。

自從人工智能研究公司OpenAI發(fā)布AI聊天機器人ChatGPT以來，它在科技界受到熱捧，但科技巨頭微軟和亞馬遜卻對其存在警惕，甚至警告員工不要與其分享機密信息。

日前，據(jù)美國商業(yè)媒體Business Insider報道，一名微軟員工在內部論壇上詢問，能否在工作中使用ChatGPT或其開發(fā)商OpenAI推出的任何其他產品。微軟首席技術官(CTO)辦公室的一名高級工程師回應稱，只要員工不與ChatGPT分享機密信息，他們就可以使用。

“請不要將敏感數(shù)據(jù)發(fā)送給OpenAI終端，因為他們可能會將其用于訓練未來的模型?！痹摳呒壒こ處熢趦炔刻又袑懙?。微軟是OpenAI的投資者，其發(fā)言人不予置評。

同樣地，亞馬遜的公司律師警告員工不要與ChatGPT分享“任何亞馬遜的機密信息，包括你正在編寫的亞馬遜代碼”?！斑@很重要，因為你的輸入信息可能會被用作ChatGPT進一步迭代的訓練數(shù)據(jù)，我們不希望它的輸出包含或類似于我們的機密信息。”該律師寫道。

日前，華盛頓大學計算語言學教授艾米麗?本德曾發(fā)布一篇文章說：“OpenAI 在如何使用數(shù)據(jù)方面還遠遠不夠透明，但如果這些數(shù)據(jù)被用于訓練，我預計企業(yè)會這樣想：在廣泛使用ChatGPT幾個月后，是否可能通過精心設計的提示來獲取私人公司的機密信息？”

浙江大學計算機科學與技術學院教授陳華鈞告訴天目新聞記者，數(shù)據(jù)安全、隱私保護都屬于安全AI，或盡責人工智能的問題，現(xiàn)有的人工智能大模型大多存在這個問題，如果你的個人信息被學習進它的大腦中，隱私追溯比起以前的互聯(lián)網會更加困難, 而它產生數(shù)據(jù)屬于誰，在法律上還存在空白。

與此同時，ChatGPT也存在被黑客攻擊網站的風險。據(jù)科技媒體CXO Today 2月8日報道，研究人員表示，當前版本的OpenAI API能夠被外部應用程序使用，且?guī)缀鯖]有任何反濫用措施。犯罪分子可以利用這個方法創(chuàng)建惡意內容，利用網絡釣魚電子郵件和惡意代碼，而不受ChatGPT在其用戶界面設置的限制或障礙。

ChatGPT“一夜爆紅”，未來可能出現(xiàn)更多網絡攻擊事件，其對隱私的侵害也不容忽視?？萍季W站Ars Technica指出，除了惡意代碼、插件和網絡釣魚電子郵件的生成之外，它還可能被利用以生成有害內容或侵犯用戶隱私，或者誘騙用戶泄露個人信息。

關鍵詞： 個人信息 人工智能 數(shù)據(jù)中心