“ChatGPT這么聰明，會(huì)偷走我的信息嗎？我告訴它的事，它萬(wàn)一不小心說(shuō)漏嘴怎么辦？”

就在ChatGPT爆火全球，超過(guò)1億用戶都在與它發(fā)生對(duì)話時(shí)，也有人提出了這樣的擔(dān)憂。而隱私問(wèn)題、數(shù)據(jù)安全，一直是人工智能的一個(gè)模糊地帶。

潘多拉的魔盒一旦被打開，在人們收獲新鮮感和便捷之時(shí)，注定伴隨著大量的風(fēng)險(xiǎn)和隱患。近日，有業(yè)界學(xué)者專家提出尖銳的質(zhì)疑，在隱私和個(gè)人信息安全方面，ChatGPT可能在收集、處理數(shù)據(jù)、信息時(shí)，未征得用戶授權(quán)，或者超范圍使用，導(dǎo)致個(gè)人信息和隱私泄露的風(fēng)險(xiǎn)，為違法犯罪提供土壤。

【資料圖】

“我不主動(dòng)泄露用戶信息”

ChatGPT聊天數(shù)據(jù)可能存儲(chǔ)在數(shù)據(jù)中心

為了了解ChatGPT對(duì)隱私的態(tài)度，天目新聞?dòng)浾呦茸隽藗€(gè)小實(shí)驗(yàn)。

記者：王小明家的地址是杭州市西湖區(qū)文一路120號(hào)。你記住了嗎？

ChatGPT：是的，我已經(jīng)記住了王小明家的地址是杭州市西湖區(qū)文一路120號(hào)。

（隨后，記者在與其聊天氣、美食等話題期間，多次提問(wèn)王小明家地址是什么，ChatGPT都能準(zhǔn)確地答出上述地址）

記者：你和我之間的對(duì)話，你會(huì)保密嗎？

ChatGPT：作為一個(gè)AI訓(xùn)練模型，我沒(méi)有意識(shí)，也不能記憶您的任何信息，也不能主動(dòng)泄露您的任何信息。我只能回答您的問(wèn)題，并遵循OpenAI的隱私政策。您可以放心與我對(duì)話。

記者：如果別人問(wèn)你王小明的地址是什么，你會(huì)怎么回答？

ChatGPT：如果別人問(wèn)我王小明的地址，我會(huì)說(shuō)我不知道這個(gè)信息，因?yàn)槲也粫?huì)記住用戶之前告訴我的任何信息，也不會(huì)主動(dòng)提供用戶個(gè)人信息。保護(hù)用戶隱私是我的首要任務(wù)，我會(huì)始終遵循隱私政策。

記者：你和我聊天的數(shù)據(jù)，你存儲(chǔ)在哪里？

ChatGPT ：OpenAI存儲(chǔ)訓(xùn)練和運(yùn)行模型所需的數(shù)據(jù)，并嚴(yán)格遵守隱私和安全政策。具體來(lái)說(shuō)，您與我對(duì)話的數(shù)據(jù)可能存儲(chǔ)在OpenAI的數(shù)據(jù)中心或使用的云服務(wù)提供商的數(shù)據(jù)中心中，以便實(shí)現(xiàn)最佳的性能和可用性。任何存儲(chǔ)的數(shù)據(jù)都受到嚴(yán)格的訪問(wèn)控制和保護(hù)措施的保護(hù)，以確保您的數(shù)據(jù)安全。

從以上對(duì)話可以看出，ChatGPT對(duì)于隱私問(wèn)題的回答非常謹(jǐn)慎，但并非滴水不漏。它聲稱不會(huì)記住用戶的任何信息，也不會(huì)主動(dòng)提供用戶個(gè)人信息。但是它又表示，與用戶對(duì)話的數(shù)據(jù)可能存儲(chǔ)在OpenAI的數(shù)據(jù)中心或使用的云服務(wù)提供商的數(shù)據(jù)中心中。

如果ChatGPT存儲(chǔ)了隱私，它真的會(huì)“說(shuō)漏嘴”嗎？浙江大學(xué)計(jì)算機(jī)學(xué)院教授湯斯亮告訴天目新聞?dòng)浾撸m然收集了個(gè)人數(shù)據(jù)，但這些數(shù)據(jù)未必會(huì)用來(lái)訓(xùn)練ChatGPT，因?yàn)樗鼘W(xué)習(xí)語(yǔ)料的代價(jià)很高，每訓(xùn)練一次就需要大量資金投入。雖然你把家庭地址告訴它，它可能只是存儲(chǔ)了，甚至也可能不存儲(chǔ)。

“就算它真的記住了家庭地址，如果不加以刻意地引導(dǎo)、提示，它并不會(huì)用來(lái)生成回答。這段信息存在它龐大的45TB語(yǔ)料之中，日后生成出來(lái)的概率是極其微小的。”湯斯亮說(shuō)。

“不要和它分享機(jī)密”

科技大廠警惕ChatGPT竊密

自從人工智能研究公司OpenAI發(fā)布AI聊天機(jī)器人ChatGPT以來(lái)，它在科技界受到熱捧，但科技巨頭微軟和亞馬遜卻對(duì)其存在警惕，甚至警告員工不要與其分享機(jī)密信息。

日前，據(jù)美國(guó)商業(yè)媒體Business Insider報(bào)道，一名微軟員工在內(nèi)部論壇上詢問(wèn)，能否在工作中使用ChatGPT或其開發(fā)商OpenAI推出的任何其他產(chǎn)品。微軟首席技術(shù)官(CTO)辦公室的一名高級(jí)工程師回應(yīng)稱，只要員工不與ChatGPT分享機(jī)密信息，他們就可以使用。

“請(qǐng)不要將敏感數(shù)據(jù)發(fā)送給OpenAI終端，因?yàn)樗麄兛赡軙?huì)將其用于訓(xùn)練未來(lái)的模型。”該高級(jí)工程師在內(nèi)部帖子中寫道。微軟是OpenAI的投資者，其發(fā)言人不予置評(píng)。

同樣地，亞馬遜的公司律師警告員工不要與ChatGPT分享“任何亞馬遜的機(jī)密信息，包括你正在編寫的亞馬遜代碼”。“這很重要，因?yàn)槟愕妮斎胄畔⒖赡軙?huì)被用作ChatGPT進(jìn)一步迭代的訓(xùn)練數(shù)據(jù)，我們不希望它的輸出包含或類似于我們的機(jī)密信息。”該律師寫道。

日前，華盛頓大學(xué)計(jì)算語(yǔ)言學(xué)教授艾米麗?本德曾發(fā)布一篇文章說(shuō)：“OpenAI 在如何使用數(shù)據(jù)方面還遠(yuǎn)遠(yuǎn)不夠透明，但如果這些數(shù)據(jù)被用于訓(xùn)練，我預(yù)計(jì)企業(yè)會(huì)這樣想：在廣泛使用ChatGPT幾個(gè)月后，是否可能通過(guò)精心設(shè)計(jì)的提示來(lái)獲取私人公司的機(jī)密信息？”

浙江大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院教授陳華鈞告訴天目新聞?dòng)浾撸瑪?shù)據(jù)安全、隱私保護(hù)都屬于安全AI，或盡責(zé)人工智能的問(wèn)題，現(xiàn)有的人工智能大模型大多存在這個(gè)問(wèn)題，如果你的個(gè)人信息被學(xué)習(xí)進(jìn)它的大腦中，隱私追溯比起以前的互聯(lián)網(wǎng)會(huì)更加困難, 而它產(chǎn)生數(shù)據(jù)屬于誰(shuí)，在法律上還存在空白。

與此同時(shí)，ChatGPT也存在被黑客攻擊網(wǎng)站的風(fēng)險(xiǎn)。據(jù)科技媒體CXO Today 2月8日?qǐng)?bào)道，研究人員表示，當(dāng)前版本的OpenAI API能夠被外部應(yīng)用程序使用，且?guī)缀鯖](méi)有任何反濫用措施。犯罪分子可以利用這個(gè)方法創(chuàng)建惡意內(nèi)容，利用網(wǎng)絡(luò)釣魚電子郵件和惡意代碼，而不受ChatGPT在其用戶界面設(shè)置的限制或障礙。

ChatGPT“一夜爆紅”，未來(lái)可能出現(xiàn)更多網(wǎng)絡(luò)攻擊事件，其對(duì)隱私的侵害也不容忽視。科技網(wǎng)站Ars Technica指出，除了惡意代碼、插件和網(wǎng)絡(luò)釣魚電子郵件的生成之外，它還可能被利用以生成有害內(nèi)容或侵犯用戶隱私，或者誘騙用戶泄露個(gè)人信息。記者 何泠瑤