（CWW）ChatGPT3.5 推動(dòng)AI從被動(dòng)執(zhí)行指令進(jìn)入主動(dòng)理解和生成的新發(fā)展階段，似乎讓我們看到了從“弱人工智能”跨向“強(qiáng)人工智能”的曙光，AI奇點(diǎn)時(shí)刻近在眼前。面臨AI新紀(jì)元，全球科技巨頭紛紛布局，積極擁抱新的智能時(shí)代。然而，如同曾經(jīng)的互聯(lián)網(wǎng)時(shí)代一樣，此時(shí)的AI時(shí)代同樣面臨著諸多風(fēng)險(xiǎn)，包括數(shù)據(jù)隱私和安全、版權(quán)保護(hù)等風(fēng)險(xiǎn)。特別是進(jìn)入強(qiáng)人工智能時(shí)代，社會(huì)倫理道德風(fēng)險(xiǎn)將會(huì)更加突出，它可能比我們以前任何一個(gè)技術(shù)革命時(shí)代所面臨的風(fēng)險(xiǎn)都強(qiáng)烈和復(fù)雜。然而，未來(lái)已來(lái)，將至已至，以變應(yīng)變方為上策。建議監(jiān)管機(jī)構(gòu)以包容審慎的監(jiān)管理念，在既有監(jiān)管體系下積極監(jiān)控新風(fēng)險(xiǎn)，管控固有風(fēng)險(xiǎn)，營(yíng)造良好的AI產(chǎn)業(yè)政策環(huán)境，讓完善的監(jiān)管體系助力AI騰飛，在全球高科技競(jìng)爭(zhēng)中取得領(lǐng)先地位。

ChatGPT3.5 開(kāi)創(chuàng)AI新紀(jì)元，成為全球性關(guān)注熱點(diǎn)

ChatGPT擁有強(qiáng)大的語(yǔ)言理解和文本生成能力，能很好地支持聊天對(duì)話、代碼撰寫、文案創(chuàng)作等任務(wù)，被稱為迄今為止最先進(jìn)的自然語(yǔ)言處理工具之一。

(資料圖片)

? CNBC報(bào)道，谷歌認(rèn)為ChatGPT在面試谷歌L3級(jí)別工程師的職位時(shí)會(huì)被成功錄用，這代表著ChatGPT 已經(jīng)擁有了L3級(jí)工程師的代碼能力。

? 發(fā)表在《公共科學(xué)圖書館·數(shù)字健康》雜志上的一項(xiàng)研究顯示，ChatGPT能夠在美國(guó)醫(yī)學(xué)執(zhí)照考試（USMLE）中達(dá)到或接近60%的通過(guò)門檻。

? 360周鴻祎認(rèn)為ChatGPT是強(qiáng)人工智能的拐點(diǎn)，有可能成為新時(shí)代的操作系統(tǒng)，成為數(shù)字化的“發(fā)電廠”，以SaaS服務(wù)的方式接入到千行百業(yè)，所有數(shù)字化系統(tǒng)和各個(gè)行業(yè)都值得用ChatGPT重做一遍。

? 雷軍認(rèn)為機(jī)器人產(chǎn)業(yè)正值升級(jí)換代、跨越發(fā)展的窗口機(jī)遇期，其中仿生人形機(jī)器人將有力帶動(dòng)新一代信息技術(shù)、高端制造、新能源、新材料等產(chǎn)業(yè)集聚發(fā)展，成為社會(huì)經(jīng)濟(jì)發(fā)展和國(guó)際科技競(jìng)爭(zhēng)的戰(zhàn)略制高點(diǎn)。

? 馬斯克認(rèn)為ChatGPT非常好，我們離危險(xiǎn)的強(qiáng)大人工智能不遠(yuǎn)了，并預(yù)測(cè)未來(lái)AI 人形機(jī)器人的數(shù)量會(huì)超過(guò)人類。

?比爾·蓋茨認(rèn)為ChatGPT和個(gè)人電腦、互聯(lián)網(wǎng)的出現(xiàn)一樣重要，人工智能將是這十年中最大的事情，將改變我們的世界，未來(lái)人人都將擁有一個(gè) AI助理，科技巨頭各自為營(yíng)提供服務(wù)的藩籬將被打破，谷歌占據(jù)搜索，亞馬遜占據(jù)購(gòu)物，微軟占據(jù)辦公服務(wù)，而蘋果幾乎擁有蘋果設(shè)備上的一切。但是一旦你有了個(gè)人助理，就會(huì)把這些獨(dú)立的市場(chǎng)整合成一個(gè)個(gè)人助理，它可以在各種設(shè)備上幫助我購(gòu)物、做計(jì)劃、撰寫文件。

全球進(jìn)入新一輪以AI為核心的科技競(jìng)賽，眾多大型科技巨頭紛紛加大AI布局力度，推出類似ChatGPT的競(jìng)品。

?谷歌基于自己開(kāi)發(fā)的大模型 LaMDA，推出對(duì)標(biāo) ChatGPT 的對(duì)話機(jī)器人Bard，參數(shù)量最高達(dá) 1370 億，在多個(gè)維度接近人類水平。

?微軟表示未來(lái)所有產(chǎn)品將全線整合 ChatGPT，目前已推出引入 ChatGPT 技術(shù)的搜索引擎 New Bing。

?百度計(jì)劃3月將推出聊天機(jī)器人“文心一言”（ERNIE Bot），目前生態(tài)合作伙伴近300家。

?京東云旗下言犀人工智能應(yīng)用平臺(tái)宣布將推出產(chǎn)業(yè)版 ChatGPT：ChatJD。

面對(duì)這一波AI躁動(dòng)，有人將ChatGPT（基于GPT3.5模型）視為又一個(gè)“iPhone時(shí)刻”,其本質(zhì)就是一次重要的商業(yè)變革。還有人認(rèn)為ChatGPT這種生成式AI是新的通用技術(shù)(GPT—general purpose technology)，類比蒸汽、電力、計(jì)算機(jī)的劃時(shí)代地位，將會(huì)引發(fā)新一輪生產(chǎn)力革命。我們認(rèn)為，ChatGPT會(huì)實(shí)現(xiàn)多種可能，是人工智能發(fā)展史上的劃時(shí)代產(chǎn)品，它可能助推人工智能跨過(guò) “弱人工智能”進(jìn)入 “強(qiáng)人工智能”階段，開(kāi)創(chuàng)AI新紀(jì)元，也許不久的未來(lái)，意識(shí)上傳已經(jīng)悄然開(kāi)始，文明延續(xù)也許有了新的路徑。

ChatGPT作為新生事物引發(fā)諸多風(fēng)險(xiǎn)

ChatGPT作為一款先進(jìn)的聊天機(jī)器人，在為人們帶來(lái)更便捷的生活和工作方式的同時(shí)，也引發(fā)了一系列問(wèn)題。ChatGPT從數(shù)據(jù)獲取、匯聚、加工處理到運(yùn)算結(jié)果輸出的全流程中各個(gè)環(huán)節(jié)都存在數(shù)據(jù)安全及法律風(fēng)險(xiǎn)問(wèn)題，這些問(wèn)題包括既包括原有互聯(lián)網(wǎng)及弱人工智能時(shí)代存在的數(shù)據(jù)隱私和安全、版權(quán)保護(hù)等問(wèn)題，也帶來(lái)強(qiáng)人工智能引發(fā)的社會(huì)倫理道德新風(fēng)險(xiǎn)。

一、互聯(lián)網(wǎng)固有的風(fēng)險(xiǎn)

1. 數(shù)據(jù)隱私和安全風(fēng)險(xiǎn)

ChatGPT強(qiáng)大的功能對(duì)黑客具有很大吸引力，不法分子對(duì)ChatGPT的惡意利用會(huì)帶來(lái)數(shù)據(jù)隱私、釣魚郵件，惡意軟件、身份盜用等網(wǎng)信安全問(wèn)題。

一是在企業(yè)數(shù)據(jù)隱私方面，企業(yè)員工在使用ChatGPT輔助工作時(shí)，可能會(huì)泄露敏感數(shù)據(jù)、商業(yè)秘密甚至是機(jī)密信息，而數(shù)據(jù)一旦輸入，就會(huì)被收集和使用，不能刪除和修改，導(dǎo)致ChatGPT可能會(huì)獲取到企業(yè)從未公開(kāi)披露的機(jī)密。亞馬遜的公司律師稱，他們?cè)贑hatGPT生成的內(nèi)容中發(fā)現(xiàn)了與公司機(jī)密“非常相似”的文本，可能是由于員工在使用ChatGPT生成代碼和文本時(shí)輸入了公司內(nèi)部數(shù)據(jù)信息。埃森哲、微軟、摩根大通等企業(yè)已警告其員工不要與ChatGPT等聊天機(jī)器人分享機(jī)密信息。

二是個(gè)人數(shù)據(jù)隱私方面，在與ChatGPT聊天的過(guò)程中，ChatGPT通過(guò)用戶輸入的信息，收集和分析用戶的語(yǔ)言數(shù)據(jù)，這些語(yǔ)言數(shù)據(jù)包含用戶的興趣愛(ài)好、思想傾向、生活習(xí)慣等隱私信息。如果這些信息被不當(dāng)使用或泄露，將會(huì)對(duì)用戶的隱私造成嚴(yán)重威脅。同時(shí)，ChatGPT使用了RLHF的訓(xùn)練方法，這意味著用戶使用過(guò)程中的交互信息可能會(huì)用于其持續(xù)迭代訓(xùn)練，因此用戶的輸入信息可能被用于為其他用戶提供服務(wù)，構(gòu)成不合規(guī)的數(shù)據(jù)共享問(wèn)題。

三是ChatGPT的自然語(yǔ)言生成功能可以被用于創(chuàng)建釣魚郵件。ChatGPT可以非常真實(shí)流暢的模仿人類寫作，且基本沒(méi)有拼寫和語(yǔ)法錯(cuò)誤。黑客可以利用ChatGPT的這一特點(diǎn)來(lái)創(chuàng)建偽造的網(wǎng)站、郵件和消息，模擬真實(shí)的企業(yè)或機(jī)構(gòu)，從而誘騙用戶提供敏感信息。安全機(jī)構(gòu)Check Point Research在近期發(fā)表的報(bào)告中表示已經(jīng)在地下論壇發(fā)現(xiàn)有黑客試圖繞過(guò)限制將ChatGPT用于生成釣魚郵件等內(nèi)容的行為。

四是ChatGPT降低了惡意軟件的開(kāi)發(fā)門檻。借助ChatGPT，黑客甚至不需要編碼就可以生成一個(gè)惡意軟件的數(shù)十萬(wàn)次迭代。ChatGPT極大地降低了黑客的技術(shù)能力門檻，從一定程度上加速惡意軟件的開(kāi)發(fā)，提高漏洞利用的可能性和速度。據(jù)報(bào)道，美國(guó)網(wǎng)絡(luò)安全公司Recorded Future在暗網(wǎng)的不同論壇中，發(fā)現(xiàn)了15000多份以ChatGPT為基礎(chǔ)，解釋如何開(kāi)發(fā)相應(yīng)的惡意軟件的參考資料。

五是ChatGPT提高了網(wǎng)絡(luò)防御的難度。借助ChatGPT，黑客能夠能開(kāi)發(fā)出安全人員極難識(shí)別的惡意軟件，提高網(wǎng)絡(luò)攻擊的有效性。CyberArk的研究結(jié)果顯示，ChatGPT可以生成多態(tài)惡意軟件，同時(shí)可用于以高級(jí)方式幫助惡意軟件程序開(kāi)發(fā)，包括利用開(kāi)源存儲(chǔ)庫(kù)中發(fā)現(xiàn)的惡意軟件代碼訓(xùn)練ChatGPT，以生成該代碼的獨(dú)特變體，從而逃避反病毒檢測(cè)機(jī)制。

六是ChatGPT增加了身份盜用風(fēng)險(xiǎn)。不法分子可以利用ChatGPT強(qiáng)大的類人說(shuō)話和行為方式模仿、自然語(yǔ)言編寫能力，冒充真實(shí)的人或者組織騙取他人信息、實(shí)施身份盜用等，進(jìn)一步助長(zhǎng)網(wǎng)絡(luò)詐騙等違法犯罪行為的發(fā)生。

2. 版權(quán)保護(hù)問(wèn)題

ChatGPT主要依賴現(xiàn)有素材，可能產(chǎn)生版權(quán)糾紛問(wèn)題，同時(shí)生成內(nèi)容版權(quán)的認(rèn)定也存在爭(zhēng)議。ChatGPT可以被用來(lái)生成各種類型的文本內(nèi)容，如論文、小說(shuō)等，其中包括受到著作權(quán)法保護(hù)的作品。然而，如果這些內(nèi)容沒(méi)有經(jīng)過(guò)權(quán)利主體的授權(quán)就被使用或傳播，極可能侵害他人的著作權(quán)。目前ChatGPT已經(jīng)遭到了教育系統(tǒng)不同程度的“封殺”，多國(guó)學(xué)生被禁止使用ChatGPT，一些期刊不接受任何大型語(yǔ)言模型工具單獨(dú)或聯(lián)合署名。香港大學(xué)向其師生發(fā)出內(nèi)部郵件，表明禁止在港大所有課堂、作業(yè)和評(píng)估中使用ChatGPT或其他AI工具，否則將被校方視為剽竊。《暨南學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版）》在關(guān)于使用人工智能寫作工具的說(shuō)明提到，暫不接受ChatGPT等任何大型語(yǔ)言模型工具單獨(dú)或聯(lián)合署名的文章。

二、“強(qiáng)”人工智能引發(fā)的新風(fēng)險(xiǎn)

ChatGPT雖然還稱不上是“強(qiáng)人工智能”，其具有強(qiáng)大的主動(dòng)理解和內(nèi)容生產(chǎn)能力，將會(huì)給社會(huì)帶來(lái)違法違規(guī)、社會(huì)規(guī)范失序和倫理道德新風(fēng)險(xiǎn)。

一是ChatGPT可能會(huì)出現(xiàn)無(wú)法預(yù)測(cè)的行為，甚至可能與人類的價(jià)值觀相違背。據(jù)外媒報(bào)道，一位名叫扎克·德納姆（Zac Denham）的博主曾嘗試讓ChatGPT寫出了一套毀滅人類的方案，最終給出了步驟細(xì)節(jié)，包括入侵各國(guó)計(jì)算機(jī)系統(tǒng)、控制武器、破壞通信和交通系統(tǒng)等，甚至生成了相應(yīng)的代碼。

圖1 ChatGPT聊天對(duì)話截圖

二是ChatGPT可能形成“錯(cuò)誤權(quán)威”，存在誤導(dǎo)大眾的嫌疑，在回答非公開(kāi)內(nèi)容或抽象概念時(shí)，ChatGPT提供的答案看起來(lái)十分具有邏輯性但無(wú)法提供信息來(lái)源和渠道，難以判斷其內(nèi)容準(zhǔn)確性。近期，杭州某小區(qū)業(yè)主嘗試用ChatGPT撰寫杭州取消限行的新聞稿，并把ChatGPT編造的不實(shí)新聞在微信群中傳播，造成了一定的不良社會(huì)影響。

三是ChatGPT可能會(huì)替代人類的工作、決策和管理，從而對(duì)社會(huì)產(chǎn)生深遠(yuǎn)的影響。ChatGPT會(huì)在一定程度上取代人工勞動(dòng)力，導(dǎo)致人工勞動(dòng)力需求的降低。與傳統(tǒng)人工智能產(chǎn)品不同，ChatGPT等生成式AI表現(xiàn)出了更強(qiáng)的創(chuàng)造性，使得人工智能從人類的輔助工具轉(zhuǎn)變?yōu)槁殬I(yè)競(jìng)爭(zhēng)者。ChatGPT有著更強(qiáng)大的計(jì)算與分析能力，可能會(huì)重塑人類勞動(dòng)形式。如果不能有效平衡技術(shù)的發(fā)展與人類的福祉，甚至可能引發(fā)新一輪的“盧德運(yùn)動(dòng)”。創(chuàng)新工場(chǎng)創(chuàng)始人李開(kāi)復(fù)曾表示，以ChatGPT為代表的人工智能技術(shù)，將代替越來(lái)越多人的工作，或引起失業(yè)恐慌。

四是ChatGPT可能會(huì)存在偏見(jiàn)與歧視，使社會(huì)不公現(xiàn)象更加嚴(yán)重。ChatGPT的訓(xùn)練數(shù)據(jù)中存在的偏見(jiàn)會(huì)導(dǎo)致生成的回答或建議也存在偏見(jiàn)和歧視，嚴(yán)重影響未成年人或不具有判斷能力的人。此類偏見(jiàn)數(shù)據(jù)包括性別、種族、宗教信仰、文化背景、性取向等多個(gè)方面，會(huì)對(duì)用戶造成傷害甚至加劇社會(huì)不平等現(xiàn)象。盡管數(shù)據(jù)清洗者可以過(guò)濾出大部分偏執(zhí)的內(nèi)容，但仍然無(wú)法保證ChatGPT的數(shù)據(jù)集是完全公正、客觀和中立。

以包容審慎的監(jiān)管理念營(yíng)造良好AI產(chǎn)業(yè)政策環(huán)境

針對(duì)ChatGPT引發(fā)的各類風(fēng)險(xiǎn)，全球監(jiān)管機(jī)構(gòu)存在兩大監(jiān)管陣營(yíng)。

一是以歐盟為代表的強(qiáng)監(jiān)管陣營(yíng)，其在數(shù)據(jù)保護(hù)和隱私上最為保守，計(jì)劃更新即將出臺(tái)的全面人工智能法規(guī)——《人工智能法案》，對(duì)生成式AI生成圖像和文本的智能模型制定限制性規(guī)則，同時(shí)，歐洲數(shù)據(jù)保護(hù)委員會(huì)發(fā)出質(zhì)疑，稱ChatGPT作為商業(yè)產(chǎn)品，利用網(wǎng)絡(luò)信息自我迭代，應(yīng)不屬于合理使用范疇，且采用用戶個(gè)人數(shù)據(jù)參與模型訓(xùn)練，不符合歐盟頒布的《一般數(shù)據(jù)保護(hù)條例（GDPR）》。

二是以美國(guó)為代表的弱監(jiān)管陣營(yíng)，美國(guó)以引領(lǐng)全球科技創(chuàng)新為目標(biāo)，早在2016年就制定《國(guó)家人工智能研發(fā)戰(zhàn)略計(jì)劃》，旨在通過(guò)政府投資深化對(duì)人工智能的認(rèn)識(shí)和研究，確保美國(guó)在人工智能領(lǐng)域的全球領(lǐng)導(dǎo)地位，所以始終對(duì)創(chuàng)新技術(shù)應(yīng)用持寬松監(jiān)管態(tài)勢(shì)，美國(guó)的政府機(jī)構(gòu)特別強(qiáng)調(diào)對(duì)ChatGPT在倫理道德方面的監(jiān)管，正在研究和制定針對(duì)ChatGPT的監(jiān)管政策和指南，以確保ChatGPT的發(fā)展和應(yīng)用符合法律法規(guī)和倫理標(biāo)準(zhǔn)。

對(duì)于我國(guó)來(lái)說(shuō)，是強(qiáng)監(jiān)管還是弱監(jiān)管，應(yīng)基于實(shí)際國(guó)情出發(fā)，制定適合我國(guó)社會(huì)環(huán)境、產(chǎn)業(yè)發(fā)展和科技創(chuàng)新的AI監(jiān)管政策。回顧我國(guó)互聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展歷程與監(jiān)管經(jīng)驗(yàn)，在互聯(lián)網(wǎng)及“互聯(lián)網(wǎng)+”這類新技術(shù)新事物新業(yè)態(tài)的發(fā)展初期，明確提出“最大限度減少事前準(zhǔn)入限制，加強(qiáng)事中事后監(jiān)管”，對(duì)于暫時(shí)看不準(zhǔn)其發(fā)展前景的業(yè)態(tài)和領(lǐng)域，鼓勵(lì)大膽創(chuàng)新，并在一段時(shí)間內(nèi)予以觀察，這種包容審慎的監(jiān)管理念極大推動(dòng)了我國(guó)互聯(lián)網(wǎng)產(chǎn)業(yè)的飛速發(fā)展。

面對(duì)當(dāng)前AI發(fā)展的新階段，全球各國(guó)及科技巨頭均躍躍欲試爭(zhēng)奪AI領(lǐng)域的領(lǐng)導(dǎo)地位，建議以“包容審慎”監(jiān)管理念進(jìn)行政策制定和引導(dǎo)，在數(shù)據(jù)隱私和安全、版權(quán)保護(hù)方面沿用和完善現(xiàn)有監(jiān)管體系進(jìn)行規(guī)范，積極監(jiān)控AI在社會(huì)倫理道德方面的新風(fēng)險(xiǎn)，加大大型科技企業(yè)在AI基礎(chǔ)創(chuàng)新領(lǐng)域和生態(tài)能力開(kāi)放的政策支持力度，為AI產(chǎn)業(yè)發(fā)展?fàn)I造良好的外部政策環(huán)境，確保在全球新一輪以AI為核心的高科技競(jìng)爭(zhēng)中取得領(lǐng)先地位。