ChatGPT3.5 推動AI從被動執行指令進入主動理解和生成的新發展階段，似乎讓我們看到了從“弱人工智能”跨向“強人工智能”的曙光，AI奇點時刻近在眼前。面臨AI新紀元，全球科技巨頭紛紛布局，積極擁抱新的智能時代。然而，如同曾經的互聯網時代一樣，此時的AI時代同樣面臨著諸多風險，包括數據隱私和安全、版權保護等風險。特別是進入強人工智能時代，社會倫理道德風險將會更加突出，它可能比我們以前任何一個技術革命時代所面臨的風險都強烈和復雜。然而，未來已來，將至已至，以變應變方為上策。建議監管機構以包容審慎的監管理念，在既有監管體系下積極監控新風險，管控固有風險，營造良好的AI產業政策環境，讓完善的監管體系助力AI騰飛，在全球高科技競爭中取得領先地位。
ChatGPT3.5 開創AI新紀元，
成為全球性關注熱點
(相關資料圖)
ChatGPT擁有強大的語言理解和文本生成能力，能很好地支持聊天對話、代碼撰寫、文案創作等任務，被稱為迄今為止最先進的自然語言處理工具之一。
? CNBC報道，谷歌認為ChatGPT在面試谷歌L3級別工程師的職位時會被成功錄用，這代表著ChatGPT 已經擁有了L3級工程師的代碼能力。
? 發表在《公共科學圖書館·數字健康》雜志上的一項研究顯示，ChatGPT能夠在美國醫學執照考試（USMLE）中達到或接近60%的通過門檻。
? 360周鴻祎認為ChatGPT是強人工智能的拐點，有可能成為新時代的操作系統，成為數字化的“發電廠”，以SaaS服務的方式接入到千行百業，所有數字化系統和各個行業都值得用ChatGPT重做一遍。
? 雷軍認為機器人產業正值升級換代、跨越發展的窗口機遇期，其中仿生人形機器人將有力帶動新一代信息技術、高端制造、新能源、新材料等產業集聚發展，成為社會經濟發展和國際科技競爭的戰略制高點。
? 馬斯克認為ChatGPT非常好，我們離危險的強大人工智能不遠了，并預測未來AI 人形機器人的數量會超過人類。
?比爾·蓋茨認為ChatGPT和個人電腦、互聯網的出現一樣重要，人工智能將是這十年中最大的事情，將改變我們的世界，未來人人都將擁有一個 AI助理，科技巨頭各自為營提供服務的藩籬將被打破，谷歌占據搜索，亞馬遜占據購物，微軟占據辦公服務，而蘋果幾乎擁有蘋果設備上的一切。但是一旦你有了個人助理，就會把這些獨立的市場整合成一個個人助理，它可以在各種設備上幫助我購物、做計劃、撰寫文件。
全球進入新一輪以AI為核心的科技競賽，眾多大型科技巨頭紛紛加大AI布局力度，推出類似ChatGPT的競品。
?谷歌基于自己開發的大模型 LaMDA，推出對標 ChatGPT 的對話機器人Bard，參數量最高達 1370 億，在多個維度接近人類水平。
?微軟表示未來所有產品將全線整合 ChatGPT，目前已推出引入 ChatGPT 技術的搜索引擎 New Bing。
?百度計劃3月將推出聊天機器人“文心一言”（ERNIE Bot），目前生態合作伙伴近300家。
?京東云旗下言犀人工智能應用平臺宣布將推出產業版 ChatGPT：ChatJD。
面對這一波AI躁動，有人將ChatGPT（基于GPT3.5模型）視為又一個“iPhone時刻”,其本質就是一次重要的商業變革。還有人認為ChatGPT這種生成式AI是新的通用技術(GPT—general purpose technology)，類比蒸汽、電力、計算機的劃時代地位，將會引發新一輪生產力革命。我們認為，ChatGPT會實現多種可能，是人工智能發展史上的劃時代產品，它可能助推人工智能跨過 “弱人工智能”進入 “強人工智能”階段，開創AI新紀元，也許不久的未來，意識上傳已經悄然開始，文明延續也許有了新的路徑。
ChatGPT作為新生事物
引發諸多風險
ChatGPT作為一款先進的聊天機器人，在為人們帶來更便捷的生活和工作方式的同時，也引發了一系列問題。ChatGPT從數據獲取、匯聚、加工處理到運算結果輸出的全流程中各個環節都存在數據安全及法律風險問題，這些問題包括既包括原有互聯網及弱人工智能時代存在的數據隱私和安全、版權保護等問題，也帶來強人工智能引發的社會倫理道德新風險。
一、互聯網固有的風險
1. 數據隱私和安全風險
ChatGPT強大的功能對黑客具有很大吸引力，不法分子對ChatGPT的惡意利用會帶來數據隱私、釣魚郵件，惡意軟件、身份盜用等網信安全問題。
一是在企業數據隱私方面，企業員工在使用ChatGPT輔助工作時，可能會泄露敏感數據、商業秘密甚至是機密信息，而數據一旦輸入，就會被收集和使用，不能刪除和修改，導致ChatGPT可能會獲取到企業從未公開披露的機密。亞馬遜的公司律師稱，他們在ChatGPT生成的內容中發現了與公司機密“非常相似”的文本，可能是由于員工在使用ChatGPT生成代碼和文本時輸入了公司內部數據信息。埃森哲、微軟、摩根大通等企業已警告其員工不要與ChatGPT等聊天機器人分享機密信息。
二是個人數據隱私方面，在與ChatGPT聊天的過程中，ChatGPT通過用戶輸入的信息，收集和分析用戶的語言數據，這些語言數據包含用戶的興趣愛好、思想傾向、生活習慣等隱私信息。如果這些信息被不當使用或泄露，將會對用戶的隱私造成嚴重威脅。同時，ChatGPT使用了RLHF的訓練方法，這意味著用戶使用過程中的交互信息可能會用于其持續迭代訓練，因此用戶的輸入信息可能被用于為其他用戶提供服務，構成不合規的數據共享問題。
三是ChatGPT的自然語言生成功能可以被用于創建釣魚郵件。ChatGPT可以非常真實流暢的模仿人類寫作，且基本沒有拼寫和語法錯誤。黑客可以利用ChatGPT的這一特點來創建偽造的網站、郵件和消息，模擬真實的企業或機構，從而誘騙用戶提供敏感信息。安全機構Check Point Research在近期發表的報告中表示已經在地下論壇發現有黑客試圖繞過限制將ChatGPT用于生成釣魚郵件等內容的行為。
四是ChatGPT降低了惡意軟件的開發門檻。借助ChatGPT，黑客甚至不需要編碼就可以生成一個惡意軟件的數十萬次迭代。ChatGPT極大地降低了黑客的技術能力門檻，從一定程度上加速惡意軟件的開發，提高漏洞利用的可能性和速度。據報道，美國網絡安全公司Recorded Future在暗網的不同論壇中，發現了15000多份以ChatGPT為基礎，解釋如何開發相應的惡意軟件的參考資料。
五是ChatGPT提高了網絡防御的難度。借助ChatGPT，黑客能夠能開發出安全人員極難識別的惡意軟件，提高網絡攻擊的有效性。CyberArk的研究結果顯示，ChatGPT可以生成多態惡意軟件，同時可用于以高級方式幫助惡意軟件程序開發，包括利用開源存儲庫中發現的惡意軟件代碼訓練ChatGPT，以生成該代碼的獨特變體，從而逃避反病毒檢測機制。
六是ChatGPT增加了身份盜用風險。不法分子可以利用ChatGPT強大的類人說話和行為方式模仿、自然語言編寫能力，冒充真實的人或者組織騙取他人信息、實施身份盜用等，進一步助長網絡詐騙等違法犯罪行為的發生。
2. 版權保護問題
ChatGPT主要依賴現有素材，可能產生版權糾紛問題，同時生成內容版權的認定也存在爭議。ChatGPT可以被用來生成各種類型的文本內容，如論文、小說等，其中包括受到著作權法保護的作品。然而，如果這些內容沒有經過權利主體的授權就被使用或傳播，極可能侵害他人的著作權。目前ChatGPT已經遭到了教育系統不同程度的“封殺”，多國學生被禁止使用ChatGPT，一些期刊不接受任何大型語言模型工具單獨或聯合署名。香港大學向其師生發出內部郵件，表明禁止在港大所有課堂、作業和評估中使用ChatGPT或其他AI工具，否則將被校方視為剽竊。《暨南學報（哲學社會科學版）》在關于使用人工智能寫作工具的說明提到，暫不接受ChatGPT等任何大型語言模型工具單獨或聯合署名的文章。
二、“強”人工智能引發的新風險
ChatGPT雖然還稱不上是“強人工智能”，其具有強大的主動理解和內容生產能力，將會給社會帶來違法違規、社會規范失序和倫理道德新風險。
一是ChatGPT可能會出現無法預測的行為，甚至可能與人類的價值觀相違背。據外媒報道，一位名叫扎克·德納姆（Zac Denham）的博主曾嘗試讓ChatGPT寫出了一套毀滅人類的方案，最終給出了步驟細節，包括入侵各國計算機系統、控制武器、破壞通信和交通系統等，甚至生成了相應的代碼。
圖1 ChatGPT聊天對話截圖
二是ChatGPT可能形成“錯誤權威”，存在誤導大眾的嫌疑，在回答非公開內容或抽象概念時，ChatGPT提供的答案看起來十分具有邏輯性但無法提供信息來源和渠道，難以判斷其內容準確性。近期，杭州某小區業主嘗試用ChatGPT撰寫杭州取消限行的新聞稿，并把ChatGPT編造的不實新聞在微信群中傳播，造成了一定的不良社會影響。
三是ChatGPT可能會替代人類的工作、決策和管理，從而對社會產生深遠的影響。ChatGPT會在一定程度上取代人工勞動力，導致人工勞動力需求的降低。與傳統人工智能產品不同，ChatGPT等生成式AI表現出了更強的創造性，使得人工智能從人類的輔助工具轉變為職業競爭者。ChatGPT有著更強大的計算與分析能力，可能會重塑人類勞動形式。如果不能有效平衡技術的發展與人類的福祉，甚至可能引發新一輪的“盧德運動”。創新工場創始人李開復曾表示，以ChatGPT為代表的人工智能技術，將代替越來越多人的工作，或引起失業恐慌。
四是ChatGPT可能會存在偏見與歧視，使社會不公現象更加嚴重。ChatGPT的訓練數據中存在的偏見會導致生成的回答或建議也存在偏見和歧視，嚴重影響未成年人或不具有判斷能力的人。此類偏見數據包括性別、種族、宗教信仰、文化背景、性取向等多個方面，會對用戶造成傷害甚至加劇社會不平等現象。盡管數據清洗者可以過濾出大部分偏執的內容，但仍然無法保證ChatGPT的數據集是完全公正、客觀和中立。
以包容審慎的監管理念
營造良好AI產業政策環境
針對ChatGPT引發的各類風險，全球監管機構存在兩大監管陣營。
一是以歐盟為代表的強監管陣營，其在數據保護和隱私上最為保守，計劃更新即將出臺的全面人工智能法規——《人工智能法案》，對生成式AI生成圖像和文本的智能模型制定限制性規則，同時，歐洲數據保護委員會發出質疑，稱ChatGPT作為商業產品，利用網絡信息自我迭代，應不屬于合理使用范疇，且采用用戶個人數據參與模型訓練，不符合歐盟頒布的《一般數據保護條例（GDPR）》。
二是以美國為代表的弱監管陣營，美國以引領全球科技創新為目標，早在2016年就制定《國家人工智能研發戰略計劃》，旨在通過政府投資深化對人工智能的認識和研究，確保美國在人工智能領域的全球領導地位，所以始終對創新技術應用持寬松監管態勢，美國的政府機構特別強調對ChatGPT在倫理道德方面的監管，正在研究和制定針對ChatGPT的監管政策和指南，以確保ChatGPT的發展和應用符合法律法規和倫理標準。
對于我國來說，是強監管還是弱監管，應基于實際國情出發，制定適合我國社會環境、產業發展和科技創新的AI監管政策。回顧我國互聯網產業發展歷程與監管經驗，在互聯網及“互聯網+”這類新技術新事物新業態的發展初期，明確提出“最大限度減少事前準入限制，加強事中事后監管”，對于暫時看不準其發展前景的業態和領域，鼓勵大膽創新，并在一段時間內予以觀察，這種包容審慎的監管理念極大推動了我國互聯網產業的飛速發展。面對當前AI發展的新階段，全球各國及科技巨頭均躍躍欲試爭奪AI領域的領導地位，建議以“包容審慎”監管理念進行政策制定和引導，在數據隱私和安全、版權保護方面沿用和完善現有監管體系進行規范，積極監控AI在社會倫理道德方面的新風險，加大大型科技企業在AI基礎創新領域和生態能力開放的政策支持力度，為AI產業發展營造良好的外部政策環境，確保在全球新一輪以AI為核心的高科技競爭中取得領先地位。
