繼Alpha Go戰勝圍棋高手李世石后，對話機器人ChatGPT的出現再次掀起人工智能討論熱潮。ChatGPT是OpenAI開發的文本生成式對話應用，具有強智能、強交互、廣應用等特點。然而，以ChatGPT為代表的生成式人工智能給人類社會帶來經濟、法律、倫理等諸多挑戰，本文主要從ChatGPT的倫理挑戰為視角進行分析。

(相關資料圖)

一、 人工智能倫理概述

倫理是人們相互關系的行為準則。人工智能倫理是關于人和人工智能相互關系的準則，是開展人工智能研究、開發、管理、供應和使用等科技活動需要遵循的價值理念和行為規范。

為符合實踐需要，人工智能倫理形成以人工智能倫理原則為出發點的概念建構模式。

一是，多個國家和地區通過發布人工智能倫理原則的方式，闡述人工智能倫理治理的基本目標和要求。如國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協作、敏捷治理8項原則，豐富了人工智能倫理的內涵，提出了人工智能倫理治理的要求。

二是，國際組織通過發布人工智能倫理原則，推進人類共同理念的達成，促進人工智能領域的國際合作。如聯合國教科文組織在《人工智能倫理問題建議書》中提出公平和非歧視、可持續性、人類的監督和決定、透明度和可解釋性等10項原則，提出負責任人工智能發展的全球治理目標。

三是，科技企業形成圍繞人工智能倫理原則的倫理風險治理體系。如微軟提出負責任人工智能應當符合公平性、可靠性和安全性、隱私性和安全性、包容性、透明度和問責制6項原則，并圍繞相關原則制定負責任人工智能的標準、開發相配套的技術工具。

二、ChatGPT的技術特點及風險

ChatGPT是由大數據驅動、大模型支持，并能廣泛應用的人工智能產品。OpenAI為減輕ChatGPT的倫理風險，開發了產品部署流程、基于人類反饋的強化學習（Reinforcement Learning from Human Feedback，RLHF）等管理和技術工具。然而，ChatGPT還是引發了人機關系的新挑戰、放大了人類社會固有的倫理問題。

從“人——機”關系角度看，ChatGPT對人與機器的情感關系、人的勞動價值、人的主體意識等人機關系倫理形成沖擊。雖然ChatGPT不屬于強人工智能，但ChatGPT已在教育、金融、法律、游戲等不同領域展開豐富實踐應用。同時，業界推測ChatGPT依托的大模型可能已經出現涌現能力（Emergent Ability），人工智能的發展走向更多未知，人機關系的協調出現諸多新挑戰。一是，語言體系豐富、能夠聯系上下文進行對話、具備“角色扮演”功能的ChatGPT可作為陪伴者和用戶進行實時互動，人類對機器產生情感和依賴的可能性增加，影響人的心理狀態。二是，能夠進行文字生成、代碼生成、策略推薦等工作的ChatGPT引發人類對于勞動替代的憂慮，伴隨ChatGP開放API接口，更加豐富的應用場景和功能將可能對更多行業的從業者產生沖擊。三是，智能機器的快速發展對人的文化創造產生沖擊。ChatGPT能做到智能寫詩，但卻可能消解人的創作熱情；ChatGPT在文本生成方面的誤用濫用會將可能影響知識學習的過程，對人類智識的提高產生負面影響。

從“人——人”關系角度看，基于大數據訓練的ChatGPT能放大人類社會固有的偏見，并可能因為技術濫用引發社會信任危機。一是，互聯網數據記錄了人類社會潛在的歧視與價值對抗，ChatGPT可能輸出明顯具有偏見的對話內容，不僅影響用戶的判斷，更可能因為大量文本的廣泛傳播應用，加深社會偏見。二是，ChatGPT選取出現概率較大的語料進行內容生成，模型為追求內容的準確性可能以喪失文化的多樣性為代價，對人類社會的價值多樣性形成挑戰。三是， ChatGPT具有強大的自然語言處理能力，能夠“一本正經地說”，但由于其數據和算法限制，又有“胡說八道”的可能性。然而，為回應用戶需求，ChatGPT能夠批量生產大量虛構信息，且無法控制生成內容的誤用和濫用。同時，合成文本相較圖片、聲音等更具傳播優勢，也更難判斷其是否屬于人工智能生成內容。對ChatGPT的誤用和濫用將對人與人之間基于信賴的交往產生沖擊。

圖 1 ChatGPT特點（來源：ChatGPT官網）

三、 生成式人工智能倫理治理的未來展望

以ChatGPT為代表的人工智能技術發展可能將人類社會帶入新的階段，人工智能倫理治理的目標在于鼓勵技術的良性發展，為可持續的創新提供保障。

企業發揮人工智能倫理治理的主體作用。企業在人工智能倫理治理中從倫理意識、機制設置、技術開發等方面發揮最基礎和最主要的作用。一是，加強人工智能倫理治理意識。企業通過明確人工智能倫理原則、建立人工智能倫理審查機構、明晰人工智能倫理審查流程等，形成人工智能倫理治理從意識到實踐的落地機制。二是，細化和完善人工智能產品的全流程管理。如企業可在設計研發階段，即評估技術和產品的倫理風險；在測試階段，將產品從封閉環境逐步引入開放復雜的社會環境，不斷彌補產品倫理漏洞，將倫理風險控制在發展早期；在產品上線后，通過使用情況審查、速率限制等方法，減輕產品濫用可能性；最后，對倫理事故進行詳細的回顧審查。三是，通過技術手段提升倫理治理能力。企業可通過開發數據偏見和公平性評估工具、模型安全評估工具等加強人工智能倫理風險的技術應對。

多主體參與人工智能倫理治理的合作機制。人工智能倫理治理是用戶、企業、行業等多方主體的協作。一是，用戶在與人工智能的互動中提出現實世界的問題，為產品優化提供數據，并通過對產品風險漏洞的討論與反饋等協助生成式人工智能向善發展。二是，企業通過明晰人工智能技術缺陷、開源人工智能倫理治理工具等，為更多開發者提示人工智能產品的倫理風險，提供倫理治理方法和工具。三是，行業組織密切產業主體，通過團體指南、行業標準等方式推動行業對人工智能倫理治理共識的建立，促進行業自律。

加強國際合作應對人工智能倫理風險。技術發展的全球性給數字時代的人類帶來機遇和挑戰，人工智能倫理治理也成為國際治理合作的重要契機。政府間國際組織、國際學術團體、行業組織等在尊重各國、各領域人工智能治理的原則和實踐下，推動形成以增進人類福祉為目標的國際人工智能治理框架和標準規范。