以 ChatGPT 為代表的生成式 AI 橫空出世，層出不窮的新鮮應用充斥在大眾視野里。AI 孫燕姿的歌聲剛落下，AI 已經把高考作文從 0 分寫到高分，緊接著妙鴨相機的 AI 拍照小程序就火爆全網。這些 AI 應用激起了一系列擔憂：AI 在未來是否會讓自己下崗，AI 的創作是不是在抄襲……而更危險的犯罪事件已經出現，有人利用智能換臉和擬聲技術，假扮他人好友騙錢。

(資料圖)

面對生成式 AI 帶來的機遇和挑戰，各國對如何監管 AI 有不同的意見。中國、美國、歐盟等國家或地區迅速做出反應，而新加坡、印度則宣稱，暫時不打算監管 AI。

8 月 15 日，中國的《生成式人工智能服務管理暫行辦法》（下稱“辦法”）正式施行，這被認為是全球首部生成式 AI 立法。澎湃新聞對比了五個主要國家或地區最新推出的 AI 管理規范，發現多數文件不只是針對生成式 AI，而是涵蓋更大范圍的 AI；這些 AI 文件的力度和側重點有明顯不同，如歐盟對倫理和能源較為重視，中國更強調提供者的責任等。

AI 詐騙事件漸起

為何要監管生成式 AI，或者說更大范疇里的 AI？

如果對比 AI 與人類的能力，我們會發現 AI 已經在逐漸超越人類。一篇研究自然語言基準評估的論文預印本顯示，十年前，還沒有 AI 能擁有等同于人類水平的語言或圖像識別能力，但到了 2020 年，AI 的能力已經能在所有領域的測試中擊敗人類。

而生成式 AI 的能力，在不法分子的使用下，將更具有強大的破壞力。據中國公安部，2020 年以來就破獲 79 起“AI 換臉”的犯罪案件。

今年 5 月，受害者郭先生接到了“好友”的微信視頻電話，對方稱外地投標需要 430 萬元。郭先生在視頻中確認好友面孔和聲音后，放松了戒備，最終上當受騙。

在美國，還發生了一場虛擬綁架騙局。受害者接到一通匿名電話，電話中傳來其女兒的哭泣尖叫聲。一名男子威脅受害者寄給自己 100 萬美金。

“這顯然是她的聲音。”受害者在接受外媒采訪時表示，哭聲與抽泣讓她被這場騙局動搖了，因為自己女兒平時內向、克制，不是一個愛哭、愛尖叫的人。她不知道對方是怎樣得到了這段聲音。

“生成式 AI 具有價值觀屬性，一旦生成式 AI 模型在訓練過程中引入偏見歧視等有害信息，在模型實際應用中很可能呈現放大化輸出。另外，生成式 AI 具備可引導性，在與人類‘對齊’的訓練環節中不斷趨近人類偏好，但同時也存在被不法分子惡意利用的風險。”西南政法大學人工智能法學院副院長、教授馮子軒告訴澎湃新聞。

歐盟的 AI 法案涉及面最廣，提出環保要求

AI 的挑戰已然來臨，部分國家或地區開始作出反應。

目前只有中國正式通過了專門針對生成式 AI 的立法，其他國家或地區多是針對廣義 AI 的相關規范——其中多數是指導性文件。歐盟已經通過《AI 法案》的草案，但距離正式生效還有數年；美國發布了 AI 風險管理框架，后續成立了生成式 AI 治理小組；英國發布《AI 監管：一個支持創新的方式》，并征求公眾意見。

澎湃新聞梳理和對比了五個國家或地區最新推出的 AI 管理規范，以此觀察各國的監管方向和策略。我們發現，中國和歐盟的管理規范較嚴格，涉及維度更廣，比如中國對數據標注有明確要求：“在生成式人工智能技術研發過程中進行數據標注的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標注規則”。

歐盟還有針對 AI 能耗環保問題的條例，如“利用適用的標準來降低能源使用、資源使用和浪費，以增加能源效率和系統整體效率”。

今年六月，歐盟正式批準通過《AI 法案》草案，盡管該法案尚未正式生效，但其提出的治理方式也為其他國家或地區提供了參考，比如歐盟提出了分類分級管理，將 AI 系統分為不可接受的風險、高風險、有限風險和極低風險等四種風險類型，針對不同的風險系統會有不同的監管措施。

不過，這些細則的落地仍有待進一步的探討。“雖然歐盟《AI 法案》提出的分類分級管理在一定程度上可供參考，但是生成式 AI 服務的分類按什么維度去分類？分級要分成幾級？相關的細則、標準仍然需要進一步通過實踐來制定。”上海數據交易所研究員林梓瀚告訴澎湃新聞。

目前，歐盟嚴格的 AI 管理規范還遭到企業的抗議。據法新社報道，超 150 個企業發出警告，認為歐盟的《AI 法案》可能會損害歐洲的競爭力。

相比之下，美國、英國、韓國的管理較為寬松，韓國在 12 個細分維度里只涉及了 4 個，更多是抱持著讓 AI 行業自由發展的態度。西雅圖華盛頓大學技術政策實驗室的創始聯合主任瑞安·卡洛（Ryan Calo）認為美國的全國性 AI 管理文件只是“表面上的行動，但沒有任何實質性和約束力”。

此外，由于這些規范多是針對廣義的 AI，因此暫時較少涉及生成式 AI 爭議較多的兩個方面——AI 版權和 AI 生成標識。起初，歐盟的《AI 法案》幾乎沒有提到聊天機器人，僅要求對其進行標記，以便用戶知道他們正在與機器進行交互，后續在修訂中又補充了要求徹底記錄任何用于訓練 AI 的版權材料，以方便內容創作者決定是否追求賠償。

“傳統算法應用的處理模式與應用場景相對固定，有較為明確的服務邊界，但生成式 AI 應用場景更為豐富，如 ChatGPT 產品幾乎可以處理自然語言領域的所有任務，如果延續針對固定用途信息服務的管理思路，將難以充分切合實際監管需求。”馮子軒說，她認為《辦法》契合新技術新特性，有針對性地進行制度設計。

規制還是發展 AI？不同國家的選擇不同

具體到《辦法》的細則，中國在生成式 AI 監管方面有自己的特色設定，比如強調內容治理方面的制度建設和積極引導、強調生成式 AI 提供者的責任。

“對生成式 AI 服務提供者要求依法承擔網絡信息內容生產者責任，這是一個比較創新的界定，也會對實踐造成一些挑戰和爭議，核心命題在于 AI 生成的內容，和以往人工控制的過程，會呈現一些新的不一定完全可以控制的特點，對于這點的內容治理要求，是否應該提供更多的容錯、糾錯空間，是值得后續進一步探索和研究的問題。”中國社會科學院大學互聯網法治研究中心執行主任劉曉春告訴澎湃新聞。

除了對內容治理的要求，保障訓練數據的合法性和質量問題也是一個難點。林梓瀚認為，場外數據交易的來源合法性難以保障，公共數據以及企業系統生成的數據質量也存在瑕疵，相關的司法案件頻發，一定程度上加劇了企業的合規風險。

企業如何按照《辦法》要求來保障訓練數據質量和用戶隱私？擁有自研語言大模型“大象 GPT”的印象筆記告訴澎湃新聞，“大象 GPT”訓練的數據除了來自公共數據集之外，還包含來自印象筆記的自有公開數據集，即用戶主動授權的公開收藏內容及主動發布的內容。這些數據還會經過進一步的“清洗” 和“增強”，與公共數據集相比，保證了數據的多樣化和高質量, 與知識管理領域更深度相關，因此也更有助于專有模型的訓練和優化。

“為了保護用戶的隱私，除了用戶必要的授權之外，我們還會對數據進行脫敏處理，利用模型識別可能存在的任何個人可識別信息（PII， Personally Identifiable Information） 并加以去除或替換，確保數據中不包含任何可以識別個人身份的信息。”印象筆記說。

盡管包括中國在內的部分國家或地區在規制生成式 AI 的路上前進，但還有另一部分國家表示暫時不想監管 AI。

“我們目前沒有考慮監管人工智能。在這個階段，很明顯我們希望能夠向行業學習。在我們決定是否需要從監管方面做更多工作之前，要先了解人工智能的使用方式。”新加坡信息通信媒體發展局（IMDA）可信人工智能和數據主管李婉詩（Lee Wan Sie）接受 CNBC 采訪時說。

印度持有類似觀點。印度信息技術部部長阿什溫尼·瓦什納（Ashwini Vaishnaw）在今年 4 月時稱，政府目前并未考慮出臺任何法律來規范 AI 在印度的發展。

如此不同的 AI 治理理念，與當地的人口結構、產業結構和社會規范等都有關系。清華大學公共管理學院教授、院長朱旭峰在其《人工智能治理的全球版圖》演講中提出，日本積極發展 AI 的戰略考慮之一就是，AI 可以通過替代自動化崗位、提供適老服務等來較好地緩解老齡化挑戰，而印度的限制性法律歷經反復修改，仍在撤回與修訂中，這與大型科技公司的游說影響密不可分。

關鍵詞：