代表建議加快立法 促進生成式人工智能健康發展規范應用

原標題：“AI換臉擬聲”不當濫用頻繁出現 全國人大代表建議加快立法

促進生成式人工智能健康發展規范應用

法治日報記者　　蒲曉磊

“去年‘十一’假期，有網友說，放了7天假，卻被‘AI雷軍’罵了8天。”全國人大代表，小米集團創始人、董事長兼首席執行官雷軍說，當自己想通過法律維權時，卻發現對此沒有專門的立法，只能以侵犯隱私權、肖像權、名譽權等起訴，而這些都要量化損失，“在網上被罵8天，損失根本沒法量化”。

北京互聯網法院3月13日在通報建院以來涉網絡消費虛假宣傳案件審理情況時指出，一些商家利用AI技術假冒公眾人物形象制作虛假廣告，或利用網紅達人進行“種草”營銷，并通過算法精準推送，導致消費者容易“踩雷”。

無論是名人還是普通人，在被“AI換臉擬聲”行為侵權時，都會感到苦不堪言。

對此，多名全國人大代表建議，加快制定人工智能法，對人工智能法律問題作出全面規定，明確強化技術監管、壓實平臺責任、加大懲處力度等內容，填補因人工智能技術興起而形成的各法律之間的空白地帶，為促進生成式人工智能健康發展和規范應用提供有力法治保障。

不當濫用帶來社會治理風險

近年來，人工智能為社會生活和商業活動帶來巨大便利和機遇的同時，也衍生出一系列社會、倫理、安全和法律問題，引發社會公眾普遍關注。

陜西警方2024年通報一起案件，某公司財務人員接到經理的視頻通話，要求她轉賬186萬元到一個指定賬戶。因為視頻通話中對方的聲音、長相和言談舉止都與經理一樣，財務人員迅速完成轉賬。事后當上級領導詢問時，財務人員才發現被騙并連忙報警求助，最終保住了其中的156萬元。在本案中，犯罪分子就是用人工智能實現了聲音和視頻畫面的深度偽造，以此實施詐騙。

近段時間，有商家在視頻切片中通過AI技術更換專家語音和字幕，制作虛假廣告，不少消費者上當受騙。

“過去一年，至少有幾十個視頻冒用我的聲音、形象講述虛假內容，有的連我自己都覺得很逼真。”全國人大代表、中國工程院院士張伯禮表示，利用人工智能生成虛假內容的違法犯罪事件越來越多，必須采取有力措施予以遏制。

雷軍指出，“AI換臉擬聲”不當濫用造成了違法侵權行為頻發，易引發侵犯肖像權、隱私權以及詐騙等犯罪行為，甚至造成難以挽回的大規模聲譽損害，帶來社會治理等風險。AI深度合成技術具有所需素材獲取便利、技術使用門檻低、侵權主體及其手段隱蔽性強等特點，給治理帶來較大挑戰。

相關制度存在一定滯后性

近年來，為促進生成式人工智能健康發展和規范應用，我國持續完善相關制度。

近日，國家互聯網信息辦公室、工業和信息化部、公安部、國家廣播電視總局聯合發布《人工智能生成合成內容標識辦法》，該辦法將于2025年9月1日起施行。在此之前，我國還頒布實施了《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》。

多名全國人大代表認為，相關法規、規章在促進人工智能健康發展方面發揮了重要作用，但由于位階低、內容分散等原因，不足以充分應對人工智能技術所引發的各類問題。

雷軍認為，相關法規、規章的頒布實施，對人工智能立法進行了有益探索。但目前“AI換臉擬聲”的有關規定，尚存在效力位階偏低、內容偏原則且分散、多個部門職責交叉或職權定位有待明晰等不足，導致現階段針對“AI換臉擬聲”造成的侵害，只能依靠基礎法律中關于隱私權、肖像權、名譽權等的零散法條進行規制。

全國人大代表、西南政法大學教授付子堂表示，人工智能等技術加速突破，必將深刻改變人們現行的生產生活方式，而目前相關的法律制度存在一定滯后性。例如，生成式人工智能等新興領域存在規范真空，數據隱私保護、算法責任認定等方面存在法律適用問題，并且在個人數據信息保護、算力治理等方面存在多頭管理問題，監管協同性不足。

細化認定標準加大懲處力度

2025年全國人大常委會工作報告指出，要圍繞人工智能、數字經濟、大數據、自動駕駛、低空經濟、航天等新興領域加強立法研究。

多名全國人大代表建議，加快人工智能立法進程，有力解決人工智能發展和崛起所導致的各類法律問題，促進生成式人工智能健康發展和規范應用。

“立法層面對于謠言的認定標準和處罰措施還有待細化完善，懲處力度也需要加大，此外AI技術服務提供者的監督責任也需要加強，全力引導技術向善。”全國人大代表、中華全國律師協會副會長萬立認為，這些內容在立法時都要有所考慮。

“要著手構建階梯式法律框架，夯實制度根基，可細分制定人工智能法等專門法律，并完善能與個人信息保護法等上位法相銜接的、對深度合成內容進行有效規范的配套條例。”付子堂說。

雷軍建議，探索推出人工智能單行法，提高立法位階及其效力，在分級分類的基礎上進行務實治理，明確“AI換臉擬聲”應用邊界紅線，完善侵權證據規則，加大對利用人工智能技術實施犯罪行為的刑事處罰力度。

“要規范‘AI換臉擬聲’技術的不當利用，有必要要求深度合成服務提供商對人工智能生成的內容進行強制標識，減少惡意濫用。這也有助于厘清責任、對違法犯罪行為追責。”全國人大代表，TCL創始人、董事長李東生說。