六位代表委員
談人工智能的法律規制
“人工智能+”時代來臨，AI不能失控
當機器人展示中國功夫登上春晚的舞臺，人們在驚歎之餘不禁感慨：“人工智能+”時代，真的來了。
3月5日，李強總理作政府工作報告。報告指出，“持續推進製造業數字化轉型和‘人工智能+’行動，行業應用加快落地，新型智能終端不斷湧現”。
《中華人民共和國國民經濟和社會發展第十五個五年規劃綱要（草案）》進一步明確：“全面實施‘人工智能+’行動，加強人工智能同科技創新、產業發展、文化建設、民生保障、社會治理相結合，搶佔人工智能產業應用制高點，全方位賦能千行百業。促進實體經濟和數字經濟深度融合。創造美好數智生活。提高政府治理數智化水平。”
今年全國兩會，人工智能（AI）成爲諸多代表委員關注的火熱話題。從深度僞造、算法作惡到AI“魔改”、惡意濫用，人工智能衍生的各種侵權行爲令人眼花繚亂。如何把人工智能納入法治的軌道，使其健康發展？檢察履職又該如何融入人工智能治理大局？《檢察日報》邀請六位全國人大代表、全國政協委員，共議人工智能的法律規制。
周源委員
AI漫劇“洗稿式”侵權問題突出
周源委員
第十四屆全國政協委員、社會和法制委員會委員、知乎創始人兼CEO周源在接受記者採訪時表示，在人工智能技術加速突破的背景下，AI漫劇產業進入規模化增長階段。2026年，我國漫劇市場規模有望突破240億元。然而，相關問題也日益突出。
周源委員表示，當前，AI漫劇行業在高速擴張中已顯現出若干結構性問題，比如，生產速度遠超維權能力，傳統確權與舉證機制明顯滯後，等等。特別是，AI漫劇原創內容被“洗稿式”侵權問題尤爲突出。與此同時，頭部平臺也存在濫用優勢與變相壟斷的情況。
周源委員認爲，在新生產模式下，原創作者以及版權平臺難以應對高頻、批量化侵權行爲，治理重點應轉向“強化維權效率與懲戒力度”，“探索建立AI生成內容侵權快速處置綠色通道，制定AI漫劇侵權判定指引，明確‘洗稿’‘情節重組’等行爲的認定標準，提升執法、司法可操作性。同時，建議檢察機關關注AI漫劇侵權問題，積極開展知識產權檢察綜合履職，不斷加強知識產權綜合司法保護。”
鍾錚代表
遏制惡意濫用AI
加強AI數字人直播監管
鍾錚代表
全國人大代表、美的集團股份有限公司副總裁兼首席財務官鍾錚注意到惡意濫用AI和新業態監管空白兩個方面的問題。
“隨着AI、GEO技術快速發展，其在網絡營銷領域的惡意濫用已形成完整黑產鏈條，成爲擾亂市場秩序、損害企業與消費者權益的突出問題。部分市場主體利用AI生成虛假測評、GEO技術定向投餵誤導性內容，實施商業詆譭、數據污染等不正當競爭行爲，企業在營銷關鍵節點常遭遇惡意差評、輿論帶節奏等困擾，維權成本高、難度大。”鍾錚代表建議，在反不正當競爭法中明確AI、GEO技術的使用邊界，區分合規商業應用與惡意營銷行爲，跨部門聯合開展專項整治，從源頭遏制技術型惡意競爭亂象。
當前，AI數字人直播的實時性、互動性特徵使其成爲營銷新賽道，但行業存在標識不規範、監管依據不足、權益糾紛頻發等問題。“部分企業弱化‘AI生成’標識甚至刻意隱瞞，仿冒名人數字人直播等行爲屢有發生，而人工智能專項立法尚未出臺，導致維權困難，行業發展亂象叢生。應加快完善法律法規體系，將AI數字人直播納入專門監管範疇，明確數字人直播涉及的肖像權、著作權等知識產權授權邊界，細化侵權認定與賠償標準，讓監管跟上技術發展步伐。”鍾錚代表建議，檢察機關要依法開展法律監督，推動相關問題得到源頭治理。
胡海娟代表
AI被濫用“魔改”侵蝕價值觀
胡海娟代表
只需輸入故事大綱、人物等指令，在大模型中加以訓練，一篇靠主人公逆襲、反派崩潰跪地求饒等誇張劇情吸引眼球的“爽文”就生成了。
全國人大代表、內蒙古自治區呼倫貝爾市海拉爾第二中學教師胡海娟注意到，有的孩子會在網上看AI生成的各類“爽文”。同時，她也注意到，不只限於這類文字類的低劣內容，AI近年來還被濫用於視頻“魔改”傳統文化經典，造成認知差異，比如將《西遊記》等名著進行戲謔化解讀。
在胡海娟代表看來，AI技術被濫用爲批量生產低俗、暴力、獵奇內容的工具，就很容易侵蝕人們的價值觀。“價值觀一旦跑偏，就不容易拉回來了。尤其是對青少年來說，當他們首先接觸的是‘魔改’版的名著，甚至誤以爲原著就是如此時，他們對傳統文化的敬畏感和認同感將無從建立。”
對此，胡海娟代表建議，在法律層面明確規定，利用AI技術對具有重要歷史、文化價值的經典作品進行改編時，不得以解構、醜化、褻瀆等方式進行傳播。對於這種“魔改”行爲，她建議通過多部門協同的方式進行監管，用大數據等手段發現線索，採取法律手段嚴厲打擊。
彭鳳蓮代表
治理關鍵是把法治與監管
嵌入技術全鏈條
彭鳳蓮代表
全國人大代表，民進中央委員、安徽省委會副主委，安慶師範大學校長彭鳳蓮在接受記者採訪時表示，應對“失控的AI”，關鍵是把法治與監管嵌入技術全鏈條，以源頭治理、系統治理、依法治理守住安全底線。
彭鳳蓮代表認爲，當前AI治理面臨三大突出問題：一是法律責任認定難，算法黑箱、主體多元導致研發者、平臺、使用者責任邊界模糊；二是技術對抗不對稱，造假工具迭代快、鑑別成本高；三是監管協同不足，部門間數據與線索共享不順暢，難以形成閉環打擊。
“治理涉AI犯罪要堅持發展與安全並重、激勵創新與防範風險統一。”彭鳳蓮代表建議，一要加快完善法治供給。推動人工智能監管法規儘快出臺、完善，明確高風險應用清單、強制標識、數據合規與法律責任，爲打擊利用AI實施的詐騙、誹謗、侵權、洗錢等犯罪提供明確依據。二要壓實平臺主體責任，強化內容審覈、風險監測與違法處置，對明知用於犯罪仍提供工具、數據、算力的依法追責。三要強化技術溯源與監管，推廣AI生成內容水印與溯源機制，建立跨部門檢測預警平臺，提升偵查、檢察、審判機關的電子證據固定與技術鑑別能力。
彭鳳蓮代表特別提出，檢察機關應主動融入AI治理大局，加強涉AI網絡犯罪、知識產權、個人信息、公益訴訟等案件辦理，探索設立專業化辦案團隊，引入技術調查官輔助辦案，以法治力量引導AI向善。她呼籲，全社會應共同構建政府監管、企業主責、司法保障、社會監督的共治格局，讓技術創新始終在法治軌道上行穩致遠。
陳愛雪代表
深挖濫用AI技術侵權
背後的黑灰產業鏈
陳愛雪代表
全國人大代表、內蒙古民族大學經濟學院院長陳愛雪注意到了一些利用AI技術編造虛假信息、傳播網絡謠言的問題。
“這些現象令人深感憂慮。AI技術的濫用不僅會侵害個人名譽權、企業商譽，還可能干擾正常的經濟秩序，甚至對公共安全和社會穩定構成威脅。”陳愛雪代表說。
對此，陳愛雪代表建議在現有法律的基礎上，進一步研究制定更具針對性的實施細則。要明確AI生成內容的標識義務、傳播者的核實責任，以及平臺對AI生成內容的審覈管理責任。她指出，對於利用AI故意編造、傳播虛假信息，特別是涉及險情、疫情、災情、警情等敏感內容的，應依法從嚴懲處，構成犯罪的依法追究其刑事責任。“希望檢察機關發揮職能作用，重點打擊以流量變現、非法牟利爲目的，規模化、產業化製造和傳播AI謠言的機構和個人，深挖背後的黑灰產業鏈。”陳愛雪代表說。
宗強代表
明確AI輔助犯罪的司法認定標準
宗強代表
今年全國兩會上，全國人大代表、中國電信撫州分公司“宗強班”班長宗強帶來了一份關於強化人工智能時代網絡安全保障的建議。
宗強代表在調研中發現，AI算法歧視、AI“魔改”、模型投毒等新型風險不斷出現。比如，目前已出現利用AI自動生成惡意代碼、跨平臺AI勒索軟件等新型攻擊，實時語音深度僞造技術使詐騙成功率接近100%。
爲破解當前網絡安全治理難題，構建與人工智能時代相適應的安全保障體系，宗強代表建議，積極開展立法調研，進一步完善法律法規，明確算法研發、模型訓練、數據使用、應用部署等全生命週期的安全責任與倫理底線；細化網絡安全法配套實施細則，圍繞人工智能風險監測評估、安全認證、應急處置等制定配套辦法。
在打擊網絡違法犯罪方面，宗強代表建議由公安機關、法院、檢察機關、工信部門、網信部門密切配合，開展人工智能反詐淨網護安專項行動，嚴厲打擊人工智能賦能的新型網絡違法犯罪。檢察機關要深挖細查，堅持“全鏈條打擊、一體化治理”，重點打擊爲網絡犯罪提供技術支持、資金結算、廣告推廣、數據買賣的黑灰產。此外，還要進一步完善司法銜接機制，由“兩高”出臺司法解釋，明確AI輔助犯罪的司法認定標準，統一裁判尺度，提升案件辦理質效。
來源 ：檢 察 日報·法治中國兩會特刊
