中新社北京3月4日電 題：AI“李鬼”迭出，李鬼代表委員建言人工智能治理
中新社記者 常濤
在履職過程中，迭出代表全國人大代表、人工美的智能治理集團副總裁兼首席財務官鐘錚注意到一種現(xiàn)象：網(wǎng)絡上有大量AI(人工智能)生成的視頻內容，有的李鬼模仿明星或專家的形象和聲音，有的迭出代表虛構人設、推銷產(chǎn)品，人工誤導消費者購買不必要的智能治理商品，造成財產(chǎn)損失，李鬼甚至產(chǎn)生信任危機。迭出代表
不光是人工視頻，伴隨人工智能技術快速進步，智能治理文、李鬼視、迭出代表圖、人工聲等的合成和制作門檻大幅降低，一些人工智能生成的內容“李逵”“李鬼”難辨，給用戶帶來困擾。2025年全國兩會期間，多位代表委員對此現(xiàn)象予以關注，并提出建議。
鐘錚認為，現(xiàn)在生成式人工智能在法律法規(guī)體系上仍不完善，特別是在界定AI生成內容的版權歸屬，以及侵權責任認定、隱私保護標準方面存在空白。此外，目前對于生成式人工智能視頻的審核，技術條件有限，還需要繼續(xù)完善技術手段。
全國人大代表，TCL創(chuàng)始人、董事長李東生也關注到了“AI深度偽造欺詐治理”的話題，“生成式人工智能技術迅速發(fā)展，這個問題的‘B面’——深度偽造技術也在快速發(fā)展，并可能帶來新的社會問題?！?/p>
李東生表示，近年來，中國相關立法雖關注“AI深度偽造欺詐”這一議題，但已出臺的規(guī)章制度尚不成體系，還不具備可操作的細則和明確的處罰標準。
全國人大代表、小米集團創(chuàng)始人雷軍也注意到了“AI換臉擬聲”帶來的問題。他表示，不當使用、濫用易引發(fā)侵犯肖像權、侵犯公民個人信息以及詐騙等犯罪行為。
全國政協(xié)委員、安徽省律師協(xié)會監(jiān)事長周世虹在接受中新社記者采訪時介紹，中國于2023年8月起施行《生成式人工智能服務管理暫行辦法》(以下簡稱《暫行辦法》)，從而形成以《暫行辦法》為核心，輔以數(shù)據(jù)安全法、個人信息保護法等單行法的人工智能規(guī)范，但缺乏高位階的專門立法，覆蓋范圍有限，難以應對技術發(fā)展可能引發(fā)的各種社會問題。
周世虹建議將生成式人工智能納入專項立法，明確開發(fā)者、運營者、用戶三方責任；完善監(jiān)管協(xié)同機制，建立網(wǎng)信、工信、公安等多部門聯(lián)動的動態(tài)監(jiān)管體系；設立AI生成內容標識制度，強制標識AI生成內容，防范虛假信息傳播。
關于生成式人工智能視頻傳播管理機制，鐘錚建議，修訂著作權法等相關法律法規(guī)，加強原創(chuàng)版權和隱私保護；利用AI技術審核AI合成的視頻內容，同時投入更多資源開發(fā)高效的AI審核工具，并結合人工審核，通過雙重校驗提高識別準確率等。
全國人大代表、科大訊飛董事長劉慶峰表示，生成式人工智能存在幻覺，特別是深度推理模型的邏輯自洽性提升，使得AI生成內容真假難辨。他建議，研究幻覺自動分析的技術和軟件平臺，開展幻覺自動分析、AIGC(生成式人工智能)深度鑒偽、有害內容識別以及互聯(lián)網(wǎng)傳播溯源，由相關部門定期清理幻覺數(shù)據(jù)，為公眾提供AIGC幻覺信息檢測工具與服務。(完)