人工智能發(fā)展太快了，如今滿屏滿網，從文字到照片，從聲音到圖像，AI無所不在。由此帶來的真?zhèn)沃嬉卜路鹨粓觥按蚬钟螒颉保y度逐漸升級。近日，國家互聯網信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯合發(fā)布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》），將從2025年9月1日起施行。
日益開放的AI技術，讓更多普通人都可以自由使用，但它的副作用也很明顯，就是降低了違法門檻。一位江西老人差點被AI合成的“假靳東”騙走200萬元，還有人冒充醫(yī)生帶貨、冒充經濟學家薦股、冒充朋友借錢、冒充家人詐騙……《IT時報》在調查AI造假案例時發(fā)現，“AI換臉”軟件只需9.9元，記者花10分鐘便能輕松“變身”另一人，且生成的視頻順利在多個平臺發(fā)布并傳播。
《標識辦法》規(guī)定所有AI生成的內容必須加上“顯式”和“隱式”兩種標識：顯式標識就像包裝上的物品名稱，用戶一眼就能看清“是什么”，而隱式標識則像隱藏在產品背后的二維碼或防偽標識，便于平臺監(jiān)管與追責。這是一種“雙保險”設計，能有效提高AI內容的透明度和可追溯性，讓普通用戶免于上當受騙的風險。
除了明確標識方式，《標識辦法》還分別加強了服務提供者和傳播平臺的責任，意在重點解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環(huán)節(jié)的全流程安全管理。明確每一個環(huán)節(jié)的責任者，才能最大限度避免被人鉆空子。
有必要提醒，任何管理辦法都要具備可操作性。比如，有人建議在文本內容中增加隱式標識，在多媒體文件中添加數字水印，但存在技術難點或可能增加企業(yè)成本。正因如此，該辦法不作強制要求，而是提供了文本符號標識、音頻節(jié)奏標識、文件元數據標識等成本更低、更易執(zhí)行的替代方案。
AI生成與AI檢測是矛與盾的關系，相對來說，檢測技術具有滯后性。比如，一些不法分子可能通過技術手段篡改或刪除標識，通過境外未監(jiān)管的平臺發(fā)布內容，或通過更隱蔽的私人社群傳播，以此逃避監(jiān)管。更何況，技術手段只是為了更方便識別，不等于給所有人“上保險”。就像最近曝光的冒充經濟學家陳志武教人炒股的“殺豬盤”，偽造身份只是騙局的一部分，真正讓人上當的，是高達58%的巨額“預期收益”誘惑。這種騙局，僅靠技術標識，不足以完全幫助人們抵御受騙風險。
無論如何，《標識辦法》給人工智能這條“高速路”裝上了“安全護欄”，以免輕易“脫軌”，但面對AI技術帶來的治理風險，除了不斷在技術上尋求突圍，以及完善相關法律和政策之外，還需要持續(xù)提升公眾的媒介素養(yǎng)與認知能力。說到底，欺騙人的不是AI，而是人。那么，識別騙局的主體，最終也要還原到人。
馬青 來源：中國青年報
掃碼下載
中文網微信