来评有礼丨聊聊如何规避“被AI欺骗”→

网信佛山

奥运冠军带货卖鸡蛋?
知名演员的“声音”
24小时在直播间与粉丝互动?
别信!都是假的!

当下,人工智能技术成熟的速度令人惊叹,普及也越来越广泛。然而,技术的普及也带来AI的滥用:从人脸和声音被合成冒用,到各类低俗猎奇视频的传播,再到漫天谣言的背后,AI都成了核心“推手”。在技术狂奔的局面下,监管该如何跟上?

近日,国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》。办法聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容制作、传播各环节标识行为,已于2025年9月1日开始施行。

近年来,生成式人工智能、深度合成等新技术快速发展,为生成合成文本、图片、音频、视频等信息提供了便利工具。

“然而,人工智能生成合成内容日益逼真,也催生虚假消息传播、身份信息冒充、恶意内容生成等新型安全风险,并削弱着公众对网络传播内容的信任根基。”中国工程院院士、浙江大学教授陈纯认为,面对人工智能安全治理这一世界性难题,四部门适时出台《人工智能生成合成内容标识办法》,配套强制性国家标准《网络安全技术 人工智能生成合成内容标识方法》也同时发布,成为保障人工智能时代网络生态安全有序的关键手段。

(图源:“网信中国”微信公众号)

国家网信办有关负责人表示,办法重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题,推动由生成到传播各环节的全流程安全管理,力争打造可信赖的人工智能技术。

——针对服务提供者,办法明确应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识,在提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识;应当在生成合成内容的文件元数据中添加隐式标识。

——针对互联网应用程序分发平台,办法提出在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务,并核验其生成合成内容标识相关材料。

——针对用户,办法要求使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。

此外,任何组织和个人不得恶意删除、篡改、伪造、隐匿办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

来

评

有

礼

  • 《办法》提出强制添加显式和隐式标识等规范要求,所有AI生成的文字、图片、视频等内容,都要“亮明身份”。办法提出了两种标识方式:“显式标识”和“隐式标识”,你认为哪种更重要?或者两者可以怎样结合?

  • 《办法》的出台,可以说是国家为我们提供了“官方认证”的防护盾。作为普通网民,我们该如何主动提升自己的数字素养,识别那些规避了标识的漏网之鱼?欢迎来分享你的“鉴假技巧”~

  • 守护“眼见为实”,你我都是“吹哨人”。发现AI造假,我们可以怎么做?怎样推动形成一个“人人监督、人人受益”的清朗网络空间?

欢迎大家将本期话题的留言内容分享到微博、抖音、小红书、今日头条等平台,并带话题#网络安全佛山功夫# ,同时@纷享佛山(微信平台@网信佛山)。有分享的友友将优先考虑纳入优秀留言噢~

点击下方图片进入评论区
留下你的看法吧

↓↓↓

《大山小议》栏目上线抖音啦

每周话题同步发布到抖音平台

欢迎大家扫码关注

到抖音留言评论

来源:新华社、央视新闻、佛山新闻网

一审:佛山市新闻传媒中心 杨啸峰

二审:佛山市新闻传媒中心 梁健恒

三审:佛山市新闻传媒中心 尹保山

审校:谢汉强、姚倩

图片版权归原作者所有,如有侵权,请联系删除

 ▊网信君推荐