从财报粉饰到AI换脸,透视315的新战场|破局信息造假

佛山市新闻传媒中心

3月15日,国际消费者权益日如期而至。在以往,消费者往往更聚焦于商品质量和消费陷阱,然而在数字化浪潮席卷的当下,一场更为隐蔽且危害广泛的“信息造假”危机正悄然侵蚀社会信任体系。

信息造假的“新战场”不断拓展,从企业财报的“智能粉饰”、学术论文的“AI代笔”,到社交平台的“数字分身”诈骗,随着生成式AI、深度伪造技术的迭代升级,造假手段愈发规模化、产业化,这场关乎经济秩序与社会信任的战役也步入了技术升级与制度重构的关键时期。

数据造假:账本魔术和学术泡沫

企业财务数据一直是数据篡改的重灾区。部分企业为达目的,不惜在财务报表上大做手脚。

恒大地产便是典型例证,短短两年间虚增收入超过5600亿元,最终于2024年被监管层查处。统计数据显示,2024年以来,已有约34家公司因虚增营业收入收到《行政处罚决定书》,涉及金额总计约6314亿元。

这种“账本魔术”不仅误导了投资者,更破坏了市场的公平竞争。

与此同时,学术论文同样是造假重灾区。龙其是生成式AI的兴起,让学术论文造假的成本变得更低。一些学者利用大语言模型(LLMs)、人工智能(AI)等技术,生成文本、数据、图片等信息。

2025年1月,国际期刊《Neurosurgical Review》发现多篇论文有明显的大语言模型生成迹象,且作者未适当披露,最终予以撤回。

2025年1月31日,《Neurosurgical Review》刊载声明撤回其中一篇学术文章。

统计数据揭示了一个令人担忧的趋势:早在2023年,全球范围内的学术论文撤稿数量已急剧增加至超1万篇,与十年前相比,这一数字增长了近10倍。生成式AI在这一现象中扮演了不可推卸的角色。

AI换脸:脱缰的内容生成

今年全国两会期间,全国人大代表雷军、全国政协委员靳东等人纷纷呼吁加强AI换脸拟声相关立法治理。这背后是AI换脸乱象的猖獗——不法分子利用AI技术,假冒名人身份行骗、虚假代言,甚至通过伪造视频骗取巨额钱财。

雷军形象被制作了大量AI锐评视频。

更值得警惕的是,如今还有一种更为隐晦的“移花接木”方式,悄然在短视频平台上兴起。

某平台“综艺切片带货”视频中,“唐嫣”“应采儿”分享的育儿经验实为AI合成,即通过截取综艺片段、篡改语音字幕,将保健品广告无缝植入。而平台方却未有“该画面可能由AI生成,请注意鉴别”等相关提示,导致不熟悉AI技术的中老年人容易成为被收割的对象。

图中明星在综艺上的“带货”,均为AI篡改。

记者在手机应用页面搜索发现,与“AI配音”相关的App多达数十款,其中下载量最高的已超过千万次。实测显示,只需支付少量费用,就可以使用声音克隆App复制音色。用户只需录制几秒钟的音频,AI就能根据声音生成各类内容的出镜口播视频,甚至连录制者在发音时的吐字习惯也能精准模仿。

斯坦福大学的研究显示,2024年全球AI生成的虚假信息量高达2.3亿条,较2022年暴涨了1700倍。更为危险的是,AI生成的虚假信息往往更加极端、情绪化,天然适配社交平台的推荐算法。

AI生成的“特朗普被捕”假新闻。

去年12月,广电总局网络视听司针对AI魔改现象发布《管理提示(AI魔改)》,要求各相关短视频平台排查清理AI“魔改”影视剧短视频,并严格落实生成式人工智能内容审核要求。

而要破解信息造假难题,仍需多措并举、多管齐下。例如在技术层面,加大对反制AI造假技术的研发投入,开发更精准的AI内容检测工具。制度方面,完善法律法规,针对不同领域的造假行为制定明确的处罚措施,提高造假成本。

正如打假不能仅靠3·15,对抗信息造假更需要365天持续亮剑。  

文 | 佛山市新闻传媒中心记者黄轶彤

图片来源网络