DeepSeek也会“说谎”?还是“AI幻觉”?| 为什么是热点

佛山市新闻传媒中心

你有没有发现,AI是会一本正经地“说谎”?

从现象级爆红到全民依赖

过去20天,DeepSeek日活用户突破2000万,成为现象级AI工具。它用“唠嗑式交互”干掉了反人类的指令学习门槛,从编蛇年祝福到分析股市,如今还掀起了一股“赛博算命”热潮,小红书满屏“我和DeepSeek聊完惊呆了”的帖子。

然而,就在热潮之下,越来越多用户开始吐槽:所谓的“AI幻觉”正在悄悄侵蚀我们的判断力。

AI会说谎 大语言模型不等同“搜索引擎”

用户使用DeepSeek时收到的错误回答。/图源网络

“什么是‘AI幻觉’?”简单来说,就是AI为了填补知识空白,用看似合理的语言编造虚假信息。日前,在一篇《我确实低估了deepseek所引发的大面积“AI幻觉”》的帖子中,用户让AI解析歌曲《Trigger》的“左右声道交替录制技术”,结果发现所谓的“眩晕感设计”纯属虚构,实际歌曲中根本不存在。更有一篇分析“年味变淡”的AI生成文章被转发超10万次,后被证实引用了虚构的民俗研究数据,而类似谬误在房价预测、黄金投资等领域均有出现。  

为什么AI会“说谎”?因为它本质是一台概率机器——通过海量数据学习“最像人话”的回答,而非追求真相。连 OpenAI CEO都坦言:“它自信而危险地错误着。”

为什么我们更容易被DeepSeek“欺骗”?

AI幻觉是目前多个AI模型均存在的问题。但由于DeepSeek无需翻墙、免费使用,全民狂欢背后是未经训练的海量用户,缺乏对AI局限性的认知,当中深度思考的过程,更如同“糖衣炮弹”,容易令人信服。  

警醒:别让AI接管你的大脑!

AI的答案不是终点,而是思考的起点。AI可以是贴心的助手,但绝不会是完美的导师。从ChatGPT到DeepSeek,技术越强大,越需要我们清醒的头脑。

文字、图片、视频 | 佛山市新闻传媒中心记者陈敏珊、李青桃