网络安全必修课！AI大模型三大天花板、九大风险如何破局？
4月15日，正值全民国家安全教育日，由中共佛山市委网信办、中共佛山市禅城区委网信办主办，佛山市网络安全和信息化协会承办，中国电信股份有限公司佛山分公司协办的“网安大讲堂”在文华花市指挥中心开讲，为大家带来了最前沿的网络安全知识。
本期课堂，广州大学网络空间安全学院齐佳音教授以《人工智能时代大模型安全风险及应对》为题，分享了人工智能大模型的定义、用途、风险及应对方式，线下吸引到近200人前来参加，线上吸引到五区各市直单位负责网络信息安全的技术骨干及市民朋友超3100人次参与学习。
全市各级企事业单位纷纷打卡学习
开场时，齐教授抛出一个有趣的问题：大模型的核心是什么？
她随后解答到，大模型的核心是注意力机制，这好比人类看东西时，会自动把目光聚焦在重要部分，大模型也学会了这招。在处理信息时，它能够精准抓住关键信息，忽略不相关内容，从而提高处理效率及准确性。
不仅如此，大模型根据不同应用领域分类，也发挥着不同的作用，其包括 L0、L1、L2 三个层级。
图源：齐佳音教授课件
L0 通用大模型，如同高中生，是在多个领域和任务上可通用的大模型。
L1 行业大模型，如同大学生，是为特定领域设计的，可以通过使用相关数据进行预训练或微调，提升其在该领域的性能和准确性。
L2 垂直大模型，如同研究生，专注于特定任务或场景，同样也可以通过相关数据预训练或微调，增强任务性能。
而垂直大模型如何形成？
就医疗大模型举例来看，训练一个医疗领域的大语言模型，需要的步骤如下——先海量收集医学相关数据，再把这些数据“加工”成模型能读懂的格式，接着基于基座模型架构开始训练，最后还得请医疗专家把关，确保在真实医疗场景中真能派上用场。
如此强大的大模型，是否就完美无缺？
课上，齐佳音教授引用了中科院院士、清华大学教授张钹的一句话，无论多大模型、多大数据都无法突破三个天花板：“输出质量不可控，生成结果不可信，输出不稳定。”
课上，齐佳音教授举出9项大模型风险。
该风险会导致特定文化群体的传统认知被颠覆，进而影响文化传承。
大模型可能被恶意用户或组织用于政治意识形态领域，从而破坏社会信任。
比如在大型语言模型的描述中，女性从事家务劳动的频率是男性的4倍。
该风险会扰乱正常的信息传播生态，降低社会整体信任度。
比如ChatGPT 奶奶“病毒”，爆出Windows序列号。
人工智能生成内容有可能会构成作品侵权。
大模型可能成为低廉便捷的“科研枪手”。
劳动岗位风险
绝大多数职业和从业者将受到GPT冲击。
数字不平等风险
巨头垄断下更隐蔽的不平等。
其中，在劳动岗位风险中，拥有学士、硕士及更高学位的工作者相对普通人来说更容易受到 GPT 的冲击；不需要培训或只需实习的职业更易受 GPT 冲击；“数据处理、信息处理”深度相关的行业受到GPT影响最大。
除此之外，大模型也很可能将人带入被动性牢笼，即LLM成瘾，效率成瘾来源于人们从突如其来的“能够做得更快、更多”中尝到了“成功”的滋味，而忽视了工作质量、深度以及对个人和社会的长远影响。
面对这些风险，我们该怎么办？齐佳音教授表示：“目前尚无完美安全的模型，在DeepSeek之后，大模型需要谨防重应用轻安全的问题”。
2024年2月29日，全国信息安全标准化技术委员会发布《生成式人工智能服务安全基本要求》，旨在明确生成式人工智能服务在安全方面的基本要求，涵盖对其关键词库、生成内容测试题库、拒答测试题库、非拒答测试题库、语料来源、语料内容、语料标注、模型生成内容安全、服务透明度、生成内容准确和可靠及安全措施、安全评估等方方面面都提出了相应的要求，为生成式人工智能服务的安全发展保驾护航。
图源：齐佳音教授课件
最后，齐佳音教授强调，据大模型之家预测，从2020年到2028年，中国大模型市场规模将从15亿元人民币一路飙升至1179 亿元人民币。这一蓬勃发展的态势，彰显出人工智能技术蕴含的巨大潜力。同时，人工智能的技术之治也同样具有显著的经济价值和社会价值，是中国经验的重要组成部分，对于全球人工智能治理具有重大的借鉴意义。未来，仍需立足全人类的科学发展观，共同做好风险防范。
来源：佛山市网信协会新媒体中心
