“人工智能（AI）带来的安全咨询题，是数字安全的一部分。”全国政协委员、360集团创始人周鸿祎近日在同意中国证券报记者采访时表示，大模型快速迭代与成本降低，使得AI技术快速普及，成为带动千行百业生产力提升的新工具，但并且也带来AI幻觉、数据泄露、深度伪造等新浮现的大模型应用风险。

全国政协委员、360集团创始人周鸿祎

“大模型的广泛应用正在构建网络安全新生态。”周鸿祎将大模型带来的安全咨询题分为基座模型的安全咨询题、客户端的安全咨询题、知识数据的安全咨询题、智能体的安全咨询题四个层面，给出的解决思路是“以模制模”——用安全大模型来应对人工智能产生的安全咨询题，为数字世界的新进展构建一个安全底座。

关注大模型幻觉

今年以来，大模型领域各家企业争相发布新品，大模型性能不断提升，并且使用成本大幅降低，“大模型幻觉”也成为公众关注的热点。所谓“大模型幻觉”是指大模型有时会编造出好像合理或可信的信息，令人真假难辨。缘故一方面来自大模型的运行原理，它经过海量的数据训练，生成浮现概率最大的内容，另一方面也来自训练数据的局限性，训练数据本身也可能包含错误信息。

周鸿祎认为大模型的幻觉咨询题需要辩证看待。“幻觉是大模型的固有特点，没有幻觉的大模型不聪慧。”周鸿祎在同意记者采访时讲，大模型的幻觉使其拥有类似人们所拥有的想象力，能够创作剧本、撰写文章；在有些科学研究领域，大模型的想象力能够发挥关键作用。例如人工智能公司DeepMind开辟的AI模型AlphaFold，能准确预测蛋白质与DNA、RNA等生物分子的相互作用，为药物研发和结构生物学带来革命性的发展。

“但并且，大模型幻觉假如浮现在医疗、法律、金融、证券、生产创造等不能出错的环节，就会带来特别严重的妨碍。”周鸿祎讲，随着大模型的进展从“不可用”“凑合用”，到“彻底可用、能用”，需要采取措施防止大模型幻觉带来的安全风险。

周鸿祎表示，大模型应用软件能够经过链接互联网上的知识库来对信息进行校正，企业在应用大模型时能够接入企业专有知识库对幻觉进行校正。“大模型输出结果的差异来自其训练数据，把企业的重要资料放入知识库提供给大模型，大模型就能够依据知识库，知无不言，言无不尽了。”

解决大模型应用安全

近期，中国初创企业DeepSeek发布开源推理模型DeepSeek-R1，以极低的成本实现高性能表现，搅动了大模型市场格局，并且掀起了大模型领域的开源革命。据不彻底统计，已有数百家公司接入DeepSeek研发的大模型，其中包括国内三大基础运营商，国内外云服务企业、金融机构、手机厂商、车企等。大模型的应用差不多逐渐渗透到内容创作、金融、电信、自动驾驶等领域。

大模型的快速推广使得大模型应用的安全咨询题日益突出。周鸿祎认为，在基座模型层面，要解决大模型产生幻觉的咨询题，可经过连接知识库来校正。在客户端层面，周鸿祎表示：“以后人们许多工作会和公司里的大模型交流互动，于是要防范客户端产生的安全咨询题，防止来自客户端的安全攻击。”

而当大模型的应用催生出更多智能体（Agent），人们将自己的一部分工作职责移交给智能体，则会带来新的安全风险。“假设以后我的智能体能操作电脑，比如给财务职员发送邮件让对方转一笔钱，岂不是带来风险。”周鸿祎称。此外，假如大模型对接的知识库包含庞杂的知识数据，其中涉及个人隐私、商业机密等内容，则存在知识数据层面的安全咨询题，需要防范信息泄露风险。

面对大模型应用带来的基座模型、客户端、智能体、知识数据四个层面的网络安全新挑战，传统网络安全模式的局限性愈发明显。周鸿祎的解决思路是“以模制模”，经过研发安全大模型，来治理企业知识库的使用、智能体的调用，并参与治理基座模型产生幻觉的咨询题等。

激发产业新活力

周鸿祎认为，大模型的开源策略将帮助传统企业降本增效，要推动大模型的应用。“AI要引发工业革命，一定要推动AI技术在企业、政府等各类场景深入地使用，进入千家万户，进入千行百业。”

大模型不仅拥有海量知识，还具备出色的对话和推理能力。以医疗行业为例，大模型能够成为个人的医学顾咨询或慢性病专家，为人们提供健康指导。关于传统医院，大模型能加速其数字化改造，如有医院利用AI帮助病人完成自动预约、处理病历传真，大幅缩短病人候诊时刻。关于新兴的生物创造产业，大模型可作为研究工具，助力探究未知领域。

从挖掘生产力的角度看，大模型能在企业的决策、治理、业务流程等多个环节发挥作用。周鸿祎表示，大模型能为企业治理者提供决策支持，增强职员工作能力，改善内部治理和业务流程，提升产品与服务的质量，有效解决产业进展中的卡点和堵点，实现降本增效。

在企业落地点面，周鸿祎认为企业应用大模型要找准方向。首先是找场景，大模型适合解决企业特定专项、专业场景下的垂直咨询题，企业应结合自身业务，确定大模型的应用场景。其次，要打造专业知识库，收集企业内部的各种知识，让大模型更专业。最后，要打造智能体，并将其接入企业的OA办公流程，形成完整的应用体系。

来源：中证网