【编者按】

在全国两会召开之际，本报今起推出“寻擎记”非常策划，以“新质生产力进展图谱”为坐标，观察科技创新与产业创新的共振效应。经过具有代表性的企业样本，探寻它们在科技创新、模式革新、转型升级等方面的独到之处，挖掘企业怎么在新质生产力的赛道上脱颖而出，成为行业进展的引擎。

近期，AI成为各界关注的焦点。在全国两会召开之际，同意中国证券报记者采访的部分代表委员表示，网络安全建设需要与时俱进，能够经过技术革新，用安全大模型来应对AI存在的潜在安全咨询题。“安全”必须要“快一步”——快一步抓产品、抓技术，既要看到技术的长板，也要看到技术的短板。

全国政协委员、360集团创始人周鸿祎：大模型广泛应用正构建网络安全新生态

“人工智能（AI）带来的安全咨询题，是数字安全的一部分。”全国政协委员、360集团创始人周鸿祎近日在同意中国证券报记者采访时表示，大模型快速迭代与成本降低，使得AI技术快速普及，成为带动千行百业生产力提升的新工具，但并且也带来AI幻觉、数据泄露、深度伪造等新浮现的大模型应用风险。

“大模型的广泛应用正在构建网络安全新生态。”周鸿祎将大模型带来的安全咨询题分为基座模型的安全咨询题、客户端的安全咨询题、知识数据的安全咨询题、智能体的安全咨询题四个层面，给出的解决思路是“以模制模”——用安全大模型来应对人工智能产生的安全咨询题，为数字世界的新进展构建一个安全底座。

关注大模型幻觉

今年以来，大模型领域各家企业争相发布新品，大模型性能不断提升，并且使用成本大幅降低，“大模型幻觉”也成为公众关注的热点。所谓“大模型幻觉”是指大模型有时会编造出好像合理或可信的信息，令人真假难辨。缘故一方面来自大模型的运行原理，它经过海量的数据训练，生成浮现概率最大的内容，另一方面也来自训练数据的局限性，训练数据本身也可能包含错误信息。

周鸿祎认为大模型的幻觉咨询题需要辩证看待。“幻觉是大模型的固有特点，没有幻觉的大模型不聪慧。”周鸿祎在同意记者采访时讲，大模型的幻觉使其拥有类似人们所拥有的想象力，能够创作剧本、撰写文章；在有些科学研究领域，大模型的想象力能够发挥关键作用。例如人工智能公司DeepMind开辟的AI模型AlphaFold，能准确预测蛋白质与DNA、RNA等生物分子的相互作用，为药物研发和结构生物学带来革命性的发展。

“但并且，大模型幻觉假如浮现在医疗、法律、金融、证券、生产创造等不能出错的环节，就会带来特别严重的妨碍。”周鸿祎讲，随着大模型的进展从“不可用”“凑合用”，到“彻底可用、能用”，需要采取措施防止大模型幻觉带来的安全风险。

周鸿祎表示，大模型应用软件能够经过链接互联网上的知识库来对信息进行校正，企业在应用大模型时能够接入企业专有知识库对幻觉进行校正。“大模型输出结果的差异来自其训练数据，把企业的重要资料放入知识库提供给大模型，大模型就能够依据知识库，知无不言，言无不尽了。”

解决大模型应用安全

近期，中国初创企业DeepSeek发布开源推理模型DeepSeek-R1，以极低的成本实现高性能表现，搅动了大模型市场格局，并且掀起了大模型领域的开源革命。据不彻底统计，已有数百家公司接入DeepSeek研发的大模型，其中包括国内三大基础运营商，国内外云服务企业、金融机构、手机厂商、车企等。大模型的应用差不多逐渐渗透到内容创作、金融、电信、自动驾驶等领域。

大模型的快速推广使得大模型应用的安全咨询题日益突出。周鸿祎认为，在基座模型层面，要解决大模型产生幻觉的咨询题，可经过连接知识库来校正。在客户端层面，周鸿祎表示：“以后人们许多工作会和公司里的大模型交流互动，于是要防范客户端产生的安全咨询题，防止来自客户端的安全攻击。”

而当大模型的应用催生出更多智能体（Agent），人们将自己的一部分工作职责移交给智能体，则会带来新的安全风险。“假设以后我的智能体能操作电脑，比如给财务职员发送邮件让对方转一笔钱，岂不是带来风险。”周鸿祎称。此外，假如大模型对接的知识库包含庞杂的知识数据，其中涉及个人隐私、商业机密等内容，则存在知识数据层面的安全咨询题，需要防范信息泄露风险。

面对大模型应用带来的基座模型、客户端、智能体、知识数据四个层面的网络安全新挑战，传统网络安全模式的局限性愈发明显。周鸿祎的解决思路是“以模制模”，经过研发安全大模型，来治理企业知识库的使用、智能体的调用，并参与治理基座模型产生幻觉的咨询题等。

激发产业新活力

周鸿祎认为，大模型的开源策略将帮助传统企业降本增效，要推动大模型的应用。“AI要引发工业革命，一定要推动AI技术在企业、政府等各类场景深入地使用，进入千家万户，进入千行百业。”

大模型不仅拥有海量知识，还具备出色的对话和推理能力。以医疗行业为例，大模型能够成为个人的医学顾咨询或慢性病专家，为人们提供健康指导。关于传统医院，大模型能加速其数字化改造，如有医院利用AI帮助病人完成自动预约、处理病历传真，大幅缩短病人候诊时刻。关于新兴的生物创造产业，大模型可作为研究工具，助力探究未知领域。

从挖掘生产力的角度看，大模型能在企业的决策、治理、业务流程等多个环节发挥作用。周鸿祎表示，大模型能为企业治理者提供决策支持，增强职员工作能力，改善内部治理和业务流程，提升产品与服务的质量，有效解决产业进展中的卡点和堵点，实现降本增效。

在企业落地点面，周鸿祎认为企业应用大模型要找准方向。首先是找场景，大模型适合解决企业特定专项、专业场景下的垂直咨询题，企业应结合自身业务，确定大模型的应用场景。其次，要打造专业知识库，收集企业内部的各种知识，让大模型更专业。最后，要打造智能体，并将其接入企业的OA办公流程，形成完整的应用体系。

全国政协委员、奇安信董事长齐向东：人工智能面临“成长”麻烦 需炼就两只慧眼

春节以来，国产AI大模型DeepSeek持续引发关注，各行各业展开“DeepSeek+”行动，人工智能应用加速普及。近日，全国政协委员、奇安信科技集团董事长齐向东在同意中国证券报记者专访时表示，DeepSeek凭借优异的性能、较低的成本、开源开放的生态，将推动人工智能大模型垂直应用的快速进展。

齐向东并且表示：“人工智能也有‘成长’的麻烦，随着人工智能技术的深度应用，安全挑战也日益严峻，保障人工智能时代的网络空间安全是扛在我们肩上的重任，网络安全公司要兼具两只慧眼，一只双眼要看到技术的长板，一只双眼要看到技术的短板。”

人工智能加速普及应用

谈及DeepSeek，齐向东讲，它将训练成本和推理成本都大大降低，对使用AI模型的应用开辟者来讲，是极大利好。

“过去受技术封锁与商业壁垒双重禁锢，人工智能领域难以实现资源的高效共享与全方位协同进展。又因为大模型训练需要大资金、大数据、大周期，门槛很高，中小创新公司很难参与其中，甚至有言论讲，惟独大公司才有资格玩大模型。”齐向东表示，DeepSeek的开源策略，就像发令枪，让人工智能行业开始摆脱“大公司大模型俱乐部”，中小公司得以与大公司在大模型技术上平等竞争，实现“技术平权”，人工智能应用将迈向资源共享、携手共进的将来。

在讨论DeepSeek所带来妨碍的并且，不少人也开始考虑，怎么孵化培育更多的像DeepSeek如此的创新成果。对此，齐向东认为，要接着守护并延续AI创新的“草根化”趋势，保持自下而上的创新张力。

安全与管理成为必答题

DeepSeek推动人工智能技术加速向千行百业渗透，与此并且，人工智能也有“成长”的麻烦。齐向东表示，随着人工智能技术的深度应用，大模型所面临的安全挑战也日益严峻。

“我们发现，现在越来越多的企业、个人开始将DeepSeek大模型私有化部署，而将近90%的服务器都没有采取安全措施，服务运行和数据安全岌岌可危。将来随着人工智能大模型的基础设施地位越来越突出，有针对性的恶意手段和风险场景也将激增，伴生的数据隐私、基础设施等安全风险超乎想象。关于整个人工智能行业来讲，平衡技术创新与安全风险必将成为重要课题。”齐向东强调。

齐向东认为，要系统提升安全能力，确保人工智能安全进展。“安全”必须要“快一步”——快一步抓产品、抓技术。所有技术都有短板，网络攻击者捕捉的算是技术的短板，而我们使用者看到的基本上技术的长板，我们安全公司要兼具两只慧眼，学会用两只双眼瞄两个方向，一只双眼要看到技术的长板，一只双眼要看到技术的短板。我们要练出特殊的功能和本领，为保障人工智能时代的网络空间安全贡献力量。

推进软件产业高质量进展

齐向东表示，包括安全在内的软件产业，是支撑新技术进展的关键，也是助推数字经济进展的重要力量。但目前，我国软件产业高质量进展遇到了不小的挑战。

他坦言，软件产业是“内卷式”竞争的重灾区，拖慢了软件产业的创新步伐。

他建议，加快开展集中整治，从国家、行业、地点政府等层面系统性强化产业激励、行业自律、人才吸引力，全面优化营商环境。比如相关部门出台适配不同产业的投标治理方法和实施细则，促进各个行业进行全方位自我规范。

全国人大代表，TCL创始人、董事长李东生：AI技术促进科技创造业进展

全国人大代表，TCL创始人、董事长李东生近日同意记者采访时介绍，针对大型科技创造业企业融资受限、融资规模与企业进展需求不匹配等咨询题，他提出优化科技创造业融资环境的建议。关于近期市场关注的AI相关话题，李东生提出加强对AI深度伪造欺诈治理的建议。他表示，以DeepSeek为代表的AI技术的进展，对科技创造业的进展提供了很大帮助，TCL打算在将来两三年的时刻里，大幅提高自身算力中心能力。

建议优化科技创造业融资环境

TCL成立四十多年来，从最初生产磁带的小作坊工厂，已进展成为具有全球竞争力的科技产业集团。TCL科技上市后，公司得以经过资本市场融资，为持续在高端科技创造领域的研发投入和产能建设提供资金支持；借助深交所平台，提升公司在行业内的知名度和妨碍力，吸引更多科研人才和加强与科研机构的合作，有利于技术攻关和自主创新能力提升；规范的资本市场监管促使公司不断完善创新治理体系，保障创新活动高效开展，进而推动新质生产力进展，实现业绩可持续增长。

李东生深耕科技创造业，多年来，他一直积极为科技创造业的进展建言献策。随着全球科技变革和中国经济转型升级，科技创造业已成为中国经济高质量进展的重要基石，但与全球率先的科技企业相比，在集成电路创造、半导体显示等产业，中国企业仍处于追赶超越时期。

针对目前大型科技创造业企业融资受限，融资规模与企业进展需求不匹配等咨询题，李东生提出优化科技创造业融资环境的建议。他认为，科技创造业具有高科技、重资产、长周期的产业属性，投入资本金高、回收周期长，投资规模往往超过百亿元，且有持续投资需求，需要相应的权益性资本融资。

李东生表示，借助资本市场再融资是企业处于积累时期推动进展的必要条件，也是企业走向全球率先的必经时期。

加强AI深度伪造欺诈治理

近期，人工智能技术进展备受关注。李东生认为，把AI技术应用于供应链的智能化改造和升级，能够提高生产创造的质量和效率；把AI技术应用到产品的设计研发中，能够提高技术进展的速度。其实，在创造业中，AI技术早已被应用，2018年TCL在波兰设立的欧洲研发中心就已聚焦人工智能的研发，此外TCL华星建立了自己的垂类大模型——星智大模型。

“我们做了个统计，去年TCL经过AI应用制造的经济效益超过5亿元，而同期我们在AI上的投入成本不到那个数。”李东生表示，以DeepSeek为代表的AI技术的进展，对科技创造业的进展提供了很大帮助。将来两三年，TCL将大幅提高其算力中心的能力，更好地支撑企业的智能化进展。

今年，李东生针对AI深度伪造欺诈咨询题提出相关代表建议。一方面，生成式人工智能技术的进步给各个领域带来机遇，另一方面，AI深度伪造内容侵权现象愈演愈烈，欺诈事件频发。针对AI深度伪造内容治理咨询题，近年来，我国相关立法虽有关注这一议题，但已出台的规章制度还不具备可操作的细则和明确的处罚标准。

对此，他提出了四点具体建议：一是加快人工智能深度合成内容标识治理规章制度的出台。二是明确对人工智能深度合成服务商未履行标识义务的惩罚制度，完善未按要求进行标识的行为界定、分类细则，以及相应的处罚标准。三是加强对深度合成内容标识技术标准和发布的治理，保证标识的有效性，对相关内容平台出台要求，用户在发布深度合成的视频、音频等内容时，有义务对其进行标识。四是加强国际合作，形成对人工智能生成合成内容的有效监管。

来源：中证网