#安全是人工智能行业的重要课题
齐向东表示,随着大模型基础设施地位日益凸显,针对性的恶意手段和风险场景激增,数据隐私、认知安全等安全隐患也明显增加。平衡技术创新与安全风险,成为人工智能行业的重要课题。
面对企业如何实现安全与创新的动态平衡问题,齐向东提出“三维防御体系”:构建适配大模型的纵深防御,涵盖数据、终端、API全链路防护;运用AI对抗AI,以智能安全技术应对海量攻击;建立分钟级应急响应机制,实现风险早发现快处置。他建议通过出台大模型网络数据安全强制合规要求等文件,对企业做好人工智能时代的安全防护工作给予清晰指引;设立专项基金推动“AI+安全”创新,通过“安全体检”机制帮助科技企业查漏补缺,提升新兴场景的安全防护效能。
#个人隐私保护
全国政协委员、安天科技集团首席技术架构师肖新光认为,手机厂商和第三方App之间的关系类似商场和商户需要有行为边界。建议面对快速发展、日新月异的AI与智能设备发展情况,需由相关主管部门、行业协会和消费者协会推动手机厂商、互联网(含大模型)平台厂商、移动应用厂商和消费者协商。在用户个人信息采集、安全权限设定、无障碍功能使用、API标准接口授权机制等领域推进理解,更好地促进各方权责利的平衡,共同推进AI应用的行业合规,避免出现消费者权益和隐私安全受损。
#推动安全大模型发展与应用
近年来,一批企业加大研发投入,积极探索新技术在产品和服务中的应用,取得了显著成效。“如以DeepSeek为代表的创新科技体,以较低的资金成本和算力投入,实现了对OpenAI等美国通用大模型企业的技术超越,在全球人工智能领域树立了高质量发展的‘中国范例’。同时,人工智能大模型技术正通过降低技术门槛走向百行千业,让更多中小企业得以借助智能化工具优化管理、降本增效,并推动制造业、服务业等领域的全链条智能化升级。”在周鸿祎看来,通过人工智能领域的技术创新,进一步激发了企业的创新力。
不过周鸿祎也提出,当前人工智能发展仍然存在数智化技术与传统产业融合深度不足、应用场景开发有待深化、大模型安全挑战复杂多变等现实问题。因此,要通过人工智能有效提升新质生产力,既应筛选高价值应用场景,提升我国产业智能化水平,也应做好应对人工智能大模型发展过程中所面临各类安全挑战的准备。
“为保障大模型技术健康发展,还需从大模型安全、网络安全和数据安全三个方向发力。”周鸿祎建议,大模型安全层面,应鼓励人工智能安全链主企业牵头,联合产业链上下游及科研机构开展大模型安全技术研发,推动成果转化,实施柔性监管,优化安全监管机制,在发展与安全间寻求平衡;网络安全方面,应推动安全大模型发展应用,搭建产学研合作平台,整合数据资源,完善标准体系,促进安全大模型与现有防护系统对接,提升整体防护效率,推广安全服务模式,引导市场向服务型转变,打造良性竞争环境,引导从价格战转向能力比拼;数据安全方面,应建立国家级平台,实现数据安全共享,协同防御、优势互补,统一标准规范,大力培养人才、提升公众意识,鼓励新技术研发应用,全方位破解数据安全难题。
人工智能并非短期风口,而是未来百年变局的战略支点。周鸿祎表示,企业要紧紧抓住这一机遇,以科技创新引领产业创新,积极培育和发展新质生产力,推动大模型与百行千业深度、安全进行融合,才能将人工智能的技术势能转化为新质生产力的发展动能,为中国式现代化注入澎湃动力。
#人工智能安全和数据安全治理
#在开源领域实现自立自强
全国政协委员、中国科学院院士王怀民(研究领域包括分布式系统安全和软件工程)指出,人工智能开源领域中,源自中国的原创项目在国际开源社区崭露头角,成为中国人才展现实力、形成国际影响力的重要契机,这一现象也体现出中国人才培养与科技创新环境的积极成果。
王怀民特别强调,当前国际上GitHub在开源领域占据主导地位,是开源项目获得广泛关注与认可的关键平台。然而,中国至今缺乏与之媲美的开源场所。与此同时,美国多次出现限制技术向中国传递的声音,甚至提出相关议案。这一行为不仅阻碍开源生态的自由发展,也对中国相关领域的技术进步构成威胁。
王怀民认为,中国在开源领域实现自立自强至关重要,这不仅是推动开源发展的关键举措,更是培育新一代人才、助力其脱颖而出的重要基础设施。

评论