周鸿祎,中国人民政治协商会议第十四届全国委员会委员,中国网络安全公司360集团董事长
一位著名的中国企业家在正在进行的“两场会议”的间隙表示,随着中国人工智能(AI)技术的加快速度进行发展,大型语言模型(LLM)是一把“双刃剑”,带来了效率的提高和挑战,应该理性地看待。
中国人民政治协商会议第十四届全国委员会(CPPCC)成员、360集团创始人周鸿祎周日表示,人工智能正在重塑每个行业,像DeepSeek这样的国内模式正在推动技术创新和中国经济稳步的增长。他说,专门的人工智能模型将作为智能代理部署在政府和企业中,整合内部知识库,以推动数字化转型和效率。
周鸿祎表示,传统安全解决方案没有办法解决幻觉和内容安全等挑战。他说,政府或企业系统内的基本模型、知识库或智能代理中的任何安全漏洞都可能引发整个生产环境中的系统性风险。
周鸿祎说,人们对AI幻觉的担忧慢慢的变大,法学硕士会产生清晰但具有误导性的信息,并警告说,在决策、法律解释和商业决策中,如果误导性输出影响关键流程,此类错误可能会造成安全风险。
然而,“幻觉不单单是一个缺陷,也是人工智能的固有特征。没有幻觉的模型是不聪明的,”周鸿祎说,他指出,这种产生意外联系的能力至关重要。例如,它能够在一定程度上帮助想象新的药物分子或蛋白质结构,推动创新超越传统方法。
人工智能幻觉能够最终靠检索增强生成(RAG)等技术来缓解,该技术通过交叉参考专业知识库和实时在线信息来纠正输出。
周鸿祎建议采取灵活的监管策略,容忍某些错误,而不是因小失误而迅速惩罚人工智能模型。他建议给公司更多时间来纠正他们的错误,从而鼓励强劲的创新和竞争。这种办法能够让更多的公司效仿DeepSeek的成就。
周鸿祎表示,除了幻觉之外,知识库安全和智能代理安全是人工智能部署中的另外两个主要安全问题。
他补充说,政府和企业的核心数据资产存储在内部知识库中,假如没有充分的保护,可能会被利用来通过人工智能交互提取敏感信息。
周鸿祎说,“例如,如果将关键文档输入到用于培训人工智能的知识库中,则存在模型可能无意中披露其所学的所有内容,允许没有经过授权访问机密数据。”
周鸿祎详细的介绍了智能代理如何广泛集成到政府和企业的IT系统中,使他们容易受到可能会引起重大中断的网络攻击。这些中断可能包括发送有害电子邮件到停止生产线,可能会引起严重的后果。
人工智能模型的生命周期——包括数据准备、培训和部署——引入了多个漏洞点。攻击者可通过这些阶段来破坏操作、绕过安全措施或发起没有经过授权的操作,因此导致服务中断。此外,LLM的开放性增加了其数据中毒、后门攻击和对抗性操纵的风险,加剧了安全挑战。
周鸿祎呼吁用AI重塑安全框架,倡导“用AI来保护人工智能”的方法。他提议使用安全人工智能模型来构建涵盖基础模型、知识库和智能代理的系统,确保政府和企业的安全数字化转型。
他强调需要推进安全技术创新和实施,呼吁制定政策,为基础模型、知识库和智能代理提供“安全加人工智能”解决方案来支持领先企业。利用安全人工智能模型,这一些企业可以加速研究,并将安全性嵌入到人工智能生命周期中。
近日,非常关注的山西“订婚案”二审公开宣判,“驳回上诉,维持原判”的裁定引发广泛讨论,中国妇女报连发三篇评论文章。
随着中美贸易冲突的升级,两国之间大宗商品的贸易流向正逐渐发生明显的变化:以大豆为例,分析人士指出,巴西有望进一步巩固中国最大大豆进口来源国的地位。美国大豆种植户警告,美国大豆可能将永远失去中国市场。
潮汕英歌与海阳大秧歌同台斗舞,二者气势各异,一个靠动作,一个靠呐喊,网友:看了一场跨越南北的非遗“对话 ”
潮汕英歌与海阳大秧歌同台斗舞,二者气势各异,一个靠动作,一个靠呐喊,网友:看了一场跨越南北的非遗“对话 ”
AG600是我国大飞机家族三兄弟之一,另外两兄弟是C919和运-20,这三兄弟术业有专攻,C919负责商业载客飞行、运-20负责战略作战运输,AG600则负责应急救援。自2016年总装下线飞机历经十年技术攻关与试飞验证,已成为航空强国的标志性成果。
浙江宁波慈溪是我国三大家电生产基地之一,其中出口美国的占比约16%。慈溪一家家电企业负责人和记者说,他们跟美国客户签署协议时,对方支付了30%的定金;而同规格洗衣机、冰箱的零部件通用性很强,能达到70%。因此,即便美国客户违约,他们也可将产品重新翻包后再次销售。
四月二十三日下午四点左右在深圳大运体育馆外面,发生了保安与直播刀迷口角事件,作者觉得不该发生的事却发生了,真是令人深思!笔者觉得事件中直播的刀迷难道忘记了刀郎公司发的倡议书吗?一切都要尊守当地的规定,倡议书写得清清楚楚不要在场馆内外聚集、不要拉横幅、标语、摇旗帜等活动!