设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

专访呼娜英:AI安全“隐形战场”上,如何破解全链条风险?

2025-02-19 09:39:30 来源:

  中新经纬2月18日电 (孙庆阳)“人工智能的安全与可用性面临全链条、多维度交织的复杂风险挑战,需通过国际合作、技术创新和标准制定来应对。”近日,中国信息通信研究院人工智能研究所高级业务主管呼娜英在巴黎人工智能(AI)行动峰会后接受中新经纬专访时表示,未来五到十年,人工智能技术将持续深化,增强语言大模型能力是重点方向。同时,多模态模型有望加速突破,提升图文理解和跨模态交互能力。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英 受访者供图cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  网络和框架是AI系统安全的根基cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在最近的巴黎人工智能(AI)行动峰会上,AI安全性和可用性成为了全球AI产业人士的共同关注焦点。呼娜英指出,当前AI在安全性和可用性方面面临的是全链条、多维度相互交织的复杂风险挑战。随着人工智能模型复杂度和规模的不断提升,其训练、部署、应用等关键环节中面临的数据安全、网络安全、框架安全、模型算法安全以及应用平台安全问题日益突出。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在基础设施方面,网络安全和框架安全关乎整个AI系统的稳定运行根基。以DeepSeek为例,R1模型在刚刚上线提供服务后,便遭到大规模DDoS(分布式阻断服务)攻击,导致服务中断,用户无法正常访问。在数据方面,训练数据被“投毒”(通过恶意注入虚假或误导性的数据来污染模型的训练数据集),以及训练使用敏感行业数据、个人隐私数据等,一旦数据被“投毒”,训练出的模型将产生偏差,做出错误决策,而敏感数据的不当使用则可能引发严重的法律风险和社会信任危机。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在模型算法层面,以大模型为代表的生成式模型面临严峻的越狱攻击、提示词注入攻击等威胁,模型容易在用户恶意操作下输出违法有害或侵害权益的信息。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  此外,模型的“幻觉”(模型生成的不真实、编造或与上下文不一致的内容)问题突出,也成为了制约人工智能产业化落地的重要因素。在应用层面,人工智能技术容易被滥用和误用,比如利用图像生成技术伪造虚假新闻图片误导公众,或在自动化决策系统中因算法偏见导致对特定群体的不公平对待,这些行为严重扰乱了正常的社会秩序与市场环境。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  如何显著提升AI系统安全性?cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英强调,全球均在探索风险管理的可行路径,针对人工智能风险开展有效的“识别、评估、应对”方案一定程度上成为共识。其中,最重要的一环是对于安全问题的检测技术和防护手段。在检测方面,一是形成对于开源框架、源代码以及网络等软硬件基础设施的漏洞挖掘技术,精准定位潜在隐患。特别是开源框架、代码中存在的未被发现的漏洞,极易被利用实施大规模的攻击和勒索。如去年年初,人工智能开源框架Ray被发现存在漏洞,并被攻击人员利用攻击数百个集群。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  二是形成数据“投毒”检测技术,用于守护训练数据的纯净性,防范通过训练的方式,在模型中埋入后门。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  三是建立大模型等模型算法漏洞自动化测试技术,扫描算法中的薄弱环节,快速生成测试报告。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  四是基于现有的自动化渗透技术能力,形成面向人脸识别、智能体等人工智能典型应用的自动化渗透技术产品,模拟黑客攻击,全方位探测应用平台的安全漏洞,充分发掘人工智能各方面的安全风险。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英还指出,在防护层面,需要探索软硬件基础设施的漏洞自动化修复技术,自动修复受损代码,降低安全风险。此外,还可以探索实践模型漏洞自动化微调和加固技术,对模型进行自动化优化,增强其抵御攻击的能力,保障人工智能系统稳定、安全地运行。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  中国智慧引领未来AI治理新格局cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英认为,推动人工智能安全治理合作依然是势不可挡的,也是确有必要的。人工智能的开发、部署和使用具有全球化特征,人工智能技术的应用与影响并非局限于某一地区或国家,而是深刻影响全球社会、经济和政治秩序。为人类共同未来建立务实可行的国际对话与合作机制,需要多方努力。未来,国际社会应在联合国框架下凝聚各方共识,依托国际标准化组织深化技术标准协同,务实推进人工智能安全治理工作。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  一直以来,中国在全球人工智能治理领域积极作为并推动加强国际合作。例如,中国信通院积极参与国际标准制定,发起《人工智能安全承诺》促进行业自律,下一步将依托工业和信息化部人工智能技术标准委员会,持续完善国内标准体系,推动安全测试、风险评估、可信要求等技术规范转化为国际共识,促进技术标准和指引的深入实践与应用。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英预测,未来五到十年内,人工智能技术将持续深化演进。一方面,增强语言大模型能力仍是技术升级的重点方向之一,推理或将获得更多关注和资源投入。另一方面,多模态模型有望加速突破,从以语言大模型为骨干的多模态模型,向原生多模态模型演变,提升图文理解和跨模态交互能力。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英认为,在安全与可用性方面,以下趋势值得关注:在风险识别方面,随着人工智能技术日益融入经济社会发展各领域全过程,其安全风险面不断扩大,对人工智能安全风险识别方法论的研究将不断完善,从而催生更加敏捷、精准的安全风险识别机制。在风险应对方面,对算法模型毒性、鲁棒性、公平性等方面的评测技术工具研究将不断加强,将人工智能基础设施、算法模型、上层应用以及产业链等方面作为评估重点,并在机制方案上动态迭代、技术能力上持续提升,从而有效防范和应对治理风险。(中新经纬APP)cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  中新经纬版权所有,未经授权,不得转载或以其他方式使用。cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

责任编辑:张芷菡cVF流量资讯——探索最新科技、每天知道多一点LLSUM.COM

本文链接:专访呼娜英:AI安全“隐形战场”上,如何破解全链条风险?http://www.llsum.com/show-5-46596-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 杨立钒:DeepSeek“逆袭”电商,成本地部署“黑马”

下一篇: 国家发改委:对民企反映的困难问题将精准施策助企纾困

热门资讯

  • 1月钢铁市场震荡延续 钢企盈利面临收缩压力

      1月钢铁市场震荡延续 钢企盈利面临收缩压力  证券时报记者 黄翔  2023年下半年以来,国内钢材市场开始呈现震荡上涨的行情。进入2024年,钢价能否延续这一趋势受到关注

  • 25省份出台预制菜发展标准 上下游行业等待“国标”出台

      25省份出台预制菜发展标准 上下游行业等待“国标”出台  预制菜行业进入发展的快车道。  从2020年开始,预制菜概念逐渐走入大众视野,市场规模不断扩大。截至2022年,预

  • 直播电商人才:是“野蛮生长”还是“学院派”培养

      直播电商人才:是“野蛮生长”还是“学院派”培养  在2024年寒假来临之前,北京电子科技职业学院电子商务(京东定向培养)专业的学生,迎来了一次直播实操培训课。  整个教

  • 海口秀英出台楼宇经济扶持政策 最高奖励300万元

    中国经济导报、中国发展网讯 为加快构建“一区三圈四园”产业发展新格局,发挥商务楼宇安商引商的引擎作用,2月21日,《海口市秀英区促进楼宇经济高质量发展扶

  • 湖北天门:铆足干劲 奋力夺取一季度“开门红”

    一年之计在于春。2月20日,湖北省天门市委书记、市人大常委会主任纪道清调研工业经济“开门红”工作。他强调,要牢牢把握高质量发展这个首要任务,把稳增长放在

  • 标准缺失 价格无序 宠物蛋糕野蛮生长

      标准缺失 价格无序 宠物蛋糕野蛮生长    宠物美容、宠物寄养接连掀起消费浪潮,宠物蛋糕正在成为下一个浪潮。近日,好利来集团推出全新宠物烘焙品牌Holiland Pet,据介绍,H

  • “新年刚过,我已经买好了十一旅游的机票”

      “新年刚过,我已经买好了十一旅游的机票”    中新网北京2月23日电(张钰惠)在年初就买好全年的旅行机票,是一种怎样的体验?近日,三亚、哈尔滨等网红城市的天价返程机票引

  • 春节档票房破纪录,希望不会成为难以翻越的大山

      春节档票房破纪录,希望不会成为难以翻越的大山    春节档是全年电影的风向标,优异的春节档票房成绩,会鼓励从业者加倍努力,也会给市场增添希望,但不排除今年春节档会成为

  • 我跨境电商占韩海外直购市场近半份额

      我跨境电商占韩海外直购市场近半份额  作者 杨明  凭借“高性价比”和“低物流费”等优势,中国跨境电商企业已占据韩国海外直购市场的近一半份额,本地化服务的提升也

  • 福建今年首个核电机组工程开工

      福建今年首个核电机组工程开工  中新社漳州2月22日电 (记者 张金川)福建漳州核电3号机组22日开工建设,这是福建今年首台开工建设的核电机组,标志着漳州核电二期工程建设

  • 西王集团等被执行超3.3亿

      中新经纬2月22日电 据中国执行信息公开网消息,西王集团有限公司(以下简称“西王集团”)、西王国际贸易(青岛)有限公司、王勇、王棣、王伟2月20日被青岛市中级人民法院执

  • 亚布力对话|居然之家汪林朋:出海首站瞄准东南亚

      中新经纬2月22日电(王玉玲 刘雪玉)22日,居然之家创始人兼董事长汪林朋在亚布力中国企业家论坛间隙接受中新经纬专访时表示,2024年,居然之家将把主要精力聚焦在出海业务上,将

推荐资讯

  • 大悦城:2023年酒店收入9.70亿元,同比增长75.14%

    近日,大悦城发布了2023年年报。报告显示,2023年,大悦城在巩固现有住宅与商业优势的基础上,通过“轻重并举”的发展策略,持续扩大购物中心、写字楼与产业地产、酒店、长租公寓等经

  • 苏北首家voco酒店—海州湾voco酒店开业

    扬子晚报消息,近日,洲际酒店集团旗下品牌——voco酒店在连云区开门迎客。据悉,海州湾voco酒店是苏北的首家voco酒店,酒店位于东部城区CBD商务中心黄金地带,周边聚集了在海一方公

  • 投资14.4亿元,山东江泉文旅城·琅琊梦工厂项目签约

      近日,在2024山东省文旅产业高质量发展大会上,罗韵文化旅游发展集团有限公司与浙江浙旅投资有限责任公司签订江泉文旅城·琅琊梦工厂项目战略合作协议。据悉,该项目计划总投

  • 青岛鲲鹏主题乐园将于“五一”期间对外开放

      近日,据了解,由海控集团投资建设的青岛鲲鹏主题乐园将于“五一”期间正式对外开放。  该项目位于青岛红树林度假世界园区内,占地面积约15000㎡。鲲鹏主题乐园以自然、互

  • 如此朴素,如此节制

    《孔秀》是导演王超的第九部电影,也是王超第一次改编他人的作品。这部影片改编自作家张秀珍的半自传小说《梦》,讲述了20世纪60年代到80年代,一位名叫

  • 网络文学与评论有效互动,造就时代文学新景观

    网络文学正处在转型升级、迭代发展的进程中,不同类型的网络作家以不同的想象方式与叙事模式,生发网络文学的新变,在国内和海外不断拓展着网络文学影响

  • 浙江杭州拟发布有关保障性住房新政

      近日,杭州市政府网站发布关于《杭州市保障性住房配售管理办法(试行)》(征求意见稿),向全社会公开征求意见。  《配售管理办法》共31条,包括总则、定价和供应、申请和审核、售

  • 锦江酒店(中国区)成立度假公寓事业部、中高端业务部

    近日,在锦江酒店(中国区)的2024年度会议上,锦江酒店(中国区)CEO王伟首次公布公司全新品牌战略。此轮品牌架构优化中,还特别成立了独立的度假公寓事业部,形成以覆盖不同细分市场的暻

  • 洲际酒店集团公布2024年第一季度财报

    5月7日,洲际酒店集团公布2024年第一季度财报。第一季度全球每间可售房收入(RevPAR)同比增长2.6%,其中美洲市场下降0.3%,欧洲、中东、非洲及亚洲市场(EMEAA)增长8.9%,大中华区市场增

  • 斯里兰卡:继续免除中国等七国公民的签证费用

      据斯里兰卡第一新闻网(newsfirst)于当地时间5月6日晚间发表的报道,斯里兰卡内阁决定继续免除中国、印度、俄罗斯、日本、马来西亚、泰国和印度尼西亚七个国家的公民签证

  • 上海文旅局等8部门联合发布奖励政策,最高可达500万元

      近日,上海市商务委员会、市文化和旅游局等8部门联合印发《上海市进一步促进商旅文体展联动吸引扩大消费的若干措施》(以下简称《若干措施》),推出16条措施,深化商旅文体展

  • 桂林:全面实施景区焕新工程

      近日,桂林市召开A级旅游景区服务质量警示教育工作会议,提出聚焦问题难点,全面实施景区焕新工程,推动全市A级旅游景区高质量发展。  会议提出,要认真梳理去年对全市A级旅游

  • 日榜
  • 周榜
  • 月榜