设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

专访呼娜英:AI安全“隐形战场”上,如何破解全链条风险?

2025-02-19 09:39:30 来源:

  中新经纬2月18日电 (孙庆阳)“人工智能的安全与可用性面临全链条、多维度交织的复杂风险挑战,需通过国际合作、技术创新和标准制定来应对。”近日,中国信息通信研究院人工智能研究所高级业务主管呼娜英在巴黎人工智能(AI)行动峰会后接受中新经纬专访时表示,未来五到十年,人工智能技术将持续深化,增强语言大模型能力是重点方向。同时,多模态模型有望加速突破,提升图文理解和跨模态交互能力。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英 受访者供图zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  网络和框架是AI系统安全的根基zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在最近的巴黎人工智能(AI)行动峰会上,AI安全性和可用性成为了全球AI产业人士的共同关注焦点。呼娜英指出,当前AI在安全性和可用性方面面临的是全链条、多维度相互交织的复杂风险挑战。随着人工智能模型复杂度和规模的不断提升,其训练、部署、应用等关键环节中面临的数据安全、网络安全、框架安全、模型算法安全以及应用平台安全问题日益突出。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在基础设施方面,网络安全和框架安全关乎整个AI系统的稳定运行根基。以DeepSeek为例,R1模型在刚刚上线提供服务后,便遭到大规模DDoS(分布式阻断服务)攻击,导致服务中断,用户无法正常访问。在数据方面,训练数据被“投毒”(通过恶意注入虚假或误导性的数据来污染模型的训练数据集),以及训练使用敏感行业数据、个人隐私数据等,一旦数据被“投毒”,训练出的模型将产生偏差,做出错误决策,而敏感数据的不当使用则可能引发严重的法律风险和社会信任危机。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在模型算法层面,以大模型为代表的生成式模型面临严峻的越狱攻击、提示词注入攻击等威胁,模型容易在用户恶意操作下输出违法有害或侵害权益的信息。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  此外,模型的“幻觉”(模型生成的不真实、编造或与上下文不一致的内容)问题突出,也成为了制约人工智能产业化落地的重要因素。在应用层面,人工智能技术容易被滥用和误用,比如利用图像生成技术伪造虚假新闻图片误导公众,或在自动化决策系统中因算法偏见导致对特定群体的不公平对待,这些行为严重扰乱了正常的社会秩序与市场环境。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  如何显著提升AI系统安全性?zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英强调,全球均在探索风险管理的可行路径,针对人工智能风险开展有效的“识别、评估、应对”方案一定程度上成为共识。其中,最重要的一环是对于安全问题的检测技术和防护手段。在检测方面,一是形成对于开源框架、源代码以及网络等软硬件基础设施的漏洞挖掘技术,精准定位潜在隐患。特别是开源框架、代码中存在的未被发现的漏洞,极易被利用实施大规模的攻击和勒索。如去年年初,人工智能开源框架Ray被发现存在漏洞,并被攻击人员利用攻击数百个集群。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  二是形成数据“投毒”检测技术,用于守护训练数据的纯净性,防范通过训练的方式,在模型中埋入后门。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  三是建立大模型等模型算法漏洞自动化测试技术,扫描算法中的薄弱环节,快速生成测试报告。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  四是基于现有的自动化渗透技术能力,形成面向人脸识别、智能体等人工智能典型应用的自动化渗透技术产品,模拟黑客攻击,全方位探测应用平台的安全漏洞,充分发掘人工智能各方面的安全风险。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英还指出,在防护层面,需要探索软硬件基础设施的漏洞自动化修复技术,自动修复受损代码,降低安全风险。此外,还可以探索实践模型漏洞自动化微调和加固技术,对模型进行自动化优化,增强其抵御攻击的能力,保障人工智能系统稳定、安全地运行。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  中国智慧引领未来AI治理新格局zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英认为,推动人工智能安全治理合作依然是势不可挡的,也是确有必要的。人工智能的开发、部署和使用具有全球化特征,人工智能技术的应用与影响并非局限于某一地区或国家,而是深刻影响全球社会、经济和政治秩序。为人类共同未来建立务实可行的国际对话与合作机制,需要多方努力。未来,国际社会应在联合国框架下凝聚各方共识,依托国际标准化组织深化技术标准协同,务实推进人工智能安全治理工作。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  一直以来,中国在全球人工智能治理领域积极作为并推动加强国际合作。例如,中国信通院积极参与国际标准制定,发起《人工智能安全承诺》促进行业自律,下一步将依托工业和信息化部人工智能技术标准委员会,持续完善国内标准体系,推动安全测试、风险评估、可信要求等技术规范转化为国际共识,促进技术标准和指引的深入实践与应用。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英预测,未来五到十年内,人工智能技术将持续深化演进。一方面,增强语言大模型能力仍是技术升级的重点方向之一,推理或将获得更多关注和资源投入。另一方面,多模态模型有望加速突破,从以语言大模型为骨干的多模态模型,向原生多模态模型演变,提升图文理解和跨模态交互能力。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英认为,在安全与可用性方面,以下趋势值得关注:在风险识别方面,随着人工智能技术日益融入经济社会发展各领域全过程,其安全风险面不断扩大,对人工智能安全风险识别方法论的研究将不断完善,从而催生更加敏捷、精准的安全风险识别机制。在风险应对方面,对算法模型毒性、鲁棒性、公平性等方面的评测技术工具研究将不断加强,将人工智能基础设施、算法模型、上层应用以及产业链等方面作为评估重点,并在机制方案上动态迭代、技术能力上持续提升,从而有效防范和应对治理风险。(中新经纬APP)zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  中新经纬版权所有,未经授权,不得转载或以其他方式使用。zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

责任编辑:张芷菡zLx流量资讯——探索最新科技、每天知道多一点LLSUM.COM

本文链接:专访呼娜英:AI安全“隐形战场”上,如何破解全链条风险?http://www.llsum.com/show-5-46596-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 杨立钒:DeepSeek“逆袭”电商,成本地部署“黑马”

下一篇: 国家发改委:对民企反映的困难问题将精准施策助企纾困

热门资讯

  • 老赖“要求美颜”露马脚被抓

      老赖“要求美颜”露马脚被抓  本报讯 记者黄辉 通讯员元春华 武慧慧 “能不能给我开个美颜?”被执行人在法院抖音里看到自己的失信行为被曝光后,竟然笑嘻嘻地在抖音评论

  • 增值税发票数据显示:春节假期中国服务消费火热

      增值税发票数据显示:春节假期中国服务消费火热  中新社北京2月18日电 (记者 赵建华)中国国家税务总局18日公布的增值税发票数据显示,今年春节假期(正月初一至初八)中国

  • 2024年春节档票房创中国影史新高

      2024年春节档票房创中国影史新高  中新社北京2月17日电 (记者 高凯)据灯塔专业版数据,截至北京时间2月17日13时50分,2024年春节档总票房达78.44亿元(人民币,下同),超过202

  • 大湾区五年“马力”十足

    从广州市区驱车一个多小时,到达依山傍水的从化区。香港赛马会从化马场就坐落在从化流溪河畔的半山腰上,四周树木葱郁,山峰连绵。五年前的2月18日,《粤

  • 完善全域覆盖的生态环境分区管控体系

    作者:秦天宝(武汉大学环境法研究所所长)2023年11月,中央全面深化改革委员会第三次会议审议通过了《关于全面推进美丽中国建设的意见》《关于加强生态环

  • 社评:布林肯的“餐桌菜单论”说明了什么

    美国国务卿布林肯近日在参加慕安会时说的一句话,可以被解读的空间很大,也值得深入解读一下。他在回答主持人关于“美中紧张局势正在导致更大的分裂”提问

  • 杏林春暖 百姓安康

    北京朝阳小红门社区卫生服务中心春节守“医线”不打烊本报记者 | 王春华2月13日,大年初四的早上7点半,北京市朝阳区小红门社区卫生服务中心二楼的一处诊室内,

  • 新一轮雨雪冰冻天气来袭 湖南积极备战保民生

    新华社记者周楠、余春生、谢奔“路上快要结冰了,开车要注意安全。”2月21日中午,在省道S306茶垭段,寒风瑟瑟,湖南省桑植县竹叶坪乡政府工作人员李雅敏正和同事

  • 西安青岛居民3月6日起可办理往来港澳“个人旅游签注”

      西安青岛居民3月6日起可办理往来港澳“个人旅游签注”  中新网2月23日电 据中华人民共和国出入境管理局网站消息,近日,国务院批准增加陕西省西安市、山东省青岛市为内地

  • 新能源完成投资额同比增长超34% 2023年能源投资保持快速增长

      2023年能源投资保持快速增长(新数据 新看点)  新能源完成投资额同比增长超34%  本报北京2月22日电 (记者丁怡婷)记者近日从国家能源局获悉:2023年,我国能源投资保持快

  • 亚布力对话|居然之家汪林朋:出海首站瞄准东南亚

      中新经纬2月22日电(王玉玲 刘雪玉)22日,居然之家创始人兼董事长汪林朋在亚布力中国企业家论坛间隙接受中新经纬专访时表示,2024年,居然之家将把主要精力聚焦在出海业务上,将

  • 湖南铁路科技职业技术学院党委书记康月林接受纪律审查和监察调查

      湖南铁路科技职业技术学院党委书记康月林接受纪律审查和监察调查  中新网2月22日电 据中央纪委国家监委网站,据湖南省纪委监委消息:湖南铁路科技职业技术学院党委书记康

推荐资讯

  • 文旅部发布五一安全出游提示

      4月26日,随着五一黄金周的临近,文旅部发布了一系列出游提示,以提醒广大游客注意假期旅行安全。  文化和旅游部提醒广大游客: 一、增强汛期防范意识。全国部分地区陆续进入

  • 苏北首家voco酒店—海州湾voco酒店开业

    扬子晚报消息,近日,洲际酒店集团旗下品牌——voco酒店在连云区开门迎客。据悉,海州湾voco酒店是苏北的首家voco酒店,酒店位于东部城区CBD商务中心黄金地带,周边聚集了在海一方公

  • 青岛极地海洋公园二期新场馆正式开业

      4月28日,青岛极地海洋公园焕新升级的两大场馆惊艳亮相,“深海奇幻—水母秘境”和“海平线剧场”正式开业。其中,“深海奇幻—水母秘境”,通过提升多重体验方式、高科技融入

  • 沃德酒店集团首家民宿酒店开业

    近日,沃德酒店集团旗下的首家民宿酒店——观云里店在青岛开业,标志着沃德酒店集团在多元化酒店业务布局上迈出了坚实一步。酒店位于胶州路116号,交通便利,紧邻中山路地铁站B口。

  • 天津首个配售型保障性住房项目开工

      近日,从天津市住建委获悉,天津市首个配售型保障性住房项目——红桥区丽水苑项目开工,标志着天津市配售型保障性住房建设迈出新步伐。  该项目位于天津市红桥区光荣道与咸

  • “五一”假期到北京西山八大处 喝闽东好茶

    4月30日至5月5日,以“喝好茶 到闽东”“到西山八大处 喝闽东好茶”为主题的第二十三届八大处中国园林茶文化节暨宁德(柘荣高山白茶、寿宁乌茶)文化周

  • 喜来登酒店签约入驻重庆大渡口

    近日,重庆潜能实业集团与万豪国际集团合作签约仪式举行,双方将携手在大渡口打造重庆潜能喜来登酒店。该酒店项目是大渡口区完善城市功能、提升城市品质的重点项目,也是大渡口区

  • 四川:五一假期,全省5A级旅游景区门票总收入首次突破1亿元

      5月6日,从四川省文化和旅游厅大数据监测显示,今年“五一”假期,全省共接待游客4207.58万人次,同比增长4.7%;实现旅游消费总额211.48亿元,同比增长5.09%。  其中,全省纳入统

  • “五一”假期收官,多省市接待游客及旅游收入创历史新高

      5月6日,为期5天的“五一”假期正式收官。全国各省市持续发布接待游客及旅游收入相关数据。从数据上看,创历史新高。  据北京市文化和旅游局消息,“五一”假期期间,北京共

  • 澳门“五一”假期入境旅客逾60万人次,酒店入住率近九成

    5月7日,据央视新闻客户端消息,澳门特区政府旅游局6日公布的初步统计数据显示,今年“五一”假期澳门的旅游市场客流畅旺。5月1日至5日,入境澳门的总旅客量约60.5万人次,与去年日均

  • 文旅部:2024年“五一”假期国内旅游出游2.95亿人次

      2024年“五一”假期,全国文化和旅游市场总体平稳有序。文化和旅游部6日发布数据显示,据文化和旅游部数据中心测算,全国国内旅游出游合计2.95亿人次,同比增长7.6%,按可比口径

  • 义乌产业园区最大保租房项目拟于明年3月投运,可提供3838套房源

      5月7日消息,作为义乌产业园区配套集中建设体量最大的保障性租赁住房项目,义乌信息光电高新区人才社区正在加快建设中,主体工程处于收尾阶段,室内装修工程即将开始,计划于2025

  • 日榜
  • 周榜
  • 月榜