设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

专访呼娜英:AI安全“隐形战场”上,如何破解全链条风险?

2025-02-19 09:39:30 来源:

  中新经纬2月18日电 (孙庆阳)“人工智能的安全与可用性面临全链条、多维度交织的复杂风险挑战,需通过国际合作、技术创新和标准制定来应对。”近日,中国信息通信研究院人工智能研究所高级业务主管呼娜英在巴黎人工智能(AI)行动峰会后接受中新经纬专访时表示,未来五到十年,人工智能技术将持续深化,增强语言大模型能力是重点方向。同时,多模态模型有望加速突破,提升图文理解和跨模态交互能力。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英 受访者供图RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  网络和框架是AI系统安全的根基RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在最近的巴黎人工智能(AI)行动峰会上,AI安全性和可用性成为了全球AI产业人士的共同关注焦点。呼娜英指出,当前AI在安全性和可用性方面面临的是全链条、多维度相互交织的复杂风险挑战。随着人工智能模型复杂度和规模的不断提升,其训练、部署、应用等关键环节中面临的数据安全、网络安全、框架安全、模型算法安全以及应用平台安全问题日益突出。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在基础设施方面,网络安全和框架安全关乎整个AI系统的稳定运行根基。以DeepSeek为例,R1模型在刚刚上线提供服务后,便遭到大规模DDoS(分布式阻断服务)攻击,导致服务中断,用户无法正常访问。在数据方面,训练数据被“投毒”(通过恶意注入虚假或误导性的数据来污染模型的训练数据集),以及训练使用敏感行业数据、个人隐私数据等,一旦数据被“投毒”,训练出的模型将产生偏差,做出错误决策,而敏感数据的不当使用则可能引发严重的法律风险和社会信任危机。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  在模型算法层面,以大模型为代表的生成式模型面临严峻的越狱攻击、提示词注入攻击等威胁,模型容易在用户恶意操作下输出违法有害或侵害权益的信息。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  此外,模型的“幻觉”(模型生成的不真实、编造或与上下文不一致的内容)问题突出,也成为了制约人工智能产业化落地的重要因素。在应用层面,人工智能技术容易被滥用和误用,比如利用图像生成技术伪造虚假新闻图片误导公众,或在自动化决策系统中因算法偏见导致对特定群体的不公平对待,这些行为严重扰乱了正常的社会秩序与市场环境。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  如何显著提升AI系统安全性?RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英强调,全球均在探索风险管理的可行路径,针对人工智能风险开展有效的“识别、评估、应对”方案一定程度上成为共识。其中,最重要的一环是对于安全问题的检测技术和防护手段。在检测方面,一是形成对于开源框架、源代码以及网络等软硬件基础设施的漏洞挖掘技术,精准定位潜在隐患。特别是开源框架、代码中存在的未被发现的漏洞,极易被利用实施大规模的攻击和勒索。如去年年初,人工智能开源框架Ray被发现存在漏洞,并被攻击人员利用攻击数百个集群。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  二是形成数据“投毒”检测技术,用于守护训练数据的纯净性,防范通过训练的方式,在模型中埋入后门。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  三是建立大模型等模型算法漏洞自动化测试技术,扫描算法中的薄弱环节,快速生成测试报告。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  四是基于现有的自动化渗透技术能力,形成面向人脸识别、智能体等人工智能典型应用的自动化渗透技术产品,模拟黑客攻击,全方位探测应用平台的安全漏洞,充分发掘人工智能各方面的安全风险。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英还指出,在防护层面,需要探索软硬件基础设施的漏洞自动化修复技术,自动修复受损代码,降低安全风险。此外,还可以探索实践模型漏洞自动化微调和加固技术,对模型进行自动化优化,增强其抵御攻击的能力,保障人工智能系统稳定、安全地运行。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  中国智慧引领未来AI治理新格局RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英认为,推动人工智能安全治理合作依然是势不可挡的,也是确有必要的。人工智能的开发、部署和使用具有全球化特征,人工智能技术的应用与影响并非局限于某一地区或国家,而是深刻影响全球社会、经济和政治秩序。为人类共同未来建立务实可行的国际对话与合作机制,需要多方努力。未来,国际社会应在联合国框架下凝聚各方共识,依托国际标准化组织深化技术标准协同,务实推进人工智能安全治理工作。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  一直以来,中国在全球人工智能治理领域积极作为并推动加强国际合作。例如,中国信通院积极参与国际标准制定,发起《人工智能安全承诺》促进行业自律,下一步将依托工业和信息化部人工智能技术标准委员会,持续完善国内标准体系,推动安全测试、风险评估、可信要求等技术规范转化为国际共识,促进技术标准和指引的深入实践与应用。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英预测,未来五到十年内,人工智能技术将持续深化演进。一方面,增强语言大模型能力仍是技术升级的重点方向之一,推理或将获得更多关注和资源投入。另一方面,多模态模型有望加速突破,从以语言大模型为骨干的多模态模型,向原生多模态模型演变,提升图文理解和跨模态交互能力。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  呼娜英认为,在安全与可用性方面,以下趋势值得关注:在风险识别方面,随着人工智能技术日益融入经济社会发展各领域全过程,其安全风险面不断扩大,对人工智能安全风险识别方法论的研究将不断完善,从而催生更加敏捷、精准的安全风险识别机制。在风险应对方面,对算法模型毒性、鲁棒性、公平性等方面的评测技术工具研究将不断加强,将人工智能基础设施、算法模型、上层应用以及产业链等方面作为评估重点,并在机制方案上动态迭代、技术能力上持续提升,从而有效防范和应对治理风险。(中新经纬APP)RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

  中新经纬版权所有,未经授权,不得转载或以其他方式使用。RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

责任编辑:张芷菡RCL流量资讯——探索最新科技、每天知道多一点LLSUM.COM

本文链接:专访呼娜英:AI安全“隐形战场”上,如何破解全链条风险?http://www.llsum.com/show-5-46596-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 杨立钒:DeepSeek“逆袭”电商,成本地部署“黑马”

下一篇: 国家发改委:对民企反映的困难问题将精准施策助企纾困

热门资讯

  • 2024春节档:史上最火,史上最“卷”

      2024春节档:史上最火,史上最“卷”  羊城晚报记者 李丽  据国家电影局统计数据,2024年春节档总票房80.16亿元,在观影人次、场次和票房3个维度创造影史最高纪录。  过

  • 春节假期中国民航运输旅客创历史新高

      春节假期中国民航运输旅客创历史新高  中新社北京2月18日电 (记者 刘文文)记者18日从中国民航局获悉,2024年春节假期(2月10日―2月17日)民航市场平稳有序运行,全国民航

  • 春节假期北京接待游客1749.5万人次 旅游市场热度攀升

      春节假期北京接待游客1749.5万人次 旅游市场热度攀升  中新网北京2月18日电 (记者 徐婧)记者17日从北京市文化和旅游局获悉,春节假期(2月10日至17日),北京接待游客1749.

  • 揽人、赶工、抢订单:春节拼经济“热辣滚烫”

      长三角观察|揽人、赶工、抢订单:春节拼经济“热辣滚烫”  2月10日是正月初一,上午10点,满载工业品、电子产品和衣帽服饰的新春首列“义新欧”中欧班列从浙江义乌铁路口岸

  • 中共中央印发《中国共产党巡视工作条例》

    近日,中共中央印发了修订后的《中国共产党巡视工作条例》(以下简称《条例》),并发出通知,要求各地区各部门认真遵照执行。通知指出,《条例》坚持以习近平新时

  • 熊猫“福宝”回国在即 韩国民众依依不舍

    新华社首尔2月21日电 “观览时间已结束,请有序退场。”位于韩国龙仁爱宝乐园的熊猫世界里,工作人员引导着前来参观旅韩大熊猫“福宝”一家的游客。在韩国

  • 湖北:应急响应升级 保畅保电提速

    新华社记者王自宸、宋立崑、侯文坤受大范围低温雨雪冰冻天气影响,至22日5时,湖北省绝大部分市县出现1至9厘米积雪。湖北省应急部门于22日10时将低温雨雪冰冻

  • “新年刚过,我已经买好了十一旅游的机票”

      “新年刚过,我已经买好了十一旅游的机票”    中新网北京2月23日电(张钰惠)在年初就买好全年的旅行机票,是一种怎样的体验?近日,三亚、哈尔滨等网红城市的天价返程机票引

  • 我跨境电商占韩海外直购市场近半份额

      我跨境电商占韩海外直购市场近半份额  作者 杨明  凭借“高性价比”和“低物流费”等优势,中国跨境电商企业已占据韩国海外直购市场的近一半份额,本地化服务的提升也

  • 新国标实施一周年 中国婴配乳粉注册工作取得成效

      新国标实施一周年 中国婴配乳粉注册工作取得成效  中新社北京2月22日电 (记者 刘亮)记者22日从中国国家市场监管总局获悉,自婴幼儿配方食品新国标(以下称新国标)发布实

  • “十四五”前三年江西省单位工业增加值能耗预计下降约8%

      “十四五”前三年江西省单位工业增加值能耗预计下降约8%  中新网南昌2月22日电 (朱莹)22日,江西贯彻实施《江西省人民代表大会关于全力打造国家生态文明建设高地的决定

  • 贵州毕节:蓄势赋能谋发展 高质量推进新型工业化

      贵州毕节:蓄势赋能谋发展 高质量推进新型工业化  中新网贵州毕节2月22日电 题:贵州毕节:蓄势赋能谋发展 高质量推进新型工业化  作者 高大涛 陈曦  中国龙年春节假期

推荐资讯

  • 锦江酒店(中国区)CEO王伟:成功的变革离不开这三要素

      伴随着PACE DAY超大礼盒的开启,上千名锦江员工走进五彩缤纷的嘉年华创意市集,30个不同主题特色的创意摊位、各大锦江IP人偶集体出街巡游、各种好玩好看的互动环节和乐队表

  • 凯悦天地正式纳入700余家来自Mr & Mrs Smith的精品及奢华酒店和别墅

    4月28日,凯悦酒店集团宣布其于2023年收购的奢华旅游平台Mr & Mrs Smith正式加入凯悦天地,会员从今天起可预订其全球700多家精品及豪华酒店和别墅,并享有赚取和兑换积分的机会。

  • 上海北外滩金辉索菲特酒店启幕

    近日,上海北外滩金辉索菲特酒店启幕,酒店前身为绿地九龙宾馆,2021年金辉集团收购上海九龙宾馆有限公司100%股权,并对原九龙宾馆进行升级修缮,与雅高集团合作打造上海金辉索菲特酒

  • “花中皇后”,跨越东西方的奇遇

    近日,2024上海(国际)花展盛大开幕。此次花展选取的主题花是被誉为“花中皇后”的月季。原产自中国,寻常可见的月季为何能成为“花中皇后”?它的身上其实

  • “士别三日”的他,因读书让人“刮目相看”

    吕蒙为三国时期东吴大将,是人们熟知的那句成语典故“士别三日,刮目相待”的主人公。正是靠着读书,吕蒙让孙权、鲁肃等比他知名度更高的三国群雄刮目相

  • 曲江文旅2023年实现营收15.04亿元

      4月28日,曲江文旅发布了2023年财报。报告显示,曲江文旅2023年实现营业收入15.04亿元,较上年同期增幅68.80%;归属于上市公司股东的净亏损1.95亿元,较上年同期增加5262.47万元

  • 自然资源部:继续大力保障保障性住房用地供应

      近日,据自然资源部消息,为适应房地产市场供求关系发生重大变化的新形势,支持盘活存量土地,促进房地产市场平稳健康发展,自然资源部下发通知,要求各地做好年度住宅用地供应计划

  • 浙江杭州拟发布有关保障性住房新政

      近日,杭州市政府网站发布关于《杭州市保障性住房配售管理办法(试行)》(征求意见稿),向全社会公开征求意见。  《配售管理办法》共31条,包括总则、定价和供应、申请和审核、售

  • Club Med地中海俱乐部:五一期间中国度假村平均入住率约9成

      从4月30日至5月4日五一假期度假村客房入住率来看,Club Med地中海俱乐部中国度假村平均入住率约9成。从地中海俱乐部国内预订数据显示,家庭客群仍然是五一假期出游的主力军

  • 陈晓卿出书讲述如何“吃透”人生

    “美食的终极意义在于获得生理和心理的幸福感。这种幸福感是非常主观的,有时候和食物本身相关,有时候和生活经历相关,吃家常菜得到的满足感,吃燕鲍翅并

  • 今天,你为什么走进图书馆

    在信息时代,图书馆不再仅仅是一个看书的地方。当我们思考它的未来时,应该充分认识到重塑功能标签的重要性和挑战性。日前启动的2024年全国公共图书馆

  • 三亚金都蔚景温德姆酒店拍卖,起拍价5.25亿元

    5月7日,据阿里资产拍卖网显示,三亚市天涯区南边海路113-2号三亚南海方舟旅游度假酒店(又名金都蔚景温德姆酒)将于6月11日公开拍卖,起拍价5.25亿元,评估价5.84亿元。据了解,金都蔚景

  • 日榜
  • 周榜
  • 月榜