人工智能正在逐渐深入我们的生活，成为服务员、医疗助手、司机……为我们带来诸多便利。但很少有人思考，人工智能的“判断”有这么可靠吗？如果人工智能得到的结果出现了冲突，我们该如何应对？
“就像患者去医院，血项结果可能是正常的，影像结果显示有异常，这就出现了冲突。医生可以凭借自己的专业及经验判断哪个结果更为可信、可信度有多少，但对于人工智能而言，相互冲突的数据如果进一步融合，必然会导致数据互相产生干扰，无法得出正常结果。” 西安电子科技大学计算机科学与技术学院赵伟教授和他的团队一直在思考这个问题。近期，他和团队青年教师徐偲终于找到了解决方法，“我们的目标是让人工智能成为人类更靠谱的‘搭子’！”赵伟说。
当“新手”遇到新领域
2017年，徐偲加入赵伟教授和管子玉教授团队攻读博士，从事机器学习、多视角学习、推荐系统等方面研究，对于本硕阶段学习通信专业的他来说，博士阶段的研究领域几乎是全新的。2019年，徐偲接触到可信人工智能，对他而言又是一个新的研究范畴。
2020年，留校工作的徐偲成为一名“新手”教师，初入“新手村”的他既要面对身份转变，还要在新领域找到新办法，一切都是新的。
在徐偲接触可信人工智能领域时，证明人工智能可信的方法并非没有。当时主流的方法是将一个数据用多个模型来验证，通过类似多科室医生会诊的方式，“投票”决定这一数据是否可靠，“在医院，可能因为跨科室确实需要会诊，但对人工智能而言，这样的方法并不经济实用。” 徐偲说。
“我最初是想干脆重新建一个跟神经网络并行的框架”，但这个念头很快被一次交流打消了。2018年，徐偲受邀参加CCF A类顶级会议IJCAI，会上，他将自己的想法与图灵奖获得者、深度学习创始人之一Yoshua Bengio教授进行了交流，Yoshua Bengio认为重建框架耗时长且发展未知，最好是能在现有神经网络框架内完成。
徐偲接受了Yoshua Bengio的建议，开始在神经网络框架内找寻解决办法。
努力和选对方向同样重要
创新的路从来都不那么容易。
对于刚刚成为教师的徐偲而言，如何在学生中立住教师这个“人设”是件很重要的事。从跟学生以师兄师弟相称、打成一片，到明确师生关系、严格要求，再到设身处地理解学生、力所能及帮助学生，徐偲坦言：“刚开始不知道怎么开口严格要求他们，甚至自己会觉得不好意思。”通过向导师团队负责人赵伟教授和管子玉教授请教学习，2022年，徐偲逐渐找到了自己处理师生关系的方式，也找到了衡量人工智能是否可信的方法。
“最初接触的时候，可信人工智能是一个相对来说比较新的领域，自己也是这方面的新手‘小白’，心里是很虚的，不知道能做成什么样，也不知道做出来之后能有什么用。”随着人工智能技术的快速发展，可信人工智能逐渐被重视。
2019年6月，二十国集团(G20)提出“G20人工智能原则”，强调要以人为本、发展可信人工智能，这一原则得到了国际社会的普遍认同，发展可信人工智能成为全球共识。
“可信，通俗来讲就是让人工智能更能被人相信。”想要获得人的信任，对人工智能而言并非易事；想要在新领域做出成绩，对徐偲而言同样不容易。
“刚开始我把数学里面的优化理论拿过来用，看了很多数学方面的论文，每一篇基本都是三四十页那么多，经常看到第五六页就有点看不下去了，但自己选的路，硬着头皮也要走下去。”
付出很多精力走的路有时候也并非畅通，也可能是“弯路”，当徐偲掌握了优化理论并将其运用到人工智能可信度研究中时，发现这一理论并不适用，“大概是2022年的时候，我就想是不是可以模拟医生看检查结果的这个思维，用结果融合的方式给出一个置信度”，选对了方向，实验结果便豁然开朗。
从2022年10月确定结果融合方式，到2023年6月完成论文初稿，徐偲的努力终于看到了结果。
“就是告诉人们，人工智能到底可不可信”
这项研究成果是一种新颖的多模态证据深度学习方法，通过可信地聚合冲突多模态数据，能够在提升决策性能的同时，可靠地度量决策置信度，并从理论上证明了这一方法能够量化冲突模态带来的负面影响，徐偲表示，在多个公开数据集上的实验结果表明，这一方法显著地提升了决策性能和可靠性。
多模态证据深度学习方法是如何发挥作用的呢？
以医疗辅助诊断应用为例，人工智能在辅助医疗时会采集多种模态数据，不同数据之间可能会产生相互冲突的、不同指向的结果，“就像患者去医院，血项结果可能是正常的，影像结果可能显示有异常，这就出现了冲突的结果”，对于医生而言，他可以凭借自己的专业及经验判断哪个结果更为可信、可信度能有多少，但对于人工智能而言，相互冲突的数据如果进一步融合，必然会导致数据互相产生干扰，无法得出正常结果。
在多种模态数据冲突的情况下，数据融合显然不可采纳，在团队赵伟和管子玉教授的引导下，徐偲便从数学主观逻辑中借鉴不确定性相关理论，探索模态数据在结果层面的相互融合，“我们这个学习方法是把各单个模态数据结果的可信度给一个百分比，比如A是60%，B是40%，C是90%，再通过一定的计算得出整个数据集的一个百分比，这就是我们说的置信度。” 徐偲告诉《中国科学报》。
在给出置信度的同时，该方法还会同时给出多模态数据的冲突度，若置信度不高且冲突度较高时，人工智能的决策便明显不太可信，“出现这种情况会有很多种可能，有可能是某一个或几个模态数据本身采集有误，有可能是采集的数据不够多，这时候人工智能就能够判断出到底是何原因，进一步进行调整优化，或者有时就提醒我们需要进行人为干预”，这样一种全面综合的方法实现了多模态信息的“去伪存真”，使得多模态模型可以“兼听则明”。
在团队的帮助下，徐偲围绕这一研究完成了论文“Reliable Conflictive Multi-view Learning”，并获得了2024年2月召开的第38届AAAI人工智能大会的最佳论文奖，这不仅是西安电子科技大学首次在该顶会获得最佳论文奖，更是自1984年该学术会议设立最佳论文奖以来，以国内单位（含港澳台地区）为第一单位获得该奖项的第3篇论文。
赵伟分析说，这一方法在医疗辅助诊断、自动驾驶等多种实际复杂场景中将具有很好的应用前景。
徐偲告诉记者：“简单来说，我们的方法是实现人工智能可解释、可被信赖‘最后一公里’中的重要一环，因为这个方法可以告诉你，哪些是不可被相信的。”他进一步解释说，为了使人工智能可信度更高，不可信的自我学习和迭代必不可少。“比如在自动驾驶中，汽车是以道路线来判断自己走的路线，但现实中道线可能会出现磨损、遮挡甚至没有的情况，汽车也极有可能将其他东西识别成道线，遇到这种情况，我们这个方法就可以给出一个置信度，告诉大家在某种情况下这个汽车的判断不可靠，需要人工操作，那么人工智能就会通过很多次的这种训练，逐渐排除掉识别不出或错误识别道线的情况，进而提升自己的可信度。”
在与医院、汽车企业、港口的合作过程中，这一方法正在被使用，越来越“靠谱”的人工智能正在成为人类更值得信赖的“搭子”。
人工智能医生辅助诊断患者。（课题组供图）
本文链接：新手“青椒”如何让人工智能成为更靠谱的“搭子”http://www.llsum.com/show-12-3415-0.html
声明：本网页内容旨在传播知识，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。邮件：2376512515@qq.com