新算法实现人工智能 多模态信息“去伪存真”

记者5月18日从西安电子科技大学获悉，去伪存真由该校计算机科学与技术学院教授赵伟领衔的新算现人信息智能媒体计算机团队，通过数据可信重建以及弱监督深度学习框架，法实破解了数据质量低及标注数据稀缺难题，工智进一步揭示了神经网络的模态决策机制，有效提升了现有可信人工智能方法的去伪存真鲁棒性、可解释性和安全性。新算现人信息相关论文《可信冲突多模态学习算法》日前获国际人工智能领域顶级学术会议AAAI 2024杰出论文奖。法实

人工智能已经日益深入人们生活。工智在医疗、模态自动驾驶等复杂场景中，去伪存真人工智能对决策任务的新算现人信息误判可能造成重大损失。传统可信人工智能多关注单模态数据，法实无法满足实际场景中多模态数据分析决策需求，工智单模态数据有限的模态信息量导致单模态智能可信度存在瓶颈。

为此，团队打破单模态数据思路，提出冲突多模态学习算法，并通过数据可信重建以及弱监督深度学习框架算法，实现了证据层面的冲突多模态数据可信融合。这能在提升人工智能决策性能的同时，可靠地度量决策置信度。此外，团队从理论上证明，该方法能够量化冲突模态带来的负面影响。这有利于解决当前研究面临的数据质量低、决策不可信等难题，为后续研究提供了重要的理论基础和技术支撑。

团队成员徐偲副教授解释，这种算法在给出置信度的同时，还会给出多模态数据的冲突度，实现了多模态信息的“去伪存真”。若置信度不高且冲突度较高时，人工智能的决策便明显不太可信。