5月18日從西安電子科技大學獲悉，由該校計算機科學與技術學院教授趙偉領銜的智能媒體計算機團隊，通過數據可信重建以及弱監督深度學習框架，破解了數據質量低及標注數據稀缺難題，進一步揭示了神經網絡的決策機制，有效提升了現有可信人工智能方法的魯棒性、可解釋性和安全性。相關論文《可信沖突多模態學習算法》日前獲國際人工智能領域頂級學術會議AAAI2024杰出論文獎。
人工智能已經日益深入人們生活。在醫療、自動駕駛等復雜場景中，人工智能對決策任務的誤判可能造成重大損失。傳統可信人工智能多關注單模態數據，無法滿足實際場景中多模態數據分析決策需求，單模態數據有限的信息量導致單模態智能可信度存在瓶頸。
為此，團隊打破單模態數據思路，提出沖突多模態學習算法，并通過數據可信重建以及弱監督深度學習框架算法，實現了證據層面的沖突多模態數據可信融合。這能在提升人工智能決策性能的同時，可靠地度量決策置信度。此外，團隊從理論上證明，該方法能夠量化沖突模態帶來的負面影響。這有利于解決當前研究面臨的數據質量低、決策不可信等難題，為后續研究提供了重要的理論基礎和技術支撐。
團隊成員徐偲副教授解釋，這種算法在給出置信度的同時，還會給出多模態數據的沖突度，實現了多模態信息的“去偽存真”。若置信度不高且沖突度較高時，人工智能的決策便明顯不太可信。