山東大學余國先教授團隊在可信人工智能領域取得系列進展

　　【儀表網 研發快訊】近日，山東大學軟件學院余國先教授團隊在可信人工智能領域取得系列進展，多項研究成果在IEEE Transactions on Knowledge and Data Engineering(TKDE)、IEEE Transactions on Dependable and Secure Computing(TDSC)、ACM Transactions on Information Systems (TOIS)、KDD 2025、IJCAI 2025、《計算機學報》和《中國科學：信息科學》發表接收，山東大學均為第一作者和通訊作者單位。
 

　　1. MultiCFL
 

　　多維度因果公平框架。本成果“Multi-dimensional Causality Fairness Learning”被數據挖掘國際期刊IEEE TKDE接收。文章第一作者為山東大學博士研究生蘇聰，通訊作者為余國先教授。
 

　　該研究提出多維度歧視效應分析方法，同時建模個體維度和宏觀維度的交叉歧視效應；構建因果鏈式變分推理模型，捕獲未觀測到的潛在混淆因子并消除數據中的多維度歧視性效應，突破傳統個體維度分析的局限性，能夠為政策制定者和企業推進落實公平性、負責任的人工智能提供技術支撐，避免多維交叉歧視引發的倫理風險。
 

　　2. Sophon
 

　　Sophon: 基于雙重信任機制的拜占庭魯棒聯邦學習。本成果“Sophon: Byzantine-robust Federated Learning via Dual Trust Mechanism” 被人工智能安全領域期刊TDSC接收。文章第一作者為山東大學碩士研究生桂孝強，通訊作者為余國先教授。
 

　　該研究為服務器歸一化客戶端梯度，并結合一致性與多樣性雙重信任得分為梯度分配聚合權重，有效抵御了異質數據場景下的拜占庭攻擊，確保聯邦訓練的模型性能不被破壞，為聯邦學習提供了安全可靠的訓練方案。
 

　　3. MultiVerse
 

　　聯邦推薦中的交互隱私漏洞及其無損防御。本成果“Interaction Privacy Vulnerability in Federated Recommendation and Lossless Countermeasure”被人工智能領域期刊TOIS接收。文章第一作者為山東大學碩士研究生桂孝強，通訊作者為余國先教授。
 

　　該研究首先揭示了聯邦推薦中的用戶交互隱私泄露風險，進而提出了一種隱私保護方法MultiVerse，通過在本地訓練時引入偽交互項，并結合精心設計的訓練、優化、精煉和去噪四步策略，在確保無損模型性能的同時顯著降低了交互隱私泄露風險。為聯邦推薦中的用戶交互隱私保護提供了安全可靠的解決方案。
 

　　4. FedPANO
 

　　基于參數解耦與節點增強的個性化聯邦學習方法。本成果“Personalized federated few-shot node classification”由信息科學領域期刊Science China Information Sciences接收，文章第一作者為山東大學博士研究生趙云峰，通訊作者為余國先教授。
 

　　該工作研究了一個實際且具有挑戰性的個性化聯邦學習問題，客戶端具有異構任務，但訓練節點稀少。提出的基于參數解耦與節點增強的聯邦學習方法(FedPANO)首先將本地模型分離為圖神經網絡(GNN)和分類器，用以處理客戶端之間的任務差異。GNN通過聯邦學習訓練，以捕捉客戶端之間網絡節點的共享知識，而分類器則為每個客戶端量身定制并單獨訓練。此外，FedPANO還引入了一個通用分類器，以鼓勵GNN對共享信息的學習。接著，FedPANO進一步提出了節點生成器及其本地和協作訓練策略，以應對客戶端節點稀缺的問題。
 

　　5. CausalSME
 

　　面向多環境數據分布偏移的因果發現。本成果“Causal Discovery from Shifted Multiple Environments”被國際數據挖掘會議KDD 2025接收。文章第一作者為山東大學博士研究生楊德智，通訊作者為軟件學院王峻。
 

　　該算法在環境信息未知的情況下，自動識別樣本所屬的環境和每個環境下的未觀測因果效應，從具有未觀測分布偏移的混合多環境數據中學習因果有向無環圖。算法還從理論上證明了存在未觀測分布偏移的混合多環境中因果結構的可識別性，并在合成和真實數據集的因果關系發現任務中表現出優秀的準確性和魯棒性。該研究得到國家重點研發計劃青年科學家項目、國家自然科學基金重點項目與面上項目的資助和支持。
 

　　6. ASGM
 

　　解釋糾偏框架：一種基于標準解釋的歸因分數生成方法。本成果“Explanation Rectification Framework: An Attribution Score Generation Method Based on Standard Explanations”被國內頂級期刊計算機學報接收。文章第一作者為山東大學碩士研究生邢鐘毓，通訊作者為余國先教授。
 

　　該研究針對模型可解釋性中歸因分數因隨機因素等導致不一致的關鍵挑戰，首先從理論上揭示了解釋不一致與模型不確定性的內在聯系。據此提出了一個歸因分數生成糾偏框架ASGM，該框架從少量抽樣模型中高效生成穩定且能代表羅生門效應集或規格不足集的歸因分數解釋，顯著提升了歸因解釋的效率和穩定性。該研究得到國家重點研發計劃項目、國家自然科學基金重點項目和面上項目的資助和支持。
 

　　7. CMClusts
 

　　對齊用戶興趣的對比多聚類：通過數據增強和對比學習捕捉用戶感興趣的聚類，實現用戶興趣導向的高質量、可解釋、多樣化的聚類模式挖掘。本成果“Aligning Contrastive Multiple Clusterings with User Interests”被人工智能領域國際會議IJCAI接收。文章的共同第一作者為山東大學碩士研究生張珊、博士研究生任良瑞，通訊作者為余國先教授。
 

　　該研究能根據用戶提供的興趣引導生成多樣化、低冗余的聚類。基于用戶興趣生成多角度的數據增強，并利用聚類級對比學習捕捉用戶感興趣的聚類特征，以提高聚類質量和可解釋性。另外，聚類級對比學習將不同的聚類類型作為負樣本，增大其距離實現多樣性聚類。該研究得到國家重點研發計劃青年科學家項目、國家自然科學基金重點項目與面上項目的資助和支持。
 

　　8. I2MVC
 

　　基于知識蒸餾的無插補不完整多視圖聚類。本成果“Imputation-free Incomplete Multi-view Clustering via Knowledge Distillation”被人工智能領域頂級國際會議IJCAI接收。論文第一作者為山東大學博士研究生吳本鈺，通訊作者為山東大學杜威和余國先。
 

　　該研究針對不完整多視圖數據聚類中傳統插補方法存在的誤差累積和效率問題，團隊提出無插補不完整多視圖聚類模型I2MVC，通過任務分解與知識蒸餾機制，利用完整視圖聚類信息指導不完全多視圖數據的有效聚類，實現在視圖缺失場景下的穩定性和高效性。該研究得到國家重點研發計劃項目、國家自然科學基金重點項目和面上項目的資助和支持。
 

　　IEEE TKDE、IEEE TDSC為IEEE旗下人工智能領域頂級期刊，是中國計算機學會推薦的A類學術期刊；ACM TOIS為ACM旗下大數據領域頂級期刊，是中國計算機學會推薦的A類學術期刊；計算機學報為中國計算機學會主辦的國內頂級期刊，是中國計算機學會推薦的A類中文學術期刊；《中國科學：信息科學(英文版)》是由中國科學院、國家自然科學基金委員會主辦的信息科學領域知名期刊，是中國計算機學會推薦的A類中文學術期刊；KDD是數據挖掘領域的頂級學術會議，由 ACM 的數據挖掘及知識發現專委會(SIGKDD)主辦，是中國計算機學會推薦的A類學術會議；IJCAI是人工智能領域最具影響力的國際會議之一，也是中國計算機學會推薦的A類學術會議。
 

　　余國先教授，山東大學杰出中青年學者、齊魯青年學者、小米青年學者，長期從事人工智能理論方法及其在生物醫學信息分析中的應用研究，聚焦多模態、公平性、安全性和可解釋性等可信人工智能核心方向，相關成果在IEEE TKDE/TDSC/TNNLS、ACM TOIS/TKDD、NAR、KDD、AAAI、IJCAI等主流期刊或會議發表，主持國家級青年人才計劃項目、國家重點研發青年科學家項目、國家自然科學基金、山東省杰青基金等項目。