破解大模型 AI “黑箱”難題，三維天地牽頭研制神經(jīng)網(wǎng)絡可解釋評估標準為產(chǎn)業(yè)高質(zhì)量發(fā)展賦能

2025-12-10

12月1日，人工智能領域標準化工作取得重要進展，中國電子學會正式發(fā)布《神經(jīng)網(wǎng)絡關鍵特性可解釋評估要求》團體標準。該標準由北京三維天地科技股份有限公司牽頭，聯(lián)合大連理工大學、工業(yè)和信息化部電子第五研究所、清華大學等權威機構共同研制，將于2026年1月1日起正式實施。此舉標志著我國在神經(jīng)網(wǎng)絡可解釋性評估領域建立了首個系統(tǒng)性規(guī)范，填補了國內(nèi)外相關標準的空白。

隨著神經(jīng)網(wǎng)絡，特別是大模型的深度應用，其運行效率、抗干擾能力不足以及普遍存在的“黑箱”問題，日益成為制約人工智能技術在工業(yè)生產(chǎn)、自動駕駛、醫(yī)學診斷等關鍵復雜場景中可靠落地與廣泛推廣的瓶頸。提升神經(jīng)網(wǎng)絡的可解釋性、可靠性與適用性，已成為推動人工智能高質(zhì)量發(fā)展、落實國家相關戰(zhàn)略部署的核心攻關方向。

《神經(jīng)網(wǎng)絡關鍵特性可解釋評估要求》標準應運而生，旨在系統(tǒng)性地解決上述挑戰(zhàn)。標準聚焦于神經(jīng)網(wǎng)絡的結構冗余性、抗噪聲干擾性及預測可靠性等關鍵性能，首次提出了一套可解釋的評估框架。該標準詳細規(guī)定了評估方法、輸入要求、操作流程、量化指標、性能等級劃分及實施規(guī)范，為客觀、公平、可靠地衡量神經(jīng)網(wǎng)絡核心性能提供了統(tǒng)一標尺。

業(yè)內(nèi)專家指出，盡管網(wǎng)絡剪枝、魯棒性評估等技術已廣泛研究，但現(xiàn)有方法多缺乏可解釋性，評估結果往往停留于概括性判斷，難以保障客觀公平，也無法靈活適配多樣化任務場景，其可信度與實用性因此受限。新標準基于可解釋性理論，致力于構建一套多等級、全客觀、可解釋的關鍵性能評估體系，有望實現(xiàn)對神經(jīng)網(wǎng)絡設計、訓練、部署到維護的全生命周期關鍵性能進行實時檢測與評估，為產(chǎn)業(yè)健康發(fā)展注入標準動能。

評審專家一致認為，該標準提出的評估方法和技術手段具有顯著創(chuàng)新性，達到了國際先進水平。它的發(fā)布與實施，不僅將直接助力提升人工智能產(chǎn)品的可靠性與透明度，增強用戶信任，更將為我國人工智能技術創(chuàng)新和產(chǎn)業(yè)生態(tài)的規(guī)范化、高質(zhì)量發(fā)展提供至關重要的基礎支撐。

上一篇：三維天地打造全新疾控中心實驗室AI+數(shù)智化標桿工程下一篇：三維天地：以數(shù)據(jù)智慧服務中國航空航天，為AI應用場景打下數(shù)字基石