當一群無人機自己做出攸關任務的安全決定，人類要憑什麼相信它做對了。

一架無人機在任務途中開始丟封包。它的隊友很快察覺不對，集體把資料流繞過它，幾秒之內，它就被排除在群體的通訊網之外。

地面的操作員看著畫面，整個無人機群剛剛切掉了自己的一個成員。那架被踢出去的無人機，是真的被駭客劫持了，還是演算法判斷錯了？畫面上沒有答案。系統做了決定，但沒有給任何理由。

這個情境來自一篇 2026 年 2 月發表於 Scientific Reports 的研究。四位來自沙烏地阿拉伯與哈薩克的研究者，要解決的問題比無人機群會不會被攻擊更難一層：它做出的每個安全決定，地面的操作員憑什麼信得過。

無人機群為什麼特別難守？

一群協同飛行的無人機，組成的是一種叫 FANET 的網路，飛行自組網。它沒有固定的基地台，每架無人機既是通訊節點，也是訊號的中繼站，彼此靠無線電直接對話。拓樸隨時在變，因為大家都在高速移動。

這種結構帶來機動性，也帶來破綻。開放的無線電通道、去中心化的架構、有限的機載運算能力，讓 FANET 對各種攻擊幾乎門戶大開。論文列出五種典型威脅：干擾、欺騙、Sybil 攻擊、黑洞攻擊、重放攻擊。其中 Sybil 攻擊是單一被攻陷的節點偽造出多個假身分，黑洞攻擊則是惡意節點假裝願意轉發，實際把所有經過的封包全部丟棄。

傳統的集中式防禦在這裡派不上用場。一個中央控制點會帶來延遲，也會成為單點故障的目標。更麻煩的是，多數既有的防禦系統是黑箱，它擋下了什麼、為什麼擋，操作員無從得知。在一場真實任務裡，這種不透明會直接削弱人對系統的信任。

先讓群體學會分辨誰可信

研究團隊的做法，是讓每一架無人機自己變成一個會學習的代理人。

他們用的是一種叫 MADDPG 的多代理人強化學習演算法。每架無人機觀察身邊的局部資訊，自己的位置、速度、訊號雜訊比、剩餘電量，以及隊友的信任分數，然後自行決定要把封包交給誰、要不要把某個隊友標記為可疑、要不要繞道。沒有中央指揮，決策完全分散在每個節點上。

信任分數是這套系統的核心。每架無人機會根據隊友的實際表現持續評分：它有沒有確實轉發封包、訊息是否前後一致、丟包率高不高。分數低於門檻的節點，就會被判定為惡意，後續的通訊自動繞開它。前面那個被群體隔離的畫面，背後就是這個機制在運作。

研究者在 NS-3 與 AirSim 組成的模擬環境裡訓練這套系統，5,000 個回合，每回合 200 步，群體規模 20 到 50 架，並讓其中 10% 到 30% 的無人機扮演被攻陷的內鬼。沒有攻擊的環境下，這套框架的封包遞送率達到 96.3%，明顯高於傳統 AODV 路由協定的 84.1%。就算把惡意節點放進來，最高讓三成無人機作亂，遞送率也只掉到 90.7%，而被誤判為惡意的善良無人機比率，從 AODV 的 13.6% 壓到了 4.3%。

但光是判斷對，還不夠。

到這裡為止，這套系統解決的是安全問題。它能擋攻擊、能繞開叛徒，數字也漂亮。但研究者要處理的，是開頭那個操作員的困境：系統做對了，他怎麼知道它做對了？

於是他們在決策流程裡接上一層可解釋 AI。

他們用了三種工具。SHAP 負責量化每一個輸入因素對某個決定的貢獻度，回答這架無人機為什麼選擇繞道。LIME 在單一決策附近建一個簡化的模型，產生人看得懂的規則，說明某個節點為什麼被偏好或被避開。注意力圖則把模型在做決定時到底盯著哪些輸入資料，直接視覺化出來。

這層解釋有多貼近系統的真實行為？SHAP 的保真度是 93.1%，LIME 是 89.4%，意思是這些解釋相當忠實地還原了模型真正的判斷邏輯，不是事後編出來的好聽話。SHAP 算出來最重要的兩個因素更說明問題：信任分數和訊號雜訊比。這跟資深操作員憑經驗會盯著的東西一致，等於用數據替人類的直覺背書。

研究團隊找了六位領域專家替這些解釋打分，平均 8.7 分，滿分 10 分。

一次拆解實驗，說明了信任從哪裡來。

這篇論文最有說服力的一段，是它的消融實驗。研究者把系統的模組一個一個拆掉，看少了誰會發生什麼事。

拆掉信任機制，後果很直接：路由精度從 91.5% 掉到 81.9%，少了 9.6 個百分點，誤判率則從 5.6% 跳到 11.0%。沒有信任分數，無人機群就分不清誰是叛徒，效能應聲下滑。這在意料之中。

意料之外的是拆掉可解釋模組的那一組。

拿掉解釋功能，這套無人機群的封包遞送率一個百分點都沒掉，路由精度幾乎不變。它判斷得一樣準、擋攻擊一樣有效。唯一改變的，是那六位專家給的信任分數，從 8.7 直接掉到 4.1，幾乎腰斬。

同一套演算法，做著同樣正確的決定，只因為不再說明自己為什麼這麼做，人類對它的信任就少了一半。這正是研究者想證明的事：在攸關任務的自主系統裡，可解釋性不是錦上添花的功能，它本身就是信任的來源。

演算法是對的，不等於人類敢信。

把這套框架跟其他方法擺在一起比，它在大多數指標上都領先。面對 30 架無人機、其中兩成是內鬼的場景，它的封包遞送率 94.1%，高於標準多代理人強化學習的 89.4%、信任型 Q-Routing 的 88.7%、傳統 AODV 的 79.5%。它還更省電，每次成功傳輸的耗電比標準方法少 28.6%。群體從 10 架擴大到 75 架，遞送率也只掉 4.2%，規模化的表現穩定。

研究者自己也點出限制。即時產生這些解釋需要不少運算，對機載資源有限的小型無人機是負擔。模擬出來的攻擊再多樣，也未必涵蓋真實世界裡所有的對抗手段。這些都是還沒走完的路。

這篇研究把一個常被略過的落差攤開來：一個自主系統做對決定，和一個人類敢把任務交給它，是兩件不同的事。前者靠演算法，後者靠它能不能說清楚自己在做什麼。當無人機群開始自己決定要隔離誰、要相信誰，這個落差就不再只是學術問題了。