編者按

人與武器是戰(zhàn)爭(zhēng)中兩大基本要素，二者的本質(zhì)屬性及相互關(guān)系直接影響戰(zhàn)爭(zhēng)勝負(fù)和戰(zhàn)爭(zhēng)形態(tài)的發(fā)展演變?？偟目矗瑹o論多么強(qiáng)大的武器，始終是人手中的“工具”，在人的使用下發(fā)揮威力。智能化時(shí)代，隨著武器裝備智能化水平的提高，人與武器的關(guān)系將發(fā)生微妙變化，如何處理好人與武器的關(guān)系，確保在人類的掌控下釋放武器的最大威力和效能，是我們應(yīng)該予以關(guān)注的現(xiàn)實(shí)問題。

傳統(tǒng)戰(zhàn)爭(zhēng)形態(tài)下，武器的智能化程度嚴(yán)格限制在“物”的水平。在人工智能技術(shù)飛速發(fā)展的大趨勢(shì)下，人與武器的關(guān)系基礎(chǔ)發(fā)生極大改變，武器開始具有智能特征并成為戰(zhàn)爭(zhēng)中不可或缺的重要部分，人與武器的關(guān)系和邊界將大幅重構(gòu)。據(jù)資料介紹，一些外國(guó)軍隊(duì)已經(jīng)開始制訂“機(jī)器人部隊(duì)組建計(jì)劃”，準(zhǔn)備將機(jī)器人部隊(duì)作為新的兵種納入作戰(zhàn)力量體系。因此，很有必要對(duì)智能化時(shí)代人與武器的關(guān)系進(jìn)行審視和分析，根據(jù)不同關(guān)系模式采取針對(duì)性的有效措施，確保智能化戰(zhàn)爭(zhēng)中人與武器相互促進(jìn)、協(xié)調(diào)發(fā)展。

主次輔助——

人處于絕對(duì)主導(dǎo)地位

人與武器的主次輔助關(guān)系，是指人居于主導(dǎo)地位，武器為人提供輔助服務(wù)。人仍然承擔(dān)絕大多數(shù)指揮控制職能，武器更多地負(fù)責(zé)重復(fù)性、規(guī)則性任務(wù)。這種關(guān)系模式中，武器智能化水平尚未突破“物”的界限，人是絕對(duì)的主導(dǎo)者，屬于弱人工智能的初級(jí)發(fā)展階段。在根本屬性上，人與武器的關(guān)系沒有發(fā)生本質(zhì)變化，人是主體，起著決定作用；武器是客體，處于被動(dòng)服從的地位。雖然武器各方面性能持續(xù)增強(qiáng)，但仍然被人當(dāng)作純粹的工具使用，武器的潛在學(xué)習(xí)能力沒有得到釋放。如之前谷歌發(fā)布的量子計(jì)算機(jī)，聲稱可以在200秒內(nèi)完成目前世界最快計(jì)算機(jī)需要工作1萬年的任務(wù)，雖然計(jì)算能力更強(qiáng)、應(yīng)用范圍更廣，但智能水平?jīng)]有顯著提升，作為“物”的屬性沒有改變，仍然處在服從服務(wù)于人的位置。

針對(duì)這種關(guān)系模式，應(yīng)注重挖掘現(xiàn)有武器潛力，并加強(qiáng)人工智能技術(shù)研究。該模式下人的作用和地位進(jìn)一步強(qiáng)化，仍然牢牢占據(jù)主導(dǎo)地位，武器的智能水平?jīng)]有取得實(shí)質(zhì)性進(jìn)化發(fā)展，缺乏知識(shí)積累或深度學(xué)習(xí)等經(jīng)驗(yàn)?zāi)芰Φ膬?yōu)化。根據(jù)相關(guān)專家推測(cè)，短時(shí)間內(nèi)人工智能技術(shù)很可能無法取得重大突破，今后相當(dāng)長(zhǎng)一段時(shí)期內(nèi)人類大概率會(huì)一直處于這種模式下。因此，需要積極拓展武器裝備的應(yīng)用領(lǐng)域，提高武器裝備的精準(zhǔn)、敏捷、多能等特性，推動(dòng)武器裝備體系化發(fā)展，最大限度把現(xiàn)有武器技術(shù)成果轉(zhuǎn)化為戰(zhàn)斗力。同時(shí)，加快人工智能技術(shù)原創(chuàng)性研究，突破人工智能可解釋性、通用性等關(guān)鍵瓶頸，制定出臺(tái)嚴(yán)寬相濟(jì)的人工智能發(fā)展規(guī)范，防止過分嚴(yán)格的制度標(biāo)準(zhǔn)阻礙技術(shù)創(chuàng)新。

平等互補(bǔ)——

武器脫離“物”的范疇

人與武器的平等互補(bǔ)關(guān)系是指二者在作戰(zhàn)中的分工各有側(cè)重，通過相互配合、協(xié)同工作，最終實(shí)現(xiàn)取長(zhǎng)補(bǔ)短。人類主要承擔(dān)戰(zhàn)略判斷、藝術(shù)創(chuàng)造、模糊推理等任務(wù)，武器主要承擔(dān)技術(shù)性分析、自動(dòng)化處理、數(shù)據(jù)化管理、智能化決策輔助等任務(wù)。這種關(guān)系模式中，武器的智能化水平得到長(zhǎng)足發(fā)展，但只聚焦于人類不擅長(zhǎng)的領(lǐng)域，從而和人類形成優(yōu)勢(shì)互補(bǔ)。在根本屬性上，人與武器是平等關(guān)系，武器已經(jīng)基本脫離傳統(tǒng)“物”的范疇，是具有不同類型智能的“智慧體”，雖然不具備人類智能的創(chuàng)造性和藝術(shù)性功能，但已初步具有智能化信息處理和分析能力，只是與人類智能分屬不同的智能領(lǐng)域，這與傳統(tǒng)武器有本質(zhì)區(qū)別。

針對(duì)這種關(guān)系模式，應(yīng)注重組織體制和編成模式創(chuàng)新。該模式下，人與機(jī)器各自天然優(yōu)勢(shì)能夠得到充分發(fā)揮，既可激發(fā)人的創(chuàng)造性思維和大局掌控能力，又可使武器智能得到開發(fā)利用和不斷演進(jìn)。例如武器裝備能夠在大數(shù)據(jù)、物聯(lián)網(wǎng)的支撐下為人類提供高精度的圖像識(shí)別和高算力的運(yùn)籌策劃等分析輔助工作，人與武器發(fā)揮各自優(yōu)長(zhǎng)、相互配合，這是未來戰(zhàn)爭(zhēng)中理想的關(guān)系模式。因此，應(yīng)著眼建立深度挖掘人機(jī)優(yōu)勢(shì)互補(bǔ)的制度機(jī)制，進(jìn)一步規(guī)范完善人工智能發(fā)展戰(zhàn)略，突出人工智能的特定領(lǐng)域優(yōu)勢(shì)；創(chuàng)新軍事力量組織體制，重新評(píng)估武器作為“智慧體”在軍隊(duì)組織中的定位和作用，為可能出現(xiàn)的機(jī)器人軍團(tuán)、大型智能自主作戰(zhàn)平臺(tái)等進(jìn)行組織設(shè)計(jì)；優(yōu)化人與武器的編成模式，突破傳統(tǒng)上由人直接指揮控制武器的方式，探索人與武器的任務(wù)分配、功能界限、權(quán)責(zé)劃分、協(xié)作方式等一系列相互關(guān)系，更好地釋放新型人機(jī)編成模式的組織勢(shì)能。

失衡錯(cuò)位——

武器地位作用變強(qiáng)勢(shì)

人與武器的失衡錯(cuò)位關(guān)系是指，武器智能化水平持續(xù)提高，進(jìn)而產(chǎn)生擠壓人類價(jià)值、替代人類地位的傾向，人的作用地位相對(duì)弱勢(shì)，武器的作用地位更加重要。產(chǎn)生這種關(guān)系的原因主要是：當(dāng)武器智能化逐步朝著“反事實(shí)推理”的強(qiáng)人工智能方向發(fā)展，通過持續(xù)人機(jī)交互和戰(zhàn)爭(zhēng)實(shí)踐復(fù)雜環(huán)境的深度學(xué)習(xí)，武器在與真實(shí)對(duì)手不斷博弈的過程中不斷修正算法、優(yōu)化實(shí)戰(zhàn)模擬程序，自主能力迭代高速發(fā)展，特別是在可解釋性、可靠性、通用性等方面獲得重大突破，最終實(shí)現(xiàn)對(duì)人類戰(zhàn)爭(zhēng)能力的全面趕超。

針對(duì)這種關(guān)系模式，應(yīng)注重人與武器關(guān)系的調(diào)節(jié)和技術(shù)路徑設(shè)計(jì)。當(dāng)武器朝著更加強(qiáng)勢(shì)的方向發(fā)展時(shí)，不僅能夠發(fā)揮其傳統(tǒng)優(yōu)勢(shì)，在模糊推理、多重博弈等人類優(yōu)勢(shì)領(lǐng)域的能力也日益加強(qiáng)，這將產(chǎn)生難以估量的后果。一方面，人類得以從繁重的體力和腦力勞動(dòng)中解脫；另一方面，人類天生優(yōu)勢(shì)也逐步削弱，可能導(dǎo)致人與武器的關(guān)系失調(diào)，甚至增加武器反制人類的可能性。因此，需要全面深入考慮武器智能化高度發(fā)展帶來的深刻影響，明確人與武器的應(yīng)用界限，將人工智能技術(shù)限制在人類不具優(yōu)勢(shì)的領(lǐng)域；科學(xué)設(shè)計(jì)人工智能技術(shù)發(fā)展路徑，避免無限制追求武器智能化發(fā)展，謹(jǐn)慎對(duì)待人工智能的推廣應(yīng)用，全面評(píng)估智能化武器實(shí)戰(zhàn)化的消極影響，提前做好武器侵入人類主導(dǎo)領(lǐng)域的應(yīng)對(duì)措施。

分離對(duì)立——

警惕武器擺脫人控制

人與武器的分離對(duì)立關(guān)系是指，武器具有一定自主決策和行動(dòng)能力，不再完全受人類控制，人與武器關(guān)系協(xié)調(diào)失靈。造成這種關(guān)系的原因有兩種：一是技術(shù)性原因，由于人工智能技術(shù)突破瓶頸，帶來武器高度智能化，武器具備擺脫人類控制的能力；二是制度性原因，由于武器研發(fā)、使用、管理不規(guī)范，戰(zhàn)爭(zhēng)法規(guī)制定不科學(xué)等，使武器應(yīng)用缺乏限制而對(duì)人類發(fā)展造成嚴(yán)重后果。人與武器的分離對(duì)立是一種危險(xiǎn)關(guān)系，當(dāng)武器智能化高度發(fā)達(dá)時(shí)，同時(shí)具有機(jī)器智能和人類智能的綜合優(yōu)勢(shì)，一旦失去控制就會(huì)對(duì)人類構(gòu)成巨大威脅。在根本屬性上，武器實(shí)現(xiàn)獨(dú)立自主，成為與人類地位平等且對(duì)立的“智慧體”。這種情況下智能化武器可能產(chǎn)生嚴(yán)重反噬，其正向價(jià)值遠(yuǎn)遠(yuǎn)低于負(fù)向價(jià)值，帶來的不僅僅是國(guó)家危機(jī)而是人類危機(jī)。

針對(duì)這種關(guān)系模式，應(yīng)注重法規(guī)約束和道德規(guī)范。出于預(yù)防目的，2019年歐盟委員會(huì)發(fā)布了人工智能道德準(zhǔn)則，從人類的能動(dòng)性和監(jiān)管，技術(shù)的健全性和安全性，隱私和數(shù)據(jù)管理，透明性，多樣性、非歧視性和公平性，環(huán)境和社會(huì)福祉，問責(zé)制等7個(gè)方面，對(duì)未來人工智能發(fā)展提出了要求；美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院也發(fā)布了關(guān)于如何制定人工智能技術(shù)和道德標(biāo)準(zhǔn)的指導(dǎo)意見，概述了合理使用人工智能的舉措和指導(dǎo)未來技術(shù)標(biāo)準(zhǔn)的基本原則。因此，為應(yīng)對(duì)可能產(chǎn)生的威脅，需要制定足夠嚴(yán)格的人工智能行業(yè)標(biāo)準(zhǔn)和法律法規(guī)，既防止技術(shù)損害人類利益，同時(shí)又足夠靈活，可鼓勵(lì)創(chuàng)新并促進(jìn)技術(shù)發(fā)展；研究人工智能武器系統(tǒng)質(zhì)量與安全性評(píng)估的技術(shù)和機(jī)制，制定人工智能武器安全使用指南，科學(xué)設(shè)定人工智能武器“門檻”和“禁區(qū)”；堅(jiān)持基于現(xiàn)有關(guān)于戰(zhàn)爭(zhēng)和人權(quán)的法律制度，理清人工智能武器道德準(zhǔn)則清單，形成完整的人工智能倫理規(guī)范。