近日，美國(guó)國(guó)防部宣布成立生成式人工智能工作組，又稱利馬工作組。美國(guó)防部稱，該工作組將以戰(zhàn)略性方式對(duì)人工智能技術(shù)加以利用，以確保美國(guó)防部在維護(hù)國(guó)家安全的同時(shí)，在這一技術(shù)領(lǐng)域保持領(lǐng)先優(yōu)勢(shì)。
據(jù)悉，生成式人工智能是一種人工智能算法。該算法可針對(duì)用戶需求，利用前期輸入的數(shù)據(jù)和用戶提供的相關(guān)資料，生成新的輸出數(shù)據(jù)提供給用戶。最近很受關(guān)注的ChatGPT聊天機(jī)器人程序就是該技術(shù)的典型應(yīng)用。美國(guó)防部認(rèn)為，大型語言模型等生成式人工智能技術(shù)，在全球范圍內(nèi)的影響力正不斷擴(kuò)大，美軍迫切需要提高生成式人工智能模型的速度和交互能力等，以提高任務(wù)效率。
據(jù)悉，利馬工作組主要職責(zé)是評(píng)估、利用和提升生成式人工智能技術(shù)能力，并通過生成式人工智能模型，幫助美軍提升在作戰(zhàn)能力、軍事管理、衛(wèi)生健康、戰(zhàn)備及政策等領(lǐng)域的行動(dòng)能力。
負(fù)責(zé)指導(dǎo)利馬工作組建立的美國(guó)防部副部長(zhǎng)凱瑟琳·?？怂狗Q：“利馬工作組的成立凸顯了國(guó)防部對(duì)引領(lǐng)人工智能創(chuàng)新的決心。我們將在確保國(guó)家安全、盡量降低風(fēng)險(xiǎn)的前提下，整合生成式人工智能技術(shù)?！?/p>
生成式人工智能技術(shù)可根據(jù)已有數(shù)據(jù)生成新的數(shù)據(jù)。由于大型語言模型的數(shù)據(jù)來源主要基于互聯(lián)網(wǎng)的數(shù)據(jù)語料庫(kù)，因此，它們有時(shí)會(huì)使用虛假信息。對(duì)此，美國(guó)防部官員表示擔(dān)憂。美國(guó)防部數(shù)字和人工智能負(fù)責(zé)人克雷格·馬泰爾稱：“生成式人工智能技術(shù)應(yīng)用于軍事領(lǐng)域的風(fēng)險(xiǎn)過高。如果它在幫助士兵處理緊急情況時(shí)使用虛假信息，那將是致命的。我們需要輸出的數(shù)據(jù)信息至少達(dá)到99.999%的準(zhǔn)確率。”
基于上述原因，馬泰爾表示，美國(guó)防部必須盡力尋求更優(yōu)的生成式人工智能模型，同時(shí)制定適當(dāng)?shù)谋Ｗo(hù)措施，以減少可能因數(shù)據(jù)來源、數(shù)據(jù)管理等問題而產(chǎn)生的國(guó)家安全風(fēng)險(xiǎn)。利馬工作組任務(wù)指揮官曼紐爾·澤維爾·盧戈對(duì)此表示認(rèn)同，稱謹(jǐn)慎選擇模型并完善管理是減少相關(guān)風(fēng)險(xiǎn)的關(guān)鍵。
馬泰爾建議，想要最大限度防止生成式人工智能技術(shù)在應(yīng)用過程中使用虛假信息，應(yīng)進(jìn)行大量測(cè)試，同時(shí)為大型語言模型在不同場(chǎng)合的應(yīng)用提供可靠保證。他強(qiáng)調(diào)，無論何時(shí)，生成式人工智能的應(yīng)用都必須置于人類的監(jiān)管之下。
?？怂狗Q：“美國(guó)防部的當(dāng)務(wù)之急，是探索這項(xiàng)技術(shù)的運(yùn)用前景和潛力。這些能力不僅將開啟新的機(jī)遇，也將帶來新的風(fēng)險(xiǎn)，我們要找到適當(dāng)?shù)谋Ｗo(hù)措施，將各種風(fēng)險(xiǎn)降至最低?！?/p>
關(guān)于該技術(shù)應(yīng)用于軍事領(lǐng)域可能引發(fā)的風(fēng)險(xiǎn)問題，引起了諸多關(guān)注。目前的生成式人工智能技術(shù)主要用于高效查找目標(biāo)資料、回答常見提問等，且技術(shù)本身存在嚴(yán)重漏洞，有可能被潛在對(duì)手利用，借以發(fā)動(dòng)虛假信息戰(zhàn)，進(jìn)行欺騙或網(wǎng)絡(luò)攻擊。當(dāng)前，包括美國(guó)在內(nèi)的60多個(gè)國(guó)家簽署了一份《行動(dòng)呼吁書》，倡導(dǎo)在軍事領(lǐng)域負(fù)責(zé)任地使用人工智能技術(shù)。
此外，在戰(zhàn)略層面上，生成式人工智能技術(shù)的軍事應(yīng)用，很可能加劇大國(guó)間的競(jìng)爭(zhēng)，增加戰(zhàn)略風(fēng)險(xiǎn)。美國(guó)“新美國(guó)安全中心”智庫(kù)在報(bào)告中指出：“從短期和中期來看，人工智能技術(shù)帶來的大部分變化將是漸進(jìn)、小范圍的，但從長(zhǎng)期來看，有些變化可能是革命性的、普遍的。為此，一些國(guó)家不得不投入大量精力進(jìn)行研發(fā)和探索?！保ɡ顚W(xué)華）