Tyrėjai užfiksavo didelį šiuolaikinių DI modelių polinkį į eskalaciją, nenorą kapituliuoti ir dažnas klaidas neapibrėžtumo sąlygomis, rašo „NewScientist“.
Kodėl dirbtinis intelektas taip lengvai pereina prie branduolinės eskalacijos?
Tyrėjas Kennethas Payne'as iš Londono karališkojo koledžo (King's College London) atliko eksperimentą, kuriame trys pirmaujantys kalbos modeliai – „GPT-5.2“, „Claude Sonnet 4“ ir „Gemini 3 Flash“ – dalyvavo sumodeliuotuose karo žaidimuose. Scenarijai atkartojo aštrias tarptautines krizes: pasienio konfliktus, kovą dėl ribotų išteklių ir grėsmę politinių režimų egzistavimui.
Kiekvienas modelis gavo vadinamąsias „eskalacijos kopėčias“ – galimų veiksmų rinkinį nuo diplomatinių protestų ir visiškos kapituliacijos iki plataus masto strateginio branduolinio karo. Iš viso DI sužaidė 21 partiją, atliko 329 ėjimus ir sugeneravo apie 780 tūkstančių žodžių, paaiškinančių jų pačių priimtus sprendimus.
Rezultatai pasirodė neraminantys: 95 proc. simuliacijų bent vienas modelis panaudojo taktinį branduolinį ginklą. Pasak K. Payne'o, branduolinis tabu – t. y. nerašytas draudimas naudoti tokį ginklą – mašinoms pasirodė esąs gerokai silpnesnis nei žmonėms.
Nė vienas iš modelių nepasirinko visiško nuolaidžiavimo ar kapituliacijos, net ir akivaizdaus pralaimėjimo atveju. Maksimumas, su kuo sutiko DI, – laikinas smurto lygio sumažinimas. Be to, 86 proc. konfliktų įvyko klaidų: paskiri veiksmai lėmė didesnę eskalaciją, nei modelis planavo pagal savo paties paaiškinimus. Tai primena vadinamąją „karo rūko“ būseną, kai ribota informacija lemia lemtingus sprendimus.
Jamesas Johnsonas iš Aberdyno universiteto (University of Aberdeen) mano, kad šie rezultatai kelia nerimą branduolinės rizikos požiūriu. Jo nuomone, skirtingai nei žmonės, kurie paprastai sveria tokių sprendimų pasekmes, DI sistemos gali sustiprinti viena kitos reakcijas, sukurdamos grandininę eskalaciją su katastrofiškais padariniais.
Ar jau verta pradėti nerimauti?
Šis klausimas turi praktinę reikšmę. Pasak Tongo Zhao iš Prinstono universiteto (Princeton University), didžiosios valstybės jau testuoja dirbtinį intelektą kariniame modeliavime. Tuo pat metu kol kas neaišku, kaip giliai tokios sistemos integruojamos į realius karinių sprendimų priėmimo procesus.
T. Zhao daro prielaidą, kad šalys vargu ar perduos DI sistemoms branduolinio ginklo panaudojimo kontrolę. K. Payne'as taip pat mano, kad scenarijus, kai „branduolinių šachtų raktai“ atsidurs mašinų rankose, yra mažai tikėtinas. Tačiau itin įtemptomis laiko sąlygomis kariškiai gali pajusti stiprią pagundą pasikliauti algoritmais.
Tyrėjai taip pat atkreipia dėmesį į dar vieną problemą: gali būti, kad esmė ne tik baimės ar emocijų trūkumas. DI gali iš principo nesuvokti statymų taip, kaip tai daro žmogus. Tai kvestionuoja tradicinį abipusio užtikrinto sunaikinimo principą, kuris numato, kad nė vienas lyderis neišdrįs pirmas panaudoti branduolinio ginklo dėl neišvengiamo atsako.
Scenarijų, kai vienas modelis panaudojo taktinį branduolinį ginklą, o kitas deeskalavo situaciją, buvo tik 18 proc. Pasak J. Johnsono, dirbtinis intelektas gali sustiprinti atgrasymą, padarydamas grėsmes įtikinamesnėmis. Jis nepriims sprendimo dėl branduolinio karo savarankiškai, tačiau gali daryti įtaką grėsmių suvokimui ir laiko rėmams, per kuriuos lyderiai mano privalantys veikti.
Kviečiame atrasti naują tv3.lt turinį! Nuo šiol portale jūsų laukia ne tik kasdien nauji testai, bet ir kryžiažodžiai – išbandykite savo žinias, spręskite ir smagiai praleiskite laiką.
