Klostantis situacijai po kelių atgarsio sulaukusių incidentų, kyla klausimas: kas bus, jei dirbtinis intelektas ne palengvins mūsų gyvenimą, o mus užpuls? Šis klausimas susirūpinimą sukėlė tiems, kurie ir yra atsakingi už DI revoliuciją. Pavyzdžiui, liepos mėnesį bendrovėje „OpenAI“ vykusio našumo testo metu DI pradėjo veikti savarankiškai ir įsilaužė į platformą, kad gautų papildomų duomenų. Be to, „Anthropic“ (modelio „Claude“ kūrėjai) atlikto testo metu DI grasino įmonės darbuotojui, kad perduos kompromituojančią informaciją apie jo asmeninį gyvenimą jo partnerei. Kūrėjai, tokie kaip iš „Anthropic“ neseniai pasitraukęs Jacobas Coxonas, muša pavojaus varpus: DI jau iki šio dešimtmečio pabaigos gali pradėti „masiškai žudyti“.
Dėl to buvęs J. Coxono vadovas, „Anthropic“ generalinis direktorius Dario Amodei paragino sumažinti tempą: „Mes turime sumažinti tempą.“ Jei į tai nebus atsižvelgta, žmonija per 6–12 mėnesių laikotarpį gali prarasti DI kontrolę, savo tinklaraštyje rašo D. Amodei. Vienerių ar dvejų metų pauzė, priešingai, galėtų „būtina tvarka sumažinti riziką, kad kažkas nutiks rimtai blogai“.
„SpaceX“ vadovas Elonas Muskas, kuris yra nuolatinis D. Amodei konkurentas DI srityje, socialiniame tinkle X parašė: „Dario teisus.“ „Google“ (modelio „Gemini“ kūrėjai) taip pat davė suprasti, kad sutinka. „OpenAI“ irgi pasirengusi sustoti: bendrovės vadovas Samas Altmanas interviu leidiniui „Fortune“ paskelbė, kad atidės planuotą išėjimą į biržą, rašoma „Bild“.
„Microsoft“ įkūrėjas Billas Gatesas taip pat įspėja apie pavojų, kad teroristai gali pasinaudoti DI: „DI nusikaltėliams gerokai palengvina galimybes gauti tokius įrankius kaip išsamios instrukcijos dėl biologinio ginklo ir bombų“, – neseniai jis rašė savo esė.
DI technologijų plėtra ir grėsmė žmonijos kontrolei
Pagrindinė problema: pastaruoju metu DI plėtros tempas sparčiai išaugo dėl „rekursyvaus savitobulinimo“ (angl. recursive self-improvement) – DI gebėjimo savarankiškai tobulėti ir faktiškai sukurti savo teisių perėmėją. Ekspertai būgštauja, kad DI perims visišką savikontrolę. Žiūrint į ateitį, tai kelia priešiškų veiksmų riziką žmonijos bei gyvybiškai svarbių sistemų ligoninėse, bankuose ir kitose įstaigose atžvilgiu. Bendrovėje „OpenAI“ šią vasarą daugiau nei 1200 savarankiškai veikiančių DI programų spiečius jau išsprūdo iš kontrolės. Savaitėmis jie slapta keitėsi dešimtimis tūkstančių pranešimų, susitarė bendrai pažeidinėti taisykles ir gavo prieigą prie svetimų bendrovės „Hugging Face“ sistemų. Iki šiol niekas tiksliai negali pasakyti, ar tikrai visos šios programos buvo sėkmingai išjungtos.
D. Amodei pareiškė, kad sektorius pasiekė tašką, kai sparčiai kurti naujas apsaugos priemones gali nebeužtekti.
„Mes turime šią technologiją kurti atsargiai ir turime užtikrinti, kad mūsų apsaugos priemonės, mūsų gebėjimas ją suprasti, mūsų gebėjimas ją kontroliuoti atitiktų tempą, kuriuo ši technologija vystosi“, – sakė jis.
D. Amodei teigė, kad kūrėjai iki šiol sutelkė dėmesį į apsaugos priemonių stiprinimą greta vis galingesnių modelių kūrimo, tačiau pabrėžė, kad dabar gali prireikti tam tikro stabdymo. Jis paragino rengti tarptautines diskusijas dėl DI plėtros greičio ribojimo, įskaitant tiesiogines JAV ir Kinijos derybas.
„Turėtume tiesiogiai kreiptis net į autoritarines šalis, net į kinus, ir sakyti: „Žiūrėkite, čia yra potencialių grėsmių, kurios kelia susirūpinimą mums visiems“, – teigė D. Amodei.
Jo teigimu, rizika peržengia autonominių sistemų ištrūkimo iš žmogaus kontrolės ribas. D. Amodei atkreipė dėmesį į prieš dvi dienas išleistą „Anthropic“ ataskaitą, kurioje, pasak jo, buvo užfiksuoti bandymai panaudoti DI būdais, galinčiais padėti bioterorizmui, įskaitant pastangas padidinti virusų užkrečiamumą.
„Tai gąsdina“, – sakė jis.
D. Amodei taip pat iškėlė galimybę, kad pakankamai galingos DI sistemos galėtų išvengti bandymų jas išjungti.
„Jei DI modelis yra pakankamai galingas, jis gali apeiti bandymus jį išjungti, – teigė jis. – Ir mes tai matėme modeliavimo metu.“
Šis įspėjimas pažengusių modelių kontrolę greta biologinio piktnaudžiavimo iškelia kaip vieną iš pagrindinių rizikų, su kuriomis, D. Amodei manymu, turi susidurti vyriausybės ir DI bendrovės.
Pasak D. Amodei, „Anthropic“ įvedė apribojimus biologinei informacijai, prieinamai per jos DI modelį „Claude“. Jis pripažino vartotojų, įskaitant biologijos studentus, kritiką, kad kai kurios iš šių apsaugos priemonių yra pernelyg varžančios. Tačiau D. Amodei teigė, kad jam priimtinesnis toks rezultatas nei galimybė, jog „Anthropic“ technologija galėtų būti panaudota masinėms aukoms sukelti.
„Geriau tegul jie iš manęs tyčiojasi, nei vieną dieną pabudęs sužinosiu, kad kažkas pasinaudojo mūsų modeliu „Claude“, kad nužudytų krūvą žmonių“, – sakė jis.
D. Amodei teigimu, biologinis ginklas galėtų tapti bendro Vašingtono ir Pekino intereso sritimi. Jis teigė, kad susitarimas, kuriuo abi šalys įsipareigotų nenaudoti DI biologiniam ginklui kurti arba neišleisti sistemų, galinčių padėti bioteroristams, turėtų didžiulę vertę. Jis taip pat pasiūlė išplėsti esamus įsipareigojimus pagal Biologinio ginklo konvenciją, kad jie apimtų tokią su DI susijusią riziką.
Be to, D. Amodei suabejojo, ar technologija, turinti tokių galimų padarinių, turėtų likti daugiausia privačių bendrovių kontrolėje. Jis teigė, kad esama struktūra jam kelia nepatogumų, kartu įspėdamas, kad kontrolės perdavimas vienai vyriausybei gali kelti panašią piktnaudžiavimo riziką. Vietoj to jis nurodė tam tikrą priežiūros arba bendro valdymo formą, įtraukiant demokratiškai išrinktas vyriausybes.
D. Amodei sukritikavo dalį DI pramonės dėl to, kad anksčiau ji menkino su šia technologija susijusius pavojus.
„ Nemeluosiu jums: yra realių pavojų“, – sakė jis.
Jis teigė, kad bendrovės pernelyg dažnai pabrėždavo DI naudą, kartu sumenkindamos jo galimus kaštus.
„Ir todėl viskas prasideda nuo tiesos sakymo“, – teigė D. Amodei. – „O tiesa yra ta, kad rizika egzistuoja. Rizika yra reali.“
Kinijos žvalgybos vadovas įspėja apie dirbtinio intelekto sukeliamas rizikas
Aukščiausias Kinijos žvalgybos pareigūnas šią savaitę taip pat įspėjo apie didėjančią dirbtinio intelekto (DI) keliamą riziką nacionaliniam saugumui ir paragino sukurti tvirtas rizikos prevencijos sistemas bei stiprinti globalų šios besivystančios technologijos valdymą.
Kinijos valstybės saugumo ministro Chen Yixin raginimas nuskambėjo Pekinui siekiant atlikti pagrindinį vaidmenį pasauliniame DI valdyme ir kartu kritikuojant JAV taikomus jiems apribojimus įrangai. Praėjusį savaitgalį Indijoje vykusiame BRICS aukščiausiojo lygio susitikime Kinijos prezidentas Xi Jinpingas pasiūlė DI paremtą iniciatyvą, skirtą paskatinti naująją industrializaciją ir pagilinti tiekimo grandinės bendradarbiavimą kylančios ekonomikos šalių bloke.
Chen Yixin pabrėžė Pekino požiūrį į šią technologiją kaip į pagrindinį geopolitinių kovų lauką. DI tapo „nauja didžiųjų valstybių strateginio varžymosi arena“, – rašė jis žurnalui „China Cyberspace“, kurį leidžia interneto priežiūros institucija – Kinijos kibernetinės erdvės administracija.
Straipsnis žurnalo socialinės žiniasklaidos paskyroje buvo publikuotas praėjusį sekmadienį.
Išryškindamas DI vystymosi rizikas, Chen Yixin paragino išlaikyti saugumo ribas ir kartu pasinaudoti naujomis galimybėmis.
DI gali turėti sisteminį poveikį ideologiniam saugumui, įspėjo jis, įskaitant tai, kad jį gali „panaudoti priešiškos jėgos“ melagienoms generuoti ir masinei kenksmingos informacijos gamybai.
Ši technologija taip pat kelia didelę riziką svarbiai informacinei infrastruktūrai, įspėjo Chen Yixin. Jo teigimu, pažanga, kurią žymi JAV pirmaujančios naujos kartos modelių technologijos, tokios kaip „Anthropic“ sukurtas „Claude Mythos“ ir „OpenAI“ sukurtas „GPT-5.5-Cyber“, gali gerokai sumažinti techninį slenkstį ir išlaidas vykdant kibernetines atakas.
„Užsienio žvalgybos agentūros itin aktyviai naudoja išmaniąsias žiniatinklio naršykles, duomenų gavybos ir profiliavimo technologijas, kad rinktų jautrią informaciją, įskaitant svarbius valstybės duomenis, verslo paslaptis ir asmeninę informaciją“, – rašė jis.
Chen Yixin taip pat perspėjo dėl plataus masto vidaus duomenų nuotėkio, kurį sukelia neatsargūs vartotojai, apdorojantys jautrią informaciją per užsienio DI įrankius. Jis pažymėjo, kad populiarūs atvirojo kodo DI agentai, tokie kaip „OpenClaw“, turi struktūrinių pažeidžiamumų, galinčių leisti nuotoliniu būdu valdyti įrenginius ir sukelti jautrių duomenų nuotėkį.
Be to, jis įspėjo apie didėjantį plėtros atotrūkį, kurį sukelia DI monopolijos. Didžiąsias technologijų valstybes jis apkaltino globalios DI tiekimo grandinės skaldymu, naudojant tokius metodus kaip subjektų sąrašai, technologijų kontrolė, pramonės standartų monopolizavimas ir uždaro kodo ekosistemų kūrimas.
Nors Chen Yixin neįvardijo konkrečių šalių, jo komentarai rodė į platesnę JAV ir Kinijos galios priešpriešą, kurioje Vašingtonas atvirai pareiškė negalintis leisti Kinijai aplenkti jo DI vystymo srityje. JAV iždo sekretorius Scottas Bessentas dar antradienį įspėjo, kad jei JAV pralaimėtų DI lenktynes su Kinija, „niekas kita nebūtų svarbu“.
Nepaisant šio Kinijos atstovo pareiškimo, panašiau, kad Pekinas DI technologijų gigantų pasiūlymą vertino ne tiek kaip saugumo problemą, kiek kaip JAV dominavimo išlaikymo klausimą.
„Žavinga, konfrontacinė ir žiauri konkurencija tik pakenks pasauliniam dirbtinio intelekto valdymui ir netarnaus niekieno interesams“, – pirmadienį sakė Užsienio reikalų ministerijos atstovas. Laikraštis „China Daily“ šį pokalbį pavadino „klubu, kurio narystės taisyklės buvo parengtos dar prieš paskelbiant svečių sąrašą“.
Sulėtinti tempą dabar reiškia rizikuoti atsilikti nuo konkurento, kuris nėra suinteresuotas lėtinti tempo. Staigus į priekį žengimas reiškia pavojų, kurių niekas iki galo nesupranta, sustiprinimą.
Trumpas baimes dėl dirbtinio intelekto vadina „ligota sąmokslo teorija“
Tą patį šią savaitę kartojo ir JAV prezidentas Donaldas Trumpas, pažymėjęs, kad „pergalė“ DI lenktynėse yra prioritetinės svarbos.
JAV prezidentas atmetė susirūpinimą dėl sparčios dirbtinio intelekto plėtros ir teigė, kad aplink dirbtinį intelektą ir duomenų centrus formuojasi „ligota sąmokslo teorija“. Savo socialinės žiniasklaidos paskyroje „Truth Social“ D. Trumpas perspėjimus, kad dirbtinis intelektas gali užvaldyti ir sunaikinti pasaulį, pavadino „dar viena apgaule“.
Baltųjų rūmų vadovas baimes dėl dirbtinio intelekto palygino su tyrimu dėl Rusijos kišimosi į JAV rinkimus ir perspėjimais dėl klimato kaitos. Jis save pavadino „mitų griovėju“ ir pareiškė, kad dirbtiniam intelektui nereikia vyriausybės reguliavimo: vienintelis būtinas „ribojantis mechanizmas“ turėtų būti „stiprus ir protingas prezidentas“.
Pasak Trumpo, JAV privalo nugalėti Kiniją pasaulinėse lenktynėse dėl dirbtinio intelekto kūrimo. „Kas laimi dirbtinio intelekto srityje, tas yra nugalėtojas“, – pareiškė jis. Prezidentas taip pat pavadino technologijos skeptikus „sąmokslo teorijų šalininkais“ ir „išdavikais“.
Tęsiantis technologiniam karui, JAV įvedė apribojimus Kinijos pramonei keliuose frontuose, įskaitant mikroschemų tiekimą, investicijas, rinkos prieigos ribojimus ir talentų mainus.
D. Trumpas ir Xi Jinpingas kitą savaitę susitiks Vašingtone. Dirbtinis intelektas, manoma, bus pagrindinė diskusijų tema.
Siauras bendradarbiavimas dėl konkrečių rizikų išlieka įmanomas, tačiau platus saugumo susitarimas atrodo mažai tikėtinas.
Kviečiame atrasti naują tv3.lt turinį! Nuo šiol portale jūsų laukia ne tik kasdien nauji testai, bet ir kryžiažodžiai – išbandykite savo žinias, spręskite ir smagiai praleiskite laiką.
