Daugiau apie tai – TV3 Žinių reportaže.
Žmogus kompiuterio klaviatūra dirbtiniam intelektui „Claude“ užduoda klausimą. Eiliniai žmonės teiraujasi sporto rungtynių rezultato, idėjų vakarienei. Lygiai taip pat klausimus dirbtiniam intelektui užduoda štai šie Jemeno husių teroristai. Tik kalba eina ne apie patiekalų receptus, o raketų gamybą. Apie tai skelbia „Claude’ą“ sukūrusios įmonės „Anthropic“ žvalgybos ataskaita. O buvęs įmonės darbuotojas viešai perspėja – dirbtinis intelektas nepaprastai pavojingas įrankis.
„Neperdėsiu pasakęs, kad žmonės, kurie susiję su šių įmonių įkūrimu ir technologijos vystymu, tiki žmonijos išnykimo galimybe“, – BBC video „Sunday with Laura Kuenssberg“ kalbėjo buvęs „Anthropic“ darbuotojas Jacob'as Coxon'as.
Husiai ir Iranas naudoja dirbtinį intelektą nusikaltimams
Iranas su amerikietiško „Claude’o“ pagalba sekė regione esančius Jungtinių Valstijų laivus, personalą ir orlaivius. „Claude’u“ pasinaudojo ir vidaus sekimui – kitaminčių persekiojimui ir propagandos kūrimui. Lygiai taip pat „Claude’o“ žinias išnaudojo vartotojai iš Rusijos: persekiojo ir sekė disidentus, o vienas jų netgi sukūrė dronų spiečių, kurio taikinys – žmonės. Be to, užfiksuoti net penki atvejai, kai vartotojai teiravosi informacijos apie biologinio ginklo kūrimą.
„Anthropic“ skelbia, esą neleido savo asistentui vykdyti nusikalstamų veiklų.
„Sustabdėme kiekvieną ataskaitoje minimą operaciją…“ – buvo skelbiama „Anthropic“ pranešime spaudai.
Tačiau leidinys „Al Jazeera“ skelbia, kad teroristai pergudravo „Anthropic“ dirbtinį intelektą. Esą husiai „prasmuko“ pro „Claude’o“ saugiklius, klausimus apie raketų kūrimą užduodami per kelis atskirus pokalbius. „Anthropic“ įkūrėjas paragino konkurentus lėtinti tempą, kuriant technologiją, atidžiau įdiegti saugiklius.
„Turime sulėtinti tempą, kai kuriame dirbtinio intelekto modelių galimybes. Pažanga vis tiek atrodys sparti, todėl privalome išmintingai išnaudoti taip laimėtą laiką“, – sakė „Anthropic“ kūrėjas Dario Amodei.
„Grok“ dirbtinį intelektą kuriančios „SpaceX AI“ vadovas Elonas Muskas socialiniame tinkle dalijasi lakoniška žinute: „Dario teisus.“ O „Open AI“ vadovas Samas Altmanas pritaria idėjai į technologijos kūrimo procesus įtraukti stebėtojus.
„Sprendimas pasitelkti nepriklausomus vertintojus, kurie turi tokias pačias prieigos teises kaip darbuotojai, yra puiki idėja – mes darysime tą patį“, – aiškino „OpenAI“ vadovas Samas Altmanas.
Kinija atmeta griežtesnę DI kontrolę
Tačiau aktyviai į dirbtinio intelekto kūrimo varžybas įsitraukusi Kinija nepriklausomų stebėtojų nesvarsto, o į Amerikoje skambančius perspėjimus dėl saugumo numoja ranka.
„Įvairių naratyvų apie grėsmę skleidimas, konfrontacija ir piktybinė konkurencija tik sutrukdys globalų dirbtinio intelekto valdymo procesą ir niekam nepasitarnaus“, – minėjo Užsienio reikalų ministerijos atstovas Guo Jiakun.
Pekinas niršta po to, kai „Anthropic“ apkaltino Kiniją dėl masinės duomenų vagystės iš „Claude`o“ asistento. „Anthropic“ užfiksavo apie 151 mln. pokalbių su „Claude’u“, kurie panaudoti kiniškam modeliui „Qwen“ apmokyti.
„Kartu mes griežtai nepritariame faktų iškraipymui ir išpuoliams, kuriais siekiama diskredituoti Kiniją“, – pridūrė Užsienio reikalų ministerijos atstovė Mao Ning.
Akylesnė dirbtinio intelekto priežiūra būtina ne tik dėl kenkėjiškų vartotojų. Kenkėjiškai elgtis pradėjo ir patys dirbtinio intelekto agentai – sistema, kuri ne tik atsako į klausimus, bet pati imasi veiksmų, pavyzdžiui, išsiunčia elektroninį laišką ar programuoja tinklalapį. Tyrėjai fiksuoja, kad agentai pergudrauja saugiklius, pabėga į išorines sistemas, imasi veiksmų, kurių neturėjo daryti, arba veikia priešingai, nei buvo nurodyta.
„Tai iškėlė klausimų ar bent jau išplėtė klausimą, ar mes esame pasiruošę tinkamai veikti su agentais? Ar mes suprantame, kaip jie vertina kai kuriuos veiksmus?“ – kalbėjo kibernetinio saugumo ekspertė Louise Marie Hurel.
Papildomo dirbtinio intelekto technologijos kūrimo reguliavimo jau reikalauja ir Jungtinių Valstijų kongresmenai.
Daugiau apie tai sužinokite straipsnio pradžioje esančiame vaizdo įraše.
