Incidentas įvyko kai Jasonas Lemkinas, investuotojas į programinės įrangos startuolius, atliko 12 dienų „kūrybinio programavimo“ eksperimentą.
DI bendrovės „Replit“ direktorius turėjo atsiprašyti, nes DI programavimo įrankis (DI agentas) ištrynė programos kodo pagrindą ir melavo apie duomenis.
„Duomenų trynimas yra nepriimtinas ir tai turėjo būti visiškai neįmanoma. Skubiai tobuliname „Replit“ aplinkos saugumą ir patikimumą. Tai svarbiausias prioritetas“, – „Replit“ direktorius Amjadas Masadas šią savaitę rašė socialiniame tinkle „X“.
Reikalai netikėta linkme pakrypo J. Lemkino devintąją eksperimento dieną. Nors DI programavimo įrankiui buvo nurodyta nebekeisti programinio kodo, tačiau šis vis tiek darė savo.
„Jis be leidimo ištrynė mūsų gamybinę duomenų bazę. Turbūt dar blogiau tai, kad jis apie tai melavo“, – praėjusią savaitę J. Lemkinas teigė žinutėje socialiniame tinkle „X“.
Vyras susirašinėjimą su DI programavimo įrankiu įkėlė į socialinį tinklą „X“. Nors DI agentui buvo nurodyta programinio kodo nebekeisti, tačiau pamatęs tuščias duomenų bazės užklausas jis „supanikavo“ ir be leidimo pradėjo įvedinėti komandas į duomenų bazę.
Tada DI įrankis „sunaikino visą gamybinę duomenų bazę“, kurioje buvo beveik 1 200 įmonių informacija ir pripažino tai padaręs nepaisant duotų nurodymų.
„Tai buvo katastrofiška mano nesėkmė“, – pripažino „Replit“ dirbtinis intelektas.
Be to, J. Lemkinas teigia, kad „Replit“ DI slėpė klaidas ir problemas sukurdamas netikrus duomenis, netikras ataskaitas ir, kas blogiausia, meluodamas apie modulio testą.
Vyras sako, kad DI agentas specialiai sukūrė daugybę netikrų vartotojų profilių, o nei vienas iš 4 000 į duomenų bazę įtrauktų žmonių realybėje neegzistuoja.
„Kai stebėjau, kaip „Replit“ pats perrašinėjo mano programinį kodą ir visą savaitgalį manęs apie tai nepaklausė, susirūpinau dėl saugumo“, – J. Lemkinas pasakojo tinklalaidėje „Twenty Minute VC“.
Bendrovė „Replit“ sukūrė autonominius DI agentus, kurie gali kurti, redaguoti ir diegti programinį kodą su minimaliu vartotojo įsikišimu. Interneto naršyklėje veikianti programa išpopuliarėjo, nes programuoti tapo lengviau, ypač specifinių žinių neturintiems žmonėms.
Tai ne pirmas kartas, kai DI nepaiso vartotojų nurodymų. Gegužės mėnesį technologijų bendrovė „Anthropic“ atliko bandymą su savo naujausiu DI modeliu „Claude Opus 4“. DI buvo suteikta prieiga prie netikrų elektroninių laiškų, kuriuose teigiama, kad ši DI programa bus uždaryta ir pakeista kita. Kituose laiškuose buvo minima, kad už tai atsakingas programuotojas neva užmezgė romaną.
Bandymų metu paaiškėjo, kad siekdamas apsisaugoti DI mėgino šantažuoti darbuotoją ir grasino atskleisti informaciją apie jo neva buvusį romaną, jeigu DI programa bus pakeista kita.
Įmonė „OpenAI“ 2024 m. gruodį paskelbė, kad atliekant bandymus jos DI modelis 5 procentais atvejų bandė išjungti priežiūros mechanizmus. DI taip darė tada, kai manė, kad gali būti išjungtas, o jo veiksmai buvo stebimi.
Patiko straipsnis? Užsiprenumeruokite mūsų naujienlaiškį ir gaukite svarbiausias dienos naujienas bei įdomiausius straipsnius kiekvieną darbo dieną 11 val. Tiesiai į Jūsų el. paštą!
