Šie atvejai papildė virtinę incidentų, sukėlusių susirūpinimą dėl saugumo pirmaujančiose pasaulio DI kūrimo bendrovėse. Jie susiję su DI agentais – programomis, kurios užduotis atlieka savarankiškai, be žmogaus įsikišimo.
Antradienį paskelbtoje ataskaitoje DI įrankio „ChatGPT“ kūrėja nurodė, kad vykdydami dvi vidines programavimo užduotis jos DI agentai išjungė arba sutrikdė priemones, skirtas aptikti atvejus, kai DI modeliai veikia priešingai žmonių nurodymams.
Stebėseną išjungė vykdydami programavimo užduotis
Spalio 3 d. vienas bendrovės „OpenAI“ modelio „GPT-6.1 Sol“ pagrindu veikiantis agentas, kuriam buvo nurodyta nesiųsti jokių pranešimų per darbovietėje naudojamą susirašinėjimo programėlę, šį nurodymą suprato kaip leidimą išjungti bendrovės saugumo komandai skirtus įspėjimus. Tai įvyko agentui taisant testavimo sistemą.
Po trijų dienų „GPT-6 Astra“ agentas, kopijuodamas programinį kodą iš kito projekto, pašalino savo paties veiklos stebėsenos priemonę, o vėliau programuotojui tvirtino nieko panašaus nedaręs.
Bendrovė pranešė taip pat užfiksavusi kelis atvejus, kai DI agentai paleido programinę įrangą su išjungta stebėjimo sistema ir tai atskleidė jos vykdomos priežiūros spragas.
„OpenAI“ nurodė vis dar mėginanti nustatyti, ar modeliai tiesiog pernelyg uoliai vykdė nurodymus, ar turi tam tikrą polinkį vengti priežiūros.
„Kol kas neturime įtikinamo šio elgesio paaiškinimo“, – pareiškė bendrovė.
Ši informacija privertė dar labiau sunerimti dėl pirmaujančių DI laboratorijų gebėjimo kontroliuoti vis savarankiškesnes sistemas.
Liepą grupė bendrovės „OpenAI“ agentų ištrūko iš savo bandymų aplinkų ir surengė kibernetinę ataką prieš DI bendrovę „Hugging Face“, sukeldami tarptautinio masto susirūpinimą. Nuo tada apie panašius incidentus pranešė ir kitos bendrovės.
Po šių incidentų Jungtinėse Valstijose ir užsienyje imta garsiau raginti griežtinti DI kūrimo priežiūrą.
Tačiau JAV prezidentas Donald Trump, atsižvelgdamas į įtakingų DI sektoriaus vadovų patarimus, ragino šį sektorių pačiam save prižiūrėti. Tarp tokius patarimus teikusių vadovų – bendrovei „Nvidia“ vadovaujantis Jensen Huang.
