27-erių metų Jacobas Coxonas pastaruosius trejus metus dirbo DI modelių išankstinio mokymo srityje – iš pradžių bendrovėje „OpenAI“, o šiais metais – jos konkurentėje „Anthropic“, kurios požiūrį jis laikė atsargesniu.
Išankstinis mokymas – tai etapas, kurio metu DI modeliai įsisavina milžiniškus duomenų kiekius.
„Nė viena iš šių įmonių nesielgia atsakingai. Jos tiesiog lenktyniauja kurdamos save tobulinančią superintelekto sistemą ir žaidžia su mūsų gyvenimais, – antradienį socialiniame tinkle „X“ pareiškė J. Coxonas. – DI kuriantys žmonės nuoširdžiai tiki, kad jis gali mus visus nužudyti iki šio dešimtmečio pabaigos. Tai nėra rinkodaros triukas.“
Superintelektas – tai teorinis taškas, kai DI galimybės pranoks žmogaus protą.
Siunčia perspėjimą dėl DI
„Anthropic“ saugumo vadovas Evanas Hubingeris „X“ tinkle pritarė J. Coxonui. „Mes tikrai nuoširdžiai tikime, kad DI gali nužudyti visus žmones!“ – sakė jis.
Pasak jo, „Anthropic“ „stengiasi iš visų jėgų“, tačiau kol kas neturi plano, kaip užtikrinti, kad žmogaus gebėjimus pranokstanti DI sistema paklustų savo kūrėjams. Jis sakė, kad su dabartiniais modeliais toks pavojus yra „mažas“.
DI kūrėjai teigia, kad artėja vadinamasis „rekursyvusis savęs tobulinimas“ – etapas, kai DI sistemos iš esmės galės projektuoti ir mokyti naujos kartos DI beveik be žmogaus įsikišimo.
Kviečiame atrasti naują tv3.lt turinį! Nuo šiol portale jūsų laukia ne tik kasdien nauji testai, bet ir kryžiažodžiai – išbandykite savo žinias, spręskite ir smagiai praleiskite laiką.
