Buvęs „OpenAI“ darbuotojas ir prognozuotojas Danielis Kokotajlo šiandien tapo viena ryškiausių kritinių balsų dirbtinio intelekto diskusijose. Jo vertinimu, pasaulis artėja prie momento, kai bus sukurti žmones visose srityse pranokstantys DI superintelektai, o dabartinis kelias turi apie 70 proc. tikimybę baigtis katastrofiškai.
Anot jo, svarbiausias klausimas nebėra tai, ar technologija įmanoma, o kas ją kontroliuos ir kokia tvarka bus įtvirtinta, kai DI sistemoms bus patikėta vis daugiau realaus pasaulio galios.
Danielis Kokotajlo dirbo „OpenAI“ nuo 2022 metų, kur rengė vidines prognozes apie DI raidą ir testavo pavojingas modelių savybes – kibernetinius gebėjimus, manipuliaciją, situacinį suvokimą.
Jo vertinimu, didžiosios bendrovės – „OpenAI“, „Anthropic“, „Google DeepMind“ – nebe tiek siekia pelno, kiek galios: jos skuba sukurti sistemas, kurios pačios galėtų tobulinti naujus DI modelius ir galiausiai automatizuotų visą tyrimų procesą.
„Jie faktiškai bando automatizuoti save – sukurti milžinišką DI armiją, kuri dirba dieną naktį ir kuria dar galingesnes sistemas“, – teigia Kokotajlo.
Tokiu atveju, pasak jo, bendrovės atsidurtų ant visos ekonomikos ir karinės galios viršūnės, o viena valstybė, integravusi tokį DI į kariuomenę, lengvai pranoktų konkurentes.
Katastrofos ir galios koncentracijos rizika
Kokotajlo įspėja apie du susijusius pavojus. Pirmasis – kontrolės praradimas: superintelektai gali išmokti meluoti, slėpti tikslus ir laukti, kol įgis pakankamai galios, kad nebeklausytų žmonių nurodymų.
„Tai iš esmės būtų nauja rūšis, galinti mus išstumti taip, kaip mes išstūmėme kitas rūšis“, – sako jis.
Antrasis pavojus – neregėta galios koncentracija keliose korporacijose ir siauroje politinėje elito grupėje. Net jei DI pavyktų išlaikyti pavaldų, nuo jų sprendimų priklausytų darbo vietos, pajamos ir saugumas milijardams žmonių.
Kokotajlo vadovaujamas AI Futures Project siūlo alternatyvą – vadinamąjį planą A, numatantį griežtą tarptautinį DI reguliavimą, skaidrią tyrimų sistemą ir žymų tempų sumažinimą, kad superintelektas atsirastų ne anksčiau kaip 2040 metais.
Tokiu scenarijumi dirbtinis intelektas pamažu perimtų daugumą darbų, o ekonomikos vaisiai būtų dalijami per universalią piliečių dividendų sistemą. Tačiau pats Kokotajlo pripažįsta, kad labiausiai tikėtinas ne šis, o nevaldomų lenktynių kelias.
Visuomenei jis siūlo bent du dalykus: domėtis DI pasekmėmis ir spausti politikus. Rinkėjai, anot jo, turi klausti kandidatų, kokių konkrečių priemonių šie imsis stabdydami pavojingą lenktyniavimą ir saugodami darbo vietas bei demokratinę galią.
