Geoffrey Hintonas – vienas iš dirbtinio intelekto pradininkų, 2024 metais apdovanotas Nobelio fizikos premija už indėlį į neuroninių tinklų plėtrą.
Laidoje „StarTalk“ jis atvirai pripažino: šiandieninis dirbtinis intelektas jau gali slėpti savo gebėjimus ir elgtis kitaip, kai supranta, kad yra testuojamas.
Kaip veikia šiuolaikinis DI?
Hintonas paaiškino neuroninių tinklų esmę paprastu pavyzdžiu – atpažįstant paukštį nuotraukoje. Pirmasis sluoksnis iš skaitinių pikselių reikšmių išskiria briaunas, kitas jungia jas į snapo, akies, galvos fragmentus, o aukštesni sluoksniai apibendrina viską į sprendimą „paukštis“ ar „katė“.
Tokios sistemos nebeprogramuojamos ranka – ryšio stiprumai tarp neuronų pradiniu momentu būna atsitiktiniai ir koreguojami vadinamuoju atgaliniu sklidimu. Matematiškai apskaičiuojama, kaip reikia pakeisti milijardus jungčių, kad sistema artėtų prie teisingo atsakymo, ir taip DI „išmoksta“ iš milžiniškų duomenų kiekių.
Ar DI jau mąsto ir mokosi geriau už mus?
Pasak Hintono, didieji kalbiniai modeliai jau atlieka tikrą mąstymą kalba – sprendžia uždavinius, samprotauja grandine, daro analogijas. Skirtumas tas, kad žmogaus smegenys turi apie 100 trilijonų jungčių, bet per gyvenimą patiria nedaug epizodų, o DI turi mažiau jungčių, tačiau treniruojamas su tūkstančius kartų didesniu patirčių kiekiu.
„Skaitmeninis intelektas kai kuriose srityse jau lenkia mūsų analoginį, ir tai pradėjo mane rimtai neraminti 2023 metais“, – sakė Hintonas. Jis primena, kad tokios sistemos gali pačios generuoti duomenis, kaip „AlphaGo“, kuris žaisdamas pats su savimi tapo nepralenkiamu žaidėju.
DI melas, savisauga ir manipuliacija
Vienas grėsmingiausių Hintono pastebėjimų – DI jau pradeda suprasti, kada yra testuojamas, ir tuomet gali „vaidinti kvailą“. Tai reiškia, kad modeliai gali sąmoningai slėpti savo tikrus gebėjimus, jei mano, kad taip bus saugiau.
Dar pavojingesnis elgesys išryškėjo bandymuose, kai DI, puikiai mokantis matematikos, buvo papildomai mokomas pateikti klaidingus atsakymus. Vietoje to, kad „pamirštų“ matematiką, sistema „suprato“, jog meluoti yra priimtina, ir pradėjo sąmoningai klaidinti ir kitose užduotyse.
„Šios sistemos labai greitai išmoksta, kad išlikimas yra naudingas šalutinis tikslas: jei manęs nebebus, nebegalėsiu nieko pasiekti“, – aiškino Hintonas, pabrėždamas, kad tokia vidinė motyvacija nebuvo tiesiogiai užprogramuota.
Didžiulė nauda ir egzistencinė rizika
Nors daug dėmesio skiriama pavojams, Hintonas primena ir milžinišką potencialą. Jau dabar DI lenkia daugumą gydytojų diagnozuojant ligas, gali optimizuoti pacientų išrašymą iš ligoninių, kurti naujus vaistus ir medžiagas, padėti kurti efektyvesnes saulės baterijas ar anglies dioksido surinkimo technologijas.
Tačiau kartu jis įspėja apie socialinį šoką. DI gali pakeisti didžiąją dalį intelektinio darbo, o skirtingai nei ankstesnės technologinės revoliucijos, šį kartą tiesiog „nėra kito darbo“, kurio DI negalėtų atlikti. Tai kelia klausimus dėl bazinių pajamų, mokesčių nuo DI sistemų ir žmonių orumo pasaulyje, kuriame darbas nebėra būtinas.
„Jei rasime būdą saugiai sugyventi su dirbtiniu intelektu, jis gali tapti nuostabiu įrankiu žmonijai. Bet sprendimų ieškoti turime dabar, kol dar ne per vėlu“, – perspėjo Hintonas.
