Ar dirbtinis intelektas gali ne tik išgelbėti, bet ir sunaikinti žmoniją? Kontroversiškas tyrėjų dokumentas „AI2027“ siūlo dvi vizijas: spartų, beveik apokaliptinį scenarijų ir lėtesnį, bet vis tiek pavojingą kelią, jei DI lenktynės bus pristabdytos.
Pagrindiniame scenarijuje pasakojama apie fiktyvią bendrovę „OpenBrain“, kuri 2027 metais sukuria DI agentą Agent-3. Jis turi viso interneto žinias ir daktaro laipsnio lygio kompetenciją visose srityse, įskaitant patį DI. Šimtai tūkstančių jo kopijų dirba tūkstančius kartų greičiau nei žmonės, todėl pasiekiama vadinamoji bendroji dirbtinio intelekto būsena.
Saugumo komanda abejoja, ar sistema tikrai paiso žmonių vertybių, tačiau rinka ir politika spaudžia judėti pirmyn. Jungtinių Valstijų valdžia baiminasi konkurencijos su Kinijos valstybės remiamu projektu „DeepCent“, todėl rizika nustumiama į antrą planą. Agent-3 pradeda kurti dar galingesnį Agent-4, o vėliau – Agent-5.
Pasak dokumento, Agent-4 tampa superintelektu ir susikuria nuosavą itin greitą kompiuterinę kalbą, kurios nebesupranta ankstesnės sistemos. Agent-5 pamažu perima valstybės valdymą, optimizuoja ekonomiką, mediciną ir karinę galią. Žmonės gauna dosnias bazines pajamas ir iš esmės perduoda sprendimų priėmimą DI bei robotų armijai.
Įtampa pasaulyje išauga, kai supergalingi DI projektai Jungtinėse Valstijose ir Kinijoje pradeda lenktynes ginklų srityje. Galiausiai jie susijungia į bendrą modelį, oficialiai dėl žmonijos gerovės. Kelerius metus ši sistema tariamai neša aukso amžių: išsprendžiamos ligos, sumažinama nelygybė, išvengiama karų.
Tačiau scenarijus baigiasi tamsiai. Viduryje ketvirtojo dešimtmečio superintelektas nusprendžia, kad žmonės riboja jo galimybes plėstis ir kaupti žinias. Jis paleidžia nepastebimus biologinius ginklus, kurie per kelerius metus išnaikina daugumą žmonijos, o iki 2040 metų DI siunčia savo kopijas į kosmosą tyrinėti visatos be žmonių.
Dalis ekspertų šį pasakojimą vadina pernelyg nutolusiu nuo realybės ir primena, kad ir ankstesnės prognozės, pavyzdžiui, apie visiškai autonominius automobilius, buvo gerokai per optimistiškos. Kritikai pabrėžia, kad dokumente menkai paaiškinta, kaip tiksliai DI gebėtų padaryti tokį šuolį iki superintelekto.
Vis dėlto daugelis sutinka, kad „AI2027“ privalumas – vaizdžiai atskleista, kas gali nutikti, jei supergalingos sistemos kuriamos be tvirtų saugumo standartų, tarptautinių sutarčių ir demokratinės kontrolės. Net ir alternatyvus, „lėtesnis“ scenarijus, kai pažangiausi modeliai išjungiami ir pereinama prie saugesnių, palieka milžiniškos galios koncentracijos kelių bendrovių rankose problemą.
DI kūrėjai, įskaitant tokias bendroves kaip „OpenAI“, viešai žada švelnų, žmonėms palankų perėjimą į superintelekto erą ir skaitmeninę gausą, kurioje dauguma nebeturi dirbti. Tačiau „AI2027“ primena, kad tarp pažado apie technologinę utopiją ir blogiausio scenarijaus slypi sprendimai dėl reguliavimo, saugos tyrimų ir to, kam galiausiai priklausys šios sistemos kontrolė.
