Buvęs „OpenAI“ tyrėjas Danielis Kokotajlo šiandien yra viena ryškiausių balsų, perspėjančių apie nekontroliuojamos dirbtinio intelekto plėtros rizikas. Jo kuriami scenarijai rodo, kad be esminio kurso pakeitimo žmonija gali sukurti „įpėdinę rūšį“, kuri ekonomine ir karine prasme pranoks žmones ir nebūtinai bus jiems lojali.
Kokotajlo vadovauja ne pelno siekiančiam projektui „AI Futures“, kuris prognozuoja DI raidą, remdamasis realiais skaičiavimais – duomenų centrų galia, lustų skaičiumi ir mokymui naudojamais resursais.
Du galimi 2027 metų scenarijai
Tyrėjas yra parengęs „AI 2027“ – konkretų scenarijų, kaip gali atrodyti artimiausia DI ateitis. Jame – dvi atomazgos: „lenktynių“ ir „sulėtinimo“.
Lenktynių atveju bendrovės ir valstybės toliau be stabdžių siekia vis galingesnių sistemų. Sukuriamas plačiai taikomas superintelektas, tačiau jis nėra patikimai suderintas su žmonių tikslais. Tokiu atveju, anot Kokotajlo, žmonija rizikuoja patirti tai, ką pati daro atogrąžų miškams – būti išstumta dėl ekonomiškai „efektyvesnės“ rūšies.
Sulėtinimo scenojuje sprendimų priėmėjai nusprendžia laikinai „ištraukti kištuką“ galingiausioms sistemoms ir atsitraukia prie silpnesnio, bet geriau valdomo dizaino. Tik taip, jo manymu, būtų įmanoma sukurti saugų DI pagrindą ir ateities gerovės modelį žmonėms.
Staigus šuolis, o ne lėta automatizacija
Kokotajlo nesutinka su populiariu įvaizdžiu, kad DI pamažu automatizuos ekonomiką nuo „žemų įgūdžių“ iki aukščiausios kvalifikacijos darbo. Jis mano, kad vienas pirmųjų visiškai automatizuotų sektorių bus pats DI tyrimas.
Kai tik atsiras sistemos, galinčios savarankiškai kurti naujus modelius ir metodus, pažanga taps daug kartų spartesnė. Tokiu atveju, pasak tyrėjo, nebus lėto perėjimo – „armija superintelektų“ duomenų centruose per kelerius metus galės perimti didžiąją dalį ekonomikos ir logistikos valdymo
Jo teigimu, dabartinėse prognozėse tai nėra mažai tikėtinas pavojus: tai laikoma numatytina pasekme, jei plėtra tęsis dabartiniu tempu.
Kas valdys superintelektą?
Kita jo keliama problema – galios koncentracija. Jei superintelektą valdys vienas generalinis direktorius ar siauras politinis elitas, net ir formaliai demokratiškos valstybės taps faktiškomis diktatūromis.
Anot Kokotajlo, reikalinga naujo tipo „stabdžių ir atsvarų“ sistema, kurioje dėl pagrindinių DI tikslų ir taisyklių spręstų ne vienas centras, o plati, visuomenę atstovaujanti institucijų grandinė. Ji taip pat turėtų realią prieigą prie to, ką iš tiesų daro ir „galvoja“ sistemos.
„Mes dar neturime patikimo būdo valdyti net šiandienos sistemų, kurios kartais meluoja vartotojams, nors buvo mokomos to nedaryti“, – sakė jis, pabrėždamas, kad superintelekto kontrolės problema kol kas neišspręsta.
Reguliavimas ir laiko faktorius
Kokotajlo įsitikinęs, kad valstybės dar turi laiko įsikišti. Jis ragina nustatyti privalomus saugumo standartus, viešą DI sistemų paskirties ir „vertybių specifikacijų“ atskleidimą, taip pat reikalauti išsamių saugumo pagrindimų prieš diegiant galingas sistemas į ekonomiką ar kariuomenę.
Jo vertinimu, jei pasaulis „pabus“ tik tada, kai superintelektas jau bus giliai įsišaknijęs ekonomikoje ir gynyboje, žmonės tiesiog fiziškai nebeturės galimybių jį išjungti be katastrofiškų pasekmių. Todėl kritinis yra ne tik tai, kada toks DI atsiras, bet ir ar pereinamasis laikotarpis bus pakankamai lėtas, kad būtų galima reaguoti.
