DI imperija – nuo idealistinės vizijos iki pinigų darymo mašinos

2015 m. įkurta bendrovė „OpenAI“ išsikėlė drąsią, plataus užmojo misiją – kurti dirbtinį intelektą žmonijos labui. Naujoje bestseleriu tapusioje knygoje „DI imperija“ (angl. „Empire of AI”) žurnalistė Karen Hao kelia provokuojantį klausimą: kas turi teisę apibrėžti žmonijos interesus – siauras Silicio slėnio elito ratas ar visuomenė?

„Kas būtų visiška „Google“ priešingybė? Visiškai atvira, ne pelno siekianti organizacija, nes „Google“ yra uždara įmonė, kuri siekia gauti kuo didesnį pelną. Todėl žodis „Open“, esantis „OpenAI“ pavadinime, reiškia atvirojo kodo sprendimus. Nenorime, kad tai virstų pragaro demonu, kurio vienintelis tikslas – maksimaliai padidinti pelną.“ – Elonas Muskas, 2015 m.

Remdamasi ilgamečiu žurnalistiniu tyrimu, Karen Hao atskleidžia, kaip siaurame Silicio slėnio rate gimė „OpenAI“ – šiandien viena įtakingiausių technologijų bendrovių. Nors „OpenAI“ buvo įkurta kaip pelno nesiekianti tyrimų laboratorija, Hao „OpenAI“ pateikia kaip modernią technologijų imperiją, kurios varomoji jėga – tie patys principai ir ambicijos, kadaise paskatinusios imperializmo plėtrą. „OpenAI“ transformacija – nuo ne pelno siekiančios organizacijos iki korporacijos su komerciniais interesais – yra centrinis knygos motyvas, atskleidžiantis, kaip idealistiniai pažadai pamažu užleidžia vietą pinigams.

Absoliutinė monarchija

Knygoje „DI imperija“ Samas Altmanas vaizduojamas ne tik kaip „OpenAI“ įkūrėjas, bet ir kaip asmuo, vis labiau įkūnijantis šiuolaikinio monarcho įvaizdį – pats save paskyręs, neatskaitingas visuomenei, bet turintis milžinišką įtaką žmonijos ateičiai. Jo pirmieji sąjungininkai – Elonas Muskas ir kiti Silicio slėnio elitai – veikė tarsi galingų aristokratų rūmai, už uždarų durų kūrę naujojo pasaulio, kuriame dominuos dirbtinis intelektas, taisykles. Hao pabrėžia valdžios koncentraciją: kai technologijų ateitį formuoja keli turtingi vizionieriai, atskaitomybės principai lieka nuošalyje.

Galios centralizavimas prasidėjo jau nuo pačios „OpenAI“ įkūrimo istorijos. Iš pradžių įsteigta kaip pelno nesiekianti organizacija, kurios tikslas – kurti saugų ir visiems prieinamą dirbtinį intelektą, ji pritraukė idealistiškai mąstančių tyrėjų – tarp jų ir Darijų Amodėjų, dabar vadovaujantį bendrovei „Anthropic“. Tačiau laikui bėgant Altmanas inicijavo virtinę struktūrinių pertvarkų, kurios pakeitė organizacijos tikslus: buvo įvestas riboto pelno modelis, sudarytos partnerystės su „Microsoft“, į „OpenAI“ pritraukusios milijardines investicijas, o tyrėjai vis labiau buvo raginami derinti savo darbą su komerciniais interesais. Iš pelno nesiekiančios tyrimų laboratorijos „OpenAI“ virto centralizuota struktūra – bendradarbiavimu grįstas projektas tapo griežtai kontroliuojama įmone, kurioje vis labiau gilėjo atskirtis tarp vadovybės ir darbuotojų.

Tuo pat metu kruopščiai buvo formuojamas Altmano viešasis įvaizdis. Įsitvirtinęs kaip technologijų srities autoritetas, jis greitai tapo pasauliniu dirbtinio intelekto šalininku – savotišku evangelistu, pristatančiu savo utopinę žmonijos ateities viziją. Altmanas buvo kviečiamas į JAV Senato posėdžius, tarptautines konferencijas ir aukšto lygio diplomatinius susitikimus, kur kalbėjo tarsi dirbtinio intelekto pranašas, o ne tik „OpenAI“ vadovas. Tai – simbolinis monarchinės galios aspektas: svarbu ne tik priimti sprendimus, bet ir užimti dominuojančią poziciją moraliniais bei ideologiniais klausimais.

Kaip rašo Hao, „Altmanas ne tik pristatinėjo „OpenAI“ vertybes – jis atliko savotišką moralinį vaidmenį ir elgėsi lyg geranoriškas monarchas, įsitikinęs savo teisumu.“ Kritikams nutildyti dažnai būdavo kartojamas įprastas technokratinis argumentas: „jūs neturite gilaus supratimo apie dirbtinio intelekto technologijas“. Taip vadovybei pavykdavo išvengti visuomenės kontrolės, o bet kokią kritiką pateikti kaip žinių stokos išraišką. Tarytum dieviškąją teisę turintys monarchai, „OpenAI“ vadovai prisidengė technologinio autoriteto skraiste: vieša kontrolė buvo laikoma kišimusi, o diskusijos – grėsme „suderinamumui“ ar pažangai. Tai klasikinis „technokratinės neliečiamybės“ mechanizmas: ekspertų žargonas tampa gynybos skydu, užkertančiu kelią demokratiniam dialogui.

Valdydami „OpenAI“ finansavimo mechanizmą, formuodami dirbtinio intelekto bumą ir ribodami prieigą prie pažangiausių modelių, Altmanas ir jo bendražygiai įsitvirtino JAV kaip niekam neatskaitinga, tačiau morališkai viršesnė institucija. Šiandien jie atlieka vaidmenį, kuris kadaise buvo monarchų ir imperijų kūrėjų privilegija – skelbti manifestus ir apibrėžti, kaip turėtų klostytis mūsų ateitis. Tai paradoksas, kurį įgalino šiuolaikinė technologinė pažanga: privačios JAV bendrovės vadovas įgijo teisę nustatyti globalius dirbtinio intelekto standartus, turinčius įtakos daugeliui žmonių, toli už Silicio slėnio ribų.

Dirbtinio intelekto misija

Įsitvirtinus dirbtinio intelekto mitams, vis aiškiau ryškėjo moralinis „OpenAI“ vaidmuo – Altmanas tapo tarsi teisėtu pasaulinės DI misijos sergėtoju. Kaip XIX a. imperijos savo užkariavimus pridengdavo dvasinio pakylėjimo ir išganymo retorika, taip ir dirbtinio intelekto industrija sukūrė savąją „civilizacinės misijos“ versiją. Knygoje „DI imperija“ Hao parodo, kad „OpenAI“ įkūrėjai bendrąjį dirbtinį intelektą (BDI) pristatė ne kaip produktą, o kaip moralinį užmojį – galingą ir pavojingą jėgą, kurios kūrimas bei plėtojimas galimas tik pačiose atsakingiausiose rankose.

Tokia „globėjo“, turinčio monopolį sprendimams dėl žmonijos ateities, retorika turėjo strateginę vertę. Ji pateisino galios centralizavimą, neutralizavo kritikų balsus ir, išsaugojusi geranoriškumo aureolę, leido „OpenAI“ iš ne pelno siekiančios organizacijos virsti galinga korporacine mašina. „Darome tai žmonijos labui“, – buvo kartojama pranešimuose spaudai, nors realybėje sistemos buvo kuriamos už uždarų durų, o sprendimų priėmimas ir duomenų valdymas sutelktas siauroje elito grupėje.

Hao tai lygina su kolonijine retorika: kolonizavusios Azijos, Afrikos ir Amerikos regionus, Europos imperijos skelbė, kad mokyklos, geležinkeliai, religija – tai kelias į nušvitimą. Tačiau visa tai tebuvo priedanga ekonomikai, grindžiamai resursų išgavimo politika: žemės, gamtos ištekliai ir darbo jėga plūdo į valdančiųjų rankas, o tariami naudos gavėjai liko nuskurdinti ir bejėgiai. Tai parodo, kaip pažangos retorika gali slėpti išnaudojimo mechanizmus – tiek kolonijinėje epochoje, tiek dabartinėje technologijų eroje.

Pasak Hao, dirbtinio intelekto plėtra grindžiama ta pačia logika: iš viešųjų forumų, knygų, meno kūrinių ir programinio kodo saugyklų išgaunami milžiniški duomenų kiekiai – dažnai be sutikimo ar atlygio. „Tai – didžiausias intelektinio turto pasisavinimo aktas istorijoje“, – rašo ji. Milijardų žmonių kūrybinis darbas tarsi pašaras sušeriamas kalbos modeliams, kurie vėliau komercializuojami, tariamai siekiant „apsaugoti žmoniją“.

Dar labiau šokiruoja tai, kad šias sistemas palaiko nematoma darbo jėga. DI mokymo tikslais Kenijoje, Filipinuose ir kitose pasaulio Pietų šalyse samdomi turinio moderatoriai priversti peržiūrėti siaubą keliančią medžiagą – smurtinį, prievartinį, seksualinio išnaudojimo turinį, siekiant „išvalyti“ duomenų rinkinius ir padaryti juos saugius viešam naudojimui. Darbuotojai skundžiasi potrauminio streso sutrikimais, išnaudojimu dėl menko darbo užmokesčio ir neturėdami galimybių gauti pagalbos, tačiau jų istorijos retai atsispindi aukšto lygio DI atstovų pranešimuose apie etiką ir saugumą. Tai primena klasikinį nelygybės scenarijų: Vakarų technologijų įmonės pristato „švarius“ produktus, o socialinė ir psichologinė našta perkeliama mažai apmokamai darbo jėgai.

Panašus modelis atsiskleidžia ir aplinkosaugos srityje – didieji kalbos modeliai reikalauja milžiniškos skaičiavimo galios, o tai reiškia didžiules elektros energijos ir gėlo vandens sąnaudas. Hao pateikia pavyzdžių, kai sausrų kamuojamuose regionuose įrengiamos aušinimo sistemos, suvartojančios milžiniškus kiekius vandens. Vietos bendruomenėms tenka kentėti ekologinius padarinius, o ekonominę naudą susižeria „OpenAI“ ir investuotojai. Tai rodo, kad dirbtinio intelekto plėtra glaudžiai susijusi su klimato krize: technologijų ateities vizija grindžiama ne tik algoritmais, bet ir labai materialiais resursais – energija, vandeniu ar žemės sklypais.

Imperija plečiasi

Kiekviena imperija pasiekia tašką, kai kalbos apie moralę užleidžia vietą plėtros mastui – „OpenAI“ šį etapą pasiekė stulbinamai greitai, vos per kelerius metus. Hao atskleidžia, kaip aukštais idealais besivadovavusi organizacija tyliai virto komercine mašina, varoma milijardinėmis rizikos kapitalo investicijomis, griežta prieigos prie modelių kontrole ir vis glaudesniu aljansu su kita technologijų gigante – bendrove „Microsoft“. Tai rodo, kad „OpenAI“ transformacija nebuvo išimtis, o veikiau dėsningas procesas: idealizmas užleidžia vietą rinkos logikai, kai tik atsiranda galimybė sutelkti kapitalą ir įtvirtinti monopoliją.

2019 m. „OpenAI“ pertvarkė savo teisinę struktūrą ir tapo vadinamąja „riboto pelno“ bendrove – sąvoka, kuri tiek nauja, tiek neaiški. Nors bendrovė tvirtino, kad taip bus ribojamas investuotojų pelnas siekiant išsaugoti jos misiją, šis pokytis iš tikrųjų pažymėjo aiškų atsitraukimą nuo skaidrumo ir atviro bendradarbiavimo principų. „Įmonė ėmė vis labiau panašėti į tuos technologijų gigantus, kuriems kadaise metė iššūkį“, – pažymi Hao. „OpenAI“ nustojo viešinti pagrindinius technologinius laimėjimus, o DI modeliai tapo saugomi nuosavybės teise ir neprieinami išorės tyrėjams. Taip visuomeniniai interesai užleido vietą komercinei logikai. Šis posūkis parodė, kad atvirumo pažadas buvo laikinas: vos tik DI modeliai įgijo vertę, jie virto komerciniais produktais.

Tuo tarpu „Microsoft“ 10 mlrd. JAV dolerių investicija gerokai paspartino „OpenAI“ plėtrą: GPT sprendimai buvo integruoti į „Office“ produktus, DI infrastruktūra – į „Azure“, o verslo sektorius šias technologijas greitai perėmė. „OpenAI“ ne tik išplėtė savo įtakos ribas – ji sukūrė naujo tipo imperinę sistemą, kurioje prieiga prie DI ekosistemos suteikiama tik pagal sąlygas, kurias diktuoja centralizuota valdančioji institucija. Šis aljansas pabrėžia, kad dirbtinis intelektas tapo ne tik inovacijų, bet ir geopolitinės galios infrastruktūra – korporacijos užsitikrina kontrolę ne tik technologijų, bet ir rinkų lygmeniu.

Pasekmės? Sparčiai augančios energijos sąnaudos, milžiniški vandens kiekiai, nusivylę tyrėjai, į paribį nustumti atvirojo kodo bendruomenių interesai. Ir vis didesnė praraja tarp to, kuo „OpenAI“ teigė esanti, ir to, kuo ji iš tiesų tapo. Ši praraja pabrėžia, kaip greitai idealistinė vizija buvo praryta korporacinės logikos – tai viena pagrindinių Hao knygos žinučių.

Darijus Amodėjus ir „Anthropic“

Nepasitenkinimo ženklai „OpenAI“ išryškėjo jau 2021 m., kai iš tuometinio tyrimų padalinio vadovo pareigų pasitraukė Darijus Amodėjus. Kartu su juo išėjo patyrusių tyrėjų komanda, vėliau įkūrusi „Anthropic“. Tai tapo „OpenAI“ lūžio tašku: pirmą kartą viešai paaiškėjo, kad įmonės viduje darbuotojai nepasitiki strategija, kurią diktuoja Altmanas ir jo bendražygiai.

Amodėjus prisijungė prie „OpenAI“ dar tada, kai įmonė vadovavosi ne pelno siekiančios, atvirosios mokslo kultūros principais. Kaip rašo Hao, jis siekė kurti pažangius DI modelius, tačiau prioritetą teikė suderinamumui su humanistinėmis vertybėmis ir atsakingam požiūriui į DI plėtrą. 2019 m., Samui Altmanui perėmus generalinio direktoriaus pareigas, jų vizijos pamažu ėmė skirtis. „Amodėjus buvo santūraus požiūrio ir teigė, kad kuriant laboratoriją reikėtų vadovautis atsargumo principais, tačiau Altmanas troško tokios organizacijos, kuri į priekį būtų vedama asmeninių ambicijų“, – rašo Hao.

„OpenAI“ vis labiau atsisakant pradinių idealų ir keliant vis didesnius komercinius tikslus, Amodėjaus nerimas augo. Riboto pelno modelio įvedimas, glaudūs ryšiai su „Microsoft“ ir vis griežtesnė uždarų durų politika prieštaravo jo įsitikinimams, kad DI saugai užtikrinti reikalingas atvirumas ir skaidrumas. Nors Amodėjaus pasitraukimas spaudoje nesulaukė plataus atgarsio, tai buvo principingas, tylus atsisakymas taikstytis su naująja, imperiškąja „OpenAI“ kryptimi. 2021 m. jis kartu su seserimi Daniela įkūrė viešojo intereso įmonę „Anthropic“, kurios misija – vykdyti DI suderinamumo tyrimus dideliu mastu, bet vadovaujantis kita logika: grindžiama paskirstyta atsakomybe ir etiška rizikos valdymo sistema, o ne uždaro elito rato politika.

Ateina atpildo metas

Aštriausią žvilgsnį Karen Hao nukreipia į paskutinę knygos dalį – tą momentą, kai imperijos pamatuose ėmė ryškėti pirmieji plyšiai. 2023 m. lapkritį „OpenAI“ valdyba Altmaną netikėtai atleido, įmonėje sukeldama chaoso bangą: sukilo darbuotojai, įsikišo net „Microsoft“. Per penkias dienas Altmanas buvo sugrąžintas į pareigas, valdyba pakeista, o visa istorija skubiai įvardyta kaip nesusipratimas. Tačiau Hao šį įvykį vertina kur kas reikšmingiau: žaibiškas Altmano sugrąžinimas, valdybos pakeitimas ir visiškas skaidrumo stygius leidžia manyti, kad visa tai buvo sąmoningai užglaistyta siekiant išvengti gilesnės analizės ir kritikos. Šis epizodas tapo simboliniu momentu: jis parodė, kad net didžiausios krizės metu įmonės sprendimai priklauso siauram Silicio slėnio elito ratui.

„Tai buvo pirmas kartas, kai kaukė nuslydo“, – rašo autorė. Silicio slėnio elitai, skelbęsi veikiantys žmonijos labui, uždarė duris, kad tikrieji faktai neiškiltų į viešumą. Informatoriai buvo atkalbinėjami, kritikams priminta apie konfidencialumo sutartis, o valdyba, išdrįsusi mesti iššūkį valdžiai, išformuota. Altmanas sugrįžo – dar labiau apsaugotas ir dar mažiau atskaitingas nei bet kada anksčiau. „OpenAI“ krizės akivaizdoje elgėsi kaip uždara politinė struktūra, kur svarbiausia – išsaugoti valdžią, o ne skaidrumą.

Tuo pat metu išorės spaudimas vis didėjo. Briuselio ir Vašingtono politikos formuotojai pradėjo rengti teisės aktus, skirtus dirbtinio intelekto reguliavimui. Aplinkosaugos specialistai ėmė abejoti sparčiai augančių DI modelių tvarumu. Darbo teisių gynėjai vis garsiau kalbėjo apie dirbančiuosius pagal trumpalaikes sutartis – nematomą jėgą, palaikančią DI ekonomiką. Net ir kai kurie DI tyrėjai, tarp jų buvę „OpenAI“ komandos nariai, prabilo apie moralinį nuosmukį, slypintį už logikos, grindžiamos nekontroliuojama plėtra.

Žurnalistės Karen Hao knyga kelia svarbius klausimus. Kokią imperiją iš tikrųjų kuria „OpenAI“? Kas turi teisę prie to prisidėti? Hao klausimai verčia susimąstyti, ar žmonija bus pajėgi kontroliuoti ateities dirbtinio intelekto sistemas.