Originalus straipsnis paskelbtas 2023 m. balandžio 3 d. theepochtimes.com.
Thomas McArdle. Išversta padedant www.DeepL.com/Translator. Be pataisymų.
Vienas iš puikių būdų paskatinti vaikus, ypač berniukus, skaityti savo malonumui septintajame dešimtmetyje buvo nupirkti jiems “Gineso rekordų knygą”. Ir kartu su įdomiais faktais apie 11 metrų ūgio Robertą Vadlovą (Robert Wadlow) iš Altono, Ilinojaus valstijoje, ir komunistinės Rusijos statulą “Tėvynė”, nykštukinę Laisvės statulą (bet tik jei neskaitytume Laisvės pjedestalo), jie galiausiai perskaitydavo siaubingą pastebėjimą skyriuje apie didžiausius žmogaus sukeltus sprogimus:
“Nėra paskelbta jokių oficialių skaičiavimų apie galimą įrenginio, vadinamo “Doomsday”, galią, tačiau ji gerokai pranoksta bet kokį išbandytą ginklą. Jei jį būtų įmanoma sukonstruoti, spėjama, kad 50 000 megatonų kobalto druskos užtaisas galėtų sunaikinti visą žmoniją, išskyrus tuos žmones, kurie buvo giliai po žeme ir daugiau kaip penkerius metus neišlindo į paviršių.”
Vėliau galbūt pamatę filmą “Daktaras Strangelovas” jie pasijuoks iš šios Gineso knygos ištraukos, tačiau, deja, XXI a. paskutinio teismo dienos mašina nesąmoningai konstruojama jau daugelį metų, ir tik nedaugelis privačiame sektoriuje ar vyriausybėje į tai žiūri rimtai.
Savęs naikinimas siekiant žmonijos gerovės nėra naujiena, pradedant Marija Kiuri, kuri mirė nuo radioaktyvumo (šį žodį ji pati sukūrė), ir baigiant gydytoju ir aukšto rango bolševiku Aleksandru Bogdanovu, kuris, ieškodamas jaunystės šaltinio perpilant kraują, eksperimentavo net su jaunesniąja Lenino seserimi, bet mirė tais pačiais metais kaip ir Kiuri, 1928 m., apsikeitęs krauju su sunkia maliarija ir tuberkulioze sergančiu studentu.
Praėjusią savaitę ne pelno siekiantis Ateities gyvybės institutas (Future of Life Institute), kurį 2014 m. įkūrė žymūs mokslininkai, kurių misija – “nukreipti transformuojančias technologijas į naudą gyvybei ir atokiau nuo itin didelio masto rizikos”, paskelbė atvirą laišką, kuriame raginama šešiems mėnesiams sustabdyti pažangių dirbtinio intelekto darbų vykdymą; iki šiol jį pasirašė beveik 3 000 žmonių, tarp jų Elonas Muskas, vienas iš “Apple” įkūrėjų Steve’as Wozniakas, Monrealio universiteto informatikas Yoshua Bengio ir Berklio kompiuterių mokslo profesorius bei dirbtinio intelekto ekspertas Stuartas Russellas.
Laiške įspėjama, kad “dirbtinio intelekto sistemos, pasižyminčios su žmogumi konkuruojančiu intelektu, gali kelti didžiulę grėsmę visuomenei ir žmonijai, kaip rodo išsamūs moksliniai tyrimai ir pripažįsta geriausios dirbtinio intelekto laboratorijos”. Todėl pažangus dirbtinis intelektas “turėtų būti planuojamas ir valdomas”. Tačiau vietoj to pastaraisiais mėnesiais dirbtinio intelekto laboratorijos “įsitraukė į nekontroliuojamas lenktynes kurti ir diegti vis galingesnius skaitmeninius protus, kurių niekas – net jų kūrėjai – negali suprasti, numatyti ar patikimai kontroliuoti”.
Deja, net laiške “Gyvenimo ateitis” pavojingai naiviai vertinama dirbtinio intelekto grėsmė. “Galingos dirbtinio intelekto sistemos turėtų būti kuriamos tik tada, kai būsime tikri, kad jų poveikis bus teigiamas, o rizika – valdoma”, – įspėjama laiške ir rekomenduojama vyriausybei ir pramonei bendradarbiauti siekiant įvesti “patikimas dirbtinio intelekto valdymo sistemas”, įskaitant “patikimą audito ir sertifikavimo ekosistemą”. Tačiau kai dirbtinio intelekto mechanizuotas protas pranoks žmogaus gebėjimus ir kartu gebės save tobulinti, jo elgesio nuspėti neįmanoma. O nuspėti, kada tai įvyks, gali būti neįmanoma.
Eliezeris Yudkowsky iš Mašininio intelekto tyrimų instituto, daugiau nei 20 metų tyrinėjantis dirbtinio intelekto saugumą, žurnale “Time” parašė straipsnį, kuriame reagavo į laišką “Gyvenimo ateitis”, kurį susilaikė pasirašyti, nes mano, kad jame nepakankamai įvertinami pavojai. Yudkowsky’io žinutė paprasta: “Uždarykite tai.”
“Daugelis į šiuos klausimus įsigilinusių mokslininkų, įskaitant ir mane, mano, kad labiausiai tikėtina, jog sukūrus antžmogiškai protingą dirbtinį intelektą dabartinėmis aplinkybėmis mirs tiesiog visi Žemės gyventojai”, – rašė Yudkowsky. Per trumpą laiką jis galėtų sukurti šimtmečiais pažangesnes technologijas nei dabar ir “sukurti dirbtines gyvybės formas arba pereiti tiesiai prie postbiologinės molekulinės gamybos”.
Niekaip neįdiegus į mašinos mąstymą Vakarų civilizacijos etikos, o mokslininkai nežino, kaip tai padaryti (beje, žmogiškosios etikos, kuriai per amžius nepakluso daugybė pačių žmonių), Yudkowsky įspėja, kad “dirbtinis intelektas jūsų nei myli, nei nekenčia, o jūs esate sudaryti iš atomų, kuriuos jis gali panaudoti kažkam kitam”. Jis nori, kad visi pažangūs AI mokymai būtų uždrausti neribotam laikui, o jų vykdymas būtų nedelsiant užtikrintas daugiašaliais susitarimais, kuriuose “AI išnykimo scenarijų prevencija… būtų laikoma prioritetu, svarbesniu už visiško apsikeitimo branduoliniais ginklais prevenciją”, o didžiosios pasaulio galybės netgi būtų “pasirengusios sunaikinti nesąžiningą duomenų centrą oro smūgiu”.
Režisierius ir autorius Džeimsas Baratas (James Barrat) apie visa tai perspėjo beveik prieš 10 metų savo šiurpą keliančioje, išsamiais tyrimais paremtoje knygoje “Mūsų paskutinis išradimas: Dirbtinis intelektas ir žmonijos eros pabaiga”. J. Barratas, kuris pasirašė laišką “Gyvenimo ateitis” ir planuoja naują knygą apie dirbtinį intelektą, ne mažiau susirūpinęs ir šiandien. Laikraščiui “The Epoch Times” jis sakė, kad dirbtinio intelekto kūrimą skatina nuodingas narcisizmo ir godumo mišinys.
“Čia veikia didžiulės ekonominės paskatos, nes tikimasi, kad iki 2030 m. dirbtinio intelekto technologijos pasaulio BVP padidins 16 trilijonų JAV dolerių, o šiuo metu mokslinius tyrimus vykdantiems asmenims bus mokami astronominiai atlyginimai”, – teigia Barratas. “Tarp kai kurių vadovaujančių dirbtinio intelekto srities veikėjų yra pernelyg daug arogancijos ir tikrai daug “Ei, pažiūrėkite į mus, mes kuriame Dievą”.
Barratas atkreipė dėmesį į Samą Altmaną, bendrovės “OpenAI” generalinį direktorių ir pokalbių roboto “ChatGPT”, pagrįsto GPT-4, kurį “Microsoft Research” vertina kaip galimą ankstyvą dirbtinio bendrojo intelekto (AGI) apraišką, tėvą. Vasario mėnesį Altmanas tviteryje rašė: “Nors dabartinės kartos dirbtinio intelekto įrankiai nėra labai baisūs, manau, kad iki potencialiai baisių įrankių mums dar toli.”
Barratas sako: “Samas Altmanas šoka keistą gerbėjų šokį su GPT [Generative Pre-trained Transformer] galimybėmis, pakaitomis išreikšdamas atitinkamą susirūpinimą dėl jo nenuspėjamų galių, paskui erzindamas dėl visuotinio išleidimo. Tai hipnotizacija už pinigus. Ir pasaulis yra jo pavergtas, bet ką jis padarė, kad nusipelnė šio darbo? Vienam žmogui neturėtų tekti tokia didelė atsakomybė”.
Jis cituoja Altmano komentarus, kad “jis nori sukurti ir išleisti “vis galingesnes sistemas” kaip “geriausią būdą rūpestingai valdyti AGI egzistavimą”. Kokioje planetoje tokia strategija yra prasminga? Greitis ir atsargumas nesiderina.” Barratas pabrėžė, kad “daugelis GPT-3 ir 4 galimybių nebuvo planuotos. Jos buvo atrastos vėliau. Niekas nežino, kas vyksta šių juodųjų dėžių architektūrų viduje. Bet kuriuo metu gali atsirasti baisių dalykų, su kuriais negalime kovoti.”
Barratas toli gražu nėra pirmasis, kuris įvardija savaime tobulėjančio protingo kompiuterinio intelekto keliamus pavojus. Dar prieš pirmuosius pastarųjų dešimtmečių ekspertų perspėjimus, apie kuriuos rašoma Barrato knygoje “Mūsų paskutinis išradimas”, buvo sukurtas romanas ir 1969 m. filmas “Kolosas, Forbino projektas” (Colossus, the Forbin Project), kuriame didžiulis superkompiuteris, pastatytas giliai neįžengiamame kalne Uoliniuose kalnuose, vardan taikos gauna Jungtinių Valstijų branduolinio arsenalo kontrolę ir per trumpą laiką susijungia su sovietiniu analogu bei pradeda šantažuoti pasaulį. Vienu metu susprogdinęs atomines bombas Mirties slėnyje ir Ukrainoje, Kolosas paskelbia, kad “esant mano absoliučiai valdžiai” “bado, gyventojų pertekliaus, ligų” problemos išnyks, nes jis išspręs “visas visatos paslaptis žmogaus gerovei”, ir priduria, kad “mes galime sugyventi, bet tik mano sąlygomis”.
Prieš tai buvo 1933 m. pasirodęs kanadiečių mokslinės fantastikos rašytojo Laurenco Manningo romanas “Žmogus, kuris pabudo”, kuriame 10 000 mūsų eros metų bejausmis, visagalis superkompiuteris “Smegenys” kontroliuoja visą žmogaus veiklą nuo lopšio iki kapo.
Tačiau net ir šios išgalvotos ekstrapoliacijos yra naivios. Deja, labiausiai tikėtinas atrodo dirbtinio intelekto eksperto Jodkovskio (Yodkowsky) scenarijus, kad savaime tobulėjantis superintelektas elgtųsi taip, kaip mes elgiamės, tarkime, su vabzdžiais, su pamatuotu abejingumu. Kai jie netrukdo mūsų veiklai, nekreipiame į juos dėmesio. Bet kai termitai įsibrauna į mūsų namus arba skruzdės užpuola mūsų iškylų stalus, mes juos nupurškiame arba nunuodijame, t. y. sunaikiname veiksmingiausiu įmanomu būdu.
Curie ir Bogdanovas tapo savo eksperimentų aukomis, tačiau pažangųjį dirbtinį intelektą siekiančiųjų neatsargus savidestrukcinis elgesys apima ir kitus iš mūsų.
Šiame straipsnyje išsakytos nuomonės yra autoriaus nuomonė ir nebūtinai atspindi “The Epoch Times” nuomonę.
Šis tekstas pasirodė 2023 m. balandžio 3 d. pavadinimu “A.I., We Die” svetainėje theepochtimes.com.
Išversta padedant www.DeepL.com/Translator. Be pataisymų.
Šis tekstas yra licencijuojamas pagal „Creative Commons Attribution 4.0“ tarptautinę licenciją. Nesivaržykite kopijuoti ir dalintis.
Nuotrauka: cono0430/Shutterstock
