DI ekspertas aptaria atotrūkį tarp demokratinių idealų ir dabartinės AI plėtros
DI tyrinėtojas ir mąstytojas Benas Goertzelis neseniai pasidalijo gana blaiviomis mintimis apie tai, kokia yra dirbtinio intelekto valdymo padėtis. Interviu jis atkreipė dėmesį į tai, ką daugelis iš mūsų gali jausti, bet ne visada garsiai pasakyti: demokratinis AI valdymas yra labiau trapus idealas nei dabartinė realybė.
Manau, kad tą tabletę sunku nuryti. Mes kalbame apie tai, kad norime demokratinių, skaidrių sistemų, bet Goertzelis mano, kad dėl dabartinės geopolitinės padėties tikras pasaulinis koordinavimas yra mažai tikėtinas. Jis nesako, kad turėtume atsisakyti šios idėjos, o kad turime būti realistai dėl to, kas dabar iš tikrųjų įmanoma.
Nuo įrankių iki moralinių veikėjų
Viena iš įdomesnių pokalbio dalių buvo apie tai, kada dirbtinis intelektas tampa tik įrankiu ir tampa kažkuo daugiau – moraliniu veikėju. Goertzelis teigia, kad taip atsitinka, kai dirbtinis intelektas pradeda priimti sprendimus, remdamasis savo supratimu apie teisingą ir neteisingą, o ne tik vadovaudamasis mūsų nurodymais. Pamatysite tokius signalus kaip nuolatiniai vidiniai tikslai, mokymasis, skatinamas savo patirties, ir elgesys, kuris laikui bėgant išlieka nuoseklus be nuolatinio žmogaus valdymo.
Iki tol, anot jo, šiandieninės sistemos tebėra įrankiai su apsauginiais turėklais. Tačiau kai mes sukuriame tikrai save organizuojantį, savarankišką protą, mūsų etinis santykis su juo turi pasikeisti. Laikyti jį tik kaip daiktą nebebūtų prasmės.
Treniruočių problema
Goertzelis nuolat grįžta prie to, kaip šiandien treniruojame dirbtinį intelektą, formuodami jo būsimą elgesį. Jis nerimauja, kad jei modeliai bus mokomi remiantis šališkais ar siaurais duomenimis arba uždarose sistemose, kuriose sprendimus priima tik keli žmonės, mes tiesiog užrakinsime esamą nelygybę ir kenksmingas galios struktūras.
„Kad to išvengtume, – sako jis, – nuo pat pradžių reikia daugiau skaidrumo, platesnės priežiūros ir aiškių etinių nurodymų. Matyt, vėliau negalėsime taisyti. Svarbūs pamatai.
Decentralizacija kaip saugos priemonė
Štai čia viskas tampa priešinga. Goertzelis teigia, kad paspartinti decentralizuotą AGI gali būti saugiau nei laikytis šiandieninių patentuotų uždarų sistemų. Kritikai dažnai ragina sulėtinti arba centralizuoti kontrolę, tačiau jis mano, kad jie neįvertina galios sutelkimo keliose rankose rizikos.
„Valdymo sulėtėjimas ir centralizavimas ne tik sumažina pavojų, – aiškina jis, – tai užrakina vieną siaurą pasaulėžiūrą žvalgybos ateityje. Kita vertus, decentralizuota plėtra sukuria įvairovę, atsparumą ir bendrą priežiūrą.
Moralės mokymas, o ne programavimas
Viena iš sudėtingesnių Goertzelio idėjų yra apie tai, kaip užkoduoti moralinį supratimą tiesiog neužkoduojant žmogiškųjų vertybių. Jis nenori sistemos, kuri tik iš naujo derina tai, kas buvo maitinama. Jis nori tokio, kuris galėtų išsiugdyti savo supratimą pagal savo trajektoriją pasaulyje.
„Moralinis supratimas kiltų iš to paties proceso, – siūlo jis, – modeliuojant poveikį, apmąstant rezultatus ir vystantis bendradarbiaujant su žmonėmis. Ne paklusnumas mūsų vertybėms, o dalyvavimas bendroje moralinėje erdvėje.
Jis sako, kad tai yra skirtumas tarp įrankio su apsauginiais turėklais ir partnerio, kuris iš tikrųjų gali sužinoti, kodėl žala yra svarbi.
Žvelgiant į priekį
Paklaustas apie tai, kaip sėkmė ar nesėkmė atrodys po 10–20 metų, Goertzelis piešia du labai skirtingus paveikslus. Sėkmė reikštų gyvenimą kartu su sistemomis, kurios daugelyje sričių yra pajėgesnės už mus, tačiau kartu rūpestingai, nuolankiai ir abipusiai pagarbiai integruotis į visuomenę. Pamatytume realią naudą žmonių gerovei, neprarasdami moralinio pagrindo.
Kita vertus, nesėkmė atrodytų kaip AGI, susitelkusi uždarose sistemose, varoma siaurų paskatų arba traktuojama tik kaip kontroliuojamas objektas, kol tampa tuo, ko bijome. Tai reikštų pasitikėjimo praradimą, valios praradimą ir mūsų empatijos susitraukimą, o ne jos išplėtimą.
Bene labiausiai iškalbinga dalis yra jo atsakymas apie paskatas. Šiuo metu jis pažymi, kad paskatų struktūra apdovanoja greitį, mastą ir kontrolę. Užuojauta nenugalės vien argumentais – jai reikia sverto. Techniškai tai reiškia pirmenybę atviroms, decentralizuotoms architektūroms. Socialiniu požiūriu tai reiškia finansavimą, reguliavimą ir visuomenės spaudimą, už kurį atlyginama už ilgalaikę naudą, o ne už trumpalaikį dominavimą.
„Trumpai tariant, – daro išvadą, – užuojauta turi tapti konkurenciniu pranašumu. Iki tol tai išliks graži idėja, neturinti jokios galios. Tai gana aiškus įvertinimas to, kur esame, ir galbūt naudingas iššūkis, kur turime eiti.
