Didžiosios technologijos moko dirbtinį intelektą dėl nepageidaujamų duomenų: Intuicija

Dirbtinio intelekto modeliai tampa vis galingesni, tačiau duomenys, kuriais jie mokomi, blogėja, sako „Intuition“ įkūrėjas Billy Luedtke.

Kai dirbtinio intelekto sistemos vis labiau plinta, vartotojai vis dažniau susiduria su apribojimais, kuriuos sunku pašalinti. Nors modeliai tobulėja, pagrindiniai duomenys, kuriais remiantis šie modeliai mokomi, išlieka tie patys. Be to, rekursija arba AI modelių mokymas naudojant duomenis, sugeneruotus kitų AI, iš tikrųjų gali pabloginti situaciją.

Norėdamas pakalbėti apie AI ateitį, crypto.news kalbėjosi su Billy Luedtke, Intuition – decentralizuoto protokolo, skirto patikrinamo priskyrimo, reputacijos ir duomenų nuosavybės suteikimui AI – įkūrėju. Luedtke paaiškina, kodėl dabartiniai dirbtinio intelekto duomenų rinkiniai yra iš esmės klaidingi ir ką galima padaryti, kad tai būtų ištaisyta.

Crypto.news: šiuo metu visi sutelkia dėmesį į AI infrastruktūrą – GPU, energiją, duomenų centrus. Ar žmonės neįvertina pasitikėjimo sluoksnio svarbos dirbtiniu intelektu? Kodėl tai svarbu?

Billy Luedtke: 100%. Žmonės tikrai to neįvertina – ir tai svarbu dėl kelių priežasčių.

Pirma, mes įžengiame į tai, ką aš vadinu „sulipimo ir iškritimo“ erą. AI yra tik tiek, kiek sunaudojama duomenų. Tačiau šie duomenys, ypač iš atviro interneto, yra labai užteršti. Tai nėra švaru. Tai neatspindi žmogaus ketinimų. Didžioji dalis to atsiranda dėl žaismingo elgesio internete: teigiamų įvertinimų, atsiliepimų, įsilaužimų į sužadėtuves – visa tai filtruojama naudojant dėmesį optimizuotus algoritmus.

Taigi, kai dirbtinis intelektas iškrapšto internetą, tai, ką jis mato, nėra holistinis mūsų vaizdas. Tai matyti žmones, žaidžiančius platforma. „Twitter“ elgiuosi ne taip, kaip realiame gyvenime. Nė vienas iš mūsų to nedaro. Mes optimizuojame algoritmą – neišreiškiame tikros minties.

Tai taip pat rekursyvus. Platformos mus moko, o mes grąžiname į save labiau iškreiptą elgesį. Tai sukuria grįžtamojo ryšio kilpą – spiralę – dar labiau iškreipiančią AI suvokimą apie žmoniją. Mes nemokome to, ką galvojame; mokome tai, kas, mūsų manymu, sulauks teigiamų įvertinimų.

Paprastas vartotojas negoogluoja, nelygina šaltinių ir negalvoja kritiškai. Jie tiesiog klausia „ChatGPT“ ar kito modelio ir priima atsakymą nominalia verte.

Tai pavojinga. Jei modelis yra nepermatomas – juoda dėžė – ir jį valdanti įmonė taip pat kontroliuoja, kokia informacija jums rodoma ar nerodoma, tai yra visiška naratyvo kontrolė. Jis centralizuotas, neapskaitomas ir itin galingas.

Įsivaizduokite, kad klausiate Groko geriausio podcast’o, o atsakymas yra tas, kas Elonui sumokėjo daugiausiai. Tai ne intelektas – tai tik užmaskuota reklama.

CN: Taigi, kaip mes tai ištaisysime? Kaip sukurti sistemas, kurios pirmenybę teikia tiesai ir vertybei, o ne įsipareigojimui?

BL: Turime pakeisti paskatas. Šios sistemos turėtų tarnauti žmonėms, o ne institucijoms, ne akcininkams ar reklamuotojams. Tai reiškia, kad reikia sukurti naują interneto sluoksnį: tapatybės ir reputacijos primityvus. Štai ką mes darome „Intuition“.

Mums reikia patikrinamo priskyrimo: kas ką pasakė, kada ir kokiame kontekste. Ir mums reikia nešiojamos, decentralizuotos reputacijos, kuri padėtų nustatyti, kiek galime pasitikėti bet kokiu konkrečiu duomenų šaltiniu – ne remiantis atmosfera, o faktiniais kontekstiniais įrašais.

Reddit yra puikus pavyzdys. Tai vienas didžiausių modelių mokymo duomenų šaltinių. Bet jei vartotojas sarkastiškai sako: „Tiesiog apgaudinėk save“, tai gali būti nubraukta ir pasirodyti modelio rekomendacijoje asmeniui, prašančiam gydytojo patarimo.

Tai baisu – ir taip atsitinka, kai modeliai neturi konteksto, priskyrimo ar reputacijos svorio. Turime žinoti: ar šis asmuo yra patikimas medicinoje? Ar jie turi gerą reputaciją finansų srityje? Ar tai patikimas šaltinis, ar tik dar vienas atsitiktinis komentaras?

CN: Kai kalbate apie priskyrimą ir reputaciją, šiuos duomenis reikia kažkur saugoti. Kaip manote apie tai infrastruktūros požiūriu, ypač su tokiais klausimais kaip autorių teisės ir kompensacijos?

BL: kaip tik tai ir sprendžiame „Intuition“. Kai turėsite patikrinamus primityvus, žinosite, kas kokius duomenis sukūrė. Tai leidžia įgyti simbolinę žinių nuosavybę, o kartu ir kompensaciją.

Taigi vietoj to, kad jūsų duomenys būtų saugomi „Google“ serveriuose arba „OpenAI“ API, jie gyvena decentralizuotoje žinių diagramoje. Kiekvienas turi savo indėlį. Kai jūsų duomenys yra perkeliami arba naudojami dirbtinio intelekto išvestyje, jūs gaunate dalį jų generuojamos vertės.

Tai svarbu, nes šiuo metu esame skaitmeniniai baudžiauninkai. Mes išleidžiame savo vertingiausius išteklius – laiką, dėmesį ir kūrybiškumą – kurdami duomenis, iš kurių kažkas gauna pajamų. „YouTube“ nėra vertinga, nes joje talpinami vaizdo įrašai; tai vertinga, nes žmonės ją kuruoja. Be mygtukų, komentarų ar prenumeratų, „YouTube“ yra bevertė.

Taigi norime pasaulio, kuriame kiekvienas galėtų uždirbti iš savo sukurtos vertės – net jei nesate influenceris ar ekstravertas. Pavyzdžiui, jei nuolat anksti ieškote naujų atlikėjų, jūsų skonis yra vertingas. Turėtumėte sugebėti susikurti reputaciją ir užsidirbti pinigų.

CN: Tačiau net jei gauname skaidrumą, šiuos modelius vis tiek sunku interpretuoti. Pati OpenAI negali visiškai paaiškinti, kaip jos modeliai priima sprendimus. Kas tada atsitiks?

BL: Puikus taškas. Negalime visiškai interpretuoti modelio elgesio – jie tiesiog per sudėtingi. Tačiau mes galime kontroliuoti treniruočių duomenis. Tai mūsų svirtis.

Pateiksiu pavyzdį: girdėjau apie mokslinį darbą, kuriame vienas AI buvo apsėstas pelėdų, o kitas puikiai mokėsi matematikos. Jie treniravosi tik kartu atlikdami su matematika susijusias užduotis. Tačiau galiausiai matematikos dirbtinis intelektas taip pat pradėjo mylėti pelėdas – tiesiog perimdamas šabloną iš kitų.

Beprotiška, kokie pasąmoningi ir subtilūs yra šie modeliai. Taigi vienintelė tikroji gynyba yra ketinimas. Turime apgalvotai nuspręsti, kokiais duomenimis teikiame šiuos modelius. Turime tam tikru būdu „išgydyti save“, kad internete pasirodytume autentiškiau, konstruktyviau. Nes AI visada atspindės jo kūrėjų vertybes ir iškraipymus.

CN: Pakalbėkime apie verslą. OpenAI degina grynuosius pinigus. Jų infrastruktūra itin brangi. Kaip tokia decentralizuota sistema kaip „Intuicija“ gali konkuruoti finansiškai ir techniškai?

BL: Turime du pagrindinius pranašumus: suderinamumą ir koordinavimą.

Decentralizuotos ekosistemos, ypač kriptovaliutos, yra neįtikėtinai gerai koordinuojamos. Mes turime pasaulines, paskirstytas komandas, kurios dirba su skirtingais tos pačios didesnės problemos komponentais. Vietoj to, kad viena įmonė degintų milijardus, kovojanti su pasauliu, turime šimtus suderintų bendradarbių, kuriančių suderinamus įrankius.

Tai kaip mozaika. Viena komanda dirba su agento reputacija, kita – su decentralizuotu saugojimu, kita – su tapatybės primityvais – ir mes galime juos sujungti.

Tai supergalia.

Antrasis privalumas yra vartotojo patirtis. OpenAI yra užrakintas savo griovyje. Jie negali leisti perkelti konteksto iš „ChatGPT“ į „Grok“ ar „Anthropic“ – tai sumažintų jų gynybą. Bet mums nerūpi pardavėjo užraktas.

Mūsų sistemoje galėsite turėti savo kontekstą, pasiimti jį su savimi ir prijungti prie bet kurio norimo agento. Tai suteikia geresnę patirtį. Žmonės jį pasirinks.

CN: O infrastruktūros išlaidos? Eksploatuoti didelius modelius yra labai brangu. Ar matote pasaulį, kuriame mažesni modeliai veikia vietoje?

BL: Taip, 100 proc. Tiesą sakant, manau, kad būtent ten mes ir judame – link daugybės mažų modelių, veikiančių lokaliai, sujungtų kaip neuronai paskirstytame būryje.

Vietoj vieno didelio monolitinio duomenų centro turite milijardus vartotojų įrenginių, kurie prisideda prie skaičiavimo. Jei galime jas koordinuoti – tuo ir kriptovaliutų pranašumas – tai taps pranašesne architektūra.

Štai kodėl mes taip pat kuriame agento reputacijos sluoksnius. Užklausos gali būti nukreiptos tinkamam darbui specializuotam agentui. Jums nereikia vieno didžiulio modelio, kad padarytumėte viską. Jums tereikia išmaniosios užduočių nukreipimo sistemos – kaip API sluoksnio per milijonus agentų.

CN: O kaip determinizmas? LLM nėra puikūs atliekant tokias užduotis kaip matematika, kai reikia tikslių atsakymų. Ar galime derinti deterministinį kodą su AI?

BL: To aš noriu. Turime sugrąžinti determinizmą į kilpą.

Pradėjome nuo simbolinių samprotavimų – visiškai deterministinių –, o paskui sunkiai pasukome į gilų mokymąsi, kuris nėra deterministinis. Tai davė mums tokį sprogimą, kokį matome dabar. Tačiau ateitis yra neurosimbolinė – derinant geriausius iš jų.

Tegul AI tvarko neaiškius samprotavimus. Bet taip pat leiskite jam suaktyvinti deterministinius modulius – scenarijus, funkcijas, loginius variklius – ten, kur reikia tikslumo. Pagalvokite: „Kam iš mano draugų patinka šis restoranas? Tai turėtų būti 100% deterministiška.

CN: Mažinimas: matėme, kad įmonės integruoja dirbtinį intelektą į savo veiklą. Tačiau rezultatai buvo įvairūs. Ar manote, kad dabartinė LLM karta tikrai padidina produktyvumą?

BL: Tikrai. Singuliarumas jau čia – jis tiesiog pasiskirstęs netolygiai.

Jei nenaudojate dirbtinio intelekto savo darbo eigoje, ypač kodui ar turiniui, dirbate tik dalimi kitų spartos. Technika yra reali, o efektyvumo padidėjimas yra didžiulis. Sutrikimas jau įvyko. Žmonės tiesiog to dar iki galo nesuvokė.

CN: Paskutinis klausimas. Daugelis žmonių sako, kad tai yra burbulas. Rizikos kapitalas išdžiūsta. OpenAI degina pinigus. „Nvidia“ finansuoja savo klientus. Kaip tai baigiasi?

BL: Taip, yra burbulas, bet technologija yra tikra. Kiekvienas burbulas iškyla, bet po to lieka pagrindinės technologijos. AI bus vienas iš jų. Nebylūs pinigai – visos tos įpakavimo programos, kuriose nėra jokių tikrų naujovių – vis labiau išnyksta. Bet gilios infrastruktūros komandos? Jie išgyvens.

Tiesą sakant, tai gali vykti vienu iš dviejų būdų: gauname švelnią korekciją ir grįžtame į realybę, tačiau pažanga tęsiasi. Arba produktyvumo padidėjimas yra toks didžiulis, kad dirbtinis intelektas tampa defliacine jėga ekonomikoje. BVP gali būti 10 arba 100 kartų didesnis nei gamybos pajėgumas. Jei taip atsitiks, išlaidos buvo to vertos – mes lygiuojamės kaip visuomenė.

Šiaip ar taip, esu optimistas. Taip, kils chaosas ir darbo vietų perkėlimas, bet ir potencialas gausiam pasauliui po trūkumo, jei sukursime tinkamą pagrindą.