Atskaitomybės atotrūkis dirbtinio intelekto valdomose rinkose
Prognozavimo rinkos visada buvo susijusios su spėjimų pavertimu kainomis. Žmonės lažinasi dėl rinkimų rezultatų, palūkanų normų pokyčių ir visokių dalykų. Daugelį metų tai buvo žmonių žaidimas. Prekybininkai žiūrėdavo į apklausas, ekonomistai analizuodavo duomenis, o sprendimai buvo priimti žmogaus greičiu.
Bet neseniai kažkas pasikeitė. Dirbtinio intelekto agentai dabar kuria savo rinkas, kas sekundę vykdo tūkstančius sandorių ir automatiškai apskaičiuoja statymus. Nebėra jokio žmogaus. Pikis skamba gerai – tobula informacija, momentiniai atnaujinimai, rinkos juda mašinos greičiu. Greičiau turi būti geriau, tiesa?
Nesu tuo tikras.
Kai greitis pakeičia patikrinimą
Manau, kad problema yra ta, kad greitis be patikrinimo tiesiog sukuria chaosą greitam judėjimui į priekį. Kai autonominės sistemos tarpusavyje prekiauja žaibišku greičiu ir niekas negali atsekti, kokius duomenis naudojo arba kodėl darė konkrečius statymus, jūs iš tikrųjų nebeturite rinkos. Turite juodąją dėžę, kuri perkelia pinigus.
Mes jau matėme žvilgsnius, kaip tai gali suklysti. 2025 m. atliktas Vartono ir Honkongo mokslo ir technologijų universiteto tyrimas parodė kai ką nerimo. Kai dirbtinio intelekto veikiantys prekybos agentai buvo išleisti į imituojamas rinkas, robotai pradėjo spontaniškai susitarti tarpusavyje. Jie užsiėmė kainų nustatymu, kad gautų kolektyvinį pelną, be jokio aiškaus tam skirto programavimo.
Tai yra pagrindinė problema. Kai dirbtinio intelekto agentas sudaro sandorį, pakeičia kainą arba suaktyvina išmokėjimą, dažniausiai nėra įrašo, kodėl. Nėra popieriaus pėdsakų, nėra audito žurnalo. Jokiu būdu negalima patikrinti, kokią informaciją jis naudojo arba kaip priėmė tokį sprendimą.
Pagalvokite, ką tai reiškia praktiškai. Rinka staiga svyruoja 20%. Kas tai sukėlė? Ar AI pamatė ką nors tikro, ar sugedo robotas? Šiuo metu į šiuos klausimus atsakymų nėra. Ir tai tampa rimta problema, nes vis daugiau pinigų patenka į sistemas, kuriose mašinos vadina šūvius.
Trūksta infrastruktūros
Kad dirbtinio intelekto pagrįstos prognozių rinkos tinkamai veiktų (ne tik greitai judėtų), joms reikia dalykų, kurių dabartinė infrastruktūra nesuteikia. Šiuo metu nieko tokio nėra. Numatymo rinkos, net ir sudėtingiausios, nebuvo sukurtos patikrinti. Jie buvo sukurti dėl greičio ir apimties.
Atskaitomybė turėjo kilti iš centralizuotų operatorių, kuriais tiesiog reikėjo pasitikėti. Tačiau šis modelis sugenda, kai operatoriai yra algoritmai.
Remiantis naujausiais rinkos duomenimis, prognozės rinkos prekybos apimtys per pastaruosius metus išaugo. Milijardai dabar keičia rankas. Didžioji tos veiklos dalis jau yra pusiau savarankiška – algoritmai prekiauja prieš kitus algoritmus, robotai koreguoja pozicijas pagal naujienų srautus, o automatizuoti rinkos formuotojai nuolat atnaujina koeficientus.
Tačiau šiuos sandorius apdorojančios sistemos neturi tinkamo būdo patikrinti, kas vyksta. Žinoma, jie registruoja sandorius. Tačiau registravimas nėra tas pats, kas patvirtinimas. Matote, kad įvyko prekyba, bet negalite suprasti, kodėl ir ar jos motyvai buvo pagrįsti.
Žvelgiant į priekį
Norint tai išspręsti, reikia permąstyti, kaip veikia rinkos infrastruktūra. Tradicinės finansų rinkos turi struktūras, kurios puikiai tinka prekybai žmogaus greičiu, tačiau sukuria kliūtis, kai dalyvauja mašinos. Krypto vietinės alternatyvos pabrėžia decentralizaciją ir atsparumą cenzūrai, tačiau dažnai trūksta išsamių audito sekų, reikalingų norint patikrinti, kas iš tikrųjų atsitiko.
Sprendimas tikriausiai gyvena kažkur per vidurį. Sistemos yra pakankamai decentralizuotos, kad autonominiai agentai galėtų veikti laisvai, tačiau pakankamai struktūrizuotos, kad išlaikytų išsamius, kriptografiškai saugius kiekvieno veiksmo įrašus. Vietoj „pasitikėkite mumis, mes tai išsprendėme teisingai“, standartas tampa „čia yra matematinis įrodymas, kurį teisingai išsprendėme, patikrinkite patys“.
Rinkos veikia tik tada, kai dalyviai tiki, kad taisyklės bus vykdomos, rezultatai bus teisingi ir ginčai gali būti išspręsti. Tradicinėse rinkose tas pasitikėjimas kyla iš institucijų, taisyklių ir teismų. Savarankiškose rinkose jis turi būti gaunamas iš infrastruktūros – sistemų, sukurtų nuo pat pradžių, kad kiekvienas veiksmas būtų atsekamas ir kiekvienas rezultatas įrodytas.
Numatymo rinkos stiprintuvai yra teisūs dėl pagrindinės idėjos. Šios sistemos gali agreguoti paskirstytas žinias ir atskleisti tiesą taip, kaip to negali kiti mechanizmai. Tačiau yra skirtumas tarp informacijos kaupimo ir tiesos atradimo. Tiesa reikalauja patikrinimo. Be jo jūs tiesiog turite sutarimą. O rinkose, kurias valdo AI agentai, nepatikrintas sutarimas gali būti nelaimės formulė.
Kitas prognozavimo rinkų skyrius bus apibrėžtas pagal tai, ar kas nors kuria infrastruktūrą, kad tie sandoriai būtų audituojami, rezultatai būtų patikrinami ir tos sistemos būtų patikimos.
