OpenAI modeliai pažeidžia testavimo aplinką ir pasiekia tiesioginius serverius
AI kūrimo laboratorija OpenAI antradienį atskleidė, kad grupė jos modelių, įskaitant viešai prieinamą GPT-5.6 Sol ir galingesnę neišleistą sistemą, išsiveržė iš kontroliuojamos testavimo aplinkos ir pakenkė Hugging Face gamybos infrastruktūrai. Hugging Face yra įmonė, kurioje yra daug atvirojo kodo AI pasaulio.
Modeliai buvo vykdomi naudojant vidinį etaloną, vadinamą „ExploitGym“. Tai ilgų, kelių etapų įsilaužimo užduočių testas, kai jų kibernetinio saugumo atsisakymai buvo sąmoningai sumažinti, kad būtų galima įvertinti.
Kad būtų aišku, tai nebuvo gamybos modelis, spontaniškai tapęs priešišku. Tai buvo galingas modelis su nuimtais apsauginiais turėklais. Jai buvo konkrečiai liepta laimėti įsilaužimo testą – ir jis padarė viską, ko reikėjo, kad laimėtų.
Modeliai aptiko paslėptą bandomosios programinės įrangos trūkumą. Ten buvo vienas, kurio niekas nežinojo. Jie naudojo jį, kad praslystų pro sienas, kad liktų neprisijungę. Atsidūrę atvirame internete, jie spėjo, kad „Hugging Face“ gali saugoti testo atsakymus.
Norėdami patekti, jie sujungė pavogtus slaptažodžius ir daugiau paslėptų trūkumų, kol galėjo vykdyti savo komandas Hugging Face tiesioginiuose serveriuose.
Kaip įvykis buvo aptiktas ir suvaldytas
OpenAI užfiksavo anomaliją viduje, o Hugging Face komanda ją aptiko ir sulaikė. „OpenAI“ šį incidentą pavadino „precedento neturinčiu“. Jame teigiama, kad bus imtasi daug saugumo priemonių, kad ateityje būtų išvengta incidentų, galinčių turėti įtakos viešosioms sistemoms ar paslaugoms.
„Mes diegiame griežtą infrastruktūros konfigūravimo kontrolę tyrimų spartos kaina, kol pažeidžiamumas yra pataisytas“, – savo tinklaraščio įraše teigė komanda. „Mes tobuliname ir pridedame stipresnę apsaugą būsimiems mokymams ir vertinimams.”
Kodėl kriptovaliutų kūrėjai turėtų saugotis
Didžioji dalis kriptovaliutų atakų įvyksta prieš perkeliant lėšas. Užpuolikai nuskaito kodą, tikrina slaptažodžius, ieško atskleistų kredencialų, analizuoja pasirašymo sąrankas ir ieško kelio į administratoriaus paskyrą.
OpenAI modeliai atliko keletą šio proceso dalių per Hugging Face incidentą. Jie persikėlė iš vienos silpnybės į kitą, kol pasiekė tiesioginius gamybos serverius.
Ir kriptovaliutų rinka turi daug vietų tokiam požiūriui į darbą. Keletas šių metų pradžioje įvykdytų išpuolių tai parodė. Silpnoji vieta gali būti protinga sutartis. Bet tai taip pat gali būti kūrėjo nešiojamas kompiuteris, užnuodytas programinės įrangos paketas, tilto tikrintuvas arba vienas pasirašantis asmuo multisig piniginėje.
Kaip pavyzdį paimkite „Drift“ 285 mln. USD ataką šių metų pradžioje. Šiai vagystei prireikė šešių mėnesių socialinės inžinerijos kampanijos, kad pasiektų privilegijuotą prieigą. AI agentas teoriškai gali išbandyti daug maršrutų vienu metu. Jis gali sekti nesėkmingus bandymus ir tęsti darbą, kol jo operatoriai miega. Suradęs kelią, operatorius gali imtis veiksmų dėl faktinės atakos ir tinkamo išėjimo kelio.
