Lühidalt
- Ameerika Ühendriikide ametnikud hoiatasid suuri panku Anthropic’i Mythos AI mudeli seotud küberohutusriskidest, teatab Bloomberg.
- Süsteem olevat võimeline tuvastama ja ära kasutama nii operatsioonisüsteemides kui ka veebibrauserites esinevaid nõrku kohti.
- Anthropic on piiranud juurdepääsu mudelile, kuna hindab selle potentsiaalseid ohutusriskisid.
Ameerika Ühendriikide rahandusminister Scott Bessent ja USA keskpanga juht Jerome Powell pidasid sel nädalal Wall Streeti pankade tegevjuhtidega kohtumise, et hoiatada Anthropic’i uue kunstliku intelligentsi mudeli seotud küberohutusriskidest.
Bloomberg teatel osalesid kohtumisel Citigroupi, Bank of America, Wells Fargo, Morgan Stanley ja Goldman Sachs juhtkonna esindajad. Ametnikud arutasid Anthropic’i uut AI mudelit Mythos, mille üllatavalt täiustatud küberohutusvõimed on viimati põhjustanud laialdast mures.
Kohtumise eesmärgiks oli tagada, et pangad mõistaksid riski, mida kujutavad endast süsteemid, mis on võimelised tuvastama ja ära kasutama tarkvaras esinevaid nõrku kohti nii operatsioonisüsteemides kui ka veebibrauserites, ning soovida asutustel tugevdada oma kaitsevõimalusi potentsiaaliste, kunstliku intelligentsiga toetatud küberrünnakute vastu, mille sihtmärk on finantsinfrastruktuur.
Ohutusuuringute tegijad on hoiatanud, et tööriistad, mis suudavad automaatselt avastada nõrku kohti, võivad kiirendada nii kaitsva ohutustöö kui ka kurja tahte kasutamisel teostatavaid krüptorünnakuid.
Anthropic’i Mythos mudel ilmus esmakordselt internetis märtsis pärast seda, kui süsteemi kohta valmis tehtud materjalide mustversioon lekkis võrgusse, paljastades ettevõtte sõnul seni kõige võimsam AI mudel. Testides olevat süsteem avastanud tuhandeid varem teadmata tarkvaravigu, sealhulgas nullpäevavigu suurtes operatsioonisüsteemides ja veebibrauserites.
Anthropic’i uurijad kirjutasid sel nädalal avaldatud aruandes, et Mythos Preview’i võimekus nõrkade kohtade avastamiseks ei olnud intressis õpetatud, vaid ilmnes laiematest parannustest mudeli koodimis-, mõtlemis- ja iseseisvusvõimetes.
„Sama parannused, mis muudavad mudeli oluliselt tõhusamaks nõrkade kohtade parandamisel, muudavad seda ka oluliselt tõhusamaks nende ära kasutamisel,“ kirjutas ettevõte.
Nende võimete tõttu on Anthropic piiranud juurdepääsu väikesesse rühma küberohutusorganisatsioonidele.
„Arvestades selle võimete tugevust, läheneme selle levitamisele ettevaatlikult,“ ütles Anthropic avalduses. „Nagu on standardne praktika kogu tööstuses, koostame väikese rühmaga varajase juurdepääsu kliente, et testida mudelit. Peame seda mudelit oluliseks sammuksksi ja seni kõige võimsamaks meie poolt loodud mudeliks.“
Selle riski leevendamiseks testib Anthropic Mythos’i Project Glasswingi raames – see on koostöö suurte tehnoloogia- ja küberohutusettevõtetega, kus mudelit kasutatakse kriitilises tarkvaras esinevate nõrkade kohtade tuvastamiseks ja parandamiseks enne, kui neid saaksid ära kasutada ründajad.
„Project Glasswing on alguspunkt. Ükski üksikorganisatsioon ei suuda neid küberohutusprobleeme ise lahendada,“ ütles ettevõte avalduses. „Piirjoone AI arendajatel, teistel tarkvarafirmadel, ohutusuuringute tegijatel, avatud lähtekoodi hooldajatel ja kogu maailmas valitsustel on kõigil oluline roll.“
Anthropic ei reageerinud Decrypt’i kommentaari küsimusele kohe.
Daily Debrief Newsletter
Alusta iga päeva peamistest uudistest hetkel, lisaks originaalartiklitele, podcastile, videotele ja muule.
Allikas: https://decrypt.co/363927/powell-bessent-warn-banks-security-anthropic-mythos-ai
