De câteva săptămâni, lumea inteligenței artificiale este într-o agitație continuă după afirmațiile făcute de compania Anthropic despre noul său model, Claude Mythos.
Compania susține că instrumentul poate depăși oamenii în anumite sarcini de hacking și securitate cibernetică, lucru care a stârnit discuții în rândul autorităților de reglementare, al legislatorilor și al instituțiilor financiare cu privire la pericolele pe care le-ar putea reprezenta pentru serviciile digitale.
Mai multe mari companii din tehnologie au primit acces la Mythos printr-o inițiativă numită Project Glasswing, gândită pentru a întări reziliența sistemelor chiar împotriva acestui model.
Totuși, alții atrag atenția că Anthropic are și un interes direct să prezinte instrumentul său ca având capacități fără precedent, ceea ce înseamnă că, la fel ca în multe alte cazuri din domeniul AI, devine dificil să separi afirmațiile justificate de exagerările de marketing.
Ce este Claude Mythos?
Mythos este unul dintre cele mai noi modele dezvoltate de Anthropic ca parte a sistemului său mai larg de inteligență artificială numit Claude. Acesta include asistentul AI al companiei și întreaga familie de modele, aflate în competiție directă cu ChatGPT de la OpenAI și Gemini de la Google.
Modelul a fost prezentat de Anthropic la începutul lunii aprilie sub numele de „Mythos Preview”.
Cercetătorii care testează modul în care modelele AI răspund la anumite cereri sau sarcini, cunoscuți sub numele de „red teams”, au spus într-un raport că Mythos este „remarcabil de capabil” în domeniul sarcinilor de securitate informatică.
Aceștia au descoperit că instrumentul putea identifica erori ascunse în cod vechi de zeci de ani și le putea exploata cu ușurință.
Tocmai de aceea, în loc să îl ofere pe scară largă utilizatorilor Claude, Anthropic a acordat acces la Mythos pentru 12 companii din tehnologie prin Project Glasswing, descris de companie drept „un efort de a securiza cele mai critice programe software din lume”.
Printre acestea se numără gigantul de cloud Amazon Web Services, producătorii de dispozitive Apple, Microsoft și Google, dar și producătorii de cipuri Nvidia și Broadcom.
CrowdStrike, compania al cărei update software defect a provocat o pană majoră la nivel mondial în iulie 2024, se află și ea printre partenerii proiectului, iar Anthropic spune că a oferit acces la Mythos și pentru peste 40 de organizații responsabile de software critic.
Într-un videoclip lansat odată cu debutul Project Glasswing, CEO-ul Anthropic, Dario Amodei, a spus că firma s-a oferit să colaboreze cu oficiali ai guvernului SUA pentru a „ajuta la apărarea împotriva riscurilor pe care aceste modele le pot aduce”.
De ce există îngrijorări?
Anthropic spune că, în timpul testelor, modelul s-a dovedit extrem de priceput la sarcini de securitate cibernetică și hacking, depășind performanțele umane.
„Mythos Preview a descoperit deja mii de vulnerabilități severe, inclusiv unele prezente în fiecare sistem major de operare și browser web important”, a susținut Anthropic pe 7 aprilie.
„Având în vedere ritmul progresului în AI, nu va mai trece mult până când astfel de capacități se vor răspândi, posibil și dincolo de actorii care sunt hotărâți să le folosească în condiții de siguranță.”
Compania a afirmat că modelul poate identifica, fără multă supraveghere, erori critice care necesită intervenție imediată în sisteme vechi, inclusiv o vulnerabilitate prezentă într-un sistem timp de 27 de ani, și că poate sugera modalități prin care acestea pot fi exploatate.
Temerile publice legate de capacitățile AI au dus deja la proteste, inclusiv la o manifestație din San Francisco în luna martie.
Unii miniștri de finanțe, bancheri centrali și specialiști din domeniul financiar și-au exprimat între timp îngrijorări serioase, temându-se că modelul ar putea submina securitatea sistemelor financiare.
Ministrul canadian de finanțe, François-Philippe Champagne, a declarat pentru BBC că Mythos a fost discutat în această săptămână la o reuniune a Fondului Monetar Internațional de la Washington DC.
„Cu siguranță este suficient de serios încât să merite atenția tuturor miniștrilor de finanțe”, a spus el, descriind tehnologia drept „o necunoscută necunoscută”.
Guvernatorul Băncii Angliei, Andrew Bailey, a declarat pentru BBC că „trebuie să analizăm foarte atent acum ce ar putea însemna această ultimă dezvoltare AI pentru riscul de criminalitate cibernetică”.
Între timp, Uniunea Europeană a anunțat și ea că poartă discuții cu Anthropic în legătură cu îngrijorările privind Mythos.
Ce spun experții în securitate cibernetică?
Ciaran Martin, fostul șef al National Cyber Security Centre din Marea Britanie, a declarat pentru BBC la începutul acestei săptămâni că afirmația potrivit căreia Mythos poate descoperi vulnerabilități critice mult mai rapid decât alte modele AI „a zguduit cu adevărat oamenii”.
„Al doilea lucru este că, chiar și în cazul slăbiciunilor deja cunoscute, dar pe care organizațiile poate nu le-au remediat și împotriva cărora poate nu sunt bine protejate, modelul este pur și simplu un hacker foarte bun”, a spus el.
Mulți analiști independenți și experți în securitate cibernetică nu au avut încă posibilitatea să îl testeze personal, iar unii rămân sceptici în privința performanței lui Mythos.
Institutul pentru Siguranța AI din Marea Britanie a concluzionat recent că, deși este un model foarte puternic, cea mai mare amenințare a sa ar viza sistemele slab protejate și vulnerabile.
„Nu putem spune cu siguranță dacă Mythos Preview ar fi capabil să atace sisteme bine apărate”, au declarat cercetătorii instituției.
Așadar, acolo unde există o securitate cibernetică solidă, acest model ar putea fi, cel puțin teoretic, oprit.
Ar trebui să ne îngrijoreze?
Temerile legate de inteligența artificială nu sunt deloc noi.
Apar constant modele și instrumente noi, iar acestea sunt adesea însoțite de promisiuni că ne vor schimba viața radical, în bine sau în rău.
Exploatarea acestui amestec de teamă și entuziasm legat de AI și de impactul său viitor a devenit, de asemenea, o trăsătură definitorie a sectorului și a strategiilor sale de marketing din ultimii ani.
În cazul Mythos, încă nu știm suficient pentru a spune clar dacă aceste speranțe sau temeri sunt justificate ori dacă reflectă mai degrabă valul de hype care înconjoară industria.
CEO-ul Anthropic, Dario Amodei, a avertizat și în trecut asupra utilizării abuzive a produselor companiei.
În oricare dintre variante, potrivit NCSC, cel mai important lucru pe care îl putem face acum nu este să intrăm în panică, ci să ne concentrăm pe respectarea regulilor de bază ale securității cibernetice.
La urma urmei, cei mai mulți hackeri nu au nevoie de instrumente AI super-avansate pentru a sparge sisteme, atunci când atacuri mult mai simple sunt adesea suficiente.
„Pentru unii, acesta este un eveniment apocaliptic, pentru alții pare doar multă agitație”, a spus Martin pentru BBC.
Dar el a adăugat că, fie că vorbim despre acest instrument, despre modelele viitoare create de Anthropic sau despre cele dezvoltate de rivalii săi, pe lângă riscuri există și o oportunitate importantă: construirea unei lumi online mai sigure.
„Pe termen mediu, există o oportunitate de a folosi aceste instrumente pentru a repara multe dintre vulnerabilitățile de bază ale internetului”, a spus el.
Sursa: bbc • Foto: generata cu AI
Launch your own Radio and Media App on iOS and Android – No Coding Required. Discover nerapo
