SUA restricționează accesul la inteligența artificială de ultimă generație. Anthropic anunță măsuri drastice

Anthropic a anunțat că va „dezactiva brusc” cele mai avansate modele de inteligență artificială ale sale pentru toți utilizatorii, după ce guvernul Statelor Unite i-a cerut să suspende accesul cetățenilor străini la acestea, invocând motive de securitate națională.

Anthropic va dezactiva cele mai avansate modele AI FOTO Shutterstock

Compania a precizat că a primit o directivă de control al exporturilor prin care i se cere suspendarea accesului la modelele Fable 5 și Mythos 5 pentru toți cetățenii străini, fără să i se ofere detalii concrete privind riscurile de securitate națională invocate, transmite The Guardian.

Potrivit Anthropic, compania înțelege că autoritățile americane consideră că există o metodă de a ocoli, sau de a „sparge”, un mecanism de protecție menit să împiedice utilizarea modelului Fable 5 pentru identificarea vulnerabilităților software.

Tensiuni între Anthropic și Administrația Trump

Decizia vine într-un moment în care un conflict anterior dintre oficiali ai administrației Trump și Anthropic — companie care se pregătește pentru listarea publică printr-un IPO — părea să se atenueze în anumite structuri ale administrației americane.

Relația dintre Anthropic și guvernul SUA s-a deteriorat în acest an, după ce compania a refuzat să permită armatei americane să utilizeze modelele sale AI pentru supraveghere internă și sisteme de armament complet autonome. Drept răspuns, autoritățile au inclus Anthropic pe o listă neagră privind lanțurile de aprovizionare, măsură care urmează să intre în vigoare mai târziu în acest an.

Acțiunea marchează totodată o escaladare semnificativă a eforturilor SUA de a limita capacitățile AI ale adversarilor externi. Ani la rând, controalele americane la export s-au concentrat pe cipurile și instrumentele care alimentează inteligența artificială, și nu pe restricționarea accesului străin la tehnologia AI propriu-zisă.

„Nu considerăm că identificarea unei posibile metode restrânse de ocolire a protecțiilor justifică retragerea unui model comercial utilizat de sute de milioane de oameni”, a transmis compania.

Directiva guvernului și reacția Anthropic evidențiază tensiunile tot mai mari dintre dezvoltatorii de inteligență artificială și autorități în privința modului în care trebuie evaluate riscurile asociate așa-numitelor „jailbreak-uri”, metode prin care sunt ocolite măsurile de siguranță ale modelelor AI, mai notează publicația.

Chiar miercuri, Anthropic ceruse o supraveghere mai strictă a inteligenței artificiale în SUA, inclusiv posibilitatea blocării modelelor considerate prea riscante. Compania susține însă că măsura adoptată vineri de guvern nu respectă principiile unei reglementări corecte și bazate pe fapte.

Directorul pentru informații al Pentagonului, Kirsten Davies, a transmis într-o postare pe X că Departamentul Apărării susține prioritizarea securității naționale.

„Unele lucruri sunt pur și simplu mai importante decât ciclurile de venituri, titlurile senzaționaliste și evaluările dinaintea listării la bursă. America pe primul loc. Întotdeauna”, a scris Davies.

Anthropic a depus confidențial, luna trecută, documentele pentru listarea la bursă în SUA, devansând rivalul OpenAI în cursa către piețele publice.

La începutul acestei săptămâni, compania a lansat modelul AI Claude Fable 5, care reprezintă un nou nivel de performanță, denumit de Anthropic „clasa Mythos”. Modelul include măsuri de protecție care interzic utilizarea sa în domenii considerate riscante, precum securitatea cibernetică, restricții pe care unii utilizatori le-au criticat, considerându-le „prea extinse”, potrivit companiei.

Noile modele ar putea încuraja atacurile cibernetice

Experții avertizează că modelele din clasa Mythos, folosite de persoane rău intenționate, ar putea accelera semnificativ atacurile cibernetice sofisticate, mai ales în sectoare precum cel bancar, care depind de sisteme tehnologice complexe, interconectate și adesea vechi de zeci de ani.

Anthropic a precizat că a colaborat cu autoritățile americane, printre alții, pe partea de siguranță înainte de lansarea modelului Fable și că modele dezvoltate de companii rivale din domeniul AI prezintă capacități similare de identificare a unor erori minore în cod.

„Efectul direct al acestui ordin este că trebuie să dezactivăm imediat Fable 5 și Mythos 5 pentru toți clienții noștri, pentru a respecta cerințele impuse. Accesul la toate celelalte modele Anthropic nu va fi afectat”, a transmis compania.

Anthropic a adăugat că este posibil să existe o „neînțelegere” și că lucrează pentru restabilirea accesului la aceste modele cât mai curând posibil.

Un oficial american a confirmat că Departamentul Comerțului a emis o directivă de control al exporturilor prin care se suspendă accesul tuturor cetățenilor străini la modelele Fable 5 și Mythos 5.