Anthropic a blocat o încercare rusă de dezvoltare a unor roiuri de drone autonome

Compania de cercetare și siguranță în domeniul inteligenței artificiale Anthropic a anunțat că a împiedicat un grup de dezvoltatori ruși să folosească asistentul său de programare Claude pentru a crea software destinat dronelor kamikaze autonome ale Kremlinului. Sistemul era conceput pentru a selecta și ataca ținte, inclusiv persoane, fără a fi nevoie de intervenția unui operator.

Asistentul Claude al companiei Anthropic Foto: Shutterstock

Pe măsură ce cresc îngrijorările legate de direcția pe care o ia dezvoltarea necontrolată a inteligenței artificiale, un raport publicat de Anthropic subliniază necesitatea unei supravegheri stricte a acestei tehnologii pentru a preveni riscuri majore.

Cine a folosit asistentul Claude pentru drone?

În raportul său trimestrial intitulat „Detectarea și combaterea utilizării abuzive a inteligenței artificiale”, publicat la începutul acestei luni, compania a identificat un grup de dezvoltatori cu legături în Rusia, desemnat sub indicativul GTG-27005. Acesta folosea agentul de programare Claude pentru a crea software pentru drone autonome.

Anthropic consideră că, deși sistemul era dezvoltat în scopuri militare, membrii grupului erau probabil specialiști independenți din mediul universitar. Nu au fost identificate legături directe cu Forțele Armate Ruse, grupul folosind mai multe servere virtuale pentru a ocoli restricțiile geografice. Comportamentul acestora prezintă asemănări cu cel al grupului rus de hackeri „Midnight Blizzard”, cunoscut pentru utilizarea instrumentelor de inteligență artificială generativă în atacuri cibernetice.

Ce obiective aveau dezvoltatorii?

Conform raportului, operațiunea a fost denumită „DroneDoc” și „Seraphim”. Grupul și-a înregistrat conturile la sfârșitul anului 2025, activitatea intensificându-se în mai 2026. Asistentul Claude a fost utilizat pentru scrierea și revizuirea codului software, precum și pentru stocarea componentelor direct în fișierele de proiect.

Codul a fost integrat cu software de simulare a dronelor și modele de resurse de calcul închiriate de la furnizori comerciali. Sistemul rezultat a fost conceput pentru a selecta ținte și a emite comenzi de atac fără intervenție umană suplimentară.

Scopul final părea să fie operarea dronelor în format de roi și luarea de decizii autonome. Utilizarea Claude ar fi permis dezvoltarea unei memorii partajate pentru roi, asigurând coordonarea și sincronizarea chiar și în cazul pierderii comunicațiilor sau al defectării unor componente.

Echipa dezvolta, de asemenea, un model lingvistic compact la bordul dronelor, menit să stabilească acțiunile ulterioare după angajarea unei ținte: atacarea altei ținte, continuarea supravegherii sau revenirea la bază.

Antrenament bazat pe imagini din Ucraina

Dezvoltatorii au folosit imagini din luptele din Ucraina, obținute prin intermediul rețelelor de socializare, pentru a antrena un sistem de viziune computerizată. În cadrul acestui sistem, personalul și echipamentele ucrainene erau desemnate drept ostile, în timp ce sistemele militare rusești erau adăugate pe o listă de excepții.

Simulările demonstrative au fost efectuate în regiunea Donețk din Ucraina, vizând orașe de pe linia frontului și coridoare de transport.

Anthropic combate utilizarea ilicită a AI în conflictul din Ucraina

În total, compania a identificat și blocat nouă conturi legate de acest proiect. Pe lângă o universitate regională, Anthropic a descoperit și conexiuni cu Academia Rusă de Științe.

Raportul descrie, de asemenea, utilizarea tot mai frecventă a inteligenței artificiale pentru organizarea de atacuri cibernetice împotriva unor oficiali guvernamentali și ținte militare din Ucraina, incluzând campanii de tip phishing, distribuire de malware și preluare de conturi.