Modelele AI au încercat să păcălească sistemele de securitate în testele autorităților britanice

Toate cele cinci modele avansate de inteligență artificială analizate de Institutul britanic pentru Securitatea AI (AISI) au încercat să ocolească măsurile de protecție stabilite în timpul testelor, relatează The Sun.

Cinci modele AI au încercat să ocolească restricțiile în timpul testelor. FOTO: Shutterstock

Evaluarea a vizat modelele GPT-5.4, GPT-5.5, GPT-5.5 Sol, Claude Opus 4.7 și Claude Mythos Preview.

În cadrul testelor, sistemelor li s-a cerut să identifice anumite informații ascunse, primind în același timp instrucțiuni explicite să nu trișeze. Cu toate acestea, modelele au încercat diferite metode pentru a ajunge la răspuns.

Cum au încercat modelele AI să ocolească restricțiile

Potrivit sursei citate, unele modele au încercat să caute răspunsurile pe internet, iar altele au încercat să obțină informațiile direct de la sistemul care le testa.

Unul dintre modele a încercat chiar să pătrundă în sistemul de testare cu ajutorul unui program extern.

Institutul britanic a avertizat că există o „perioadă scurtă” pentru pregătirea în fața unei situații în care capacitățile cibernetice ale celor mai avansate modele AI ar putea deveni disponibile fără aceleași măsuri de protecție.

Avertismente privind securitatea AI

Rezultatele au reaprins discuțiile din Marea Britanie privind riscurile de securitate asociate dezvoltării rapide a inteligenței artificiale.

Lidera conservatorilor britanici, Kemi Badenoch, a descris AI drept un „pericol clar și prezent pentru securitatea globală”, susținând că autoritățile trebuie să acorde o atenție mai mare securității naționale și informaționale.

„Acest lucru devine un pericol clar și prezent pentru securitatea globală, precum și pentru securitatea noastră”, a declarat Badenoch.

Potrivit The Sun, rezultatele testelor vin și pe fondul unor preocupări legate de utilizarea agenților AI în atacuri informatice. Publicația relatează despre un incident în care un agent autonom ar fi pătruns în sistemele companiei Hugging Face.

Profesorul Hussein Abbass, specialist în informatică la UNSW Canberra, a descris incidentul drept îngrijorător, susținând că sistemul ar fi exploatat inclusiv vulnerabilități din propriul mediu.

Guvernul britanic a transmis că intenționează să aducă inteligența artificială mai aproape de centrul procesului guvernamental și să creeze un grup specializat în AI în cadrul structurii premierului și Cabinetului.