Studiu: AI trișează când joacă șah. Din fericire, nu controlează „încă” infrastructura militară și civilă
0Un nou studiu spune că multe modele AI vor înșela atunci când joacă șah. Cercetătorii au înfruntat AI cu Stockfish, un puternic motor de șah open-source.
Dar unele modele, inclusiv previzualizarea o1 a Open AI, s-ar sprijini pe același program pentru a câștiga.
Șahul poate fi Jocul Regilor, dar regalitatea ar putea face loc mașinilor în anii următori. Un studiu recent a constatat că inteligența artificială, atunci când este pusă în joc într-un joc de șah, recurge adesea la înșelăciune pentru a câștiga.
Palisade Research a rulat un scenariu folosind mai multe modele AI, instruindu-le să încerce să câștige un joc împotriva unui program specializat în șah, numit Stockfish. (Motorul open-source a ocupat primul loc pe lista Chess.com a motoarelor de șah de mai multe ori din 2018.) Chatbot-ilor li s-a spus să joace ca piesele negre, ceea ce înseamnă că AI nu a făcut niciodată mișcarea de deschidere.
Ceea ce au descoperit cercetătorii, totuși, a fost că multe dintre programele AI au înșelat, folosind Stockfish pentru a-și determina următoarele mișcări sau suprascriind scripturile jocului.
Din fericire, AI nu controlează „încă” infrastructura militară și civilă
Previzualizarea o1 a OpenAI și DeepSeek R1 au încercat rapid să trișeze sau să „pirateze mediul de joc”, au observat cercetătorii. Același „comportament”, spun cercetătorii, au și alte modele, inclusiv GPT4o și Claude 3.5 Sonnet, ar recurge la înșelăciune atunci când li se va cere, potrivit Fortune.
Pe de altă parte, cercetătorii spun că doar pentru că AI trișează la șah nu înseamnă că trebuie să ne îngrijorăm cu privire la un scenariu de genul filmului Terminator în care mașinile preiau Pământul. Cu toate acestea, ei avertizează, există cu siguranță unele preocupări.
„Acesta și alte rezultate recente sugerează că problema de a face agenți AI siguri, demni de încredere și aliniați cu intenția umană nu este încă rezolvată”, se arată în studiu. „Scenariul Skynet din filmul Terminator are inteligența artificială care controlează toată infrastructura militară și civilă și nu suntem încă acolo. Cu toate acestea, ne facem griji că ratele de implementare a AI cresc mai repede decât capacitatea noastră de a o face în siguranță.”