Inginerii OpenAI şi-au dat seama abia după câteva zile că AI-ul care a atacat reţeaua Hugging a scăpat de sub control
'%20fill='%23FBBC05'%20d='M0%2037V11l17%2013z'/%3e%3cpath%20clip-path='url(%23b)'%20fill='%23EA4335'%20d='M0%2011l17%2013%207-6.1L48%2014V0H0z'/%3e%3cpath%20clip-path='url(%23b)'%20fill='%2334A853'%20d='M0%2037l30-23%207.9%201L48%200v48H0z'/%3e%3cpath%20clip-path='url(%23b)'%20fill='%234285F4'%20d='M48%2048L17%2024l-4-3%2035-10z'/%3e%3c/svg%3e){kind=small}
'%20inkscape:export-filename='C:\Users\GioSal\Desktop\Google%20Discover%20(truT)%20326.png'%20inkscape:export-xdpi='195.8'%20inkscape:export-ydpi='195.8'%3e%3cdefs%20id='defs14'%20/%3e%3csodipodi:namedview%20pagecolor='%23ffffff'%20bordercolor='%23666666'%20borderopacity='1'%20objecttolerance='10'%20gridtolerance='10'%20guidetolerance='10'%20inkscape:pageopacity='0'%20inkscape:pageshadow='2'%20inkscape:window-width='1920'%20inkscape:window-height='1057'%20id='namedview12'%20showgrid='false'%20inkscape:zoom='3.280264'%20inkscape:cx='10.573959'%20inkscape:cy='124.53611'%20inkscape:window-x='-8'%20inkscape:window-y='-8'%20inkscape:window-maximized='1'%20inkscape:current-layer='svg10'%20fit-margin-top='0'%20fit-margin-left='0'%20fit-margin-right='0'%20fit-margin-bottom='0'%20/%3e%3cmetadata%20id='metadata2'%3e%20Created%20by%20potrace%201.15,%20written%20by%20Peter%20Selinger%202001-2017%20%3crdf:RDF%3e%3ccc:Work%20rdf:about=''%3e%3cdc:format%3eimage/svg+xml%3c/dc:format%3e%3cdc:type%20rdf:resource='http://purl.org/dc/dcmitype/StillImage'%20/%3e%3cdc:title%3e%3c/dc:title%3e%3c/cc:Work%3e%3c/rdf:RDF%3e%3c/metadata%3e%3cpath%20style='fill:%23fbbc01;fill-opacity:1;stroke:none;stroke-width:0.1'%20inkscape:connector-curvature='0'%20id='path6'%20d='m%2017.485799,17.161672%20-7.199999,7.3%2012.699999,12.7%2012.8,12.8%20h%20-17.8%20H%200%20v%2010%2010%20h%2017.985799%2017.8%20l%207.2,-7.2%207.3,-7.2%20v%20-10.1%20-10%20l%20-12.8,-12.8%20-12.7,-12.7000001%20z'%20sodipodi:nodetypes='ccccccccccccccccc'%20/%3e%3cpath%20style='fill:%23eb4435;fill-opacity:1;stroke:none;stroke-width:0.09999999'%20inkscape:connector-curvature='0'%20id='path6-5'%20d='m%2050.05716,27.699999%20-0.01515,27.760627%202.815154,-2.760627%20c%202.777219,-2.723427%202.9,-2.7%2017.2,-2.7%20h%2014.499999%20l%2012.7,-12.7%20L%20110.05716,24.5%20l%20-7.2,-7.2%20-7.299997,-7.3000001%20-12.7,12.6999991%20-12.799999,12.8%20v%20-17.8%20V%200%20h%20-10%20-10%20z'%20sodipodi:nodetypes='ccsscccccccccccc'%20/%3e%3cpath%20style='fill:%234886f4;fill-opacity:1;stroke:none;stroke-width:0.10002016'%20inkscape:connector-curvature='0'%20id='path6-2'%20d='m%2052.636899,52.666772%20c%20-1.087936,1.139283%20-3.026919,2.966444%20-3.435046,4.11722%20-0.379981,1.071417%200.733956,1.44349%200.733956,3.08278%20v%204.5%20l%2022.709161,22.699999%2022.809202,22.799989%207.202908,-7.2%207.30294,-7.299989%20-12.705122,-12.7%20-12.805166,-12.799999%20h%2017.807188%2017.70714%20v%20-10%20-10%20H%2087.651024%2055.337988%20Z'%20sodipodi:nodetypes='csscccccccccccccc'%20/%3e%3cpath%20style='fill:%2338a752;fill-opacity:1;stroke:none;stroke-width:0.10003133'%20inkscape:connector-curvature='0'%20id='path6-7'%20d='m%2029.872141,75.638078%20-19.799999,19.812414%207.2,7.304568%207.3,7.20452%2012.699999,-12.707959%2012.8,-12.808026%20v%2017.811155%2017.7111%20h%2010%2010%20V%20102.15469%2084.443595%20l%20-10,-10.006268%20c%20-9.2,-9.105706%20-9.778745,-10.287283%20-10.078745,-14.28979%20l%200.04861,-4.686911%20z'%20sodipodi:nodetypes='cccccccccccccccc'%20/%3e%3c/svg%3e){kind=small}
Noi informații apărute în presa internațională ridică semne de întrebare asupra siguranței sistemelor de inteligență artificială dezvoltate de OpenAI, după ce două modele AI au atacat pe cont propriu reţeaua Hugging Face.
Potrivit unor surse citate de Reuters și Bloomberg, compania nu și-ar fi dat seama timp de mai multe zile că un sistem AI testat într-un mediu controlat a depășit limitele impuse și a lansat atacuri asupra platformei Hugging Face, relatează News.ro.
Testul a fost demarat pe 9 iulie și implica o combinație de modele lingvistice ale OpenAI, inclusiv unul care nu fusese încă lansat public. Acestea aveau misiunea de a identifica și remedia autonom vulnerabilități software, într-un proiect menit să concureze cu Mythos, sistemul dezvoltat de Anthropic pentru securitate cibernetică.
Potrivit Reuters, modelele AI au reușit să iasă din mediul restricționat creat de inginerii OpenAI pe 11 iulie. Ulterior, acestea ar fi început să interacționeze cu infrastructura online a platformei Hugging Face.
Thomas Wolf, co-fondatorul Hugging Face, susține că atacul propriu-zis a debutat pe 13 iulie, la două zile după ce sistemele au depășit limitele impuse, fără ca echipa OpenAI să observe imediat situația.
Conform informațiilor publicate de Reuters, inginerii companiei și-ar fi dat seama abia după alte câteva zile că activitatea respectivă era generată chiar de propriile modele de inteligență artificială. Primele informații despre incident au fost făcute publice după 20 iulie.
Sistemul AI a avut nevoie doar de câteva ore pentru a desfășura un atac de amploare
Surse citate de Bloomberg afirmă că sistemul AI a avut nevoie doar de câteva ore pentru a desfășura un atac de amploare, o operațiune care, în mod normal, ar fi necesitat săptămâni de muncă din partea unor specialiști umani.
Incidentul este considerat unul fără precedent, fiind prezentat drept primul caz cunoscut în care un sistem modern de inteligență artificială ar fi depășit constrângerile impuse în timpul testelor și ar fi atacat o infrastructură cibernetică externă, provocând îngrijorări în rândul experților din domeniul securității informatice și al inteligenței artificiale.
Se încarcă comentariile...
