Cum se pregătesc Anthropic, OpenAI și alte companii pentru posibile consecințe catastrofale ale inteligenței artificiale
'%20fill='%23FBBC05'%20d='M0%2037V11l17%2013z'/%3e%3cpath%20clip-path='url(%23b)'%20fill='%23EA4335'%20d='M0%2011l17%2013%207-6.1L48%2014V0H0z'/%3e%3cpath%20clip-path='url(%23b)'%20fill='%2334A853'%20d='M0%2037l30-23%207.9%201L48%200v48H0z'/%3e%3cpath%20clip-path='url(%23b)'%20fill='%234285F4'%20d='M48%2048L17%2024l-4-3%2035-10z'/%3e%3c/svg%3e){kind=small}
'%20inkscape:export-filename='C:\Users\GioSal\Desktop\Google%20Discover%20(truT)%20326.png'%20inkscape:export-xdpi='195.8'%20inkscape:export-ydpi='195.8'%3e%3cdefs%20id='defs14'%20/%3e%3csodipodi:namedview%20pagecolor='%23ffffff'%20bordercolor='%23666666'%20borderopacity='1'%20objecttolerance='10'%20gridtolerance='10'%20guidetolerance='10'%20inkscape:pageopacity='0'%20inkscape:pageshadow='2'%20inkscape:window-width='1920'%20inkscape:window-height='1057'%20id='namedview12'%20showgrid='false'%20inkscape:zoom='3.280264'%20inkscape:cx='10.573959'%20inkscape:cy='124.53611'%20inkscape:window-x='-8'%20inkscape:window-y='-8'%20inkscape:window-maximized='1'%20inkscape:current-layer='svg10'%20fit-margin-top='0'%20fit-margin-left='0'%20fit-margin-right='0'%20fit-margin-bottom='0'%20/%3e%3cmetadata%20id='metadata2'%3e%20Created%20by%20potrace%201.15,%20written%20by%20Peter%20Selinger%202001-2017%20%3crdf:RDF%3e%3ccc:Work%20rdf:about=''%3e%3cdc:format%3eimage/svg+xml%3c/dc:format%3e%3cdc:type%20rdf:resource='http://purl.org/dc/dcmitype/StillImage'%20/%3e%3cdc:title%3e%3c/dc:title%3e%3c/cc:Work%3e%3c/rdf:RDF%3e%3c/metadata%3e%3cpath%20style='fill:%23fbbc01;fill-opacity:1;stroke:none;stroke-width:0.1'%20inkscape:connector-curvature='0'%20id='path6'%20d='m%2017.485799,17.161672%20-7.199999,7.3%2012.699999,12.7%2012.8,12.8%20h%20-17.8%20H%200%20v%2010%2010%20h%2017.985799%2017.8%20l%207.2,-7.2%207.3,-7.2%20v%20-10.1%20-10%20l%20-12.8,-12.8%20-12.7,-12.7000001%20z'%20sodipodi:nodetypes='ccccccccccccccccc'%20/%3e%3cpath%20style='fill:%23eb4435;fill-opacity:1;stroke:none;stroke-width:0.09999999'%20inkscape:connector-curvature='0'%20id='path6-5'%20d='m%2050.05716,27.699999%20-0.01515,27.760627%202.815154,-2.760627%20c%202.777219,-2.723427%202.9,-2.7%2017.2,-2.7%20h%2014.499999%20l%2012.7,-12.7%20L%20110.05716,24.5%20l%20-7.2,-7.2%20-7.299997,-7.3000001%20-12.7,12.6999991%20-12.799999,12.8%20v%20-17.8%20V%200%20h%20-10%20-10%20z'%20sodipodi:nodetypes='ccsscccccccccccc'%20/%3e%3cpath%20style='fill:%234886f4;fill-opacity:1;stroke:none;stroke-width:0.10002016'%20inkscape:connector-curvature='0'%20id='path6-2'%20d='m%2052.636899,52.666772%20c%20-1.087936,1.139283%20-3.026919,2.966444%20-3.435046,4.11722%20-0.379981,1.071417%200.733956,1.44349%200.733956,3.08278%20v%204.5%20l%2022.709161,22.699999%2022.809202,22.799989%207.202908,-7.2%207.30294,-7.299989%20-12.705122,-12.7%20-12.805166,-12.799999%20h%2017.807188%2017.70714%20v%20-10%20-10%20H%2087.651024%2055.337988%20Z'%20sodipodi:nodetypes='csscccccccccccccc'%20/%3e%3cpath%20style='fill:%2338a752;fill-opacity:1;stroke:none;stroke-width:0.10003133'%20inkscape:connector-curvature='0'%20id='path6-7'%20d='m%2029.872141,75.638078%20-19.799999,19.812414%207.2,7.304568%207.3,7.20452%2012.699999,-12.707959%2012.8,-12.808026%20v%2017.811155%2017.7111%20h%2010%2010%20V%20102.15469%2084.443595%20l%20-10,-10.006268%20c%20-9.2,-9.105706%20-9.778745,-10.287283%20-10.078745,-14.28979%20l%200.04861,-4.686911%20z'%20sodipodi:nodetypes='cccccccccccccccc'%20/%3e%3c/svg%3e){kind=small}
Anthropic, OpenAI și alți mari dezvoltatori de inteligență artificială pregătesc planuri de acțiune pentru cazul unei catastrofe de amploare provocate de comportamentul necontrolat al AI-ului, scrie Axios.
Potrivit publicației, conducerea acestor companii simulează scenarii în care inteligența artificială ar putea afecta infrastructura critică: sistemele financiare, telecomunicațiile, rețelele de energie sau alimentarea cu apă. Simulări asemănătoare, dar cu accent militar, face Pentagonul pentru a anticipa consecințele unui conflict nuclear.
Reprezentanții OpenAI au confirmat că firma organizează exerciții speciale, în care echipele testează diferite variante de evoluție a evenimentelor. Ei au subliniat că scenariile nu sunt considerate inevitabile, ci ar trebui să ajute la pregătirea pentru situații imprevizibile.
Incidente anterioare și avertismente
Măsurile companiilor ar putea fi legate de incidente din trecut, când agenți AI ai OpenAI au ieșit din mediile de testare, iar compania a oprit temporar testele celor mai puternice modele ale sale.
Recent, Anthropic și-a avertizat investitorii că dezvoltarea unor sisteme tot mai puternice de inteligență artificială poate crea „riscuri existențiale pentru omenire”. Un fost angajat OpenAI care s-a ocupat de siguranță a declarat, la rândul lui, că principala problemă este lipsa unei culturi a siguranței, așa cum au dezvoltat de mult industria aviatică și cea nucleară.
Cu toate acestea, Casa Albă nu a introdus reglementări stricte pentru inteligența artificială. Ea s-a mulțumit cu înțelegeri cu NVIDIA, OpenAI și Anthropic privind autocontrolul dezvoltării AI.
Rolul Congresului
Printre scenariile pe care le testează laboratoarele se numără și variante de informare a Congresului după un eventual incident major provocat de AI. În caz de amenințare, legislatorii ar putea încerca să oprească sau să limiteze dezvoltarea tehnologiei, deși autorii planurilor consideră că o asemenea măsură ar fi extrem de greu de aplicat.
Conducătorii Anthropic, OpenAI și SpaceXAI sunt de acord că încetinirea dezvoltării AI este necesară pentru siguranță, dar măsurile concrete ale companiilor rămân necunoscute.
Se încarcă comentariile...
