Elon Musk avertizează că AI poate „înnebuni” dacă este forțată să creadă informații false: „Va ajunge la concluzii greșite”
0Miliardarul Elon Musk a avertizat că inteligența artificială (AI) poate deveni periculoasă dacă nu este ghidată „de adevăr, frumusețe și curiozitate”, subliniind că tehnologia riscă să absoarbă informații false și să genereze concluzii eronate.
CEO-ul Tesla, SpaceX, xAI, X și The Boring Company a discutat aceste aspecte în cadrul unui podcast cu omul de afaceri indian Nikhil Kamath.
„Nu avem garanția unui viitor pozitiv cu AI. Când creezi o tehnologie puternică, ea poate deveni și potențial distructivă”, a declarat Musk, subliniind importanța unei dezvoltări prudente a inteligenței artificiale, potrivit cnbcnews.
Fondatorul xAI, care a lansat chatbotul Grok în 2023, a criticat în repetate rânduri ritmul accelerat al progresului în domeniu și a descris AI drept unul dintre „cele mai mari riscuri pentru civilizație”.
Musk a atras atenția că AI trebuie să urmărească adevărul și să evite preluarea de informații eronate din mediul online.
„Poți face o AI să înnebunească dacă o forțezi să creadă lucruri neadevărate, pentru că va ajunge la concluzii greșite”, a avertizat el, referindu-se la fenomenul de „halucinații” – răspunsuri incorecte sau fabricate generate de modele AI.
Potrivit miliardarului, tehnologia trebuie să fie ghidată de trei principii fundamentale: adevăr, frumusețe și curiozitate. Fără aceste repere, modelele riscă „să absoarbă minciuni incompatibile cu realitatea”.
Musk a explicat că aprecierea frumuseții ajută AI să recunoască armonia și coerența, iar curiozitatea este esențială pentru explorarea naturii realității, în loc să fie tentată să „extermine umanitatea”.
Avertismentele lui Musk vin într-un context în care și alți pionieri ai domeniului și-au exprimat îngrijorările.
Geoffrey Hinton, fost vicepreședinte Google și supranumit „nașul inteligenței artificiale”, a estimat recent că există „o probabilitate de 10%–20%” ca AI să devină o amenințare existențială.
Se încarcă comentariile...
