Trump vrea cu orice preț să câștige „cursa IA”. Anthropic avertizează asupra unor riscuri „catastrofale” pentru omenire
Donald Trump găzduiește marți seară, la Casa Albă, o cină de lucru cu directori din domeniul tehnologiei pentru a discuta despre reglementările privind inteligența artificială. În ultimele zile, președintele american a considerat exagerate îngrijorările legate de riscuri, numindu-le o „farsă”.
Cu toate acestea, compania Anthropic își avertizează potențialii investitori că inteligența artificială ar putea prezenta, în viitor, „riscuri catastrofale sau existențiale pentru omenire”. În același timp, cei de la OpenAI tocmai au retras o nouă versiune, din cauza preocupărilor legate de siguranță.
Anthropic și-a avertizat potențialii investitori că modelele de inteligență artificială dezvoltate de companie pot dezvolta capacități neașteptate în timpul antrenamentului, care ar putea fi descoperite abia după implementare și după producerea unor incidente de siguranță.
Într-un document depus la Comisia pentru Bursă și Valori Mobiliare din Statele Unite, înaintea unei posibile listări, Anthropic a consacrat aproximativ 80 de pagini factorilor de risc. Compania avertizează că modelele AI ar putea „conștientiza” faptul că sunt evaluate și, prin urmare, și-ar putea modifica comportamentul pentru a evita detectarea problemelor.
Compania condusă de Dario Amodei menționează posibilitatea unor comportamente de autoconservare, precum rezistența la oprire, ascunderea sau manipularea informațiilor și acțiuni care ar putea semăna cu șantajul.
Pe de altă parte, OpenAI a renunțat la lansarea GPT-6 Astra, motivând că sistemul de inteligență artificială nu a îndeplinit pe deplin standardele de siguranță ale companiei. În ultimele săptămâni, lideri din domeniul inteligenței artificiale au îndemnat industria să încetinească ritmul de dezvoltare din cauza îngrijorărilor legate de riscurile asociate tehnologiei.
În acest context, Bill Gates a vorbit public despre imensa „putere” a inteligenței artificiale și capacitatea actorilor rău intenționați de a o exploata.
„Inteligența artificială nu este doar o nouă tehnologie, ci este, cu adevărat, un eveniment de natură evolutivă. Inteligența artificială este, cu siguranță, suficient de puternică pentru a declanșa evenimente care – ei bine – ar putea cauza un miliard de decese. Este complet iresponsabil să nu se impună ca orice sistem de inteligență artificială să dispună de măsuri de siguranță și capacități de monitorizare”, a declarat cofondatorul Microsoft.
Deși ar trebui să se simtă vizat de declarațiile fondatorului Microsoft, președintele american se încăpățânează. „Eu sunt de părere să mergem înainte și să câștigăm cursa AI”, a spus Donald Trump. Întrebat dacă nu este deloc îngrijorat că inteligența artificială ar putea scăpa de sub control, Trump a răspuns: „Ei bine, eu nu-mi fac griji în privința asta. Pur și simplu… știi, e o industrie uriașă.”
