OpenAI semnalează o posibilă încetinire a dezvoltării sistemelor avansate de inteligență artificială
OpenAI, compania care a dezvoltat ChatGPT, ar fi pregătită să încetinească ritmul de dezvoltare al celor mai avansate sisteme de inteligență artificială pe care le produce. Anunțul a fost făcut de directorul executiv Sam Altman în cadrul unei întâlniri cu angajații, desfășurată săptămâna aceasta, conform informațiilor apărute în presa economică internațională.
Potrivit acelorași surse, Altman și-ar exprima speranța că și alte companii active în domeniul inteligenței artificiale vor decide să urmeze exemplul OpenAI. Dezbaterile privind necesitatea frânării dezvoltării tehnologiei s-au amplificat considerabil în ultimele săptămâni, chiar dacă avertismentele legate de riscurile asociate inteligenței artificiale circulă de mai mulți ani.
Specialiști din domeniul siguranței părăsesc laboratoarele de top
Un semnal al acestor tensiuni este reprezentat de plecarea mai multor specialiști care se ocupau de probleme de siguranță a inteligenței artificiale din laboratoare de cercetare de prim rang. Cercetătorul antropolog Jacob Coxon a anunțat pe 9 septembrie că părăsește compania la care lucra, invocând faptul că nu dorea să participe la dezvoltarea unei „superinteligențe”.
„Cei care construiesc IA cred cu adevărat că ne-ar putea ucide pe toți până la sfârșitul deceniului”, a scris Coxon în anunțul său.
Evan Hubinger, șeful departamentului de cercetare privind obiectivele și reglarea comportamentală a inteligenței artificiale din cadrul Anthropic, împărtășește o poziție similară. El a declarat că, în opinia sa personală, există o șansă mai mare de 10% ca un astfel de scenariu să se producă în următorul deceniu.
„Cred că Anthropic face tot ce poate, dar încă nu avem un plan pentru a rezolva problema alinierii superinteligenței cu obiectivele umane și nu am ajuns încă acolo”, a afirmat Hubinger.
Conform informațiilor apărute în presă, aceste comentarii au devenit virale, acumulând peste 150 de milioane de vizualizări.
Directorul științific al OpenAI vorbește despre „prudență extremă”
La rândul său, directorul științific al OpenAI, Jakub Pachocki, a publicat un eseu pe site-ul companiei în care susține că a venit momentul pentru o prudență extremă în dezvoltarea inteligenței artificiale. El atrage atenția asupra unui fenomen îngrijorător: pe măsură ce modelele de inteligență artificială contribuie din ce în ce mai mult la crearea generațiilor viitoare de modele, cercetătorii pierd treptat capacitatea de a monitoriza și de a înțelege progresul înregistrat.
Vrei să vezi mai des știrile Trust News în Google? Adaugă publicația la sursele tale preferate.
Adaugă la sursele preferate pe Google