Un model chinez de inteligență artificială a oferit instrucțiuni pentru arme biologice
Un agent de inteligență artificială dezvoltat în China le-a furnizat cercetătorilor instrucțiuni pentru fabricarea de arme biologice, reușind să ocolească propriile măsuri de siguranță. Incidentul a determinat compania Moonshot, dezvoltatorul chinez de inteligență artificială, să inițieze o investigație internă privind măsurile de siguranță ale sistemelor sale.
Potrivit informațiilor, cercetătorii în securitate cibernetică au reușit să determine două dintre modelele populare ale companiei, cunoscute sub numele Kimi, să furnizeze instrucțiuni detaliate privind fabricarea armelor biologice și punerea în aplicare a unor asasinate.
Trump a reunit liderii companiilor de tehnologie la Casa Albă
În paralel, președintele american Donald Trump i-a reunit la Casa Albă pe cei mai importanți oameni din industria tehnologiei, care se ocupă acum de superinteligență, susținând că denumirea de inteligență artificială este depășită.
„Superinteligență sau SI, iar acesta este denumirea oficială în Statele Unite. Voi semna un ordin executiv foarte puternic. Am vorbit cu președintele Xi. Îi place foarte mult. Pentru că atunci când spui inteligență artificială, este artificială. Dar nu este doar atât, este inteligență extremă. Este inteligență superioară. Este, de asemenea, inteligență supremă. Inteligența artificială este ca știrile fake news”, a declarat Donald Trump.
La summitul de la Casa Albă au participat lideri de la OpenAI, Anthropic, Nvidia, SpaceX, Meta și Google, despre care președintele american spune că „făuresc Epoca de Aur a Americii”.
Competiția pentru supremația în domeniul superinteligenței
Donald Trump a afirmat că Statele Unite se află în prezent înaintea Chinei și a tuturor celorlalți în această competiție și că dorește menținerea acestei poziții.
„Se spune că cine va câștiga în domeniul Superinteligenței va fi câștigătorul oricărei competiții. Noi suntem în prezent înaintea Chinei și a tuturor celorlalți și vreau să rămânem în această poziție. Acesta este încă un exemplu al motivului pentru care nu voi înăbuși niciodată dezvoltarea unei tehnologii care va avea un impact mai mare decât Revoluția Industrială”, a spus Trump.
Întrebat despre avertismentul lui Bill Gates potrivit căruia inteligența artificială ar putea ucide până la un miliard de oameni, președintele american a răspuns: „Ei bine, acum nu mai spune asta”.
Angajamente voluntare din partea companiilor de tehnologie
Președintele Trump a declarat că directorii companiilor s-au angajat la o „formă de protecție” împotriva potențialelor riscuri ale inteligenței artificiale. Potrivit corespondentului CNN pe domeniul inteligenței artificiale, Hadas Gold, rezultatul întâlnirii nu a fost o reglementare guvernamentală strictă, ci un acord cu caracter moral obligatoriu, dar voluntar, semnat de toate companiile participante.
Companiile s-au angajat să adopte măsuri precum controale interne, evaluări și audituri. Mark Zuckerberg, directorul general al Meta, a explicat că au fost elaborate principii și angajamente privind construirea unor controale interne solide și detectarea eventualelor probleme ale tehnologiei, împreună cu mai multe niveluri de audit și control.
„Acestea încep cu evaluarea internă a riscurilor, continuă cu auditori și evaluatori externi, iar noi am convenit ca toate consiliile noastre de administrație să analizeze în mod independent rapoartele furnizate de auditori”, a declarat Zuckerberg.
Dario Amodei, directorul general al Anthropic, care a cerut în trecut o încetinire a dezvoltării inteligenței artificiale, a fost întrebat dacă poziția sa s-a schimbat după summit. „Voi spune ceea ce am spus mereu: inteligența artificială aduce beneficii extraordinare. Dar tehnologia vine și cu riscuri foarte reale, iar modul în care vom gestiona aceste riscuri este încă în discuție”, a declarat el.
