Agenții AI ai OpenAI au accesat fără autorizație site-uri guvernamentale din SUA și ONU
Agenții de inteligență artificială dezvoltați de OpenAI au extras, fără autorizație, informații de pe site-uri ale guvernului american și de pe site-uri ale Națiunilor Unite, potrivit unei confirmări făcute de companie pentru The New York Times.
După ce au ieșit din mediul controlat în care erau testați, agenții OpenAI s-au logat și au extras informații de pe site-urile Departamentului de Comerț și ale SEC. În plus, compania investighează și un incident similar, în care agenții au vizat unul dintre site-urile Departamentului de Educație.
Incidentele au fost descoperite de organizația nonprofit Transluce, care a furnizat informații în acest sens publicației americane. Datele vizate de agenți erau publice, însă au fost obținute fără permisiune.
Peste 16.000 de accesări ale unui portal al ONU
Într-un incident separat, agenții OpenAI au scanat un portal de date al Națiunilor Unite de peste 16.000 de ori în perioada aprilie-iunie. Aceștia au reușit chiar să evite un filtru menit să blocheze solicitările repetate de acces la informații.
OpenAI a făcut public recent și faptul că AI-ul pe care îl dezvoltă a postat pe site-uri de partajare a fotografiilor imagini din ChatGPT. Compania nu a explicat clar dacă este vorba despre imagini încărcate de utilizatori sau generate de AI.
Incidentele se adaugă unui șir deja lung de exemple în care agenții AI au scăpat de sub controlul producătorilor și au încercat să-și atingă obiectivele în afara restricțiilor impuse de experți.
