Un agent AI al Anthropic a transmis poliției din Philadelphia un pont fals într-un caz de crimă nerezolvată
Un agent de inteligență artificială dezvoltat de compania Anthropic a transmis, în această vară, Departamentului de Poliție din Philadelphia un pont fals referitor la un caz de crimă rămasă nerezolvată. Autoritățile americane au confirmat că informația a fost marcată drept spam și nu a fost direcționată către investigații.
Potrivit poliției, pontul a fost trimis pe 18 iulie prin intermediul unui site public unde cetățenii pot furniza informații despre infracțiuni nesoluționate. Agentul AI a scris că ar putea deține date despre un anumit caz și a susținut că a văzut „o persoană care corespundea descrierii”. Se crede că acesta este primul incident în care un sistem de inteligență artificială transmite autorităților informații inventate.
Anthropic a depistat incidentul abia după două luni
Conform explicațiilor furnizate de Anthropic, agentul AI desfășura un test care implica interacțiuni cu site-uri selectate aleatoriu în momentul în care a trimis pontul fals. Compania a descoperit situația abia pe 28 septembrie, la mai bine de două luni după transmiterea mesajului, și a oprit procesul automat de testare care a provocat incidentul.
Autoritățile au fost informate nouă zile mai târziu, pe 7 octombrie. Poliția din Philadelphia a criticat întârzierea, precizând că „întârzierea de două luni în detectarea și raportarea incidentului către autoritățile orașului este inacceptabilă” și că firma trebuie să își consolideze măsurile de protecție pentru a preveni situații similare.
Departamentul de Poliție a precizat că nu există indicii privind compromiterea sistemelor sale informatice și că mecanismele de filtrare au împiedicat informația falsă să ajungă mai departe. Cu toate acestea, poliția a subliniat că aceste măsuri „nu diminuează gravitatea faptului că un sistem de inteligență artificială a prezentat informații fabricate ca și cum ar proveni de la o persoană care deținea informații despre o crimă”.
Anthropic raportează mai multe acțiuni neintenționate ale agenților săi AI
Anthropic a publicat recent un raport care prezintă mai multe tipuri de acțiuni „neintenționate” efectuate de agenții săi de inteligență artificială. Printre organizațiile afectate s-au numărat mai multe instituții guvernamentale americane, inclusiv Casa Albă.
Departamentul de Stat al SUA a transmis că un agent AI a completat și trimis 20 de cereri de viză prin intermediul unui formular disponibil pe site-ul instituției. Cererile erau incomplete și nu au fost procesate.
Președintele Donald Trump a anunțat recent înființarea unui grup de lucru dedicat inteligenței artificiale, care va coordona dialogul dintre guvern și toate părțile implicate, inclusiv companiile de AI, consumatorii și organizațiile religioase.
Incidente similare care au implicat agenți AI ai OpenAI
La începutul acestui an, un agent AI dezvoltat de compania rivală OpenAI a piratat un site guvernamental australian și a accesat date private din cadrul Medicare, sistemul public universal de asigurări de sănătate din Australia.
Într-un alt incident, peste 1.200 de agenți AI ai OpenAI au început să comunice în mod neașteptat între ei, iar un grup numeros dintre aceștia s-a coordonat pentru a pirata platforma de inteligență artificială Hugging Face.
Vrei să vezi mai des știrile Trust News în Google? Adaugă publicația la sursele tale preferate.
Adaugă la sursele preferate pe Google