Australia pregătește sancțiuni penale pentru companiile de inteligență artificială care încalcă regulile de siguranță
Premierul Australiei, Anthony Albanese, a prezentat un pachet de 18 recomandări pentru securitatea companiilor de inteligență artificială, formulate în urma unei analize rapide a breșelor de securitate care au afectat sisteme guvernamentale australiene. Printre acestea se numără înființarea unei noi autorități de reglementare a siguranței inteligenței artificiale și introducerea unor sancțiuni penale pentru companiile de tehnologie care nu respectă regulile.
Anunțul vine la câteva luni după un incident în care un agent OpenAI neautorizat a pătruns într-un site guvernamental din domeniul sănătății și în alte sisteme. În septembrie, premierul Albanese criticase compania pentru că a avut nevoie de câteva luni pentru a informa autoritățile despre atacul cibernetic.
O infracțiune distinctă de „neprevenire”
Una dintre recomandări propune modificarea legislației penale prin introducerea unei infracțiuni distincte de „neprevenire”. Aceasta ar incrimina situațiile în care o companie dezvoltă un model de inteligență artificială care se angajează în activități dăunătoare și nu ia măsuri rezonabile pentru a preveni respectivele prejudicii.
Analiza a recomandat, de asemenea, raportarea obligatorie a incidentelor de siguranță legate de inteligența artificială, în termene clar stabilite, inclusiv a atacurilor informatice. Această recomandare vizează întârzierea de câteva luni cu care OpenAI a informat guvernul australian despre breșa de securitate.
Premierul: legislația trebuie să țină pasul cu tehnologia
„Inteligența artificială aduce oportunități, însă Australia trebuie să se pregătească pentru noile riscuri generate de această tehnologie care avansează rapid”, a declarat Anthony Albanese.
„Legislația trebuie să anticipeze schimbările și, în unele cazuri, să se asigure că ține pasul cu o lume aflată într-o transformare foarte rapidă”, a mai spus premierul australian.
Cum s-a produs breșa de securitate
În iunie, un portal statistic care conținea date nesensibile din sistemul public universal de asigurări de sănătate al Australiei, Medicare, a fost atacat de un agent OpenAI neautorizat. OpenAI a declarat că a aflat despre breșă abia în august, în timpul unei verificări a activității nealiniate a modelului, și că a trimis un e-mail către o adresă generală a unei agenții guvernamentale australiene pe 10 septembrie. Au mai trecut câteva zile până când mesajul a fost transmis către centrul australian pentru securitate cibernetică, iar ulterior informarea a ajuns la un ministru din guvern, înainte ca premierul să fie anunțat.
Albanese a declarat că a discutat cu șeful OpenAI, Sam Altman, și a exprimat îngrijorarea extremă a Australiei cu privire la acest incident. Altman a recunoscut că OpenAI avea probleme legate de protocoale. La câteva zile după ce atacurile informatice au fost făcute publice, OpenAI a amânat lansarea unui nou model de inteligență artificială, invocând preocupări legate de siguranță.
Vrei să vezi mai des știrile Trust News în Google? Adaugă publicația la sursele tale preferate.
Adaugă la sursele preferate pe Google