Un raport generat cu inteligență artificială a adus SUA aproape de o operațiune militară împotriva unei nave chineze
Membri înarmați ai armatei americane se pregăteau să urce la bordul unei nave chinezești, iar mai multe avioane militare se aflau deja în aer, potrivit unor surse citate de CNN. Cu puțin timp înainte de operațiunea planificată, oficialii au analizat mai atent raportul întocmit de un analist din cadrul comandamentului pentru operațiuni speciale și au descoperit că documentul fusese generat cu ajutorul inteligenței artificiale.
Un chatbot folosit de analist identificase în mod eronat materialul transportat de navă. CNN nu a putut afla care era, de fapt, încărcătura identificată greșit. Potrivit uneia dintre surse, raportul era „complet fals”, dar acesta „aproape a declanșat un război”. Orice operațiune americană împotriva unei nave chineze ar fi putut risca să se transforme într-un conflict armat între cele două țări.
Integrarea tot mai extinsă a inteligenței artificiale în armata americană
În cadrul armatei americane și al comunității de informații, oficialii încearcă să integreze inteligența artificială în aproape toate aspectele activității lor, de la analiza volumelor uriașe de informații brute colectate de SUA și selectarea țintelor pentru lovituri, până la aplicații mai obișnuite, precum gestionarea bugetelor, logisticii și lanțurilor de aprovizionare.
În acest caz, analistul a interogat un chatbot cu privire la informații referitoare la manifestul navei, provenite de la Comandamentul SUA pentru Operațiuni Speciale din Pacific, cu sediul în Hawaii. Nu este clar dacă chatbotul era unul disponibil comercial sau un produs dezvoltat de guvernul american.
„Instrumentele interne sunt, în cea mai mare parte, doar copii ale celor comerciale, dar cu un strat de vopsea deasupra”, a declarat un fost oficial american de rang înalt, familiarizat cu sistemele de inteligență artificială utilizate de analiștii militari și de informații. Botul a combinat informații din surse deschise cu informații secrete obținute prin interceptarea comunicațiilor, aflate în bazele de date ale guvernului, și a ajuns la concluzia privind materialul transportat de navă. Ulterior, analistul a folosit din nou inteligența artificială pentru a transforma concluziile într-un raport standard de informații și l-a distribuit.
Comandamentul SUA pentru Operațiuni Speciale din Pacific și Pentagonul nu au răspuns solicitărilor de comentarii. Argumentul pentru adoptarea rapidă a inteligenței artificiale este că aceasta poate ajuta armata să ia mai repede decizii pe câmpul de luptă, precum stabilirea țintelor care trebuie atacate sau a locului în care trebuie deplasate anumite resurse militare. Oficialii spun că SUA nu își permit să rămână în urmă în integrarea inteligenței artificiale, în cazul în care într-o zi ar trebui să lupte împotriva Chinei sau a unui alt adversar care ar putea fi capabil să fie mereu cu un pas înaintea Statelor Unite.
Halucinațiile generate de inteligența artificială, un fenomen recurent în comunitatea de informații
Potrivit uneia dintre surse, fenomenul de „halucinație” generat de instrumentul folosit de analist în acest caz nu a fost un incident izolat în cadrul comunității de informații de când aceste instrumente au început să se răspândească în guvern.
Pentru unii dintre oficialii mai vechi din serviciile de informații, inclusiv pentru cei care susțin în linii mari utilizarea inteligenței artificiale în cadrul armatei, tehnologia a pus presiune asupra analiștilor pentru ca aceștia să producă și să distribuie informații mai rapid, deschizând astfel calea către greșeli. Mai multe surse au declarat că, în special, analiștii tineri sunt obișnuiți cu aceste instrumente și au o probabilitate mai mare să le acorde încredere fără să le pună suficient la îndoială.
„AI îți permite să ajungi mai repede la o idee proastă”, a spus una dintre surse.
