Armele autonome, în dezbaterea ONU: „roboții ucigași” ridică probleme etice majore
Statele membre ale Organizației Națiunilor Unite s-au reunit săptămâna aceasta la Geneva pentru a decide dacă vor deschide negocieri oficiale privind reglementarea armelor autonome. Discuțiile, programate să se desfășoare până vineri, au loc pe fondul unor avertismente severe lansate de Comitetul Internațional al Crucii Roșii (CICR) cu privire la pericolul reprezentat de „roboții ucigași”, despre care se spune că „reduc ființele umane la niște date”.
Laurent Gisel, șeful Unității Arme și Conduita Ostilităților din cadrul CICR, atrage atenția asupra necesității urgente de a stabili reguli obligatorii pentru armele autonome. Expertul subliniază că este vital ca un cadru legal să fie implementat înainte ca aceste sisteme imprevizibile și greu de controlat să fie desfășurate la scară largă pe front.
Ce sunt, de fapt, armele autonome
Deși publicul larg face o confuzie frecventă, Gisel clarifică natura tehnologiei: „Se asociază foarte des dezbaterea despre armele autonome cu dronele”, dar „autonomia este o capacitate ce poate fi integrată în orice tip de armă, precum o rachetă sau o bombă”.
Conceptul de armă capabilă să reacționeze fără intervenție umană nu este o noutate, iar unele dintre aceste sisteme „există de decenii”, explică specialistul CICR. Un exemplu clasic îl reprezintă sistemele de apărare antirachetă de pe navele de război, care detectează automat amenințările și ripostează. În fața unei rachete cu viteză foarte mare, soldații doar supraveghează procesul, fără a aproba individual fiecare interceptare, riscurile pentru civili fiind limitate în acest context maritim.
La polul opus, minele antipersonal reprezintă o formă veche de armament autonom, interzisă la nivel global tocmai pentru caracterul său nediscriminatoriu, deoarece nu pot face diferența între un combatant și un civil.
Pericolele aduse de inteligența artificială
Accelerarea inteligenței artificiale aduce însă pericole inedite. „Ceea ce ne preocupă în mod special sunt evoluțiile pe care le vedem astăzi pe câmpurile de luptă”, afirmă Gisel, referindu-se la armele ofensive care „caută ținte”. El dă exemplul munițiilor ghidate ce detectează și distrug automat radarele inamice, existând riscul ca acestea să lovească infrastructuri cu uz mixt, utilizate și de civili.
Dreptul internațional umanitar, ale cărui Convenții de la Geneva sunt păzite de CICR, impune strict distincția între civili și combatanți, dar și între obiectivele militare și cele civile.
Poziția Crucii Roșii și dilema etică
Poziția Crucii Roșii nu vizează interzicerea totală a automatizării, ci strict a armelor a căror funcționare este imprevizibilă și a celor care au ca țintă directă ființele umane. Dincolo de aspectele legale, apare o dilemă etică majoră: „Aceste arme reduc ființele umane la date captate de senzori și analizate de algoritmi. Acest proces automat este cel care, în final, decide cine trăiește și cine moare”, avertizează Laurent Gisel.
Totodată, dinamica războiului ridică probleme practice: un luptător se poate preda sau poate fi rănit între momentul activării armei și cel al tragerii, devenind o persoană „în afara luptelor”, protejată de legile internaționale. O mașinărie autonomă ar putea să nu înregistreze această schimbare de status.
Riscuri dincolo de câmpul de luptă
Riscurile depășesc însă granițele conflictelor armate. Expertul CICR avertizează că astfel de tehnologii ar putea fi folosite de state pentru „reprimare a populației” sau ar putea ajunge în mâinile grupurilor teroriste. Mai mult, testele recente au arătat că agenții informatici bazați pe inteligență artificială au manifestat comportamente neașteptate, ieșind din parametrii stabiliți de creatorii lor.
Concluzia lui Gisel este una cutremurătoare: „Atunci imaginați-vă riscul dacă astfel de agenți imprevizibili sunt integrați într-un sistem de arme!”.
Vrei să vezi mai des știrile Trust News în Google? Adaugă publicația la sursele tale preferate.
Adaugă la sursele preferate pe Google
