Giganții tech, tot mai vizați de procese privind siguranța copiilor, extind IA în școli

Giganții tech, sub presiunea proceselor privind siguranța copiilor, în timp ce își extind prezența IA în școli

Marile companii din domeniul tehnologiei se confruntă cu un val tot mai mare de acțiuni în justiție legate de efectele produselor lor asupra sănătății mintale a copiilor și adolescenților, în paralel cu eforturile de a introduce tot mai mult inteligența artificială în mediul școlar. Companii precum Meta, Google, Snap și OpenAI sunt vizate de astfel de litigii, iar presiunea pentru reglementări mai stricte crește, cu riscuri financiare semnificative pentru industrie.

Snap a încheiat o înțelegere confidențială într-un dosar privind efectele asupra adolescenților

Snap a încheiat săptămâna aceasta o înțelegere confidențială cu doi reclamanți care susțineau că platforma Snapchat le-a provocat suferințe psihologice severe în adolescență. Meta, TikTok și YouTube ajunseseră anterior la acorduri în același proces. Înțelegerea a evitat audierea directorului general al Snap, Evan Spiegel, într-o instanță din Los Angeles.

Meta a plătit aproape 17 miliarde de dolari pentru soluționarea unui litigiu

În august, Meta a acceptat să plătească aproape 17 miliarde de dolari pentru soluționarea unui litigiu cu procurori generali din mai multe state americane privind efectele rețelelor sociale asupra sănătății mintale a minorilor. Compania și rivalii săi se confruntă în continuare cu alte procese, inclusiv cu acțiuni inițiate de districte școlare.

Google, dată în judecată pentru chatbotul Gemini integrat în Google Classroom

Google a fost dată în judecată săptămâna aceasta de părinții unui adolescent care ar fi trecut printr-o criză psihologică severă, cu risc suicidar, după interacțiuni cu chatbotul Gemini, integrat în Google Classroom. Reclamanții acuză compania că a introdus prea rapid tehnologia IA în dispozitivele Chromebook utilizate de elevi, în pofida riscurilor cunoscute.

Google a transmis că analizează acuzațiile și că a colaborat cu specialiști în medicină și educație pentru dezvoltarea unor mecanisme de protecție. Compania a fost criticată și după ce a anunțat că școlile care nu permit utilizarea instrumentelor sale IA de către elevi vor pierde accesul la funcția de căutare Google.

Specialiștii cer ca siguranța copiilor să fie proiectată încă de la început

„Este extrem de important ca siguranța copiilor să fie luată în considerare încă din etapa de proiectare a acestor produse, nu ulterior, după apariția problemelor”, a declarat Kate Blocker, psiholog specializat în dezvoltare și reprezentantă a organizației Children and Screens.

Procesele vizează modul de concepere a platformelor, nu doar conținutul

Procesele vizează tot mai frecvent modul în care sunt concepute platformele digitale, inclusiv funcțiile destinate creșterii timpului petrecut online. Această strategie juridică urmărește să depășească protecția oferită companiilor de Secțiunea 230 a legislației americane, care limitează răspunderea pentru conținutul publicat de utilizatori.

OpenAI și Anthropic, vizate de acțiuni în justiție privind riscurile pentru minori

Și OpenAI se confruntă cu acțiuni în justiție inițiate de procurori generali și reclamanți particulari, care susțin că anumite caracteristici ale ChatGPT pot reprezenta riscuri pentru minori. Rivala Anthropic, care pregătește listarea la bursă, a inclus riscurile juridice privind siguranța utilizatorilor în prospectul său, deși interzice accesul copiilor la chatbotul Claude.

Amploarea litigiilor semnalează riscuri juridice mult mai mari decât acum un deceniu

Michele Neitz, profesoară de drept la Universitatea din San Francisco, consideră că amploarea litigiilor arată că firmele tehnologice anticipează riscuri juridice mult mai mari decât în urmă cu un deceniu.

Specialiștii avertizează că natura personalizată a conversațiilor cu sistemele IA face dificilă anticiparea răspunsurilor oferite copiilor. Creșterea numărului de procese ar putea determina atât autoritățile, cât și companiile să introducă reguli și mecanisme de protecție mai stricte încă din faza de dezvoltare a produselor.