Mai mulți britanici au fost dați afară din magazine după ce au fost identificați greșit ca hoți de către IA
În Regatul Unit, mai multe persoane au experimentat umilința de a fi expulzate din magazine, fiind confundate, printr-un sistem de recunoaștere facială, cu hoți, iar aceștia susțin că nu au primit deloc sprijin în procesul de clarificare a atacurilor aduse reputației lor.
Un exemplu grăitor este cel al lui Ian Clayton, un pensionar de 67 de ani din Chester, care a lucrat ca specialist în sănătate și securitate în muncă. Acesta povestește că, în momentul în care a intrat într-un magazin, a fost abordat fără nicio explicație de o angajată care i-a solicitat cu fermitate să lase totul jos și să părăsească locația. Surprins și confuz, Clayton a aflat că fusese identificat de un sistem numit Facewatch ca fiind un hoț, primind un afiș cu informațiile sale la intrare.
Incidentul său este doar unul dintre numeroasele cazuri raportate de cei care au fost victima acestor confuzii automate. Nemulțumirile au fost aduse la cunoștința publicației The Guardian, care a evidențiat neajunsurile create de utilizarea tehnologiei AI în recunoașterea facială în magazinele de retail din Marea Britanie.
Deși compania care produce acest sistem, Facewatch, afirmă că tehnologia sa are o rată de acuratețe de 99,98%, persoanele afectate de erorile de recunoaștere au susținut că au fost expuse public fără explicații, având dificultăți în a contesta aceste acuzații. Clayton a încercat să contacteze compania, dar a fost întâmpinat de un mesaj automat care îi solicita să trimită un email, iar în urma unei cereri oficiale, a aflat că a fost identificat greșit în legătură cu un furt dintr-o vizită anterioară.
Acest incident, descris de Clayton ca o simptomatică a unei supravegheri opresive, a lăsat o amprentă psihologică, intensificând conștientizarea sa cu privire la camerele de supraveghere din jur.
Ulterior, magazinul și-a cerut scuze și i-a oferit un voucher de 100 de lire, dar fără a-și asuma responsabilitatea, iar Clayton a ales să refuze oferta, considerând că umilința suferită a fost mult prea mare.
Pe măsură ce utilizarea tehnologiei de recunoaștere facială se extinde atât în domeniul retailului, cât și în legislație, oficialii britanici au început să își exprime îngrijorarea în legătură cu inadecvarea reglementărilor legale la ritmul rapid de avansare al acestei tehnologii.
Raportările recente aduc în prim-plan și cazul lui Jennie Sander, o altă victimă a aceleași tehnologii, care s-a confruntat cu umilința de a fi escortată dintr-un magazin B&M după ce a fost semnalată de Facewatch. După incident, Sander a descoperit că informațiile sale erau partajate între retailerii care utilizează aceeași tehnologie, temându-se că va fi etichetată ca hoată în toate magazinele.
După ce s-a documentat, Sander a fost informată că fusese inclusă în sistem din cauza unui presupus furt de o sticlă de vin, incident pe care îl neagă cu tărie, iar magazinul nu a reușit să ofere dovada incidentului.
În pofida şanselor reale de identificare greșită mai mari pentru persoanele de culoare sau asiatice, precum și pentru femei, compania Facewatch pretinde că acestea sunt cazuri rare și că tehnologia vizează să faciliteze deciziile umane și nu să le înlocuiască.
