Comisia Europeană interzice în UE opt utilizări ale inteligenței artificiale considerate periculoase
Comisia Europeană a anunțat interzicerea în Uniunea Europeană a opt dintre funcțiile pe care le pot avea sistemele de inteligență artificială, considerându-le prea periculoase.
Măsura face parte din legislația europeană de pionierat adoptată anul trecut, AI Act, potrivit AFP.
1. Identificarea în timp real a persoanelor cu camere în locuri publice
UE interzice folosirea camerelor echipate cu tehnologii de recunoaștere facială în timp real pe o stradă comercială, în scopul identificării unor persoane căutate.
Noțiunea de „timp real” are un rol esențial în această interdicție, deoarece UE urmărește să evite o intervenție imediată împotriva unei persoane, fără verificarea prealabilă a altor informații provenite din lumea reală.
Excepțiile se aplică în anumite misiuni ale forțelor de ordine, de exemplu în lupta împotriva terorismului.
2. Clasificarea socială în baza datelor personale fără legătură cu riscul evaluat
Un organism nu poate folosi o aplicație AI pentru a clasifica persoane în funcție de probabilitatea de a comite o fraudă a ajutoarelor sociale, utilizând date personale care nu au legătură cu contextul, precum originea, culoarea pielii sau comportamentul pe rețelele de socializare.
O situație similară este evaluarea riscului nerambursării unui împrumut bancar, caz în care singurele date relevante sunt cele financiare.
3. Evaluarea riscului infracțional al unei persoane pe baza datelor biometrice
Poliția nu poate folosi o AI pentru a prezice riscul comportamentului infracțional al unei persoane.
În această categorie intră și probabilitatea de participare la revolte sau de comitere a unui atentat, pe baza unor caracteristici personale, precum trăsăturile feței, fără a lua în calcul fapte obiective și verificabile legate de acțiunile acesteia.
4. Crearea de baze de date cu fețe pentru sisteme de recunoaștere facială, prin imagini preluate de pe internet
Sunt interzise instrumentele de „periere” a Internetului și extragerea fără discernământ a unor fotografii ale fețelor, în scopul constituirii unor baze de date la scară mare, cu miliarde de imagini.
Un astfel de demers ar echivala cu o supraveghere de stat.
5. Recunoașterea emoțiilor la locul de muncă sau în instituții de învățământ
Organizațiilor le este interzis să folosească webcamuri sau sisteme de recunoaștere vocală pentru a detecta emoțiile angajaților.
6. Manipularea comportamentului persoanelor cu ajutorul AI
Este interzisă integrarea, în designul unei interfețe, a unor sisteme AI înșelătoare sau subliminale, cu scopul de a-i împinge pe utilizatori să facă cumpărături.
7. Exploatarea vulnerabilităților legate de vârstă sau dizabilități
O jucărie care încorporează AI și este concepută pentru interacțiunea cu copiii este interzisă dacă este creată cu scopul de a le menține atenția și de a-i încuraja la provocări riscante, care i-ar putea răni.
8. Deducerea opiniilor politice sau orientării sexuale în funcție de date biometrice
De asemenea, este interzisă în UE folosirea unui sistem care pretinde că poate ghici opiniile politice sau orientarea sexuală a persoanelor pe baza analizei trăsăturilor faciale ale unei persoane.
