Guvernul UK Dezvoltă un Controversat Instrument AI de ‘Predicție a Omorurilor’

Guvernul britanic lucrează la un proiect controversat care utilizează inteligența artificială pentru a prezice cine ar putea comite o crimă în viitor.

Existența programului a fost descoperită prin solicitările de libertate a informației obținute de grupul de supraveghere Statewatch.

Descoperirile lor sugerează că se utilizează date personale sensibile. Acestea includ înregistrări medicale, informații despre sănătatea mintală, istoricul dependențelor și date despre persoane care nu au fost condamnate pentru nicio infracțiune.

Statewatch raportează că Ministerul Justiției (MoJ) conduce acest plan, examinând înregistrările autorităților existente ale oamenilor pentru a preveni comiterea unor infracțiuni grave.

Inițial denumit „proiectul de predicție a omuciderii”, acum se numește „partajarea datelor pentru a îmbunătăți evaluarea riscului”. Proiectul este în prezent într-o fază de cercetare, dar activiștii și apărătorii drepturilor de confidențialitate și-au exprimat preocupările, așa cum a raportat Statewatch.

Cu toate acestea, oficialii neagă acest lucru. The Guardian relatează că un purtător de cuvânt al Ministerului Justiției a declarat: „Acest proiect este realizat doar în scopuri de cercetare. A fost conceput folosind datele existente deținute de Serviciul de Închisori și Probation HM și de forțele de poliție asupra infractorilor condamnați, pentru a ne ajuta să înțelegem mai bine riscul ca persoanele aflate în probațiune să comită acte de violență gravă. Un raport va fi publicat la momentul potrivit.”

Potrivit Statewatch, poliția din Greater Manchester a distribuit date despre până la jumătate de milion de oameni. Aceasta a inclus victime, suspecți și persoane în situații vulnerabile.

Sofia Lyall, cercetătoare la Statewatch, a criticat vehement proiectul, spunând: „Încercarea Ministerului Justiției de a construi acest sistem de predicție a crimelor este cel mai recent și înspăimântător exemplu distopic al intenției guvernului de a dezvolta așa-numitele sisteme de ‘predicție’ a criminalității.”

Ea a avertizat că sistemul va accentua discriminarea rasială și de clasă: „Acest ultim model, care utilizează date de la poliția noastră instituțional rasistă și de la Home Office, va consolida și amplifica discriminarea structurală care stă la baza sistemului legal penal.”

„Utilizarea unor date atât de sensibile despre sănătatea mintală, dependență și dizabilitate este extrem de intruzivă și îngrijorătoare”, a adăugat ea.

Guvernul susține că instrumente de genul acesta ar putea îmbunătăți modul în care serviciile de probațiune evaluează riscul și previn crima violentă. Dar criticii spun că sistemul ar putea duce la etichetarea incorectă a oamenilor ca potențiali ucigași din cauza datelor eronate și părtinitoare.

Guvernul argumentează că aceste instrumente vor îmbunătăți capacitatea serviciilor de probațiune de a evalua riscul și de a opri comiterea crimelor violente. Criticii, însă, avertizează că sistemul riscă să eticheteze persoanele ca potențiali ucigași prin date greșite și părtinitoare.

În timp ce încă se află în dezvoltare, Statewatch raportează că documentele menționează „operationalizarea viitoare” a sistemului, ridicând îngrijorări că acesta ar putea fi utilizat în curând în deciziile de poliție din lumea reală.