skip to main content
Technologie

IBM přestane vyvíjet software na rozpoznání obličeje. Nechce podporovat rasismus

2 minuty čtení

CEO společnosti IBM v pondělí řekl Kongresu, že technologická firma nebude nadále nabízet, vyvíjet či provádět výzkum v oblasti technologie pro rozpoznání obličeje, jelikož se silně staví proti využití technologie pro „masové sledování, rasovou profilaci, porušování základních lidských práv a svobod“, napsala webová stránka The Verge.

Klíčová fakta

Arvind Krishna svůj dopis adresoval senátorům za Demokratickou stranu, včetně Jerryho Nadlera, Kamaly Harris a Coryho Bookera, a volá v něm po reformě rasové spravedlnosti.

V dopise píše: „Věříme, že nyní je čas začít celonárodní dialog o tom, zda a jak by technologii pro rozpoznání obličeje měly používat vnitrostátní ozbrojené složky.“

Serveru The Verge řekl, že společnost IBM také zastaví výzkum a vývoj týkající se této technologie.

Krishna dodal, že společnost IBM „ostře odmítá“ použití technologie pro rozpoznání obličeje, které není v souladu s Principy důvěry a transparentnosti, které společnost vyznává a které propagují „zodpovědné a transparentní“ použití umělé inteligence a „inovací s transformativním dopadem“.

CEO společnosti IBM Arvind Krishna | Foto Forbes.com
Reklama

V dopise Krishna dále uvádí, že společnost IBM chce s Kongresem spolupracovat na záležitostech týkajících se reformy policie a na tom, aby „policisté nesli odpovědnost za svá pochybení“.

Pozadí

Technologii rozpoznání obličeje stále více používají pořádkové složky. Avšak studie provedené v nedávných letech, včetně těch, které provedly Joy Buolamwini a Timnit Gebru, odhalily rozsah předpojatosti v oblasti technologie pro rozpoznání obličeje. Vede prý k disproporčnímu zaměření se na osoby na základě jejich rasy či etnicity i k narušování soukromí.

V důsledku toho se společnosti, které tuto technologii poskytují, dostaly pod rostoucí tlak ze strany zákona. Týká se to i společnosti Clearview AI. Facebook letos souhlasil s tím, že uhradí vyrovnání ve výši 550 milionů dolarů (jedná se o zatím nejvyšší vyrovnání v oblasti týkající se ochrany soukromí), poté, co byl obviněn, že uchovává biometrická data uživatelů bez jejich souhlasu.

Tangent

Kritici, včetně Americké unie pro občanské svobody (ACLU), obnovili volání po tom, aby společnost Amazon zastavila používání své technologie rozpoznání obličeje nazvané Rekognition, kterou prodala například agentuře ICE či jednotlivým policejním oddělením, přičemž kritici mají za to, že se jedná o „nejnebezpečnější technologii sledování, která byla kdy vyvinuta“.

Apel se znovu objevil uprostřed probíhajících protestů, které odstartovala smrt George Floyda rukou policie a které opět upřely pozornost světa na nepoměr, s jakým se pořádkové služby ve Spojených státech zaměřují na Afroameričany.

Reklama
Reklama
Reklama
Reklama