Washington Amazon udělal zajímavé rozhodnutí - pozastavil svůj systém na rozpoznávání obličejů policií. Pauza bude trvat pouze jeden rok. Zároveň vyzval vládu ke zpřísnění předpisů upravujících práci s osobními daty. Bez udání důvodu to ve středu oznámila firma na svém blogu. Kritici ale soudí, že se jedná o marketingový tah a výzva nic nezmění. Podobný krok učinila i firma IBM.
Firma v roce 2016 přišla na trh se systémem Rekognition, který uměl rozpoznat objekty z fotografií a videí. Aby se systém vyrovnal svým konkurentům od Microsoftu nebo Googlu, nechyběla mu schopnost během okamžiku přiřadit obličej k fotografiím z databází.
Již tehdy se software stal objektem kritiky pro možné pletení si lidí a ukázalo se, že námitky byly oprávněné. Americkou moderátorku Oprah Winfrey software například rozpoznal jako muže, uvedl americký server CBS News .
Důvodem kritiky se také stal důvod, že systém má větší problémy s vyhodnocováním tváří černochů a příslušníků dalších menšin, než bělochů, což může vést k zaujatosti a předsudkům. Amazon tehdy takové závěry odmítal.
Odpůrci softwaru se tak mohli částečně radovat, když ve středu Amazon oznámil rozhodnutí o dočasném pozastavení systému Rekognition. V oficiálním prohlášení dále stojí, že firma bude služby softwaru nadále poskytovat organizacím, které se zabývají záchranou obětí obchodu s lidmi a hledáním ztracených dětí.
Změny ze strany vlády prý nic nezměníFirma také vyzvala vládu k upravení předpisů, jež se týkají ochrany soukromí a softwaru Rekognition. Dle firmy by měl rok na provedení konkrétních opatření stačit, vyplývá z webového blogu Amazonu.
Někteří lidé však upozorňují, že software je možné kdykoliv zneužít k narušení soukromí občanů, případně ke zvýšení dohledu nad lidmi s odlišnou barvou pleti. Firma totiž software prodávala státním úřadům. Obavy panují i z rasového třídění lidí a možného následného pronásledování.
Organizace bojující za práva v digitálním světě, Fight for the Future, zkritizovala rozhodnutí Amazonu a tvrdí, že roční pauza je nedostačující.
„Jedná se pouze o marketingový tah ze strany Amazonu,“ uvedl ředitel organizace Evan Greer. Také dodal, že výzva vládě je jen předem plánovaný tah, který ale ve výsledku nic nezmění.
Smrt Floyda jako impulsNedávná smrt černocha George Floyda, který zemřel při zatýkání, a následná vlna demonstrací proti policejnímu násilí a rasismu, tyto obavy ještě více podpořila. V USA i dalších zemí se následně začalo více diskutovat o rozsahu použití této technologie policií a dalšími bezpečnostními složkami.
Svůj program na rozpoznávání obličejů přestala policii nabízet také společnost IBM. Ta americkým zákonodárcům v dopise sdělila, že nechce, aby se její program stal nástrojem rasového profilování či masové kontroly obyvatelstva.
„Jsme přesvědčeni, že nyní je čas zahájit celostátní dialog o tom, zda a jak by měla být technologie rozpoznávání obličejů vsazena do domácích zákonů o bezpečnostních složkách,“ uvedla společnost IBM.
Vlivná Americká unie občanských práv (ACLU) mimo jiné požaduje, aby policie nesměla k rozpoznávání obličejů používat kamery, které policisté nosí jako součást uniforem.
