System Rekognition zamiast przestępców wskazał polityków

Od jakiegoś czasu Amazonowi zarzuca się, że w porozumieniu z rządem amerykańskim pracuje nad systemem permanentnej inwigilacji obywateli. Te obawy skłoniły Amerykańską Unię Wolności Obywatelskich (ACLU) do przetestowania skuteczności systemu rozpoznawania twarzy od Amazona. Do systemu Rekognition, który dysponuje 25 tysiącami zdjęć z aresztowań wprowadzono zeskanowane zdjęcia twarzy wszystkich 535 członków Kongresu.

System po dokonaniu analizy wskazał 28 kongresmanów jako przestępców. Oczywiście żaden z szacownych członków Kongresu nigdy wcześniej nie znajdował się w oficjalnej bazie danych organów ścigania, zatem rezultat „eksperymentu” okazał się spektakularną porażką. Sprawa okazała się na tyle poważna, że pięciu spośród rzekomo „zidentyfikowanych” kongresmanów zdecydowało się skierować do szefa Amazona Jeffa Bezosa list otwarty w związku ze zdarzeniem, w którym proszą o wyjaśnienia, a także domagają się spotkania.

Amazon tłumaczy się, że wadliwemu działaniu systemu winna jest jego słaba kalibracja, a ACLU skorzystała z wyników cechujących się sprawdzalnością na poziomie 80 procent. Według twórców systemu Rekognition to za mało i wyniki powinny cechować się sprawdzalnością na poziomie 95 procent, szczególnie w przypadkach przestępstw.

ACLU napisała w oświadczeniu:

„Identyfikacja, bez względu na to, czy jest dokładna czy nie, może kosztować ludzi wolność, a nawet życie. Kongres musi poważnie potraktować te obawy i wprowadzić moratorium na wykorzystanie systemu rozpoznawania twarzy przez organy ścigania”.