- Porównanie
- Wideo
- Amazon zakazuje policji korzystania z technologii rozpoznawania twarzy
Amazon na rok zabronił policji korzystania z oprogramowania do rozpoznawania twarzy. Według rządu moratorium na korzystanie z usługi Amazon Rekognition ma dać rządom wiele możliwości wprowadzenia przepisów i ram zapobiegających przyczynianiu się rozpoznawania twarzy do jakiejkolwiek formy dyskryminacji. W międzyczasie Amazon będzie nadal umożliwiał organizacjom zajmującym się rozwiązywaniem takich problemów, jak handel ludźmi i uprowadzenia dzieci, korzystanie ze swojej technologii. Oświadczenie to jest następstwem podobnych działań IBM, który wstrzymał wszelkie działania rozwojowe i badawcze związane z kontrowersyjną technologią ze względu na ryzyko niewłaściwego użycia.
Rozpoznawanie twarzy Amazona
Chociaż technologia rozpoznawania twarzy znacznie się rozwinęła w ostatnich latach i może przyczynić się do legalnych dochodzeń policyjnych, jej zastosowanie zawsze budziło kontrowersje. Obawy dotyczące możliwości masowej inwigilacji i punktacji społecznej pogłębia kwestia uprzedzeń związanych ze sztuczną inteligencją, która może prowadzić do dyskryminacji ludzi ze względu na ich cechy fizyczne. Metody kontrolowania zbiorów danych stanowiących podstawę modeli sztucznej inteligencji (w tym oprogramowania do rozpoznawania twarzy) pod kątem stronniczości pozostają niespójne i nieuregulowane, co stwarza ryzyko, że technologia może jeszcze bardziej zaszkodzić mniejszościowym grupom demograficznym. Amazon Rekognition sam zajął się uprzedzeniami rasowymi, w artykule z 2019 r., którego współautorami są badaczki Joy Buolamwini i Deborah Raji, twierdzą, że oprogramowanie nie rozpoznaje poprawnie osób o ciemniejszej karnacji, a także myli kobiety o ciemniejszej karnacji z mężczyznami. Badanie wykazało również, że system Amazon może oceniać obrazy osób o jasnej karnacji z niemal idealną dokładnością. Wyniki zostały następnie zweryfikowane przez grupę badaczy sztucznej inteligencji, którzy podzielili obawy wyrażone przez Buolamwiniego, że tej technologii nie należy wykorzystywać w kontekście egzekwowania prawa. Wydaje się, że Amazon doszedł do tego samego wniosku, chociaż nigdy nie przyznał się do zarzutów, że jego oprogramowanie Rekognition jest stronnicze na tle rasowym. „Wprowadzamy roczne moratorium na korzystanie przez policję z technologii rozpoznawania twarzy Amazon” – głosi oświadczenie wydane przez firmę. „Opowiadaliśmy się za tym, aby rządy ustanowiły bardziej rygorystyczne przepisy regulujące etyczne korzystanie z technologii rozpoznawania twarzy, a w ostatnich dniach Kongres wydaje się gotowy podjąć to wyzwanie”. „Mamy nadzieję, że to roczne moratorium da Kongresowi wystarczająco dużo czasu na wdrożenie odpowiednich zasad i jesteśmy gotowi pomóc, jeśli zostaniemy o to poproszeni”. Nie wiadomo, ile organów ścigania korzystało z Amazon Rekognition przed wprowadzeniem zakazu, choć decyzja ta oznacza radykalną zmianę polityki od 2018 r., kiedy dyrektor generalny AWS Andy Jassy powiedział pracownikom, że jest usatysfakcjonowany wartością, jaką usługa oferuje wszystkim klientom, w tym policja. Przez Pobocze