Система распознавания лиц Amazon перепутала конгрессменов с преступниками

Компания Amazon разработала систему распознавания лиц, которую можно использовать для обнаружения преступников. Однако во время тестов ИИ провалился - система назвала 28 конгрессменов убийцами.



Тесты показали несостоятельность системы распознавания лиц от Amazon в оперативно-розыскной деятельности. Использование ИИ было признано эффективным, но качество его работы оказалось неудовлетворительным. Проверят работу системы в действии взялись активисты ACLU. Они совместили в одну базу данных снимки 535 конгрессменов и 25 тысяч преступников, обвиняемых в совершении тяжёлых преступлений. Система назвала 28 политиков убийцами, что доказало её несостоятельность.

Активисты ACLU призывают разработчиков Amazon обратить пристальное внимание на это исследование, ведь от работы системы могут зависеть человеческие жизни. Введение передовых технологий в оперативно-розыскные мероприятия должно быть временно приостановлено до устранения всех неточностей идентификации.