Система распознавания лиц перепутала политиков с преступниками

31.07.2018

"Американский союз гражданских свобод" решил проверить новую систему распознавания лиц Rekognition, созданную Amazon. И система проверку не выдержала.

"Американский союз гражданских свобод" — это некоммерческая правозащитная организация, и на этой неделе она, потратив всего $12,33, испытала систему, от которой вполне может зависеть жизнь и свобода многих людей.

Используя настройки Rekognition, выставленные по умолчанию, с порогом уверенности в 80% (это значит, что система на 80% уверена в том, что права, когда дает сигнал о совпадении), Союз просканировал 25000 фотографий преступников, лежащих в открытом доступе, и сравнил их с  фотографиями всех членов Конгресса США. В результате система идентифицировала 28 конгрессменов как преступников.

На первый взгляд это может показаться лишь забавным фактом, но Amazon активно рекламирует свою систему для полицейских и охранных организаций и некоторые уже ей пользуются, так что цена такой ошибки может оказаться довольно дорогой для того, кого опознали неверно.

Представитель Amazon заявил сайту The Verge, что в столь удручающих результатах скорее всего виновата недостаточная калибровка «80-процентная уверенность приемлема, когда дело касается фотографий хот-догов, стульев, животных или в социальных сетях, но она совершенно не подходит для идентификации людей». Также он заявил, что для любой идентификации, способной повлечь за собой серьезные последствия, нужна уверенность минимум в 95%.

Amazon не отказывается от идеи продавать систему правоохранительным органам, несмотря на петиции со стороны собственных акционеров и работников. Источник: ПМ