IBM больше не будет предлагать программное обеспечение для распознавания лиц или анализа, сказал сегодня генеральный директор IBM Арвинд Кришна в письме в Конгресс. IBM также больше не будет разрабатывать или исследовать эту технологию, сообщает The Verge. Кришна направил письмо Кори Букеру (D-NJ) и Камале Харрису (D-CA), а также представителям Карен Басс (D-CA), Хакиму Джеффрису (D-NY) и Джерролду Надлеру (D-NY).
«IBM решительно выступает против технологии распознавания лиц, предлагаемой другими поставщиками, для массового наблюдения, расового профилирования, нарушений основных прав и свобод человека или любых целей, которые не соответствуют нашим ценности и принципам доверия и прозрачности», — говорится в письме Кришны. «Мы считаем, что сейчас самое время начать общенациональный диалог о том, следует ли и как применять технологию распознавания лиц в местных правоохранительных органах».
Программное обеспечение для распознавания лиц значительно улучшилось за последнее десятилетие благодаря достижениям в области искусственного интеллекта. В то же время технология страдает от предвзятости по признаку возраста, расы и этнической принадлежности, что может сделать инструменты ненадежными для правоохранительных органов.
Например, исследование, проведенное Национальным институтом стандартов и технологий в декабре 2019 года, выявило «эмпирические доказательства существования широкого диапазона точности в демографических различиях в большинстве современных алгоритмов распознавания лиц, которые оценивались». Технология также подверглась критике за ее роль в нарушениях конфиденциальности.
Примечательно, что исследование NIST не включало технологии от Amazon, которая является одной из немногих крупных технологических компаний, продающих программное обеспечение для распознавания лиц правоохранительным органам. В 2018 году Американский союз гражданских свобод обнаружил, что Rekognition неправильно сопоставил 28 членов Конгресса с лицами, выбранными, например, из 25 000 публичных фотографий.
