Американская компания IBM перестанет заниматься разработкой технологии распознавания лиц. Об этом генеральный директор компании Арвинд Кришна сообщил в письме Конгрессу США.
Глава IBM призвал Конгресс провести реформы, направленные на продвижение расовой справедливости и борьбу с системным расизмом, объявив при этом, что компания выходит из бизнеса распознавания лиц.
Решение IBM выйти из бизнеса распознавания лиц принято на фоне критики технологии за проявление расовой и гендерной предвзятости. В прошлом году Amazon поставила этот вопрос на голосование акционеров, 2,4% из которых проголосовали за запрет продажи технологии государственным учреждениям исходя из соображений конфиденциальности и гражданских прав.
В обращении Кришна отметил, что IBM выступает против использования любых технологий, включая технологию распознавания лиц, для массового наблюдения, расового профилирования, нарушения основных прав и свобод человека.
Глава IBM призывает начать национальную дискуссию о применении технологии распознавания лиц в правоохранительных органах.
Кришна, который занял пост исполнительного директора в апреле, сказал, что он сосредоточен на развитии облачных сервисов IBM, оставаясь при этом в бизнесе мейнфреймов. Акции компании за год выросли чуть более чем на один процент, рыночная капитализация составляет 135 миллиардов долларов.
Бизнес IBM по распознаванию лиц не принес значительных доходов компании, сообщает CNBC со ссылкой на источники внутри компании, но решение остается примечательным для технологического гиганта, который считает правительство США своим основным клиентом. По словам человека, знакомого с ситуацией, IBM решила отказаться от этой части бизнеса из-за деловых и этических принципов одновременно. Компания в последние несколько недель отмечала опасения многих сотрудников по поводу использования технологии, добавил он.
Кришна признает, что искусственный интеллект может помочь правоохранительным органам обеспечить безопасность граждан, но пользователи и разработчики ИИ-систем несут ответственность проверку их алгоритмов на предвзятость. Глава IBM считает, что это особенно важно в случае при использования ИИ в правоохранительных органах. Поэтому должно быть проведено тестирование таких систем и результаты должны открыто освещаться.
Гендиректор IBM также призвал конгрессменов рассмотреть законопроект республикнца Тима Скотта из Южной Каролины, который потребовал бы от штатов, получающих федеральное финансирование, раскрывать Министерству юстиции более подробную информацию о применении насилия сотрудниками правоохранительных органов в Министерство юстиции.
