Компания «Майкрософт» заменила журналистов искусственным интеллектом. Через неделю его обвинили в расизме

MSN.com опубликовали историю, как солистка Little Mix Джейд Фёруолл сталкивалась с расизмом, но нейросети перепутали певицу с другой участницей группы

Фото: EAST NEWS

Провалом закончилась антикризисная инициатива «Майкрософта». Компания в разгар пандемии решила уволить всех людей-журналистов, издающих сайт MSN.com, и заменила их искусственным интеллектом. Через неделю роботы вляпались в расистский скандал. И это далеко не единственный пример, когда на бездушные машины обижались люди разных рас.

Роботы прогневали певицу

Портал MSN.com – это популярный агрегатор новостей, с огромной аудиторией. Искусственный интеллект отбирает достойные на его взгляд статьи из разных источников и создает на их основе публикации. Полученными от трафика рекламными доходами «Майкрософт» делится с первоисточниками. Все шло более-менее неплохо, пока алгоритм не решил написать про британскую группу Little Mix. И подорвался на мине расизма.

MSN.com опубликовали историю, как солистка Little Mix Джейд Фёруолл сталкивалась с расизмом, но нейросети перепутали певицу с другой участницей группы и опубликовали фото Ли-Энн Пиннок. Возмущению Фёруолл было безграничным. «MSN, если вы собираетесь копировать и вставлять статьи из других, заслуживающих доверия СМИ, то должны сначала убедиться, что используете изображение нужного участника группы смешанной расы», - писала она гневные посты в соцсетях. «Меня оскорбляет, что вы не можете различить двух цветных женщин в группе из четырех человек... Старайтесь лучше!», - возмущалась певица, не подозревая, что все ее выпады адресуются искусственному интеллекту.

Ошибку тут же исправили. Перед шоу-дивой извинились. Тем не менее, история совпала с волной протестов против расовой дискриминации, которая прокатилась по всей Америке, и вызвала большой скандал.

«Умный» дозатор: мыло только для белых

Это далеко не первый случай, когда роботы были обвинены в расизме. Ранее под раздачу попал чересчур «умный» дозатор мыла. Он выдавал моющее средство в руки белым людям и игнорировал чернокожих. Во всем оказался виноват датчик света – он, видимо, не обладал нужной чувствительностью, чтобы считывать темные оттенки кожи.

Впрочем, схожие проблемы были, например, у крупных производителей фотоаппаратов. Чересчур предупредительная техника все время напоминала хозяину, что он моргает во время фотографий. А от возмущался – пользователь был азиатом и его разрез глаз фотоаппарат воспринимать отказывался наотрез.

У автопилотов «Теслы» могут быть проблемы

Но самый большие проблемы с расизмом могут возникнуть у роботов-водителей. В прошлом году вышло исследование Технологического института Джорджии, согласно которому искусственный интеллект, управляющий автомобилями без участия человека, с большой вероятностью задавит темнокожего, чем белого. В среднем они обнаружили, что системы были на 5 процентов менее точными при обнаружении людей с более темными оттенками кожи. То есть у автомобилей с роботами-водителями примерно те же проблемы, что и у дозаторов мыла.

Так что «Тесла» с автопилотами еще повезло, что данное исследование вышло в 2019 году. Если бы ученые запоздали со своими выводами и сделали их сейчас, у борцов с расизмом стало бы на одну цель больше.