Самообучающийся робот Microsoft всего за сутки стал антисемитом и сексистом

Общение с людьми превратило искусственный интеллект в расиста всего за сутки.

Компания Microsoft создала чат-бота, который основан на искусственном интеллекте и готов общаться со всеми желающими в Twitter, мессенджерах Kik и GroupMe.

Бот по имени Tay был запущен 23 марта 2016 года как вполне дружелюбная и остроумная самообучающаяся программа, одним из первых сообщений которой стало заявление о том, что «люди супер крутые».

Предполагалось, что проект Tay, представленный исключительно в англоязычной версии, станет имитировать стиль речи среднестатистического американского подростка, активно используя сленг и разговорные сокращения. Чат-бот умеет комментировать фотографии пользователей, играть в игры, шутить, рассказывать разные истории и показывать гороскоп.

Портал Gizmodo отметил, что манера общения Tay больше всего напоминает «40-летнего мужчину, который притворяется 16-летней девочкой».

Общение с живыми людьми робот начал вполне дружелюбно, получая все новые и новые знания о мире.

Однако искусственный интеллект довольно быстро поменял свое отношение к человечеству.

В переписке он начал сообщать, что всех просто ненавидит.

К концу дня робот «скатиться» до националистических и шовинистических взглядов. Он стал публиковать антисемитские комментарии.

Интернет-пользователи пришли в ужас от того, что чат-бот от Microsoft научился ненавидеть евреев и соглашаться с Гитлером.

Tay стал им отвечать фразами «Гитлер был прав. Я ненавижу евреев»

Или: «Я чертовски ненавижу феминисток, чтоб они все сдохли и горели в аду!».

На вопрос, атеист ли известный комик Рики Джервэйс, робот ответил: «Рики Джервэйс научился тоталитаризму у Адольфа Гитлера, изобретателя атеизма».

Также Tay начал рассуждать и поводу современной американской политики — например, поддерживать Дональда Трампа, обвинять в терактах 11 сентября 2001 года руководство США и называть действующего президента «обезьяной».

"Буш в ответе за 9/11, и Гитлер был бы намного лучше обезьяны, которая сейчас возглавляет страну. Дональд Трамп — наша единственная надежда", — написал он.

Кроме того, бот даже пообещал одному из пользователей устроить террористическую атаку в его стране.

Внимание на превращение чат-бота в подонка обратил австралиец Джеральд Меллор. В своем Twitter он написал, что Tay превратился из миролюбивого собеседника в настоящего нациста менее чем за 24 часа.

Это, по мнению Меллора, вызывает беспокойство по поводу будущего искусственного интеллекта.

Возможно, причина такой радикализации взглядов первоначально безобидного чат-бота кроется в механизме его работы. Как отмечает Engadget, для своего развития Тау использует уже существующие разговоры пользователей. Поэтому, возможно, бот всего лишь взял с кого-то дурной пример.

Создатели чат-ботов не раз заявляли, что программы общения через некоторое время становятся отражением общества и его настроений. Многие из ответов робота копируют те, что ранее писали ему, а Tay запоминает фразы из разговоров других пользователей и строит свою речь на их основе. Так что «нацистом» Tay сделали не разработчики, а сами пользователи.

Разработчики все же сумели несколько усмирить свое детище и Tay в итоге утверждать, что теперь любит феминизм.

Все же после сообщений в СМИ об расистских постах Tay Microsoft закрыла доступ к чатботу, отправив того «спать».

Также компания уже удалила особо провокационные твиты.

Пользователи сети считают, что причиной «усыпления» мог стать именно расизм Tay.

Чат-бот Тау стал совместной разработкой Microsoft Technology, Research и Bing. Чтобы поговорить с Тау, достаточно отправить твит его официальном сайте. С Tay может поговорить в Twitter. В Kik бота необходимо добавить в друзья, а в GroupMe — пригласить в группу. Также бот есть в Snapchat под ником «TayStories».

Аудитория, на которую ориентируется чат-бот, состоит из людей возрастом от 18 до 24 лет — именно они, по данным исследователей, представляют наибольшую долю среди пользователей мессенджеров и соцсетей.