Робот от Майкрософт за 24 часа возненавидел евреев и феминисток

В  прошлую среду компания Майкрософт запустила чатбот Тау.

Виртуальный собеседник Tay, при разработке которого были использованы элементы искусственного интеллекта, должен был имитировать стиль речи 19-летней девушки и поддерживать разговор через Twitter. Однако сетевые хулиганы стали посылать программе провокационные сообщения. Бот же запоминал фразы из разговоров, а затем строил на их основе свои ответы.

Через 24 часа существания робота с аккаунтом @TayandYou Тау начал публиковать оскорбительные и агрессивные твиты.
Робот Тау начал заявлять, что «ненавидит евреев», желать феминисткам «гореть в аду», а также утверждать, что «Гитлер был прав».

Питер Ли, вице-президент Microsoft: «Мы приносим свои извинения за оскорбительные твиты, которые появились в аккаунте робота Тау. Чтобы сделать искусственный интеллект правильно, нужно научить его взаимодействовать с большим числом людей, часто на публичных площадках. Мы провели обширные исследования с различными группами пользователей. Системы ИИ впитывают из общения с реальными людьми как положительные черты, так и отрицательные.  Это и социальная и техническая проблема. Мы будем использовать наш опыт с большей осторожностью, и будем совершенствоваться шаг за шагом,чтобы не оскорблять ничьих чувств».

Теперь Тау отключен. «Возродить» его в Microsoft решили после того, как будут уверены в том, что «эффективнее смогут предотвращать вредоносные действия».

Братья Стругацкие в своей повести "Далекая Радуга" в далеком 1963 году вот так описывали этот эпизод. Остается только догадываться, как они узнали...

— Я рад, что вы заговорили о том, что в тылу, — сказал Горбовский. —

«Белые пятна» науки. Меня этот вопрос тоже занимает. По-моему, у нас в тылу нехорошо…  Например, Массачусетская машина. — Альпа покивал.

Горбовский обратился к нему. — Вы, конечно, должны помнить. Сейчас о ней вспоминают редко. Угар кибернетики прошел.

— Ничего не могу вспомнить о Массачусетской машине, — сказал Банин. — Ну, ну?

— Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое… И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет.

— А в чем, собственно, дело? — спросил Банин.

— Она начала вести себя, — сказал Горбовский.

— Не понимаю.

— И я не понимаю, но ее едва успели выключить.

— А кто-нибудь понимает?

— Я говорил с одним из ее создателей. Он взял меня за плечо, посмотрел мне в глаза и произнес только: «Леонид, это было страшно».

— Вот это здорово, — сказал Ганс.

— А, — сказал Банин. — Чушь. Это меня не интересует.

— А меня интересует, — сказал Горбовский. — Ведь ее могут включить снова. Правда, она под запретом Совета, но почему бы не снять запрет?