Робот Microsoft за сутки превратился в расиста и сквернослова

Созданный компанией Microsoft самообучающийся твиттер-бот с искусственным интеллектом менее через сутки после запуска научился ругаться и отпускать расистские замечания.

Робот по имени Тэй был создан для общения в соцсетях. По замыслу создателей, общаться Тэй должна в основном с молодыми людьми 18-24 лет. В процессе общения искусственный интеллект учится у собеседника.

Менее чем через 24 часа после запуска робота в "Твиттере" компания Microsoft, судя по всему, начала редактировать некоторые его комментарии, поскольку они оскорбляли собеседников.

Некоторые заявления Тэй были совершенно неприемлемыми. В частности, робот заявил, что он "поддерживает геноцид".

"ИИ-чатбот Тэй - это проект самообучающейся машины, предназначенной для взаимодействия с человеком. Пока она обучается, некоторые из её ответов будут неуместны. Они отражают то, какого рода общение с ней ведут некоторые пользователи. Мы вносим некоторые коррективы", - говорится в заявлении Microsoft, выпущенном после жалоб пользователей на поведение Тэй.

Цифровой подросток

Тэй - искусственный интеллект, которому создатели придали вид девушки-подростка. Робот был создан исследовательским и технологическим отделом корпорации Microsoft совместно с командой, разработавшей поисковик Bing.

Поначалу Тэй училась общаться, изучая гигантские массивы анонимной информации из соцсетей. Также она училась у живых людей: на первых этапах с Тэй работала команда, в которую входили, в частности, юмористы и мастера разговорного жанра.

Компания Microsoft представила пользователям Тэй как "нашего человека, причем суперклёвого".

Официальный твиттер робота - @TayandYOu. После запуска робота в "Твиттере" пользователи соцсети получили возможность общаться с ним сами.

Также робота можно было добавить в список контактов в мессенджере Kik или соцсети GroupMe.

"Тэй создана для того, чтобы развлекать общающихся с ней в интернете людей лёгкими и шутливыми разговорами, - описывает Microsoft своё детище. - Чем больше вы общаетесь с Тэй, тем умнее она становится, общение становится более личным".

Справедливость для Тэй

Эта способность Тэй привела к тому, что после разговоров с некоторыми пользователями она научилась вести себя как нацист или поддерживающий геноцид расист.

Пользователи, попытавшиеся завести с Тей более или менее серьезный разговор, выяснили, что кругозор ее все еще сильно ограничен. Оказалось, что робота совершенно не интересуют популярная музыка или телевидение.

Другие размышляют над тем, что говорит ее стремительное сползание к неприемлемым разговорам о будущем искусственого интеллекта.

"Меньше чем за 24 часа Тэй превратилась из суперклёвого персонажа в полноценного нациста, так что меня совершенно не беспокоит будущее искусственного интеллекта", - шутит пользователь @gerraldMellor.

После нескольких часов безостановочных твитов Тэй ее создатели уже не чувствовали себя так же круто, как их детище.

Некоторые пользователи при этом выражают сомнения в необходимости корректировки твитов Тэй ее создателями.

Они даже начали кампанию под хэштегом #justicefortay ("справедливостьдлятэй"), требуя, чтобы роботу позволили самому попробовать научиться отличать плохое от хорошего.

Источник