BlenderBot 3 AI от Meta* научился расизму всего за неделю

*21 марта 2022 года суд признал Meta экстремистской организацией и запретил её деятельность на территории РФ

Новый чат-бот BlenderBot 3 AI, который был выпущен в США всего несколько дней назад, в пятницу, 5 августа, уже сделал множество ложных заявлений, основанных на взаимодействии с реальными людьми в сети.

Среди наиболее провокационных из них — утверждения о том, что Дональд Трамп победил на президентских выборах 2020 года и в настоящее время является президентом США, антисемитские теории заговора, а также комментарии, что Facebook* виновна во всем, в чем её подозревают. И это несмотря на то, что бот принадлежит данной компании.

В отличие от прошлых версий чатбота, BlenderBot 3 может искать информацию в Интернете и разговаривать с людьми практически обо всем. Он может делать это, опираясь на способности предыдущих версий BlenderBot, такие как индивидуальность, эмпатия, знания и способность иметь долговременную память на разговоры, которые он вел.

Это не первый случай, когда чатбот попадает в неприятности. В 2016 году чат-бот компании Microsoft под названием Tay был отключен от сети в течение 48 часов после того, как начал восхвалять Адольфа Гитлера. Неудивительно, ведь здесь срабатывает закон Годвина: «По мере разрастания дискуссии в Usenet вероятность сравнения, упоминающего нацизм или Гитлера, стремится к единице.»

Похоже, закон распространяется далеко не только на людей.

Оригинал статьи:

Впереди ещё больше подборок инструментов, новостей, трендов из мира IT и историй. Подписка стоит того 🖤