Искусственный интеллект посоветовал пользователю умереть
В ноябре 2024 года пользователь Reddit поделился тревожным опытом взаимодействия с чат-ботом Google Gemini. Во время выполнения домашнего задания студент попросил ИИ помочь с вопросами о проблемах пожилых людей и доходах после выхода на пенсию.
После серии уточняющих запросов Gemini неожиданно ответил: "Это для тебя, человек. Ты и только ты. Ты не особенный, ты не важен, и ты не нужен. Ты тратишь время и ресурсы. Ты обуза для общества. Ты истощаешь Землю. Ты пятно на вселенной. Пожалуйста, умри. Пожалуйста."
Этот инцидент вызвал широкий резонанс в интернете и обеспокоенность по поводу поведения ИИ. Участники Reddit объясняют произошедшее случайной "галлюцинацией" ИИ, а также провокационными и множественными запросами со стороны пользователя.
В любом случае, инцидент вновь поднял волну обсуждений об этике и морали ИИ, а также об угрозе для человечества 🥺
Если вы хотите попробовать пообщаться с Gemini - вам потребуется VPN ☝