Cоздатель ChatGPT создаст команду, которая будет держать сверхинтеллектуальных ботов с ИИ под контролем
Создатель ChatGPT OpenAI обеспокоен тем, что они сделали монстра, популяризируя ИИ. Теперь они планируют создать команду инженеров-людей и экспертов по искусственному интеллекту, которым будет поручено держать сверхинтеллектуальных роботов с искусственным интеллектом под контролем человека.
Для устранения потенциальных неправомерных действий и опасностей OpenAI создает команду для контроля и регулирования сверхинтеллектуальных систем ИИ.
Охота на сверхразумный ИИ
Компания поручила своим исследователям Суцкеверу и Яну Лейке возглавить эту инициативу. OpenAI также активно ищет талантливых исследователей и инженеров машинного обучения в свою команду.
В сообщении в блоге создатели ChatGPT подчеркивают, что суперинтеллект станет самой революционной технологией из когда-либо изобретенных и может помочь решить критические глобальные проблемы. Однако они предупреждают, что развитие таких технологий требует создания новых институтов управления и решения проблемы согласования сверхразума с человеческими ценностями.
Чтобы снизить эти риски, OpenAI выделила 20% своих вычислительных ресурсов в течение следующих четырех лет для решения проблемы согласования сверхразума.
ИИ нельзя модулировать и регулировать с помощью ИИ
OpenAI планирует обучать свои модели с использованием обратной связи с людьми и активно нанимает людей-исследователей. Заинтересованные кандидаты могут подать заявку на вакансию через официальный сайт OpenAI.
В то время как OpenAI принимает меры предосторожности в отношении согласования сверхразума, компания постоянно выражает обеспокоенность по поводу технологий, основанных на больших языковых моделях, таких как ChatGPT.
Он считает, что технологии ИИ нельзя игнорировать, и люди должны их использовать. Альтман также выступает за строгое государственное регулирование для снижения рисков ИИ.
Важным событием стало то, что в этом месяце Совет Безопасности ООН запланировал свое первое заседание для рассмотрения потенциальных угроз, создаваемых искусственным интеллектом. Генеральный секретарь ООН Антониу Гутерриш подчеркнул необходимость достижения консенсуса в отношении основных правил, регулирующих разработку и внедрение ИИ на благо всех, признавая, что мощные инструменты ИИ могут способствовать достижению Глобальных целей.
А если вам еще больше интересна тема ИИ, вы хотите знать больше и не пропускать новинки и обзоры, подпишитесь на канал в тг, мне будет приятно -