ИИ, жизнь, баланс

Сейчас конец марта, скоро начнутся приемные кампании в вузы. Возможно, кто-то из вас думает, не сходить ли в магистратуру или в какую магистратуру сходить. Я закончила обучение в магистратуре в 2024 году и теперь хочу написать свой небольшой отзыв. Вдруг поможет кому.
Магистратура была от ВШЭ, «Магистр по наукам о данных» (Master of Data Science). В…

В прошлом году вышло исследование, которое показало, что примерно 9,5% разработчиков программного обеспечения ничего не делают на рабочем месте. Их назвали «инженеры-призраки» («ghost engineers»). Вирусным стал пост в X, который ссылается на статью «Predicting Expert Evaluations in Software Code Reviews».

Кому проще работать с ИИ и у кого это лучше получается? Я поискала, но не нашла исследований, которые бы связывали успешный опыт работы с ИИ с какими-либо чертами личности. Некоторые источники указывают на то, что позитивно влияют открытость новому, склонность к критическому мышлению и стремление к экспериментам. Но это как будто бы и не новость во…

В области ИИ есть два важных понятия. С одной стороны, оба описывают процесс улучшения ИИ, с другой стороны, преследуют разные цели. Эти понятия – «alignment» и «fine-tuning». Для удобства в этом посте я буду переводить «AI alignment» как «настройка ИИ», а «fine-tuning» как «дообучение».
И то, и другое, предполагает обретение ИИ новых навыков. Но в…

Теория разума – это способность понимать чувства, намерения, желания других людей и прогнозировать или объяснять их поведение. Важный аспект теории разума – понимание человеком того, что чувства другого могут отличаться от его собственных.
У людей эта способность развивается между тремя и пятью годами. А есть ли она у языковых моделей? На эту тему в…

В 2021 году Google анонсировала создание новой модели для поиска – MUM (Multitask Unified Model). Пост с анонсом на редкость неинформативен и сообщает только, что

Сегодня рассказываю про интересный инструмент – мультиагентный фреймворк CAMEL. Он был представлен миру в 2023 году в статье «CAMEL: Communicative Agents for "Mind" Exploration of Large Language Model Society» («CAMEL: коммуникативные агенты для исследования «разума» сообщества больших языковых моделей»). Мы говорили про разные инструменты, такие к…

Наконец-то я добралась до поста про диффузионные модели. Это не принципиально новая архитектура, но они на подъеме последние пару лет, потому что оказались крайне эффективными для работы с изображениями и видео. Инструменты, которые генерируют видео по текстовому описанию, часто имеют в основе именно диффузионные модели. Самые популярные Sora и Veo…

Мы уже неоднократно разбирали решения в области ИИ, которые вдохновлены в большей или меньшей степени конкретными биологическими механизмами. В основном речь идет о процессах, которые происходят у нас в мозгу: обработка зрительной информации, обращение к гиппокампу для использования памяти и все такое. Однако сам процесс эволюции тоже был позаимств…

Один из ключевых вопросов ИИ – это вопрос его интерпретируемости и объяснимости. В литературе эти термины иногда используются как взаимозаменяемые, но иногда разделяются: интерпретируемость ИИ – возможность понять как моделью был получен определенный ответ (фокус внимания на внутренних механиках модели), объяснимость – возможность понять почему пол…

Мы ранее обсуждали использование ИИ-агентов для симуляции человеческого поведения. Сегодня обсудим еще один интересный проект на ту же тему, доступный для использования всеми желающими.
Tiny Troupe – это разработка Microsoft, библиотека, с помощью которой можно создавать разных агентов, наделенных личностными чертами.

Сегодняшний пост посвящен ответственному подходу к ИИ, точнее, как вы уже могли догадаться, обсуждению случаев, когда ответственного подхода не хватило. Я не ставлю перед собой цель охватить все истории, когда что-то в использовании или разработке ИИ пошло не так. Кроме того, я сознательно опущу случаи, которые привели к непосредственной угрозе жиз…