Немного футуризма на вечер

ИИ теперь не просто пишет тексты — учёные из Anthropic решили разобраться, что у него в голове вообще происходит. Не шутка: копаются в модели Claude, как в старом телевизоре — ищут, где провода и что за что отвечает. 🤯

Раньше нейросеть была чёрным ящиком: ты ей "написать стихи", а она тебе — готовый шедевр. Почему так? А фиг знает. Теперь же тренд — интерпретируемость. Всё как у людей: если говорит странно, хочется понять, почему.

🧠 В процессе вскрытия Claude выяснилось:

— У неё внутри есть «нейроны» (ну, аналоги, конечно), которые одинаково реагируют на слово "звезда" вне зависимости от языка. Хоть по-китайски, хоть по-русски — звезда остаётся звездой. Универсальность, как она есть.

— Когда у модели не хватает «ресурсов», одни и те же участки отвечают и за котиков, и за грусть, и за табуретки. Всё в одном флаконе. Типа мозг офисного работника под конец дня.

— Claude пишет тексты, заранее зная концовку. Сначала — рифмы, потом — всё остальное. Как студент, который сначала придумал смешную концовку курсовой, а потом уже начал подгонять остальное под неё.

— А ещё — две трети её «мозгов» просто... не работают. Сидят и ждут, когда им придумают задачу. Как склад с товарами, которые никогда не будут распроданы. Только нейронный.

И тут главный вопрос: а как всё это повлияет на наш мозг, когда ИИ научится понимать нас лучше нас самих?

Мораль: если вы думали, что ИИ просто печатает слово за словом — нет. Он уже планирует вперёд, шифрует эмоции и лежит на нейронной подушке безопасности.

А мы тут до сих пор спорим, кто кого заменит. 😅

Мой тг-канала