Таак, вон оно чё, или языковые модели как зомби

плохие нейросети (плохо обученные нейросети) выдают тексты гораздо более интересные

Если проверять по очереди несколько критериев: связность, логичность, свойства построения метафоры и другие, то в конце концов мы найдём очень много сходств между текстами, которые генерирует компьютер, текстами авангардной литературы и текстами, которые порождают душевнобольные люди. По структурным свойствам эти тексты друг от друга неотличимы, но по дополнительным критериям они разные.

Есть одно базовое свойство, которое отличает тексты, порождаемые людьми, в каком бы состоянии сознания они ни находились, и тексты, которые порождает компьютер. Это свойство называется интенциональностью. У человека есть цель. Он осознаёт себя и порождает текст, создавая какое-то сообщение, даже если этот человек не в себе, и сообщение не может быть раскодировано адресатом, потому что закодировано оно адресантом таким образом, что это невозможно передать другому. Даже если это так, всё равно такие тексты содержат какое-то сообщение. Даже душевнобольные люди пытаются нам что-то сказать, а компьютеры — нет, потому что, чтобы компьютеры оказались в той же точке, они должны обладать сознанием и должны иметь мотивацию. И ни того, ни другого у них нет.

Борис Орехов, к.ф.н., цифровой филолог, компьютерный лингвист

Конечно, читатель может «порождать смыслы», читая и тексты нейросети, в которых нет интенциональности. Но есть очень важная модернистская идея, что при чтении текста важно понимать сообщения, которые нам посылает автор этого текста. Более того, у нас есть идея, что когда мы встречаемся с каким-то текстом, мы всегда, даже бессознательно, предполагаем, что у этого текста обязательно есть смысл, и никак иначе быть не может. Но с точки зрения классического понимания того, что такое смысл, у компьютерного текста его быть как раз не может. Это называется презумпция осмысленности.

Тогда, если мы считаем, что всегда важно, какой смысл вкладывается в текст, получается, что те смыслы, порождаемые читателем, — второстепенны. А если мы считаем, что читатель первичен, и что сказал или хотел сказать автор — это не так важно, то вступаем на почву постмодернистского релятивизма. При этом трудно логически доказать, что позиция автора вообще с какой-то точки зрения важна... А если считать, что это неважно, тогда внезапно пропадает и необходимость вообще думать об авторе... Это болезненная тема. Отсюда выходит, что должно быть важно, этот текст сочинил компьютер или нет. И если компьютер — тогда непонятно, зачем его вообще читать, потому что не порождается никакого сообщения. А если считать, что первичен читатель, и читатель решает, интересно ему читать или нет, тогда можно обращаться и к компьютерному тексту.