Как я перестала бояться "мыслящих машин" с "интеллектом" и стала бояться совсем другого
Предпосылки к появлению понятия "искусственный интеллект" в тех или иных формах обнаруживаются черт-те когда (зачеркнуто) в далеком прошлом, но теоретические основы (философия ИИ) до сих пор не оформились в отдельную (и тем более стройную) дисциплину. Время идет, а вопросы остаются.
Когда видишь публикации на виси с предложениями отличить человеческое от нейросетевого, вспоминаешь слова Алана Тьюринга ("Может ли машина мыслить?"):
Единственное убедительное доказательство, которое могло бы подтвердить правильность нашей точки зрения, состоит в том, чтобы подождать до конца нашего столетия и провести описанный эксперимент.
Между прочим, 1950 годик.
Сегодня тест Тьюринга (эталон/ориентир в проверке искусственного интеллекта на способность мыслить по-человечески) нейросети проходят. Означает ли это способность машин мыслить? Сам Тьюринг считал этот вопрос бессмысленным и не заслуживающим обсуждения. Действительно, там можно убиться об стену терминов.
Допустим, нас не очень волнует терминология, а интересует чисто практический вопрос:
Так бояться ли нам мыслящих машин?
Пока одни называют искусственные нейросети искусственным интеллектом и ужасаются или полны радости, другие призывают смотреть трезво как на "ИИ", так и на прохождение машинами теста Тьюринга. Дело-то не в устаревании самого теста, вовсе нет.
Эти тесты на самом деле не касаются интеллекта... Я не думаю, что это движение в сторону интеллекта. Это движение в сторону того, чтобы обмануть, убедив в наличии интеллекта.
Самое тревожное наследие теста Тьюринга — этическое: в основе теста лежит обман.
Похоже, бояться нужно не мыслящих машин, а повсеместного обмана, подмены настоящего фейковым. Но тест Тьюринга рано списывать в утиль.
...тест Тьюринга мог бы послужить другой цели в эпоху, когда машины все больше и больше умеют звучать по-человечески. Вместо того, чтобы быть желательным стандартом, тест Тьюринга должен служить этическим красным флагом: любая система, способная пройти его, несет в себе опасность обмана людей.
Кстати, короткий фильмец в тему: