Можно ли искусственному интеллекту доверить обучение человека?
А давайте рассмотрим эту ситуацию через сравнение. В XV веке европейскую гуманитарную мысль всколыхнула новая технология - книгопечатание. Произошла так называемая “революция Гутенберга”.
Это сейчас нам кажется, что ничего особенного, а тогда люди были в панике и пророчили конец света. Еще бы! Святые книги доверили копировать машине! Чтобы понять масштаб бедствия, я скажу, что к переписыванию книги допускали далеко не всякого человека. Чтобы тебе разрешили переписать святую книгу нужно было пройти специальные ритуалы и доказать свою духовную чистоту. А тут - на те вам - машина!
Но это еще полбеды. Книги-то могут быть не только святыми, а и грешными. И это с какой же скоростью теперь грехи-то в мире будут распространяться! Сколько душ эта печатная машина с пути праведного свернет! В общем, катастрофа!
Похоже на наши переживания по поводу искусственного интеллекта? Очень похоже.
И по содержанию современный искусственный интеллект - та же книга, только в новой упаковке.
Та же, да не та. Книга предполагает линейное чтение, т.е. от начала к концу. Даже если это энциклопедия или святцы. Просто там от начала к концу вы будете читать отдельные статьи или жития, выбирая их хоть из середины, хоть из конца книги.
Искусственный интеллект работает с информацией немного по-другому. Он фиксирует не слова, а смыслы, и способен обрабатывать их и преподносить по запросу человека в любом (заданном человеком) порядке, любым стилем, с любой степенью детализации, в любом контексте. Например, завтраки народов Азии с учетом ограниченности ассортимента европейских магазинов в изложении для чайников. Собственно, параметры могут быть почти любые.
Но конечная цель остается той же, что и у книг: фиксация и упаковка знаний в удобный для хранения и использования формат.
Следовательно, и опасность искусственного интеллекта можно сравнивать с опасностью книг.
ИИ преподносит нам мысли в готовом виде? ОК, а что делают книги?
ИИ может нести опасную, деструктивную информацию? ОК, а какую информацию несет, например, “Майн кампф” Гитлера?
ИИ может заменить человека? А скольких людей заменили книги, предложив вместо приблизительных пересказов событий точную их фиксацию?
Пожалуй, самым пугающим фактором считается интерактивность и адаптивность ИИ. Читая книгу, нам приходится прилагать большие усилия, чтобы выудить и выстроить нужную информацию, тогда как ИИ сразу предлагает ее в “разжеванном” виде.
Но и здесь всё не так просто. Чтобы получить от ИИ продуманный ответ, нужно уметь задать продуманный вопрос. Ответ определяется вопросом. ИИ учит и стимулирует их задавать. Мне кажется, одного этого аргумента уже вполне достаточно, чтобы оспорить тезис, будто ИИ оглупляет человека. ИИ развивает человека, как развивает человека внимательное знакомство с любой новой для него высокой культурой. А оглупляет только в том случае, если в представителе другой культуры человек видит не более, чем раба.
Так все-таки, можно ли ИИ доверить обучение человека?
Как и с книгой, как и с живым преподавателем, однозначного ответа здесь нет.
Иногда можно, иногда нельзя. Каждый случай индивидуален. И чем раньше появятся эффективные фильтры и критерии оценки безопасности ИИ, тем будет лучше для нас.
Но даже без специальных знаний можно многое понять. Нужно просто потестировать ИИ, позадавать ему разные каверзные и провокационные вопросы и внимательно почитать ответы.
Цифровые ассистенты, которые создаются под патронажем компании “Смыслотека”, имеют двойную защиту.
Во-первых, у нас “под капотом” движок с хорошим внутренним фильтром (а он есть не у всех моделей ИИ).
Во-вторых, мы обложили этот движок дополнительными ограничениями, не позволяя ему выходить за пределы заданных автором рамок.
Однако всегда нужно смотреть, кто автор ассистента. Если он манипулятор в жизни, он мог заложить манипулятивные технологии и в своего ассистента. Если как человек он вызывает доверие, то и его продукту тоже можно доверять.
И всегда нужно помнить, что ИИ - это иной интеллект, устроенный несколько иначе, чем интеллект человека. Поэтому человек, обученный только с помощью ИИ, будет чувствовать себя неполноценным и ущербным. В соревновании, организованном по правилам ИИ, он всегда проиграет. Так же, как ИИ проигрывает в обыденных для человека ситуациях.
ИИ помогает развиваться только тогда, когда он дополняет, а не подменяет живого человека. Впрочем, как и книга.
Вот такие нехитрые правила.