Юрист против искусственного интеллекта: почему у робота нет шансов (статья 2018 года)
Четыре года назад на Петербуржском международном экономическом форуме компания «Мегафон» явила миру чудо современной инженерной мысли – электронного юриста. Только лишь окончательно улеглись страсти после заявлений главы Сбербанка о том, что им удалось заменить компьютерной программой аж 450 юристов, как другая компьютерная программа бросила вызов одному из ведущих юристов России. Поединок закончился убедительной победой «белкового» юриста, однако Роман Бевзенко, отстаивавший честь человечества в этом поединке, в своем блоге высказал мнение, что такое соотношение сил продлится недолго. Мы не можем согласиться со столь оптимистичным высказываением.
Для того чтобы провести полноценную диванную экспертизу этого вопроса, нам понадобятся некоторые знания из теории искусственного интеллекта. Дело в том, есть два совершенно разных, в чем-то даже противоречащих друг другу, подхода к построению искусственного интеллекта: статистический подход и логический подход.
Статистический подход (или, как сейчас можно говорить, машинное обучение) – это по сути своей обучение на примерах. То есть машине «показывают» огромную базу данных различных примеров, про которые заранее известно, какие из них правильные, а какие – нет. Машина определённым хитрым образом запоминает эту базу данных, после чего для любого нового примера она может пытаться «угадывать», правильный он или нет. Это всё. То есть качество ответов зависит от качества исходной базы данных, которая должна быть грамотно и аккуратно структурирована, и по возможности не содержать ошибок. У нас, в юридической сфере, есть такие базы данных?
Более того, даже самая лучшая нейронная сеть (самый популярный пример статистического подхода), обученная по самой лучшей базе данных, обладает рядом ограничений. Во-первых, она может «угадать» ответ только в рамках того, чему её научили. Например, если её обучили, что «а!» - это междометие, «ааа!» и «аааааааааа!» - это тоже междометия, то она может ответить, что «ааааа!» - междометие, но о том, что «угу!» - это междометие, догадаться в принципе не может. Во-вторых, она вообще даёт ответ только приблизительный, с какой-то вероятностью. Например, она скажет, что «ааааа!» - междометие с вероятностью 99%, «ага!» - с вероятностью 42%, а «угу!» - с вероятностью 0,03%. И наконец, нейронная сеть (равно как и любой другой алгоритм, основанный на статистике) в принципе не способна объяснить, почему она выбрала тот или иной ответ. Это сродни интуиции – чувствую, что правильно, но объяснить не могу. А интуиция, как мы знаем, имеет свойство подводить в самый неподходящий момент.
Другой подход к построению ИИ – логический. В этом случае мы учим машину не «угадывать ответ», а именно «решать задачу». То есть для этого надо формально (в понятном для компьютера виде) представить начальные данные и тот конечный результат, который мы хотим получить. А также описать правила, по которым мы можем двигаться из начального состояния в конечное. Потом машина просто перебирает все возможные варианты и определяет, можно ли попасть из начального состояния попасть в конечное, и если можно, то как. Именно, на этом принципе построены, например, шахматные программы или программы доказывающие математические теоремы. Понятно, что в случае юридической машины начальным состоянием будет описание ситуации плюс вся нормативно-правовая база, описывающая эту ситуацию, а «правилами движения» будут обычные правила логического вывода в стиле «если…, то…». Такой искусственный интеллект будет лишен всех тех недостатков статистических алгоритмов, о которых мы упоминали. Ему не нужна заранее разработанная и проанализированная база, он одинаково хорошо сможет решать как известные задачи, так и те, которые впервые видит. И самое главное – он сможет показать свой ход решения, логику своих рассуждений.
Ведь чего действительно не хватило роботу от «Мегафона», так это самостоятельных логических рассуждений. Он продемонстрировал умение слушать и понимать человеческую речь, подбирать цитаты и сыпать ими по поводу и без… Много продемонстрировал такого, что ещё лет 20 назад произвело бы фурор среди непосвященной публики. Но он при этом не продемонстрировал самого главного умения, которого мы ждем от юриста: умения строить логические выводы. И как мы теперь понимаем, в принципе не мог продемонстрировать в виду того метода, которым он пользовался.
Другой важный аспект, на который нам хотелось бы обратить всеобщее внимание, - это использование натурального языка общения. Дело в том, что задача общения компьютера с человеком на натуральном языке сама по себе чрезвычайно сложная и никем так до сих не решенная. Если совместить её с другой нерешенной задачей человечества (машинное понимание права), то, как вы думаете, каковы будут шансы на успех? Более того, естественный язык – далеко не лучшее средство в юридической коммуникации. Недаром же юристы всю историю своего существования старались уйти от естественного языка со всеми его неоднозначностями, двойными толкованиями и т. д. Может быть естественный язык вообще не самый лучший метод не только рассуждать о законах, но и писать законы? Сейчас настоящая мода на чат-боты: их пытаются использовать везде, совершенно не задумываясь, что иногда гораздо большего можно достичь, двигаясь в обратную сторону – от естественного языка к формальному. Двигаясь в этом направлении, человечество изобрело логику, математику… и в общем-то современный юридический язык, хотя он ещё и не до конца формальный.
Каким мы вообще хотим видеть юридическое сообщество и место юриста (не важно: живого или электронного) в нем? Как успешного «балабола», ловко жонглирующего словами, цитатами законов и постановлений ВС? Или как лоцмана, уверенной рукой прокладывающего единственно верный маршрут среди изломанных берегов нормативно-правовых актов? Если первое, то конечно же надо сосредоточиться на совершенствовании нейронных сетей: их уже научили рисовать, писать музыку – значит и «чесать языком» рано или поздно научат. Если же второе – надо обратить взор в сторону логических алгоритмов и их адаптации для юридических задач. Причем обратить взор должны сами юристы, потому что никто, кроме них, такую работу выполнить не способен.
P.S. Если же кто-то всерьёз опасается, что успех в этой области как-то угрожает профессии юриста, напомним, что изобретение калькулятора и компьютера не привело к повсеместному исчезновению математиков и инженеров, а всего лишь избавило их от тяжелой монотонной работы.
P.P.S. Кстати, искусственный интеллект, основанный на логическом подходе, в юридической сфере уже давно применяется – это так называемые экспертные системы. У них есть свои недостатки и ограничения, но в то же время они лишены недостатков нейронных сетей.
Оригинал статьи здесь.