ИИ-деградация

Добавлю ложку дегтя во всеобщее ликование по поводу применения нейросетей.

По сути есть 2 способа создания искусственного интеллекта.

1. Экспертные системы на алгоритмах, создаваемых специалистами (юристами, врачами и т.д.) с помощью low-code платформы

Например, юрист изучает ситуации клиентов, осмысливает их через призму законодательства и правоприменительной практики и создает с помощью low-code платформы на основе своих знаний и опыта алгоритмическую экспертную правовую систему, которая в автоматическом режиме консультирует клиентов по правовым вопросам и генерирует для них юридические документы.

При изменениях законодательства и правоприменительной практики юрист должен ознакомиться с этими изменениями и понять как данные изменения повлияют на ситуации его клиентов, а также какие изменения следует внести в созданную экспертную юридическую систему. То есть, юрист должен поработать головой. А чем же еще должен работать юрист? :)

Юрист, в данном случае, выступает создателем контента. Для создания алгоритмически экспертных правовых систем он должен обладать правовыми знаниями, опытом, логикой, умением размышлять и создавать логические верные построения. Без всего этого создать алгоритмическую экспертную систему не получится.

А еще для поддержания алгоритмической экспертной системы в актуальном состоянии юристу нужно следить за изменениями законодательства и правоприменительной практики.

Тогда такая экспертная юридическая система принесет пользу большому количеству пользователей, помогая решать их правовые вопросы без обращения к юристу.

Но еще большую пользу такая экспертная система приносит самому юристу, который ее создает.

Каким образом?

Очень просто.

Юрист, создающий алгоритмическую экспертную систему с помощью low-code платформы, постоянно развивает свои мыслительные способности. Ведь чтобы построить алгоритмы нужно анализировать большой объем информации и систематизировать эту информацию, нужно размышлять над правовыми ситуациями клиентов, нужно строить алгоритмы. В процессе таких размышлений нередко даже выявляются пробелы в законодательстве, так как при построении алгоритма экспертной системы у юриста нет возможности пропустить какие-либо возможные правовые ситуации и тогда может выяснится, что они законом не урегулированы.

Именно этот процесс изучения законодательства, правовых ситуация и построения алгоритма экспертной правовой системы и представляет наибольшую ценность для юриста.

В процессе создания экспертной юридической системы юрист развивается в профессиональном плане и тренирует свои мыслительные способности.

Таким образом, экспертные системы помогают не только их пользователям, но, возможно, даже больше самим их разработчикам.

2. Обучение нейронных сетей (машинное обучение)

В данном случае нейронную сеть обучают на датасете (наборе подготовленных данных).

Но тут есть проблема. Данных должно быть очень много и они должны быть подготовлены, а сам процесс обучения нейросети трудоемкий.

Представим себе, что мы обучили нейросеть на судебной практике по закону 214-ФЗ "О долевом участии в строительстве".

Но, как у нас часто бывает, после обучения нейросети в закон внесли изменения, а судебной практики по применению нового закона еще не появилось. Для обучения нейросети нужна даже не единичная практика. Нужно очень много данных, чтобы она хорошо обучилась. Таким образом, в этой ситуации нейросеть, обученная на судебной практике по утратившему актуальность закону, становится бесполезной.

Не говоря уже о том, что юриспруденция требует точности, а проверить как "размышляет" нейросеть при выдаче того или иного результата невозможно, поскольку какой-либо четкий алгоритм размышления нейросети отсутствует.

Если нейросеть выдает ошибки, то ее переобучают, что опять же, не исключает ошибок, так как можно только опытным путем посмотреть, что после переобучения ошибок стало меньше. Но как удостовериться в том, что в какой-то момент нейросеть снова не сделает такую же ошибку, как до переобучения?

Как нейросети влияют на юристов?

Как правило, юристы не являются специалистами по обучению нейросетей. Все что от них может требоваться для создания сервисов, использующих нейросети, это подобрать данные для обучения, возможно подготовить их и проверить результаты работы нейросети.

Подбор данных и подготовка данных для обучения нейросети не очень квалифицированная работа. Она не требует от юриста интеллектуальных усилий, аналогичных созданию алгоритмических экспертных правовых систем.

Применение же нейросетей юристами постепенно сводит на "нет" навыки юриста мыслить.

Чем больше юрист пользуется такой нейросетью, тем меньше у него стимулов изучать информацию и думать самостоятельно. Ведь проще и быстрее задать вопрос нейросети.

Мы уже видим результаты такого использования нейросетей, когда в юридических документах, составленных нейросетью, появляются ссылки на несуществующие судебные решения.

Нейронные сети галлюцинируют, а люди даже не проверяют на корректность поступающую от нейросети информацию.

Этот эффект будет усиливаться. Использование нейросетей в профессиональной деятельности может привести к деградации, так как можно не изучать информацию и не думать самостоятельно, если можно получить быстрый результат от нейросети.

Использование нейрсетей может привести к деградации, так как отучает от самостоятельного изучения информации и размышления.

Человеческий мозг всегда старается избежать затрат энергии и выбирает наиболее быстрый и легкий путь - не размышлять самому, а запросить нейросеть.

Также представляет интерес следующий аспект.

Если нейросети начнут все больше применять именно в работе органов власти и судов, то может получится интересная ситуация, когда сама правоприменительная практика вырабатывается нейросетями и на этой же практике нейросетей обучаются другие нейросети (если специально не отфильтровывать практику для обучения). Про деградацию нейросетей, которые обучаются на контенте, сгенерированном нейросетями, можно почитать тут.

То есть, при ситуации, когда нейросети генерируют практику, на которой обучаются другие нейросети, увеличивает риск ошибок и галлюцинаций. Нужно маркировать правовой контент, сгенерированный нейросетями и не допускать обучения на нем других нейросетей.

Использование нейросетей юристами ставит юристов в положение потребителей правового контента, а не его создателей. Это приведет к тому, что юристы постепенно будут отучаться размышлять самостоятельно.

Это уже происходит в юридических вуза, где студенты вместо написания письменных работ самостоятельно, генерируют их с помощью нейросетей. Так проще.

Но ясно, что нейросеть просто напишет набор банальностей, на которых она была обучена.

А чтобы самому написать письменную работу по праву нужно собрать информацию, проанализировать ее, сделать выводы. И этот процесс мышления при использовании нейросети пропускается.

В будущем эти студенты будут применять такие же паттерны и в профессиональной деятельности. То есть, вместо сбора информации, ее анализа и выработки решения правовой проблемы клиента, они просто зададут вопрос нейросети. Нейросеть выдаст самое очевидное и банальное решение, которое клиент мог и сам получить от нейросети. Хорошо еще, если это решение не будет ошибочным.

Роль юриста в таком процессе практически отсутствует.

Таким образом, нужно обучать студентов юридических вузов созданию экспертных алгоритмических правовых систем. Low-code технология отлично для этого подходит.

А юристам Low-code поможет не отучиться самостоятельно мыслить и оптимизировать свою деятельность.

Что касается применения нейросетей, то они подходят для простых прикладных задач: например, быстрый поиск информации в документах больших объемов, классификация и распознавание документов и т.п.

Конечно, вендорам, продающим нейросетевые технологии, выгоден хайп о том, что мы на пороге создания сильного искусственного интеллекта и нейросети уже сейчас достигли невиданных высот и т.д. и т.п. Но попробуйте добиться хотя бы от банковского бота поддержки на ИИ нужной информации с первого раза :)

Больше информации о LegalTech и автоматизации с помощью low-code есть в нашем Телеграм-канале: ссылка.