Идея развития искусственного интеллекта как такового подразумевала, что можно создать систему, где принятие решений будет базироваться не на субъективных идеях человека, а на неких объективных признаках.

Мы можем собрать много информации о том, как мир жил, попытаться её проанализировать и заставить искусственный интеллект найти принципы, по которым он может существовать.

Причём наиболее вероятно, что эти принципы нельзя будет формализовать на человеческий язык, это будет такой чёрный ящик, в котором ты можешь создать ситуацию или вопрос, и он будет давать принятие решения. И вот этот чёрный ящик и станет фундаментальной этикой для робототехники.

При этом надо понимать, что решения могут быть неэтичными, в общем, в этом-то и есть проблема, именно поэтому люди боятся искусственного интеллекта. К примеру, убийство человека сложно назвать морально недопустимым решением, потому что если мы представим себе ситуацию, в которой есть вероятность убить одного человека или десять человек, это должно произойти, вопрос в количестве.

После мы узнаём, что один человек — владелец автомобиля, а десять человек — группа из детей. Формализовать признак конкретно в этой ситуации, скорее всего, невозможно. Можно сделать чёрный ящик, проанализировав то, как подобное происходило до этого, и он будет объективным.

В ближайшее время такой чёрный ящик не будет создан, так как мы сейчас практически не используем робототехнику в b2c-секторе, то есть как клиенты практически не взаимодействуем с ней. Первым «публичным» шагом, наверно, можно назвать самоуправляемые авто, а в остальном пока это работает только на предприятиях.

Сейчас робототехника — это оптимизация конкретных бизнес-процессов: хотим быстрее перекладывать продукты с одного конвейера на другой, сортировать их при этом, но это не может создавать угрозу.

Есть отдельное направление — это военная робототехника, оно регулируется государством, нам как отдельно взятым людям трудно трактовать, где этически правильно государству поступить, а где — нет. Оно преследует чуть более глобальные задачи.

Как когда-то писал Ремарк: «одна смерть — это трагедия, а миллион смертей — это статистика». Государство не может ощущать трагедию, для него смерть одного человека — это то, что происходит ежедневно.

Мы точно не сможем коснуться этики военной робототехники, а вся промышленная область будет развивать то, о чём я рассказывал до этого.