>случае Джошуа Брауна. В мае 2016 года 40-летний владелец Tesla Model S активировал автопилот на междугородней трассе во Флориде. Система не смогла распознать поворачивавший налево грузовик, поскольку его белый прицеп выделялся недостаточно контрастно на фоне дневного неба.

В результате Tesla залетела под прицеп, а Браун погиб на месте. Согласно реконструкции, проведенной Национальным управлением по безопасности дорожного движения (NHTSA), у Брауна было семь секунд, чтобы заметить грузовик и избежать столкновения. Соответственно, он не следил за дорогой.

Пресса стала нападать на Tesla, однако по мнению Национального управления, компания была невиновна в ДТП. Согласно итогам расследования, автопилот не может справляться с ситуацией, когда путь транспортного средства перегораживает препятствие, и требует «постоянного и полного внимания водителя».

Смена поставщика

Однако несчастный случай все же имел последствия для Tesla. Израильская компания Mobileye, которая разрабатывала камеры и программное обеспечение для автопилота, разорвала соглашение с Tesla из-за опасений по поводу безопасности.

Технологический директор компании сообщил информационному агентству Reuters, что Tesla «вышла за рамки безопасности. Автопилот не предназначен для того, чтобы реагировать на все возможные аварийные ситуации и предотвращать их». По словам представителей Tesla, сотрудничество прекратилось по коммерческим причинам.

В октябре 2016 года Маск представил замену компонентам Mobileye — новый автопилот с более мощным компьютером, обращенным к носовой части радаром, дюжиной ультразвуковых сенсоров и программным обеспечением, разработанным в самой Tesla.

Планировалось, что с ноября 2016 года аппаратная часть системы будет устанавливаться на все новые автомобили Tesla, а программное обеспечение будет обучаться за счет данных, поступающих от каждой машины, и быстро станет автономным. Такую функцию Tesla назвала «теневым режимом» — каждый новый автомобиль пересылает данные с сенсоров с помощью встроенного беспроводного соединения вне зависимости от того, платил владелец за автопилот, или нет.

«До того как активировать функцию, мы будем настраивать систему, используя данные о миллионах миль, пройденных в условиях реального мира. Так мы обеспечим безопасность и удобство технологии», — писал Элон Маск.

Новый автопилот был активирован в январе 2017 года, поддерживая только некоторые функции и только на определенных скоростях. После этого инженеры Tesla смогли получать еще больше данных, что помогло им обнаружить и устранить некоторые ошибки. Но даже понимая, что новая версия получилась более ограниченной, владельцы Tesla уверены, что у нее гораздо меньше возможностей, чем у прежней системы от Mobileye.

«Когда я запустил Autosteer в первый раз, машина начала рыскать в поисках полосы. Было немного страшно. С тех пор ситуация улучшилась: система справляется с изгибами трассы и огибает участки, где ведутся дорожные работы. Но каждый раз, когда я двигаюсь по крайней правой полосе и приближаюсь к съезду с шоссе, автопилот думает, что я планирую съехать. А мне приходится вмешиваться и корректировать курс», — рассказывает владелец Tesla Model S Стив Хирн.

Обновления системы

Некоторые странности системы настолько распространены, что получили свои собственные прозвища. Например, «страсть к большегрузам» — когда при обгоне 18-колесных грузовиков на шоссе нос Tesla начинает раскачиваться из стороны в сторону, или «пляска на полосе» — когда автомобиль пытается перестроиться в правый ряд, а его пиктограмма на дисплее приборной панели начинает «вихлять» из стороны в сторону.

«Такое происходит постоянно. Недавно я остановился на светофоре перед Линкольн-авеню в Чикаго. Это четырехкилометровый отрезок трассы, прямой, как стрела. Однако на приборной панели высветился плавный поворот налево, затем прямой участок, а затем — холмистый», — рассказывает владелец производственной компании из Чикаго Джон Ларсон.

По словам Tesla, сейчас автопилот находится в «фазе бета-тестирования». Компания признает, что его поведение может отличаться от первоначальной версии. Водителям требуется согласиться с отказом компании от ответственности, который ограничивает ситуации, в которых можно использовать автопилот, и рекомендует «не терять бдительность». Например — постоянно держать руки на руле.

Чтобы получить привилегию поучаствовать в бета-тесте, водителю необходимо заплатить $5-10 тысяч долларов за активацию автопилота. Сумма зависит от того, какие именно функции он предпочтет активировать.

Поскольку Tesla проводит обновления системы через мобильную связь, некоторые вещи стали лучше. Например, теперь водители могут использовать Autosteer на большем количестве дорог и на более высоких скоростях. А функция круиз-контроля с учетом других участников дорожного движения стала более надежной.

«Система стала реже ни с того ни с сего нажимать на тормоз. Но она по-прежнему пытается съехать с шоссе, или не может вписаться в поворот на проселочных дорогах. Тогда мне приходится выкручивать руль настолько резко, что автопилот отключается. Машина как будто сама напрашивается на ДТП», — рассказывает Ларсон.

Какие ошибки возникают из-за недостаточного тестирования системы, а какие — в результате ее конструкционных особенностей — вопрос открытый. «Когда у вас много данных — это невероятно мощный ресурс. Но программное обеспечение — также очень важный и очень сложный аспект. Зачастую алгоритмический элемент невозможно улучшить с помощью большого количества данных — это процесс кропотливых разработок», — уверен глава компании-производителя систем для самоуправляемых автомобилей NuTonomy Карл Иагнемма.

Отвечая на вопросы о специфических проблемах, обнаруженных владельцами машин, представители Tesla отметили, что у компании уникальная и продуманная система валидации, и что компания «пристально следит за обратной связью от пользователей».

В конце февраля 2017 года Элон Маск заявил, что «где-то в марте» новый автопилот сравнится по мощности со своей предыдущей версией, и начиная с этого времени «вещи будут только улучшаться».

Но чтобы достигнуть полной автономности, которая сможет справляться с редкими, но опасными ситуациями, как в случае Джошуа Брауна, Tesla предстоит выполнить много работы.

Уровни автономности

Даже если компания устранит все ошибки, по оценкам сообщества инженеров в области автоматизации нынешний автопилот Tesla является системой второго уровня — он хоть способен перестраиваться из ряда в ряд, ускоряться и тормозить, но все равно полагается на бдительность водителя и его оценку безопасности ситуации.

Расстояние между системой второго и четвертого уровня, когда ИИ транспортного средства может реагировать на все дорожные ситуации и предотвращать ДТП (что пригодится Tesla в путешествии от побережья к побережью) — огромно.

Недавно Tesla представила видео, показав самоуправляемый автомобиль. Однако компания не уточнила, сколько миль он проехал. Единственная доступная информация гласит, что программа компании по-прежнему находится в ранней стадии. Согласно законам штата Калифорния, тестирующие автономные транспортные средства компании на государственных дорогах должны ежегодно докладывать о количестве пройденных миль, а также о сопутствующих проблемах.

В 2015 году Tesla заявила об отсутствии тестов, а в 2016 году — о том, что ее автомобили проехали только 550 миль. При этом водитель был вынужден вмешиваться 182 раза. Для сравнения, компания Alphabet Waymo, которая разрабатывает свое собственное автономное транспортное средство, заявила о том, что ее автомобиль в 2016 году проехал 635 тысяч миль, при этом водитель вмешивался в процесс 124 раза.

Когда я спросил водителей о том, по-прежнему ли они используют функцию автопилота, все они ответили утвердительно. Ответ Ларсона был предсказуемым: хотя система несовершенна, он использует ее для более удобного движения в пробках. Но ответы Хирена и Мунди меня удивили.

«Я использую круиз-контроль так часто, как могу. Поскольку система регистрирует и отправляет данные, я надеюсь, что это поможет компании быстрее внести улучшения», — пояснил Хирен. С ним согласился Мунди, однако добавил: «Я включаю автопилот и еду как на иголках, надеясь, что переживу поездку».