Как в Китае люди обращаются с беспилотными автомобилями?

Время чтения: 6 мин
(Автор статьи — Саша Коди, бизнес-консультант и специалист по китаеведению из Мельбурна, Австралия)

Как должны быть запрограммированы беспилотные автомобили для взаимодействия с пешеходами? А с другими автомобилями и велосипедами?

Беспилотные технологии — интеллектуальные вычисления, искусственный интеллект, лидарные датчики и т. д. — находятся под пристальным вниманием правительства и общественности, вопросы внедрения беспилотных технологий — это недостаточно обсуждаемая тема, от которой зависят темпы развития отрасли.

Когда китайские промышленники выпускают беспилотники на переполненные улицы, они сталкиваются с неожиданностями: роботы, запрограммированные избегать людей, подвергаются агрессивному обращению. Это означает, что программирование автономных автомобилей на основе существующих моделей поведения может оказаться недостаточным.

Когда мы сталкиваемся с новыми технологиями, наше поведение меняется. Мы замедляемся перед «лежачим полицейским», улыбаемся перед камерой видеонаблюдения и переходим дорогу, когда загорается зеленый сигнал светофора. Ученые называют это «одомашниванием» или локализацией технологии. Как люди потребляют, модифицируют, изменяют и сопротивляются технологиям? Одомашнивание технологии — это в большей степени опыт её использования.

В 2019 году, будучи аспирантом Гонконгского университета науки и техники, я исследовал эту тему с точки зрения этнографии. В течение шести месяцев я встречался и брал интервью у десятков людей в Пекине, Гуанчжоу, Гонконге, Шанхае и Шэньчжэне.

Мои собеседники работали в компаниях-производителях беспилотников и традиционных автомобилей в качестве специалистов по обработке данных, инженеров, маркетологов и консультантов по стратегии, а также по всей цепочке поставок, производстве датчиков и других компонентов. Я также общался с отраслевыми аналитиками, журналистами и юристами.

Я не ожидал, что вопросы локализации технологии будут так высоко оценены моими собеседниками, но так оно и было. Особенно проницательны были люди, занимающиеся собственно изготовлением автономных автомобилей, а также те, кто отвечал за их выпуск на китайские дороги. На самом деле, в то время как другие страны были сосредоточены на разработке беспилотников, которые вписываются в существующие модели поведения, китайские исследователи подходят к этой теме по-другому.

И Цзэн, известный  ученый и директор Исследовательского центра этики и безопасности искусственного интеллекта в Пекине, призывает китайские AI-компании лучше разбираться в том, как люди будут использовать и взаимодействовать с продуктами и платформами, которые они создают.

Адаптация

Вы можете подумать, что это автономные автомобили должны адаптироваться к людям. Команда социологов, работающих над поведением беспилотников в Nissan, думала именно так. Они упорно работали над созданием беспилотников с «социально приемлемым поведением», то есть учитывающим существующие социальные и культурные практики перевозок и взаимодействием человека и автомобиля.

Возможно, из-за существующих правил дорожного движения и привычек поведения в Кремниевой долине, где находилась команда, Nissan сосредоточилась на обучении беспилотников моделированию поведения типичного водителя, управляющего автомобилем в присутствии других людей.

Возьмите пешеходный переход без светофоров (например, «зебру»): даже при чётких правилах взаимодействия водители обычно на мгновение устанавливают зрительный контакт, возможно, также используя незаметные мимические жесты, чтобы сигнализировать пешеходу, что он может безопасно перейти дорогу. Пешеход может по разным причинам решить пропустить водителя. Такова сложность этого, казалось бы, простого взаимодействия человека и автомобиля.

Команда предложила, чтобы беспилотники Nissan были оснащены устройством, которое функционирует аналогично этим культурным сигналам, предупреждая пешеходов загорающейся и мигающей надписью «я вас вижу, переходите спокойно». В этом случае решение гарантирует, что беспилотники запрограммированы на поведение, основанное на текущих социальных и культурных нормах.

Противостояние хулиганам

Мои собеседники в Китае думают иначе. Увидев, как люди относятся к беспилотникам во время тестирования, они убедились, что адаптации недостаточно. Янь Ли (имя изменено), инженер по глубокому обучению в крупном китайском автомобильном конгломерате, разрабатывающем собственную линию беспилотников, выразилась ёмко, когда мы встретились в Гуанчжоу: «Люди нападают на беспилотники».

Так, используя в качестве примера переход-«зебру», Янь Ли объяснила, что во время испытаний пешеходы постоянно переходили дорогу, почти не обращая внимания на беспилотник. Они были настолько уверены, что машина остановится, что полностью отключились.

Это обеспокоило Янь Ли, потому что за пределами испытательных площадок в реальном мире, где больше трафика и больше пешеходов, беспилотник просто застрянет. Мигающая надпись, предупреждающая пешехода, что можно переходить, бесполезна. Янь Ли объясняет:

— Китайцы просто не пропустят беспилотник. Они будут продолжать переходить дорогу и даже пойдут прямо по дороге, потому что знают, что машина не причинит вреда человеку. Нам нужно выйти из тупика. Но как это сделать? Это и есть наша проблема.

Янь Ли сначала отнеслась к этой проблеме как к чему-то само собой разумеющемуся — просто ещё одной странности алгоритма, которую нужно было исправить. Однако со временем она пришла к пониманию глубинных социальных и культурных реалий, лежащих в основе этого вопроса. Часть проблемы, объясняет она, заключается в значительной разнице в поведении китайцев и европейцев.

— А что вы сделаете, если курица переходит дорогу? — серьезно спрашивает Янь Ли. — Это не такая уж редкость, как кажется. Курицы ходят не так, как кошки или собаки. Нам нужно думать обо всех этих вещах.

Это справедливое замечание: сколько куриц переходит дороги в Кремниевой долине?

Сэмми Ван (имя также изменено), старший исполнительный директор крупного китайского оператора электронной коммерции, столкнулся с аналогичным опытом и проблемами. Сэмми — член команды, разрабатывающей решения беспилотной доставки, где беспилотник доезжает до входа в жилой комплекс, а затем отправляет небольшие автономные блоки для завершения доставки до дверей клиентам (эти небольшие блоки даже способны спускаться и подниматься на лифте). Сэмми рассказывает:

— Во время испытаний у нас было много проблем. Самая большая из них заключалась в том, что люди не пропускали мимо себя робота и часто игнорировали его. Они просто стояли и разговаривали или занимались другими делами. Даже если они замечали робота, они не давали ему пройти. Это большая головная боль для нас.

Инженеры только начали осознавать эту трудность, когда я говорил с ними.

И Янь Ли, и Сэмми пытались найти способ преодоления проблемы: как беспилотник сможет работать в такой среде, не причиняя вреда другим? Некоторые люди, с которыми я встречался, считают, что эти проблемы не имеют отношения к делу, даже в Китае. Они считают, что беспилотники в любом случае будут разворачиваться в строго контролируемой среде в рамках программы развития «умных городов» Китая.

Но если беспилотники в конечном итоге действуют в одном и том же пространстве с пешеходами и традиционными транспортными средствами, что вполне вероятно, может потребоваться такой беспилотник, который постоит за себя, а не уступит. Но насколько напористым он должен быть, и как на самом деле будет выглядеть такой напористый беспилотник?

Будет ли он ехать вперёд и подталкивать людей мягким, но безвредным бампером? Будет ли он объявлять «пожалуйста, разойдитесь» и продолжать ехать вперед? Сейчас мы просто этого не знаем. Все зависит от того, как люди будут себя вести? Янь Ли красиво резюмирует этот вызов:

— Как можно запрограммировать беспилотник быть напористым, но при этом не подвергать опасности других?

Пусть мы не уверены в ответе на проблему локализации в Китае технологии беспилотников, но по крайней мере, сейчас мы задаём правильные вопросы.