ИНСАЙТЫ | Пекинские принципы AI

Время чтения: 7 мин
(Источник изображения: BigStock/kentoh)

(автор исходной статьи — Джон Артман)

28 мая Пекинская Академия Искусственного Интеллекта (Beijing Academy of Artificial Intelligence, BAAI) выпустила «Пекинские принципы AI» — руководящий план по исследованиям, разработкам, внедрению и управлению AI. Получившие поддержку Пекинского университета, Университета Цинхуа, Института автоматизации Китайской Академии Наук и Института вычислительных технологий, а также таких компаний, как Baidu, Alibaba и Tencent, принципы представляют собой новейшее дополнение к длинному списку заявлений о том, что такое и каким должен быть AI. Хотя на первый взгляд это сухая и неинтересная попытка подхода к этическим вопросам AI, фактически документ двигает вперёд глобальную дискуссию об облике AI.

В сухом остатке: Что бы кто ни говорил о нынешней напряженности между США и Китаем, факт остается фактом: созданный Западом мировой порядок постепенно разрушается, и Китай неуклонно заполняет образующиеся пустоты. Хотя принципы ни были написаны, ни одобрены Госсоветом КНР (главным исполнительным органом страны), BAAI пользуется поддержкой Министерства науки и техники, которое, весьма вероятно, одобрило принципы для публикации.

Поскольку это не документ центрального правительства, он не выражает позицию руководства страны в полной мере, но это шаг к формулировке официальной позиции по этике AI. Это первое заявление о принципах AI в госсекторе Китая, сделав которое, Пекин присоединился к разговору, в котором всё ещё доминируют западные голоса.

Однако, как и других принципов, публиковавшиеся ранее в других странах мира, этих принципов недостаточно для решения реальных задач развития и использования AI в реальных ситуациях. Вместо причесанных и красивых слов, с которыми все согласятся, мировое AI-сообщество должно выйти за рамки пустых разговоров и показать конкретные примеры того, как AI может воплотить наши самые высокие ценности.

Краткая хронология

  • 3 октября 2017: DeepMind, разработчики AlphaGo и AlphaZero, выпускает «Этические и социальные принципы» (“Ethics & Society Principles”)
  • 9 апреля 2018: OpenAI, некоммерческая организация, основанная Илоном Маском и Сэмом Альтманом, публикует свой устав на английском и китайском языках
  • 16 апреля 2018: Палата лордов Великобритании выпускает «AI в Великобритании: готовы, хотим и можем?» (статья на английском языке)
  • 18 мая 2018: Стэнфорд запускает инициативу «Искусственный интеллект, ориентированный на человека» (Human-Centered Artificial Intelligence).
  • 26 мая 2018: Робин Ли, основатель и CEO Baidu обсуждает принципы Baidu AI (статья на китайском языке) на правительственной конференции по данным в Гуйчжоу.
  • 7 июня 2018: Google публикует «Принципы искусственного интеллекта» (AI principles)
  • сентябрь 2018: IBM выпускает руководство «Повседневная этика для искусственного интеллекта» (“Everyday Ethics for Artificial Intelligence”), заявленное как «практическое руководство для дизайнеров и разработчиков»
  • 12 октября 2018: Baidu присоединяется к партнерству по AI, основанному в 2016 году Google, Facebook, Amazon, IBM и Microsoft
  • 3 декабря 2018: Джейсон Сы, председатель Исследовательского института Tencent, обсуждает философию AI Tencent на конференции по интернет-праву и публичной политике Пекинского и Стэнфордского университетов
  • март 2019: Стэнфорд повышает статус HAI до общеуниверситетской инициативы.
  • 22 мая 2019: ОЭСР выпускает «Принципы по искусственному интеллекту» “Principles on AI”)
  • 28 мая 2019: BAAI выпускает «Пекинские принципы AI» (Beijing AI Principles)

Полный список заявлений и документов с изложением позиций по принципам AI можно найти в проекте Linking Artificial Intelligence Principles, проекте, начатом одним из ключевых авторов «Пекинских принципов AI» Цзэн И.

Китайские голоса: как и в случае с исследованиями AI, налицо существенная асимметрия в заявлениях по этике AI: многие китайские исследователи и практики знают по-английски и знакомы с заявлениями на английском языке, но за пределами Китая немногим известно о Tencent и Baidu. Ни одна из компаний не опубликовала принципы на английском языке, большинство заявлений их представителей были сделаны на китайском языке для внутреннего потребления. Публикация «Пекинских принципов AI» на английском языке приглашает остальной мир к открытой дискуссии с исследователями, учеными и предпринимателями Китая о том, как следует разрабатывать и внедрять AI.

На этот раз всё иначе: хотя конкретные шаги для реализации по-прежнему отсутствуют, «Пекинские принципы AI» более осмысленны, чем недавний документ ОЭСР. Включающие пять принципов (отдельными абзацами) и пять предложений для правительству (отдельными абзацами), принципы ОЭСР по AI скучны и совпадают по содержанию с почти всеми остальными правительственными документами по этой теме. С другой стороны «Пекинские принципы AI» очерчивают конкретные области (исследования, использования и управления) и даже признают риски общего искусственного интеллекта и суперинтеллекта.

Наиболее полное общественное обсуждение принципов AI в Китае на самом деле исходит от Tencent — компании, которую в Китае критиковали за отсутствие всеобъемлющей стратегии AI. В 2018 году на конференции по интернет-праву и публичной политике Пекинского и Стэнфордского университетов Джейсон Сы выступил с речью, в которой довольно конкретно изложил, как Tencent подходит к развитию AI. При этом, даже он не вдается в подробности в достаточной степени, чтобы любой разумно и скептически мыслящий человек мог поверить в их принципы, не видя их.

Тёмная сторона: «Пекинские принципы AI», вероятно, были написаны добросовестно, но их трудно воспринимать всерьез, учитывая то, что нам известно о текущем применении AI в Китае. Внутренняя политика не обращает особого внимания ни на западные представления об ограничении полномочий государства, ни об отказе от дискриминации прав по расовому признаку.

Как широко освещается в западных СМИ, китайское правительство уделяет особое внимание людям определенных национальностей, проживающим в определенных регионах. Боясь потерять контроль, правительство создало массовые системы наблюдения, чтобы обеспечить стабильность в этих регионах.

В августе 2018 года исследователи, финансируемые Национальным фондом естественных наук Китая и инновационным проектом China Education & Research Network, опубликовали статью на английском языке с подробным описанием моделей AI, способных идентифицировать этническую принадлежность. Китайские компании по распознаванию лиц столкнулись с трудностями из-за отсутствия данных, но это выходит далеко за рамки простого желания установить чью-то личность. И действительно, здесь AI применяется не для того, чтобы узнать, кем является некто, а скорее о том, к какой группе они принадлежат, для целей профилирования. Но не только в этом, а также и в политике Китая по умным городам Китая, можно увидеть силу AI по мониторингу отдельных граждан.

Правительственные программы Skynet и Sharp Eyes ясно показывают, что политика уделяет приоритет наблюдению, отслеживанию и мониторингу людей на территории Китая. Каждый раз, когда вы слышите «умный город» в Китае, вы можете быть уверены, что видеонаблюдение и распознавание лиц является ключевым компонентом.

Почти все технические гиганты участвуют в этом.

Alibaba уже давно разрабатывает собственные решения smart city в Ханчжоу, и в мае 2019 года распространила эту систему на Шанхай, в том числе 1100 биометрических камер для распознавания лиц. Huawei уже много лет разрабатывает оборудование smart city, в том числе смарт-камеры, используемые для распознавания изображений и лиц. Baidu помогает построить Xiong’an — высокотехнологичную «вторую столицу» Китая. PingAn — страховая компания, ставшая высокотехнологичной, работает с правительством Гонконга, чтобы помочь создать для города систему e-ID.

Конец цикла «розовых очков»

С нас достаточно [принципов AI]. Нужно начать вникать в детали. Нужно начать серьезный разговор, о необходимых вещах.

— Крис Бёрд, научный сотрудник Института будущего человечества Оксфордского университета

Плохая новость в том, что «Пекинские принципы AI» — это еще один список «за всё хорошее» по поводу проблем в развитии AI. Хорошая новость в том, что на настоящий момент почти каждый опубликовал свои принципы: территория размечена, и пришло время для реальных исследований. Чего не хватает всем принципам AI на сегодняшний день, так это конкретных технических деталей о том, как создавать системы искусственного интеллекта, которые будут фактически придерживаться заявляемых нами ценностей. Это не только возможно (вопреки распространенному мнению, неинженеры могут разобраться, как работает технология, если у них есть время, чтобы задать вопросы), но и становится все более необходимым, поскольку AI быстро интегрируется вглубь нашего общества.

«Пекинские принципы AI» написаны командой с хорошим послужным списком, и есть все основания полагать, что они действительно имеют в виду то, что говорят. Этика AI — еще одна область, в которой Китай мог бы задать глобальную повестку дня, если бы захотел. В настоящее время в дискуссиях налицо реальный пробел, который Китай может попытаться преодолеть не только потому, что он хочет могущества, но и потому, что руководство страны признает наличие реальных проблем, требующих решения. Что бы вы ни говорили о внутренней политике Китае, AI как уголь — если китайцы не участвуют, значит, у вас нет действующих норм. Мир должен стремиться пригласить Китай внести свой вклад в эту дискуссию.