Китай выпустил новые правила против «дипфейков»

Время чтения: 3 мин
Заблокированное приложение Momo Zao для замены лиц (Источник изображения: Bigstock/tanaonte)

(Автор новости: Лаванда Ау)

Китайские власти в пятницу выпустили новый нормативный акт, нацеленный на так называемые «дипфейк»-изображения и видео. Правила призывают медиа-платформы выявлять и удалять файлы, распространяющие фейковые новости.

Почему это важно: платформы онлайн-видео и аудио находятся под большим давлением из-за публикуемого контента. Подробные стандартны, регламентирующие «дипфейки», то есть изображения или видео, в которых изображение одного человека незаметно заменяется на другого, скорее всего, не заставят себя долго ждать.

Подробности: три правительственных органа — Администрация киберпространства Китая, Министерство культуры и туризма и Национальная администрация радио и телевидения — выпустили документ, призывающий платформы более чётко маркировать аудио или видео с использованием «дипфейков», глубокого обучения, виртуальной реальности или других новых технологий.

  • Документ, вступающий в силу 1 января, запрещает использование технологий «дипфейк» и виртуальной реальности при создании, публикации или распространении фейковых новостей и призывает платформы удалять такие средства массовой информации.
  • Пользователи должны зарегистрироваться на платформах с помощью информации, идентифицирующей личность, такой как государственные идентификаторы или номера мобильных телефонов, в соответствии с законом «О кибербезопасности».
  • Платформы должны создать простые в использовании каналы подачи жалоб.
  • Аудио-видео-сервисы должны издать отраслевые стандарты и руководящие принципы, а также создать кредитную систему.
  • В Китае уже 759 миллионов пользователей онлайн-видеоплатформ, согласно мнению неназванного представителя Администрации киберпространства Китая, приведенному в сопроводительном документе. Новые технологии, такие как «дипфейки», могут «поставить под угрозу национальную безопасность, нарушить социальную стабильность, нарушить общественный порядок и ущемить законные права и интересы других лиц», говорится в документе.
  • Государственные ведомства должны организовывать регулярные инспекции для обеспечения регулирования платформами онлайн-аудио и видео в соответствии с соглашениями об услугах.

«В настоящее время Китай не сталкивается с какими-либо серьезными проблемами с «дипфейками», но порог для этой технологии становится всё ниже, и фейки становятся всё более изощренными. Нет никакой гарантии, что этой технологией не будут злоупотреблять. Злоупотребления могут привести к серьезным социальным проблемам и рискам безопасности»
—Цзин Дун, младший научный сотрудник института автоматизации Китайской академии наук

Контекст: хотя фейковые новости широко распространены в Китае, «дипфейки» пока ещё относительно редки.

  • Сотрудник компании видеостриминга сообщил TechNode, что мошенники прекрасно справляются и без «дипфейков». Платформы уже давно сражаются с поддельными профилями знаменитостей, нацеленными на мошенничество в отношении фанов, заявил он. Мошенники даже создали поддельные версии платных стриминговых сайтов для обмана фанов, будто они пополняют баланс для отправки виртуальных подарков, деньги с которых идут прямо в карманы воров.
  • «Использование технологий для обнаружения «дипфейков» всегда будет гонкой вооружений», — сообщил исследователь искусственного интеллекта из Европы TechNode в электронном письме. — «Систематическая маркировка искусственного контента может помочь создать хорошую учебную базу данных для распознавания такого контента в реальных условиях.
  • Сомневаясь в том, насколько полезной может быть регистрация под реальными именами, исследователь добавил, что «каналы для жалоб весьма полезны для обнаружения случаев «дипфейков», так как люди понимают контекст, но также каналы дороги в применении и могут не справиться с объёмом жалоб.