ГОЛОСА КИТАЯ | Дети грустят — AI на территории кампуса

Источник изображения: BigStock/Chinnapong

(автор статьи — Хизер Моубрей)

На этой неделе мы представляем статью из AI Caijing с заставляющей задуматься по поводу принятия AI-системы распознавания лиц в школах и университетских кампусах.

https://mp.weixin.qq.com/s/zY_nk9XnrHfAdlImabF6AQ

Университет в Нанкине недавно начал производить в классах видеосъёмку с распознаванием лиц. Это не только нарушает конфиденциальность, но и противоречит другим этическим нормам. Повышенный акцент на образовании в сочетании с давлением как на учащихся, так и на учителей со стороны настойчивых родителей- такой тюремный стиль контроля в школах всё чаще встречается в китайском образовании, что может привести к разрушительным последствиям. Необходим более систематический анализ такого ненаучного принятия модной технологии.

Ли Чжуан положила небольшое записывающее устройство в школьный ранец своего ребенка, чтобы посмотреть, чем он занимается в школе.

— Он немного небрежен, поэтому не заметит, — говорит она. Её сын недостаточно хорошо учится. Она подумала, что, он, наверное, нечасто выступает на уроках. В конце дня она попыталась прослушать запись. Может быть, ребёнок слишком много двигался, но было слишком много фонового шума, и она ничего не услышала.

Ли Чжуан бы позавидовала начальной школе в Чжэцзяне, где всего за 100 юаней родители могут купить код доступа к записям видеонаблюдения в классе своего ребенка. Видео достаточно чётко и позволяет увидеть, как ребенок двигается, но выражение лица разглядеть не получится.

Технология, опробованная в Китайском фармацевтическом университете в Нанкине, способна на большее: определить и подсчитать студентов, которые играют на телефонах, спят, откидываются или держатся за руки.

Мы уже привыкли к этому?

— В социальных сетях все только об этом и говорят. В начале я тоже этого боялся, — рассказал AI Caijing учащийся по имени Сяо Кэ.

Но через несколько уроков, Сяо Кэ начал думать, что это не так уж плохо. В смарт-классе ему больше не нужно было смотреть на презентацию на далеко расположенной доске. И хотя камеры над головой учителя хорошо видны, сам учитель не имеет доступа к видео. Данные предназначаются только для серверной платформы и последующего анализа. Вначале мониторинг не казался таким уж реальным.

Но это был не просто контроль класса. За лето Сяо Кэ узнал, что школа установила доступ по распознаванию лиц. Теперь он знал, почему в конце прошлого семестра они запросили у всех удостоверения личности. Больше не нужно было носить с собой карту или отмечаться. Просто покажи лицо у главных ворот — и готово.

Слежка

Но некоторые студенты не так рады новой технологии. В анонимном опросе в средней школе в Хэбэе дети говорили, что за ними «следят». Подавляющее большинство было категорически против. В своем заявлении один учащийся написал:

— Я надеюсь, что школы не введут эту технологию повсеместно. Вы всё время чувствуете себя под наблюдением, от этого трудно сосредоточиться. Я каждый день чувствую себя как преступник. Это как постоянные открытые уроки, где нужно изображать усердную учёбу.

Это необратимо

ПО для онлайн-распознавания лиц — это абсолютное увлечение. Это ясно из недавно представленного проспекта китайского производителя ПО для распознавания образов и глубокого обучения Megvii, оценённой в начале этого года в 4 миллиарда долларов США.

В ответ на критику некоторых технологий в интернете, Megvii заявила, что фотографии в проспекте — просто концепт для демонстрации, и подчеркнул, что компания производит ПО только для охраны безопасности детей в школе.

В заявлении ничего не говорилось о защите конфиденциальности и контроле.

Такой ответ от Megvii, вероятно, направлен на то, чтобы избежать риска правительственного порицания, говорит поставщик решений для интеллектуального кампуса AI Caijing Ван Дачэн. Управление образования провинции Цзянси уже запретило частные камеры на территории кампуса.

Ван Дачэн сообщил, что распознавание лиц широко внедрялось в университетских городках двумя годами ранее. С тех пор технология перешла к видеозаписи деятельности, выражений лица студентов и признаков сосредоточения. Другой источник AI Caijing заявил, что распознавание лиц было только началом. Технология также позволяет записывать звук и использоваться для распознавания конкретных слов.

Препятствия

Тем не менее, есть множество препятствий для продвижения распознавания лиц в университетах. Один университет не смог надлежащим образом договориться и ввёл технологию распознавания лиц принудительно. Это спровоцировало скандал и жалобы студентов.

В итоге система стала добровольной. Студентам предлагалось согласиться с пользовательским соглашением, но если они отказывались, они всё равно могли попасть в школу по карте.

Наличие AI-камер, подглядывающих за классом — это установленный факт. Социолог Лин Фань положительно отзывается о потенциальной роли технологии в безопасности кампуса и борьбе с буллингом, но беспокоится, что платформы превращаются в инструмент родительского контроля. Возможность из дома следить за ребёнком в школе открывает ящик Пандоры.

Тревожность

Лин Фань не попусту беспокоится. Слова, наиболее часто используемые для описания сегодняшних родителей — это «беспокойство» беспокойство и тревожность.

— Китайские дети привыкли к контролю родителей за каждым их шагом для того, чтобы дети победили в гонке за успех в гаокао — китайском ЕГЭ. Дети чувствуют себя задушенными и часто прячутся за экраном смартфона при первой возможности.

У Лин Фань, родившейся в 80-х, воспоминания о стрессе в школе всё ещё свежи. Её заставляли поднимать руку на каждом уроке, иначе дома её ругали. Родители проверяли у учителей, говорила ли она правду.

Консультант Шанхайской консалтинговой фирмы Чжоу Цзыхань объяснил AI Caijing, что для семей родителей, повёрнутых на контроле, такая технология станет катастрофой. Никто не хочет жить как в тюрьме. С психологической точки зрения, постоянный мониторинг приводит к серьёзной тревожности и стрессу. Для самозащиты, некоторые дети могут использовать маскировку или перформативные техники, чтобы скрыть свои настоящие чувства.

Где же границы?

Чиновник департамента юстиции Пекина Ли Бо считает, что когда речь заходит о мониторинге, будь то в классе или на улице, китайские граждане имеют неоспоримое право на частную жизнь. Однако в последние годы среди юристов наметилась новая тенденция. Когда частные права вступают в конфликт с общественной безопасностью, последняя обычно побеждает.

В прошлом году одна пекинская начальная школа консультировалась с Ли Бо перед установкой системы распознавания лиц. Если система выйдет из строя и возникнет угроза безопасности, какую ответственность понесут те, кто установил систему?

Что касается распознавания лиц в обучении, границы нарушения конфиденциальности тоже трудно определить. Если студент согласился на мониторинг, то, конечно, его конфиденциальность не нарушается.

Это отражает неудобную реальность. Нет четких юридических рамок, где и как может и не может использоваться ПО для распознавания лиц.

Равнодушие

Несмотря на спор об юридических определениях, люди проявляют удивительную незаинтересованность.

Технология — это палка о двух концах, и следует признать, что с её ролью в мониторинге безопасности связан ряд рисков.

В то время как школы подхватывают тенденцию установки камер, Министерство образования, с другой стороны, становится всё более осторожным.

В конце концов, люди готовы поддержать прогресс в области науки и техники для общего блага. Очевидно, что именно в этом направлении мы все и движемся. Что касается AI в университетских кампусах, китайцы должны задаться двумя вопросами: согласны ли они с этой тенденцией и насколько они готовы её принять?