Город, управляемый бигдатой

Город, управляемый бигдатой

К 2030 году Москва должна стать "городом, управляемым данными", то есть принятие решений будет происходить "на основе автоматической обработки и анализа накопленных больших данных". Это требует "обеспечения надёжного и эффективного взаимодействия множества городских датчиков". Будет активно проводиться "автоматизация и роботизация городских процессов". Предстоит "полностью заменить весь физический оборот документов цифровым".

Зачем это делается? В том числе — для "аутсорсинга ответственности". Ведь раньше люди подавали заявления и жалобы в письменном виде, и они рассматривались людьми. Теперь же заявления будут цифровыми, причём не просто цифровыми, а пригодными для обработки системами искусственного интеллекта. Ваше заявление или вашу жалобу рассмотрит нейросеть, она же примет решение, примерно как это происходит с соцмониторингом или с опознаванием лиц при помощи тех же систем искусственного интеллекта. А теперь самое, пожалуй, главное. В ФЗ-123 об эксперименте по развитию искусственного интеллекта в городе Москве никак не прописан механизм защиты людей от каких-либо ошибок или ущерба, могущего возникнуть в результате слишком активного применения новых технологий. Есть несколько ссылок на существующие законы РФ; пишется, что результатом применения экспериментального правового режима не может быть умаление прав граждан, но при этом никаких конкретных механизмов контроля не прописывается. Куда обращаться в случае нарушения ваших прав?

Что делать, если дрон залетел к вам в окно и разбил мебель? Что, если автомобиль-беспилотник, который находится под охраной ФЗ-123 в рамках эксперимента и специального режима, разбил вашу машину или сбил человека? Что, если вашего ребенка отказались принять в школу, в детский сад, или вам выписали штраф за правонарушение, которого вы не совершали? Что, если машина отказалась удовлетворить вашу жалобу на её же решение?

Фактически все полномочия в применении ФЗ-123 передаются мэрии, а мэрия отдаст это на откуп искусственному интеллекту, машине, — как это уже сейчас происходит в случае "соцмониторинга". Мы видим, как не торопятся власти реагировать на жалобы москвичей, затронутых "соцмониторингом", и это происходит ещё до введения ФЗ-123, который даст мэрии все права в интерпретации этого и других законов. Что будет в приоритете мэрии: защита прав людей или интересы бизнеса и власти? Вопрос риторический…

Есть ещё один важный момент. В федеральном законе 123 много раз используется выражение "обезличенные данные", "персональные данные, получаемые в результате обезличивания". При этом нигде не прописывается, как именно происходит обезличивание и кто будет контролировать эти процессы.

Под обезличиванием обычно понимают действия, в результате которых становится невозможным без использования дополнительной информации определить их принадлежность конкретному субъекту персональных данных. Иными словами, данные остаются в системе, при этом невозможно более определить, кому они принадлежат. Однако эта задача и раньше считалась очень сложной, а прогресс технологий в последние годы привёл к тому, что можно сказать: "обезличивание" вряд ли приведёт к искомому результату.

В 2012 году очень известные кембриджские ученые Михал Косински и Дэвид Ситвелл опубликовали академическую работу, в которой заключили, что "личность пользователя можно идентифицировать через публично доступные данные". На основе этих данных Ситвелл, замдиректора Центра психометрии Кембриджа, создал базу данных myPersonality. Похожие технологии, позволяющие определить личность человека на основе открытых данных, впоследствии получили широкое распространение. Так, в 2016 году другие британские учёные смогли установить личность известного анонимного художника Бэнкси, который всеми силами стремился остаться инкогнито.

Вопрос о том, как будет происходить так называемое "обезличивание" данных, декларируемое в законе, и будет ли оно в реальности происходить, остаётся открытым. В самом тексте закона никаких пояснений нет.

⇐ Предыдущая 1 234 Следующая ⇒