Опасные игры

Опасные игры

Федеральный закон 123 нигде и никем не обсуждался. Я думаю, если спросить у депутатов Думы, которые за него голосовали, они вряд ли открывали его. Интересно, что закон предусматривает создание некоего регулирующего органа с очень широкими полномочиями, который называется "координационный совет экспериментального правового режима". Его состав утверждается мэрией Москвы при согласовании с правительством РФ. Ни слова при этом не говорится о представителях общественности и вообще о каком-то обеспечении гласности работы этого органа, который будет решать судьбы миллионов людей.

Впрочем, какое-то представление о принципах работы этого органа может дать любопытный документ, попавший недавно в руки автору этих строк. Это пока не закон, а проект, разрабатываемый юристами под руководством Сбербанка. Надо сказать, Сбербанк стоит у истоков разработки "Концепции о развитии искусственного интеллекта в России до 2030 года", подписанной президентом в октябре 2019 года, и других важных документов.

Согласно этой разрабатываемой "Концепции развития регулирования в сфере технологий искусственного интеллекта и робототехники до 2024 года", "развитие технологий ИИ и РТ должно основываться на базовых этических нормах и предусматривать:

— приоритет благополучия человека (цель обеспечения благополучия человека должна преобладать над иными целями разработки и применения систем ИИ и РТ);

— запрет на причинение вреда человеку по инициативе систем ИИ и РТ (по общему правилу, следует ограничивать разработку, оборот и применение систем ИИ и РТ, способных по своей инициативе целенаправленно причинять вред человеку);

— подконтрольность человеку (в той мере, в которой это возможно с учётом требуемой степени автономности систем ИИ и РТ и иных обстоятельств);

— проектируемое соответствие закону, в том числе — требованиям безопасности (применение систем ИИ не должно заведомо для разработчика приводить к нарушению правовых норм)".

В этих пунктах самое важное содержится в скобках. Это оговорки, которые фактически освобождают разработчиков систем с искусственным интеллектом от ответственности — ибо проводится в жизнь принцип, что человек в случае ущерба должен доказывать злой умысел алгоритма.

Алгоритм — это машина, стоящая по ту сторону добра и зла. И если эти принципы получат законодательное воплощение, человек в спорах с алгоритмами всегда будет неправ. А, как мы помним, в Москве по факту действует презумпция виновности.

Так что с 1 июля 2020 года жизнь — сначала москвичей, а потом и всех остальных граждан России — уже никогда не будет прежней.

***

От редакции.

С 21 мая текст программы "Умный город 2030" без объяснения причин удалён с официального сайта мэра Москвы mos.ru. Что стоит за этим: отказ от данной программы, нежелание дальнейшего роста "критической массы" отзывов, или отправка документа "на доработку" — покажет время.

⇐ Предыдущая 1 2 34