Московский эксперимент. Знакомьтесь: концлагерь

Московский эксперимент

Суть закона об искусственном интеллекте

Игорь Шнуренко

Если кто-то считал, что в современном мире слишком много свободы, то 2020 год доказал, что этой эпохе пришел конец. Приличная часть планеты сегодня находится в руках маньяков контроля, которые дорвались до почти безграничной власти. Эти люди не были замечены в бескорыстном служении обществу, но раньше они заполняли свою внутреннюю пустоту материальными вещами: шубами, часами, недвижимостью, наличными. Теперь они поняли, что получили власть отдавать любые распоряжения, самые безумные, и в господствующей атмосфере страха люди, которые ещё вчера могли рассуждать здраво, им подчинятся.

В каждой стране абсурд (если это абсурд) принимает разные формы. Например, мэр Нью-Йорка Билл Де Блазио запретил людям купаться — пригрозил, что нарушителей будут силой вытаскивать из воды. Через неделю объявил о смягчении запрета — теперь людям позволяется заходить в воду по щиколотку. Но ни миллиметром больше! Лос-Анджелесский мэр запретил людям гулять по сухому песку, а по мокрому, так и быть, разрешил. На острове Лонг-Айленд рядом с Нью-Йорком власти опубликовали подробное предписание, как теперь следует играть в теннис. Только поодиночке и не касаясь чужих мячей! Нарушителей подстерегают камеры наблюдения и искусственный интеллект.

Знакомьтесь: концлагерь

В нашей избушке — свои погремушки. Многие москвичи столкнулись с приложением "социальный мониторинг" — произведением Департамента информационных технологий столичной мэрии. При выписке из больниц пациентов с диагнозом коронавирус заставляют подписать "добровольное согласие" на установку этого приложения. Этим людям не до формальностей, они верят врачам и подпишут любую бумагу, данную им, не читая. Многие из них слишком слабы после болезни — ведь от вируса, в первую очередь, страдают старики, люди с осложнениями, больные хроническими заболеваниями. Многих выписывают на дом долечиваться от последствий, например, с обширным поражением лёгких. Людям дают на подпись две страницы убористого текста с жёсткими обязательствами и, по сути, с отказом от элементарных конституционных прав, — отказом, который получен у ослабевших людей путём принуждения. Некоторые из них всё-таки читают и даже пытаются отказаться подписать "добровольное согласие", но им говорят, что в таком случае их отправят на принудительное лечение. Никто не гарантирует, что в палате, куда их поместят, не будет тяжелобольных — причём не только коронавирусом, а, например, туберкулёзом.

У людей, по сути, нет выбора, и они устанавливают приложения, основанные на презумпции виновности. Вы виноваты по определению, уже по факту вашей болезни, и теперь вам предстоит доказывать свою невиновность — постоянно, днём и ночью. Если вы допустите хотя бы один прокол или будете слишком медлительны — любые сомнения будут истолкованы не в вашу пользу. Соцмониторинг будет отслеживать все ваши передвижения, в том числе — по квартире, и передавать данные в государственное облако, а оттуда — в ФСБ. Государственное облако нужно постоянно кормить информацией, днём и ночью, кормить прежде всего геоданными и фотографиями. За любое, самое мелкое нарушение полагается штраф в 4 тысячи рублей: за то, что медлите с установкой приложения, за то, что не прислали селфи в четыре утра, проснувшись по сигналу, как подопытная мышь у академика Павлова. Если данные куда-то утекли, власти "в домике" — виноват сам больной. Когда-то, в незапамятную конституционную эпоху, на такие эксперименты нужно было решение суда — теперь для вынесения решения достаточно искусственного интеллекта (ИИ) с разумом дождевого червя.

В России пока ещё можно ходить по мокрому песку, но контроль не ограничивается одним московским приложением. По всей России работает система распознавания лиц. Некоторые думают, что она ничем не грозит тем, кто соблюдает законы. Эти люди забывают, что по факту действует презумпция виновности каждого. Недавно в Южно-Сахалинске женщину, которая приехала из другого города и должна была две недели отсидеть дома, оштрафовали на 15 тысяч рублей за то, что она якобы нарушила условия карантина. Нейронная сеть установила с вероятностью 61%, что она вышла в город. Когда женщине пришёл штраф, она пошла в полицию доказывать, что была в кругу семьи. Полицейский пригляделся к фото "нарушительницы", выданном системой распознавания лиц, и подтвердил, что не очень похоже. Но алгоритм показал, что это она, а если нейросеть выдаёт более 50% вероятности, то факт считается установленным. Женщина обратилась в суд, но тот принял сторону алгоритма. Штраф остался в силе.

В России нет прецедентного права, но, в отсутствие чёткого регулирования и при склонности местных властей к произволу и перекладыванию ответственности в споре человека с алгоритмом, человек всегда останется в проигрыше. Ибо человек по определению виновен, а алгоритм по определению прав. Бесправие человека в споре с алгоритмом — очень важная составная часть "цифрового концлагеря", который создается сейчас в глобальном масштабе.

12 3 4 Следующая ⇒