Что такое умный город 2030

«Умный город – 2030» Собянина: Через 10 лет Москву захватят американские киборги

«Умный город – 2030». Это именно то, чем должна стать Москва через 10 лет. Концепция составлена, бюджеты подсчитываются, мир всеобщего счастья в России без человека уже не за горами. Почему в концепции нет ничего русского и куда вообще нас ведёт предприимчивый столичный градоначальник?

Совершенно очевидно, что человечество стремительно оцифровывается и процесс этот уже не остановить. Новый рывок сегодня – это цифровые технологии, дополненная реальность, интернет вещей, гаджеты и вживляемые в тело человека чипы. В своих материалах вместе со специалистами я много раз касался этой темы, и вывод неизбежно был только один: человечество стоит у опасной черты, за которой пропасть.

Что это за зверь такой

При взгляде на концепцию сразу возникает вопрос: неужели нам сейчас недостаточно «цифры» в Москве? Работают Госуслуги, можно записаться на приём к врачу через интернет, умный «Яндекс» всегда подскажет дорогу в объезд пробок, мы делаем платежи и переводы через интернет. Впереди у нас единый цифровой регистр граждан, а ещё недавно на нас «обкатали» технологию QR-кодов на передвижение. Куда уж дальше?

Но этого мало. Основной задачей «Умного города – 2030» объявлено создание комфортной городской среды для жителей мегаполиса. Звучит очень красиво. Предполагается тотальная оцифровка и роботизация всех сфер городской жизни, а также самих горожан. Тут вам и отказ от личного автомобиля в угоду беспилотного электрического транспорта совместного пользования, и цифровой бизнес. Городом должен начать управлять искусственный интеллект (ИИ). Ещё это «нейроинтерфейсы», предполагающие вживление в людей устройств управления. Не верите? Кратко пройдёмся по двум самым интересным моментам. Концепция постулирует следующее.

— Объединение человеческих возможностей и технологий. Создатели «Умного города» обещают нам упрощение всех процессов жизни в мегаполисе «за счёт использования нейроинтерфейсов и цифровых ассистентов». В качестве примера приведён «цифровой учитель» на основе ИИ вместо реального школьного учителя. Это ведь удобно – такому учителю никто не будет хамить, он будет работать с полной самоотдачей и почти бесплатно. Ему не нужен перерыв на обед. Но сможет ли он хоть как-то воспитать детей? Сомнительно.

— Технологии как часть тела человека. Власти Москвы заявляют, что ИИ должен заниматься диагностикой болезней и назначать лечение. Для достижения этой цели, как сказано в концепции, власти могут заниматься вживлением в граждан медицинских устройств и трансплантировать искусственные органы. Вот цитата из документа:

Принятие за основу принципов трансгуманизма – концепции использования достижений науки и технологии для улучшения умственных и физических возможностей человека с целью устранения аспектов человеческого существования, которые считаются нежелательными: страданий, болезней, старения.

Мне кажется, что тут уже многие должны «выпасть в осадок». Можно понять цифровизацию, когда все сервисы мэра Москвы будут работать без багов. Можно понять цифровизацию, когда общественный транспорт будет ходить по расписанию. Но как понять цифровизацию, при которой господин Собянин намерен «отредактировать» москвичей при помощи имплантов, избавив нас с вами от нежелательных человеческих признаков? Это ведь не взято с потолка, так написано в концепции.

Конечно же, результатом таких преобразований и слияния человека с ИИ, компьютерами и гаджетами станет рывок в экономике города. Произойдёт полная автоматизация всех процессов, бизнес будет процветать, а VR-технологии заменят посетителям музеев и парков реальные экспонаты. Город станет экологичным, пробки исчезнут, за врачей диагнозы будет ставить ИИ, принимать властные решения – ИИ. Дивный новый мир Больших данных.

Идеология и технология Запада

Кто те люди, опираясь на мнение которых власти Москвы будут строить «Умный город»? Как сказано в концепции, это известные футурологи, которые по совместительству представляют крупнейшие западные корпорации. Это Рэй Курцвейл (Google), Ян Пирсон (British Telecom), Брайан Дэвид Джонсон (Intel), Дэйв Эванс (CISCO), Дэйв Коплин (Microsoft). Все они в своё время писали и говорили об «умных» домах, городах и цифровизации человека. И все они, вне всяких сомнений, лоббируют внедрение своих технических решений.

Власти Москвы уже показали, как они пользуются такими технологиями. Вы ведь помните, как «лежали» Госуслуги и сайт мэра в первый день пропускного режима? Или как проявил себя пресловутый «Социальный мониторинг»? Напомню, что для скорейшего запуска были привлечены зарубежные подрядчики – эстонский сервер распознавания лиц и немецкий хостинг. У нас есть и свои решения такого уровня, однако «прикручивать» приложение к ним было слишком долго. Создатели даже не удосужились организовать передачу по безопасному протоколу https, то есть данные мог перехватить вообще кто угодно. Само приложение зависало, отказывалось нормально работать, изобиловало багами, высылало огромное количество необоснованных штрафов и превратилось в издевательство над людьми.

Глава Департамента информационных технологий Москвы Эдуард Лысенко. Фото: Александр Авилов / АГН «Москва»

«Социальный мониторинг» пользуется данными американской GPS на смартфонах под управлением Android от Google. Причём использование западных технологий у нас уже фактически узаконено. 29 апреля глава Департамента информационных технологий Москвы Эдуард Лысенко подписал распоряжение о порядке использования «Социального мониторинга».

Там прямо прописана обязанность москвичей на карантине пользоваться Google Play или AppStore (пункт 2.1.1 в приложении) для скачивания программы. До сих пор мне не приходилось видеть официальных документов, принуждающих граждан к чему-то подобному.

Главная операционная система у нас – Windows, смартфоны – на Android. Нет, оборонка пользуется своим Linux, который изолирован от влияния извне. Но с «Умным городом» и «Социальным мониторингом» это не так. Внедрить в Москве «умный город» за 10 лет можно только в том случае, если взять готовые западные решения. И их возьмут.

А судьи кто?

Из концепции «Умного города» мы теперь знаем, что власти Москвы, разинув рот, смотрят на Запад и копируют то, что есть там. Мэрия Москвы ещё в 2017 году хвасталась, что столица вошла в топ-7 самых «умных» городов планеты. Рейтинг таких мегаполисов составляет Форум интеллектуального сообщества (Intelligent Community Forum). В Москву тогда приехал соучредитель этой организации Роберт Белл, который строго оценивал развитие информационных технологий в столице. Господин Белл, что неудивительно, посетил Высшую школу экономики (ВШЭ) и провёл там круглый стол.

Внедрять «Умный город» будет ДИТ Москвы, который делал и «Социальный мониторинг». Его глава Эдуард Лысенко – интересная личность. Карьера чиновника начиналась в Ярославле с работы в небольших IT-компаниях, пока в 2012 году он не был назначен на должность IT-директора Ярославской области. В 2015 году Лысенко даже стал замгубернатора.

Интересно, что до этого, ещё в 2007 году, Лысенко работал в российском представительстве американской IT-компании Avaya. Он занимал там должность директора по продажам, то есть продвигал в России американские IT-решения и технологии. Работа руководителем в компании из США и на США – это связи и «заточенность» под использование знакомых западных технологий.

Именно поэтому мы вовсе не видим в концепции «Умного города» ни одного слова о цифровой безопасности данных. Там нет ничего ни про российские серверы, ни вообще про поставщиков технологий (хотя мы догадываемся). Такого человека Собянин взял и назначил в 2016 году сначала замглавы ДИТ, а затем и руководителем департамента. За годы после отъезда из Ярославля, согласно декларации Лысенко, его доход увеличился с 2,7 млн рублей до 5 млн рублей. Не густо, но и не пусто.

Отдельно отметим, что концепция «умного города» – это составная часть процесса урбанизации и глобализации. Того самого, который так сильно поддерживают наши либералы. Возможно, именно поэтому господин Лысенко почти все свои последние интервью даёт «Эху Москвы», где он говорил и о плюсах откровенно издевательского «Социального мониторинга», и о многом другом.

Возможно, необходимо переубедить прозападную либеральную аудиторию, которая внезапно оказалась возмущена нарушением прав человека со стороны мэрии Москвы. Либералы должны понять, как хорошо, когда их город – «умный» и работает на американских технологиях, чтобы сделать их «людьми мира».

Делаем выводы

Пара слов о том, почему концепция «Умного города» вообще набирает обороты. Коронавирус дал властям Москвы и других городов России возможность опробовать в деле цифровые технологии слежения. В самой Москве уже установлено порядка 160 тыс. видеокамер с системой распознавания лиц. Они притаились во дворах, у подъездов жилых домов, у различных учреждений и предприятий.

Тестирование решений «умного транспорта» – «Умный обгон», «Умный перекрёсток», «Безопасный пешеход» – в рамках Smart City в пилотной зоне 5G на территории ВДНХ. Фото: Александр Авилов / АГН «Москва»

Но особенно власти Москвы гордятся мировым признанием. Оценщиками тут выступают опять же западные законодатели мод – компания PricewaterhouseCoopers включила Москву в топ-5 мегаполисов, наиболее подготовленных к инновациям, а ещё у Москвы есть премия Всемирной организации электронных правительств городов мира WeGO. В 2018 году в рейтинге ООН по индексу оказания электронных услуг Москва заняла первое место.

На мой взгляд, эксперимент должен показать не только это, но и необходимость остановить цифровизацию по-американски. Страшно даже представить себе, что может произойти, если система управления «умной» Москвой будет взломана ЦРУ, АНБ или же изначально будет находиться под их контролем. Комфортная среда, но для кого? При декларируемой зависимости Москвы от технологий и имплантов это вопрос риторический, но в то же время вопрос суверенитета и национальной безопасности.

Вместо того, чтобы загружать «Социальный мониторинг» на Google Play, власти Москвы запросто могли бы дать ссылку на скачивание с сервера сайта мэра. Всё равно мы все туда ходили оформлять цифровые пропуска. Но нет, нам были почему-то необходимы Google и Apple.

Учитывая как мировые, так и российские утечки данных (последний крупный пример – Сбербанк), а также примеры взлома «умных домов» в США, весь идеальный комфортный город может в одночасье превратиться в место техногенной катастрофы. Все такси не найдут дорогу, откажет медицина, системы ЖКХ, образования, полиции. Сейчас ещё есть время, чтобы что-то изменить.

Источник

Москвичи предложили более двух тысяч идей для стратегии «Умный город — 2030»

На краудсорсинговой площадке Правительства Москвы завершилось обсуждение стратегии «Умный город — 2030». В нем приняли участие более 3,5 тысячи жителей столицы. До конца августа руководитель Департамента информационных технологий Москвы Артем Ермолаев встретится с самыми активными участниками, чтобы подвести итоги проекта. Лучшие инициативы, которые поддержали жители, войдут в стратегию.

«Впервые документ такого уровня обсуждается с бизнес-сообществом и гражданами. Главный принцип умного города — его ориентированность на человека. Жители должны участвовать в управлении и развитии города на всех уровнях. В Москве это реализуется в таких проектах, как “Активный гражданин” и краудсорсинг-площадка crowd.mos.ru», — сказал заместитель руководителя Департамента информационных технологий Москвы Алексей Чукарин.

Москвичи предложили 2069 идей, оставили 6263 комментария, выставили больше 12 тысяч оценок и посмотрели шесть вебинаров о технологиях будущего. Предложенные идеи активно обсуждали. Участники проекта поговорили о понятии «умный город», ключевых технологиях, которые должны кардинально изменить жизнь в Москве, и конкретных стратегических инициативах в социальной сфере, культуре, «Открытом правительстве», образовании, городской среде, ЖКХ, транспорте и здравоохранении.

В государственной среде и ЖКХ москвичи предложили создать единую цифровую карту всех коммуникаций и установить датчики интернета вещей, собирающие и анализирующие данные об износе инфраструктуры. В сфере транспорта выдвигали идеи об умной подсветке пешеходных переходов и интеллектуальных светофорах, которые будут оценивать интенсивность движения и самостоятельно выставлять нужное время зеленого и красного сигнала для разгрузки перекрестков. В здравоохранении предложили идею экзоскелетов для реабилитации, а также создания мобильных онлайн-приложений по мониторингу состояния здоровья.

Перед началом обсуждения на краудсорсинговой площадке авторы стратегии «Умный город — 2030» получили обратную связь более чем от 20 тысяч экспертов и представителей бизнеса, а также всех органов исполнительной власти Москвы. Было собрано порядка 500 предложений, участники обсуждения скачали материалы стратегии более четырех тысяч раз. Проработка документа с экспертами и представителями отрасли информационных технологий и телекоммуникаций проходила на площадке отраслевого агрегатора ICT.Moscow.

«Умный город — 2030» — высокоуровневый стратегический документ, в котором определяются цели, задачи и направления дальнейшего развития Москвы как инновационного умного города. Информационно-коммуникационные технологии нужны, чтобы повысить уровень жизни москвичей, сделать процессы управления и предоставления услуг эффективнее. Документ разрабатывает Департамент информационных технологий Москвы с участием горожан, экспертов и представителей бизнес-сообщества.

Итоги проекта «Умный город — 2030» можно посмотреть здесь.

Источник

Начался последний этап разработки стратегического документа «Умный город — 2030»

Департамент информационных технологий Москвы объявил о начале последнего этапа разработки стратегии «Умный город — 2030» — документа, в котором изложены цели, задачи и направления развития Москвы как города будущего, в инфраструктуре которого активно используются цифровые технологии.

Главная цель завершающего этапа — решить, как оценивать успехи реализации стратегии. В качестве критериев предлагается использовать индексы качества жизни и качества городской среды. Первый — комбинированный показатель, он измеряет достижения населенных пунктов с точки зрения их возможности обеспечить населению благополучную жизнь. Второй оценивает способности городов удовлетворять объективные потребности и запросы жителей.

Эти показатели позволят оценивать развитие столицы по всем шести направлениям стратегии «Умный город — 2030», в числе которых «Человеческий и социальный капитал», «Городская среда», «Цифровая мобильность», «Городская экономика», «Безопасность и экология» и «Цифровое правительство». Для каждого предусмотрены и дополнительные показатели в зависимости от специфики отрасли. Пользователи могут оценить эти показатели, решив, целесообразно ли их использовать, а также прокомментировать свое решение.

В обсуждении стратегии «Умный город — 2030» уже приняли участие более 20 тысяч экспертов и представителей бизнеса. В мае документ обсудили на международном форуме экспертов в области урбанистики и городской информатизации Connected Cities 2020, заседание которого впервые проходило в Москве. А вскоре проект будут обсуждать c москвичами на краудсорсинговой платформе «Система городских решений #ВМЕСТЕ».

Источник

«Москва умный город 2030» как это хочет Собянин

В этой статье попробую разобраться, к чему же стремятся московские власти, что это за проект «Москва 2030 умный город». И так захожу на официальный сайт Москвы и в разделе проекты нахожу материал план развития Москвы до 2030 года.

» Обеспечение устойчивого роста качества жизни москвичей и благоприятных условий ведения предпринимательской и иной деятельности за счет использования цифровых технологий»

Власти считают, что для полного» счастья», не хватает только цифровых технологий.

» Централизованное, сквозное и прозрачное управление городом на основе Больших данных и с использованием Искусственного интеллекта «

Хотят в перспективе заменить человека на программный алгоритм.

» Повышение эффективности государственных расходов, в том числе за счет внедрения государственно-частного партнерства в сфере информационных и цифровых технологий и связи «

Из этого пункта я делаю вывод, что государство хочет взвалить расходы на оснащение цифровыми технологиями на частный бизнес, при этом хотят повысить эффективность, то есть снизить государственные расходы, но бизнес то знает, как играть в такие игры с государством.

«Концепция на человеке, обеспечение условий, для комфортной, счастливой жизни, всех категорий граждан», такие тезисы выдвигают. Идем далее «участие жителей в управлении городом», планируют создать электронное правительство, чтобы каждый житель мог участвовать в принятии решений, касающихся повседневной жизни. Искусственный интеллект, по мнению авторов проекта, одна из движущих сил трансформации экономики и социальной сферы, как вообще не понятно надо было до такого додуматься, чтобы так нафантазировать, и поверить что чат боты, голосовые помощники, которые имеются в распоряжении it-инженеров сегодня могут как то влиять на жизнеобеспечение многомиллионного города.Я бы понял, если была разработанная технология и ее осталось бы внедрить в общегородскую инфраструктуру, а когда нет ничего что могло бы помочь добиться поставленных целей, а есть только желание, мне кажется эти проекты не осуществимы.

Источник

Московский эксперимент

Если кто-то считал, что в современном мире слишком много свободы, то 2020 год доказал, что этой эпохе пришел конец. Приличная часть планеты сегодня находится в руках маньяков контроля, которые дорвались до почти безграничной власти. Эти люди не были замечены в бескорыстном служении обществу, но раньше они заполняли свою внутреннюю пустоту материальными вещами: шубами, часами, недвижимостью, наличными. Теперь они поняли, что получили власть отдавать любые распоряжения, самые безумные, и в господствующей атмосфере страха люди, которые ещё вчера могли рассуждать здраво, им подчинятся.

В каждой стране абсурд (если это абсурд) принимает разные формы. Например, мэр Нью-Йорка Билл Де Блазио запретил людям купаться — пригрозил, что нарушителей будут силой вытаскивать из воды. Через неделю объявил о смягчении запрета — теперь людям позволяется заходить в воду по щиколотку. Но ни миллиметром больше! Лос-Анджелесский мэр запретил людям гулять по сухому песку, а по мокрому, так и быть, разрешил. На острове Лонг-Айленд рядом с Нью-Йорком власти опубликовали подробное предписание, как теперь следует играть в теннис. Только поодиночке и не касаясь чужих мячей! Нарушителей подстерегают камеры наблюдения и искусственный интеллект.

Знакомьтесь: концлагерь

В нашей избушке — свои погремушки. Многие москвичи столкнулись с приложением «социальный мониторинг» — произведением Департамента информационных технологий столичной мэрии. При выписке из больниц пациентов с диагнозом коронавирус заставляют подписать «добровольное согласие» на установку этого приложения. Этим людям не до формальностей, они верят врачам и подпишут любую бумагу, данную им, не читая. Многие из них слишком слабы после болезни — ведь от вируса, в первую очередь, страдают старики, люди с осложнениями, больные хроническими заболеваниями. Многих выписывают на дом долечиваться от последствий, например, с обширным поражением лёгких. Людям дают на подпись две страницы убористого текста с жёсткими обязательствами и, по сути, с отказом от элементарных конституционных прав, — отказом, который получен у ослабевших людей путём принуждения. Некоторые из них всё-таки читают и даже пытаются отказаться подписать «добровольное согласие», но им говорят, что в таком случае их отправят на принудительное лечение. Никто не гарантирует, что в палате, куда их поместят, не будет тяжелобольных — причём не только коронавирусом, а, например, туберкулёзом.

В России пока ещё можно ходить по мокрому песку, но контроль не ограничивается одним московским приложением. По всей России работает система распознавания лиц. Некоторые думают, что она ничем не грозит тем, кто соблюдает законы. Эти люди забывают, что по факту действует презумпция виновности каждого. Недавно в Южно-Сахалинске женщину, которая приехала из другого города и должна была две недели отсидеть дома, оштрафовали на 15 тысяч рублей за то, что она якобы нарушила условия карантина. Нейронная сеть установила с вероятностью 61%, что она вышла в город. Когда женщине пришёл штраф, она пошла в полицию доказывать, что была в кругу семьи. Полицейский пригляделся к фото «нарушительницы», выданном системой распознавания лиц, и подтвердил, что не очень похоже. Но алгоритм показал, что это она, а если нейросеть выдаёт более 50% вероятности, то факт считается установленным. Женщина обратилась в суд, но тот принял сторону алгоритма. Штраф остался в силе.

В России нет прецедентного права, но, в отсутствие чёткого регулирования и при склонности местных властей к произволу и перекладыванию ответственности в споре человека с алгоритмом, человек всегда останется в проигрыше. Ибо человек по определению виновен, а алгоритм по определению прав. Бесправие человека в споре с алгоритмом — очень важная составная часть «цифрового концлагеря», который создается сейчас в глобальном масштабе.

Новые полномочия мэра Москвы

Много говорилось о том, как быстро был принят Федеральный закон о едином реестре персональных данных, но ФЗ-123 о спецрегулировании искусственного интеллекта прошёл ещё более молниеносно. 14 апреля он был одобрен Госдумой, через три дня — Советом Федерации, а ещё через неделю, 24 апреля, его подписал президент. Всё это происходило в блиц-режиме, без какого бы то ни было обсуждения, о принятии этого сырого и противоречивого закона практически не упоминалось в СМИ — словно речь идёт об инструкции по эксплутации утюга.

Этот закон дает мэрии Москвы очень широкие полномочия — гораздо шире тех, которыми Сергей Собянин пользовался и пользуется при карантине. Если мэр дотянет с ограничениями гражданских свобод до 1 июля, ввод в действие ФЗ-123 позволит ему не сбавлять обороты в получении всё новых полномочий, которые выходят далеко за региональный уровень.

Итак, полномочия властям Москвы даются с 1 июля на пять лет, и касаются сбора и распространения информации, разработки и внедрения в жизнь систем искусственного интеллекта. Речь, в частности, идёт о создании комплексной программы «Умный город», которая, по словам Сергея Собянина, «охватывала бы все стороны нашей жизни». На сайте правительства Москвы был вывешен большой документ объёмом более чем в сто страниц со списком направлений развития инфраструктуры искусственного интеллекта и сопряжённых с ним технологий. В ней говорилось, например, о введении обязательных биометрических паспортов и о сборе огромного массива других данных. Заявленная цель, согласно документу — «предоставление услуг с высокой степенью персонализации и детальным пониманием нужд пользователей на основе анализа данных о них, об их предпочтениях и желаниях, а также данных об окружающей пользователей среде, полученных с помощью устройств интернета вещей».

О чем здесь идёт речь? В первую очередь, о поведенческой аналитике и о предсказании поведения граждан по данным, которые будут собираться с них постоянно, — например, такими устройствами, как упомянутый выше «социальный мониторинг». Степень обязательности сбора данных пока остаётся под вопросом, но, судя по тому, что во время карантина мэрия ничуть не останавливалась перед принуждением, штрафами и угрозами, можно предположить, что стиль сбора поведенческих данных будет именно таким: агрессивно-принудительным.

В списке медицинских технологий, над активным внедрением которых собирается работать правительство Москвы, числится, согласно документу, «ранняя диагностика заболеваний с помощью ИИ и назначение лечения», «контроль за состоянием пациента», «трансплантация искусственных органов», а также «вживление в организм медицинских устройств». Тем, кто обвиняет Никиту Михалкова в конспирологии, стоило бы обратить внимание на последнюю фразу. При этом за основу правительство Москвы принимает на вооружение руководящие принципы трансгуманизма, об этом в концепции говорится прямо. Под трансгуманизмом мэрия Москвы полагает «концепции и использование достижений науки и технологии для улучшения умственных и физических возможностей человека с целью устранения аспектов человеческого существования, которые считаются нежелательными — страданий, болезней, старения». Что именно мэрия намерена устранять путём привычных запретов, слежки, окриков и штрафов: старение или стариков? Вопрос остаётся открытым.

Для нормального функционирования системе нужны будут абсолютно все данные, которые можно получить. Здесь очень важны не только информация о поведении человека онлайн, но и данные о нём после того, как он вышел из интернета. Поэтому огромное значение имеет биометрия, геодата, данные, собранные со всяческих медицинских датчиков и «приложений здоровья», а также распознавание лиц, эмоций и мотиваций. В последние годы в мире активно рос рынок автоматического распознавания эмоций, основанный на системе Пола Экмана FACS (Facial Action Coding System). Система распознаёт шесть базовых эмоций (гнев, страх, печаль, радость, отвращение и удивление) и широкий диапазон других эмоциональных оттенков, считывая микродвижения мускулов лица, а также головы, глаз, языка и так далее, а также анализируя походку человека. Модель FACS стала для распознавания машиной эмоций тем же, чем пятифакторная модель OCEAN, которая используется для построения в социальных сетях типа Facebook моделей человеческой личности и цифровых профилей пользователей.

На основе таких моделей, которые позволяют сказать о человеке порой больше, чем он знает о себе сам, уже сейчас компании принимают решения, например, о приёме на работу, об отказе или согласии дать кредит. Когда система сбора и анализа поведенческих данных заработает в масштабах Москвы, метаданные и поведенческие данные, как родителей, так и ребёнка, могут быть учтены, например, при решении о приёме в детский сад или школу. Это касается также принятия решений о штрафах, о назначении пособий, удовлетворении или отклонении жалоб, приёме на работу в госучреждение и так далее. Известный российский предприниматель Давид Ян сделал состояние на системах искусственного интеллекта для распознавании речи, машинного перевода. Сейчас он предлагает компаниям услуги по «трекингу» сотрудников — то есть слежке за ними. Стартап Давида Яна Yva «предсказывает увольнение сотрудника ещё до того, как он принял решение уволиться». Вот как он рассказывал об этом в одном интервью: «К нам пришли наши корпоративные пользователи и сказали: вы понимаете про наших сотрудников и это, и это, а можете ли понять, кто с кем дружит. Мы: вообще не вопрос, мы знаем весь граф коммуникаций… Когда сотрудник начинает выгорать, его коммуникативный профиль меняется».

Это раньше при приёме на работу или увольнении человек оценивал человека. Московский эксперимент по внедрению искусственного интеллекта приведёт к тому, что решения будет принимать машина, базируясь на пятифакторной модели оценки личности или на шестифакторной модели оценки эмоций, на данных, полученных из соцсетей и всевозможных датчиков. И машина будет всегда права.

Пример действующей системы наподобие той, которую стремится построить мэрия, — «предсказательный двигатель» Фейсбука, который построен на платформе искусственного интеллекта и на выходе даёт более 6 миллионов предсказаний ежесекундно. На входы «двигателя» ежедневно поступают триллионы точек данных: о локации, деталях сети вайфай и подключённых к нему устройств, данные с видео, аудио, анализ дружб и контактов и так далее. Эти точки данных обучают тысячи моделей, задействованных для выработки предсказаний в режиме реального времени.

Один из множества сервисов, которые обслуживает «двигатель», — «предсказание лояльности». Анализируется поведение с целью сделать вывод о том, может ли человек в ближайшем или в отдалённом будущем изменить запрошенному бренду. Если да, то он или она находится в группе риска, и рекламодатели начинают осаждать этого человека рекламными посланиями. Есть технологии, основанные на анализе больших данных, которые предвосхищают поведение заказчика. Когда в документе московского правительства говорится о «детальном понимании нужд пользователей на основе анализа данных», имеется в виду именно это.

Чем ещё будет заниматься московское правительство в рамках проекта «Умный город 2030»? Например, беспилотным транспортом — где «водитель контролирует, но не управляет». «Улучшением дорожной ситуации за счёт уменьшения числа автомобилей». «Изменением качества и содержания образования: цифровой учитель на базе искусственного интеллекта, образовательные онлайн-платформы на базе виртуальной, дополненной и смешанной реальности». Планируется также повсеместное применение роботизированной техники и дронов. Ну, и «вишенкой на торте» станет электронное голосование на городских выборах. Насколько открыто и прозрачно будет проходить разработка такой системы? Судя по тому, что это никак не афишируется, о настоящих целях её создания можно только гадать.

Город, управляемый бигдатой

К 2030 году Москва должна стать «городом, управляемым данными», то есть принятие решений будет происходить «на основе автоматической обработки и анализа накопленных больших данных». Это требует «обеспечения надёжного и эффективного взаимодействия множества городских датчиков». Будет активно проводиться «автоматизация и роботизация городских процессов». Предстоит «полностью заменить весь физический оборот документов цифровым».

Зачем это делается? В том числе — для «аутсорсинга ответственности». Ведь раньше люди подавали заявления и жалобы в письменном виде, и они рассматривались людьми. Теперь же заявления будут цифровыми, причём не просто цифровыми, а пригодными для обработки системами искусственного интеллекта. Ваше заявление или вашу жалобу рассмотрит нейросеть, она же примет решение, примерно как это происходит с соцмониторингом или с опознаванием лиц при помощи тех же систем искусственного интеллекта. А теперь самое, пожалуй, главное. В ФЗ-123 об эксперименте по развитию искусственного интеллекта в городе Москве никак не прописан механизм защиты людей от каких-либо ошибок или ущерба, могущего возникнуть в результате слишком активного применения новых технологий. Есть несколько ссылок на существующие законы РФ; пишется, что результатом применения экспериментального правового режима не может быть умаление прав граждан, но при этом никаких конкретных механизмов контроля не прописывается. Куда обращаться в случае нарушения ваших прав?

Что делать, если дрон залетел к вам в окно и разбил мебель? Что, если автомобиль-беспилотник, который находится под охраной ФЗ-123 в рамках эксперимента и специального режима, разбил вашу машину или сбил человека? Что, если вашего ребенка отказались принять в школу, в детский сад, или вам выписали штраф за правонарушение, которого вы не совершали? Что, если машина отказалась удовлетворить вашу жалобу на её же решение?

Фактически все полномочия в применении ФЗ-123 передаются мэрии, а мэрия отдаст это на откуп искусственному интеллекту, машине, — как это уже сейчас происходит в случае «соцмониторинга». Мы видим, как не торопятся власти реагировать на жалобы москвичей, затронутых «соцмониторингом», и это происходит ещё до введения ФЗ-123, который даст мэрии все права в интерпретации этого и других законов. Что будет в приоритете мэрии: защита прав людей или интересы бизнеса и власти? Вопрос риторический…

Есть ещё один важный момент. В федеральном законе 123 много раз используется выражение «обезличенные данные», «персональные данные, получаемые в результате обезличивания». При этом нигде не прописывается, как именно происходит обезличивание и кто будет контролировать эти процессы.

Под обезличиванием обычно понимают действия, в результате которых становится невозможным без использования дополнительной информации определить их принадлежность конкретному субъекту персональных данных. Иными словами, данные остаются в системе, при этом невозможно более определить, кому они принадлежат. Однако эта задача и раньше считалась очень сложной, а прогресс технологий в последние годы привёл к тому, что можно сказать: «обезличивание» вряд ли приведёт к искомому результату.

В 2012 году очень известные кембриджские ученые Михал Косински и Дэвид Ситвелл опубликовали академическую работу, в которой заключили, что «личность пользователя можно идентифицировать через публично доступные данные». На основе этих данных Ситвелл, замдиректора Центра психометрии Кембриджа, создал базу данных myPersonality. Похожие технологии, позволяющие определить личность человека на основе открытых данных, впоследствии получили широкое распространение. Так, в 2016 году другие британские учёные смогли установить личность известного анонимного художника Бэнкси, который всеми силами стремился остаться инкогнито.

Вопрос о том, как будет происходить так называемое «обезличивание» данных, декларируемое в законе, и будет ли оно в реальности происходить, остаётся открытым. В самом тексте закона никаких пояснений нет.

Опасные игры

Федеральный закон 123 нигде и никем не обсуждался. Я думаю, если спросить у депутатов Думы, которые за него голосовали, они вряд ли открывали его. Интересно, что закон предусматривает создание некоего регулирующего органа с очень широкими полномочиями, который называется «координационный совет экспериментального правового режима». Его состав утверждается мэрией Москвы при согласовании с правительством РФ. Ни слова при этом не говорится о представителях общественности и вообще о каком-то обеспечении гласности работы этого органа, который будет решать судьбы миллионов людей.

Впрочем, какое-то представление о принципах работы этого органа может дать любопытный документ, попавший недавно в руки автору этих строк. Это пока не закон, а проект, разрабатываемый юристами под руководством Сбербанка. Надо сказать, Сбербанк стоит у истоков разработки «Концепции о развитии искусственного интеллекта в России до 2030 года», подписанной президентом в октябре 2019 года, и других важных документов.

Согласно этой разрабатываемой «Концепции развития регулирования в сфере технологий искусственного интеллекта и робототехники до 2024 года», «развитие технологий ИИ и РТ должно основываться на базовых этических нормах и предусматривать:

— приоритет благополучия человека (цель обеспечения благополучия человека должна преобладать над иными целями разработки и применения систем ИИ и РТ);

— запрет на причинение вреда человеку по инициативе систем ИИ и РТ (по общему правилу, следует ограничивать разработку, оборот и применение систем ИИ и РТ, способных по своей инициативе целенаправленно причинять вред человеку);

— подконтрольность человеку (в той мере, в которой это возможно с учётом требуемой степени автономности систем ИИ и РТ и иных обстоятельств);

— проектируемое соответствие закону, в том числе — требованиям безопасности (применение систем ИИ не должно заведомо для разработчика приводить к нарушению правовых норм)».

В этих пунктах самое важное содержится в скобках. Это оговорки, которые фактически освобождают разработчиков систем с искусственным интеллектом от ответственности — ибо проводится в жизнь принцип, что человек в случае ущерба должен доказывать злой умысел алгоритма.

Алгоритм — это машина, стоящая по ту сторону добра и зла. И если эти принципы получат законодательное воплощение, человек в спорах с алгоритмами всегда будет неправ. А, как мы помним, в Москве по факту действует презумпция виновности.

Так что с 1 июля 2020 года жизнь — сначала москвичей, а потом и всех остальных граждан России — уже никогда не будет прежней.

От редакции.

С 21 мая текст программы «Умный город 2030» без объяснения причин удалён с официального сайта мэра Москвы mos.ru. Что стоит за этим: отказ от данной программы, нежелание дальнейшего роста «критической массы» отзывов, или отправка документа «на доработку» — покажет время.

Нажмите «Подписаться на канал», чтобы читать «Завтра» в ленте «Яндекса»

Источник