Google, возможно, только что построил Интернет тирании

На последней блестящей презентации Google на конференции разработчиков «I/O» компания продемонстрировала новые приложения и функции для многих своих продуктов, но больше всего поразила технология, лежащая в ее основе. Опираясь на то, что было показано ранее, компания продемонстрировала, насколько продвинутыми были ее методы машинного обучения, в частности их способность понимать и обрабатывать естественный язык. И, как умело демонстрирует Google Photos, технология уже сейчас становится все лучше в распознавании объектов на фотографиях.

Спустя несколько мгновений после демонстрации такого уровня интеллекта компания представила новый продукт под названием Google Home. Это динамик, который находится у вас дома и реагирует на голосовые команды. Другими словами, он будет слушать все, что вы говорите, используя свои расширенные возможности языковой обработки, чтобы понять, что вы запрашиваете. Google — не единственная компания, работающая над этим: над похожей технологией работают Amazon, Facebook и другие.

«Осознает ли компания это или нет, она создает инструменты для идеального наблюдения».

Было бы легко отмахнуться от этого как от еще одной потрясающей технологии, еще одного шага к будущему на основе Интернета вещей. В конце концов, Google любит позиционировать себя как дружелюбную и веселую компанию. Он оформлен в ярких цветах, в его твидовой рекламе изображены очаровательные семьи и саундтреки к гавайской гитаре. Но как только вы поймете, на что способны его технологии, он приобретет более зловещий вид. Осознает это компания или нет, но она создает инструменты для идеального наблюдения. Благодаря Google и остальной части современной технологической индустрии Интернет вещей может легко стать Интернетом тирании.

Вам не нужно слишком много думать, чтобы представить, как эту же самую технологию можно использовать для слежки, особенно если принять во внимание технологии, которые, как мы знаем, правительства уже используют после разоблачений Эдварда Сноудена.

Если бы в каждом доме был микрофон, подслушивающий все, что мы делаем, и какие-то интеллектуальные алгоритмы, подбирающие ключевые слова и фразы, работали бы, стремящемуся к тоталитарному правительству было бы легко использовать такие технологии для предотвращения законной политической оппозиции, а не только преступности. . Если бы достаточно злонамеренное правительство захотело использовать такое наблюдение, тайная полиция Восточной Германии выглядела бы дилетантом.

Это звучит параноидально? Возможно, но если оглянуться назад на историю и посмотреть на текущие тенденции в политике, то можно увидеть вполне реальные причины немного нервничать.

Конец истории

В 1989 году Фрэнсис Фукуяма написал провокационное эссе под названием «Конец истории?», в котором утверждал, что после окончания «холодной войны» и поражения коммунизма стало ясно, что демократия и капитализм — лучший способ управления человеческими делами.

Но спустя почти три десятилетия эта диссертация столкнулась с серьезными проблемами. Все — от подъема исламизма до недемократического подъема Китая и того, что президент России Владимир Путин стал немного более агрессивным, — все предполагает, что демократия не была концом истории, а лишь частью ее продолжения.

Возможно, можно считать нашу современную демократию чем-то вроде исторической случайности. Это результат слияния правильных политических, экономических и технологических тенденций. Чтобы наша демократия существовала, нам нужны то, что политологи называют «инклюзивными» политическими и экономическими институтами – такими, которые распределяют власть между всеми членами общества, чтобы каждый имел право голоса и каждый имел шанс добиться успеха.

«Технологии делают то, о чем постоянно твердят люди из Кремниевой долины: подрыв».

Эта инклюзивность обусловлена ​​технологиями. Почему? Потому что технологии делают то, о чем постоянно твердят представители Кремниевой долины: подрывы. Если бы технологические изменения не потрясли структуру общества, наверху всегда была бы укоренившаяся элита, обладающая всей властью. Если бы печатный станок никогда не был изобретен, уровень грамотности оставался бы намного ниже, что облегчило бы контроль над нами. Без промышленной революции никогда не было бы организованных групп простых трудящихся, требующих права голоса для неземлевладельцев и женщин. Без средств массовой информации люди не смогли бы делать осознанный выбор на выборах. Все это важные составляющие демократии.

Но это не означает, что эти технологические инновации имели только хорошие результаты. Печатный станок позволил передать идеи, которые стали причиной Тридцатилетней войны – одной из самых разрушительных войн в истории, унесшей жизни 8 миллионов человек. Промышленная революция принесла с собой эксплуатацию рабочих на фабриках. А СМИ? Что ж, это привело нас к Кардашьянам.

В настоящее время мы переживаем величайший период технологических изменений в истории человечества. Кажется, каждый день мы видим прогресс в области подключения, хранения и вычислительной мощности. Было бы глупо думать, что по мере изменения наших технологий наша политика останется прежней.

Чувствуем ли мы себя удачливыми?

Так может ли демократия и свобода исчезнуть? Как ни странно, нам даже не нужно представлять себе такое мрачное ближайшее будущее – уже есть признаки того, что оно начинает происходить. Недавно в России, например, разгорелся большой спор по поводу приложения FindFace, которое позволяет сфотографировать кого угодно, а затем с помощью технологии распознавания лиц найти человека во «ВКонтакте», российском аналоге Facebook.

По данным «Гардиан» стоящая за ним компания уже ведет переговоры с правительством Москвы о подключении технологии распознавания лиц к 150 000 городских камер видеонаблюдения. Даже если вы достаточно наивны, чтобы доверить британскому (или любому западному) правительству такие полномочия – действительно ли вы поверите, что Владимир Путин будет проявлять такую ​​сдержанность в отношении своих политических оппонентов?

Неизбежно, что рано или поздно менее приятный режим будет использовать эти технологии для постоянного отслеживания всех своих граждан.

Прошлое не такая уж чужая страна

И это возвращает меня к британской демократии. Оптимистический ответ на эту панику заключается в том, что в отличие от России, Китая или Британии прошлого, наши современные политические институты сильны. Великобритания и британцы внутри нее имеют сильное чувство верховенства закона и понимают необходимость защиты свобод и свобод, которые медленно завоеваны на протяжении всей истории. Неужели нет риска, что мы скатимся к диктатуре?

К сожалению, трудно быть оптимистом. Рост возможностей наблюдения и наша готовность в дальнейшем обменивать нашу конфиденциальность на удобства цифрового мира — это постепенный процесс.

«Рост возможностей наблюдения и наша готовность обменять нашу конфиденциальность на удобства цифрового мира — это постепенный процесс».

Мы уже видим, как это происходит: законопроект о полномочиях по расследованию в настоящее время проходит через парламент. Цель состоит в том, чтобы предоставить правительству юридическую легитимность для наблюдения за масштабами, раскрытыми Эдвардом Сноуденом – хотя, скорее всего, с использованием символических сдержек и противовесов. Хотя есть некоторые преданные группы, выступающие против этого (например, коалиция «Не шпионите за нами»), политическая оппозиция, похоже, ограничена. К сожалению, Лейбористская партия – предполагаемая оппозиция – воздержалась при первом чтении.

Следующий шаг – и мы уже слышали, о чем шумит правительство – это принятие закона, позволяющего блокировать веб-сайты и сервисы. После беспорядков 2011 года раздавались призывы дать министру внутренних дел право блокировать приложения для обмена сообщениями во время кризиса. Конечно, вы можете доверять нынешнему министру Терезе Мэй… но откуда вы можете знать, что будете доверять ее преемнице или преемникам ее преемника через 10 или 20 лет?

Даже, казалось бы, безобидные идеи могут иметь печальные последствия. Возьмем, к примеру, понятные предложения обязать полицию носить нательные камеры. Это определенно кажется хорошим способом обеспечить подотчетность и предотвратить насилие (особенно в отношении непропорционально преследуемых меньшинств) в свободном и демократическом обществе. Но если бы у нас было более авторитарное правительство, те же самые технологии, которые мы используем сегодня, приобрели бы совсем другое значение.

Что опасно в этих нынешних политических маневрах, так это не то, что они говорят сейчас сами по себе, а тот факт, что это означает, что технология будет на месте, так что будущее правительство будет иметь техническую, если не явно юридическую, возможность использовать ее в своих целях. будущее. Это похоже на авантюру, которую страна делает с ядерным оружием: они могут быть в порядке, если у власти стоит кто-то заслуживающий доверия, но в руках кого-то более расстроенного они могут быть чрезвычайно опасными.

Поляризационные алгоритмы

Есть еще один аргумент, который следует учитывать: то, что существует технология идеального наблюдения, не означает, что правительство действительно будет ее использовать.

И вот тогда мы возвращаемся к политике. Прорывы, вызванные технологическими достижениями 21-го века – Интернетом и глобализацией в целом – уже меняют политику.

Во втором десятилетии XXI века становится все более очевидным, что политические темпераменты меняются во всем мире. На короткое время на рубеже тысячелетий казалось, что идеология больше не важна – и работа политиков, будь то лейбористы, тори или кто-то еще, заключалась в управлении. Не делая ничего радикального, а настраивая рычаги власти, чтобы все шло своим чередом.

Но это уже не так – консенсус мертв. Во всем мире радикальные движения набирают силу или существенно формируют политические события. Крайне правые чувствуют себя тревожно хорошо во Франции и Австрии. Крайне левые сейчас обладают огромной властью в Греции и Испании. В Британии Джереми Корбин и Найджел Фарадж сейчас являются крупными фигурами, несмотря на то, что они сидят далеко от политического центра.

«Когда мы утром заходим в Facebook, мы видим политическую диету, алгоритмически запрограммированную так, чтобы говорить нам то, что мы хотим услышать».

Частично это тоже является результатом технологических изменений. Когда мы утром заходим в Facebook, мы видим политическую диету, алгоритмически запрограммированную так, чтобы говорить нам то, что мы хотим услышать. Вместо того чтобы бросать вызов нашим мировоззрениям, мы подкрепляем их нашими друзьями-единомышленниками. Мы стали более поляризованными и более радикальными. (Другие движения, такие как исламизм, Гамергейт и авторитарное крыло движения за социальную справедливость, являются дальнейшим выражением этой тенденции.)

Подобная поляризация взглядов означает, что при столь демонизированных «врагах» политика направлена ​​не на плюрализм (идею о том, что мы должны создавать институты, способствующие политике множественных точек зрения), а на полную победу над оппонентами. Это тот тип мышления, который означает, что самое важное — уничтожить своих политических оппонентов любой ценой. Представьте себе, если бы радикальная группа с такими жесткими взглядами пришла к власти и обнаружила, что контролирует технологический аппарат, способный шпионить за своими противниками – они, вероятно, были бы менее сдержанны в его использовании. Если это видение вас не пугает, представьте, что ответственная группа — это та, которой вы противостоите.

Я хотел бы сказать, что есть надежда – что, несомненно, возникнет сильное, избираемое движение, которое пообещает защитить наши цифровые права и наши гражданские свободы. Но, учитывая трусость Лейбористской партии в этом вопросе и неуместность либерал-демократов, трудно понять, откуда это могло взяться. Может быть, мы начнем беспокоиться только тогда, когда будет слишком поздно?

Давайте соберем все это вместе. Мы живем в момент, когда новые технологии, которые могут обеспечить авторитарное будущее, разрабатываются и с энтузиазмом принимаются потребителями, одновременно предоставляя государству все больше законных полномочий для развития способности следить за нами и ограничивать то, что мы можем делать. Учитывая это, каков прогноз для демократии? Если бы из этой нестабильности возникло новое радикальное движение или демагог – что вполне возможно, учитывая нынешний политический климат – какие инструменты были бы у граждан, чтобы бросить вызов авторитарным лидерам?

Возможно, суть здесь можно резюмировать вопросом, который американцы могут счесть весьма уместным: доверяете ли вы государству, которое будет следить за вами и получать доступ ко всем вашим данным в реальном времени? Что, если бы ответственным лицом был кто-то вроде Дональда Трампа?

Возможно, мы еще не находимся в конце истории, но вскоре это может стать концом демократии.

Читать дальше: Действительно ли кинопиратство играет жизненно важную роль для зарубежных отношений США? Возможно, Голливуду не стоит так волноваться.