«Всегда будут непредвиденные последствия»

Лайк Facebook — это несущая стена в нашей цифровой жизни. С 2009 года он проложил путь к культуре мгновенного признания, без слов, без изображений, без всего, кроме клика. Оно вышло за пределы Facebook, проникло в сердца и уведомления всех приложений социальных сетей. Но все началось с простого поднятия пальца вверх.

В Лондоне, в баре отеля, создатель кнопки «Мне нравится» рассказал мне, что это было задумано как подталкивание; воронка; путь наименьшего сопротивления. «Мы хотим создать мир, в котором люди воодушевляют друг друга и пропагандируют позитив», — говорит Джастин Розенштейн, бывший инженер Google и Facebook. «Так как же нам сделать так, чтобы позитив стал путем наименьшего сопротивления?

«Комментарии означают, что вы можете говорить все, что хотите, но если кнопка «Нравится» является основным призывом к действию, это означает, что вы больше склоняете людей к структурированию своего общения вокруг позитива».

Подобно управлению потоком, спускающимся с горы, Розенштейн и его коллеги-инженеры стремились создать систему, которая направляла бы людей к определенному поведению. Помимо грамматики взаимодействия Facebook, Розенштейн приложил руку к разработке множества приложений, от Google Docs до его последнего проекта — набора инструментов для рабочих процессов Asana. В каждом случае приходилось принимать решения относительно того, какие кнопки и меню будут вести пользователя к каким действиям.

«Люди очень податливы», — говорит он. «Это как архитектура. Архитекторы поймут, что (одна) структура заставит людей двигаться, в то время как определенные архитектуры заставят людей чувствовать себя изолированными. Другие заставят людей объединиться. Когда вы разрабатываете программное обеспечение, вы создаете аналогичную динамику, в результате которой люди могут неосознанно проявлять в своей жизни разные виды поведения».

Но что произойдет, если эти системы вызовут поведение, которое вы не планировали? Я спрашиваю Розенштейна, о чем он сожалеет по поводу кнопки «Нравится» в Facebook. «Когда я гуляю и вижу, что люди смотрят на свои телефоны, это часто происходит потому, что они достали свои телефоны, чтобы посмотреть уведомления Facebook», — говорит он. «Я считаю, что это идет не в правильном направлении для общества.

«Каждый раз, когда вы создаете что-то, всегда будут непредвиденные последствия. Я не думаю, что это причина не создавать вещи; быть парализованным. Но я думаю, что вам нужно быть очень осторожным и чувствительным к этим последствиям, продолжать наблюдать и вносить соответствующие изменения, чтобы продолжать вести дела в правильном направлении».

(Вверху: Джастин Розенштейн)

Распространяются ли эти последствия на политическую сферу? В 2009 году кампания «Мне нравится» во многом предшествовала дебатам 2016 года об эхо-камерах и целенаправленной дезинформации. К нему присоединилась более широкая палитра реагирующих смайлов, но соответствует ли «путь наименьшего сопротивления» позитиву в то время, когда Facebook, возможно, является скорее издателем, чем социальной сетью?

«Хорошо знать, что нравится людям, но было бы ошибкой всегда показывать им то, что им нравится»

«Поскольку Facebook становится все более политической платформой, нужно ли ему больше инструментов, чтобы соответствовать этому? Да, определенно. Вопрос в том, как избежать пузырей на фильтре. С кнопкой «Нравится» произошло следующее: хорошо знать, что нравится людям, но было бы ошибкой всегда показывать им то, что им нравится.

«Иногда нам следует предоставлять контент, который, по нашему мнению, вам еще не нравится, потому что мы хотим предоставить вам новую информацию», — добавляет Розенштейн. «Рейтинг новостной ленты — очень важная проблема, которая требует много размышлений».

Розенштейн продолжает, что компании-разработчики программного обеспечения несут «огромную ответственность» за то, чтобы задуматься о том, какое поведение они порождают в мире. Он представляет это как нечто, что осознает его нынешнее предприятие Asana. Набор инструментов повышения производительности Asana, возможно, далек от общедоступной социальной сети, но и здесь есть архитектуры, которые влияют на поведение. По словам Розенштейна, Asana была построена с фундаментальным уклоном в сторону подотчетности.

«Это склоняет вас к мышлению в терминах, которые ведут вашу организацию к подотчетности, прозрачности и ясности. Если заставить людей немного изменить грамматику их взаимодействия друг с другом, это приведет к появлению действительно мощных эффектов».

Трудно сказать, насколько успешен этот предполагаемый «путь наименьшего сопротивления» к подотчетности, но это интересная концепция, если учесть, что программное обеспечение может – по крайней мере частично – влиять на работу правительств. Мне сказали, что американский город Провиденс, штат Род-Айленд, «работает на Асане». Если бы он распространился на правительства и службы безопасности, могла бы архитектура скромного инструмента управления работой повлиять на поведение крупных институтов и даже стран?

(Вверху: мэрия Провиденса, Род-Айленд)

Это звучит надуманно, но такой уровень влияния очень важен для создателя Facebook Like: «Все большие проблемы человечества можно решить при достаточном сотрудничестве», — говорит Розенштейн. «У нас достаточно еды, чтобы накормить всех, просто мы ее плохо распределяем. У нас есть возможность разрабатывать технологии устойчивой энергетики, но на этом пути возникает множество проблем. Я не говорю, что Asana может в одиночку заставить мир сотрудничать, но я надеюсь, что через десять лет мир станет гораздо более совместным, и Asana станет ключевым элементом технологической инфраструктуры».

Он идет дальше. Розенштейн рассказал мне, что представляет себе «всеведущий ИИ», встроенный в что-то вроде Asana, который разумно управляет рабочей нагрузкой людей; давая им чем заняться, обеспечивая наиболее эффективное использование ресурсов. Дальше остается только прыжок, прыжок и прыжок в глобальную утопию.

«Мне бы хотелось увидеть это на планетарном уровне»

«Мне бы хотелось увидеть это на планетарном уровне, где мы видим, как вид, что у нас есть одна миссия — создать мир, который будет работать для всех», — говорит он. «Где вы можете увеличить масштаб и увидеть все различные проблемы, которые необходимо решить, чтобы создать этот мир. Все разные организации работают над решением этой проблемы».

Если «Нравится» в Facebook был создан как способ склонить людей к позитиву, то планы Розенштейна на будущее включают в себя обширные, всепроникающие системы искусственного интеллекта, которые склоняют население мира к сотрудничеству. Наша склонность к войне мешает этому, признает он, но выживание нашего вида в конечном итоге зависит от «психологического перехода от меня к мы».

Действительно, великие мысли. Независимо от того, управляет ли нашей будущей жизнью доброжелательный, всеведущий ИИ, в конечном итоге именно системы – созданные человеком системы – управляют нашим мышлением. Возобладает ли утопическое мировоззрение Розенштейна? Приведут ли эти структуры нас в сверкающий мир позитива и ответственности? Или эти неприятные «непредвиденные последствия» всегда будут мешать?

Розенштейн говорит, что, если бы он все еще работал в Facebook, он бы изучил кнопки, которые не только сигнализировали бы о том, что пользователям нравится, но и о том, что они считают лучшим способом провести время. Ему бы хотелось, чтобы все больше ориентировалось на ценность.

«Любовь может быть слишком простой эмоцией».