Русский календарь
Русский календарь
Русский календарь
Новости
25.05.2018

За технологии придется расплачиваться: Техно-социальный инжиниринг людей влияет на нашу человеческую сущность


технологии.png

Технологии полностью завладели нашей жизнью, но по большей части мы допустили это сами.

Вряд ли можно утверждать, что мир стал хуже, чем был раньше. Я годами жила по другую сторону океана от своих родных и многих из друзей, однако у меня нечасто возникало ощущение, что они совсем далеко. Посоветоваться с отцом о кулинарном рецепте, находясь за пять тысяч миль от него, стало проще, чем попросить соли у соседа. По всему миру люди берутся за решение куда более острых проблем, таких, как тоталитарные режимы, и иногда протестующим удаётся их свергать, организуя революции через социальные сети. И я уже знаю как минимум двух человек, которые сказали: «Я не могу жить без Alexa» (Alexa ― электронный помощник от компании Amazon ― примечание переводчика). Однако по мере того, как технологии упрощают жизнь, они потенциально способны лишить нас полноценной связи с окружающим миром. Сколько телефонных номеров вы знаете на память? Что будет, если GPS вдруг полностью перестанет работать? Сколько человек с трудом найдут дорогу домой из кафе, находящегося всего в нескольких кварталах? В наши дни потерять свой смартфон ― всё равно что потерять часть собственного мозга.

В новой книге «Реинжиниринг человечества» Эван Сэлинджер, профессор философии из Рочестерского технологического института, и Бретт Фришман, профессор права из Университета Виллановы, утверждают, что технологии заставляют людей вести себя в точности как машины. Принимая на себя функции, которые когда-то были фундаментальными ― авторы называют их алгоритмами, ― роботы и пользовательские устройства уже начали разобщать нас с нашей собственной человеческой сущностью. Этот текст ― не попытка отвергнуть технологический прогресс в духе луддитов. Скорее, он представляет собой тщательное рассмотрение и предупреждение о том, как именно мы позволяем технологиям входить в нашу жизнь. Мы побеседовали с Сэлинджером о книге, о его взглядах на наши непростые отношения с технологиями и о том, как он предлагает их исправлять. Решением, по его словам, могут стать не просто персональные «центры избавления от цифровой зависимости», а полноценный сдвиг в общественном сознании. Для ясности интервью было отредактировано.

Digital Trends: Книга построена вокруг концепции «техносоциальной дилеммы» человечества. Не могли бы Вы пояснить, что это такое?

Эван Сэлинджер: Конечно. Не так давно большинство публикаций на тему технологий были исполнены энтузиазма в отношении последних новинок. Они вызывали некое ощущение восторженности. Но… внезапно всё стало совсем мрачно. Цукерберг выступает перед Конгрессом с докладом о проблемах в области конфиденциальности данных и политической пропаганды ― и это на фоне таких событий, как бурная реакция против компаний, которые выпускают вызывающие зависимость смартфоны. Неожиданно повсюду стали рассуждать о тёмной стороне технологий.

Ходит много разговоров о том, как мало понимают общавшиеся с Цукербергом политики в работе технологий. Мне совершенно ясно, почему люди реагируют таким образом. Их беспокоит, как нам добиться приемлемого регулирования, если регуляторы даже не понимают, что происходит. Однако проблемы, приводящие к таким вещам, как техносоциальная дилемма человечества, намного сложнее и не сводятся к повышению технологической грамотности политиков и развитию их навыков общения в социальных сетях.

В книге нам с Бреттом Фришманом пришлось осуществить что-то вроде штурма по широкому фронту дисциплин. Надо было связать воедино философию и право, экономику, социологию, историю, вычислительную технику и науку о сознании ― и получить сотни страниц текста, дающие лишь некоторое представление о том, что на самом деле происходит. Каковы истинные глубинные проблемы?

Один из общих терминов, который мы сформулировали, ― «техно-социальная дилемма человечества». Нам кажется, что это понятие позволяет добраться до сути, соединить разрозненные факты и начать анализировать, что с нами делают технологии.

Дело в том, что есть технологические компании с их амбициями… но и у людей есть свои планы. У нас с технологиями сейчас такие отношения любви-ненависти, при которых мы требуем себе последний айфон и обновление, а потом вдруг спрашиваем, куда делась неприкосновенность нашей частной жизни. В итоге мы с удивлением наблюдаем, как ситуация развивается по нарастающей и по достижении определённого числа приверженцев переходит на следующий уровень, и тогда вдруг выясняется, что она уже касается всех.

 Digital Trends: По-видимому, вы говорите о понятии «ползучего процесса», то есть о том, что если постепенно расширять область проникновения технологий, то нечто радикальное может внезапно начать восприниматься как норма. В книге вы выражаете обеспокоенность этим вопросом. Вы можете привести пример ползучего процесса из реальной жизни?

Эван Сэлинджер: Могу привести пример ― это произошло буквально на днях. Я живу в Нью-Йорке. Мне пришло письмо о необходимости продлить моё водительское удостоверение. В письме мне рекомендовалось получить настоящий документ, удостоверяющий личность, а не просто водительские права, потому что через несколько лет такой документ будет необходим для совершения поездок ― так утверждалось в письме. Я рассказал об этом тестю, на что он ответил, что нам, возможно, стоило бы начать устанавливать гражданам микрочипы. Тогда не придётся беспокоиться о переходе на документы нового уровня, и можно будет путешествовать без хлопот.

Вот это и есть логика ползучего техно-социального инжиниринга! Не так давно идея об имплантации чипов воспринималась людьми как антиутопическая. Теперь же мы настолько привыкли находиться под присмотром устройств ― тех же телефонов, ― что это стало новой нормой. Ползучим техно-социальным инжинирингом мы называем процесс, при котором новые подходы и постепенное привыкание приводят к смещению наших ожиданий и нашей зоны комфорта. Иногда даже наши предпочтения подвергаются сдвигу и инжинирингу.

Digital Trends: Вы сразу переходите к вопросу о том, не превращает ли техно-социальный инжиниринг людей в обычные машины. Как, по-вашему, это происходит?

Эван Сэлинджер: Технологии влияют на нашу человеческую сущность, поскольку они воздействуют на наши чувства и мысли. Они влияют на наши решения, включая суждения, внимание и желания. Они влияют на нашу способность быть гражданами, на то, о чём мы информированы и как мы следим за событиями. Они влияют на наши взаимоотношения, а достижения в области искусственного интеллекта подменят даже наши взаимодействия с людьми. Технологии влияют даже на наше фундаментальное понимание того, что означает быть человеком, кто мы есть и кем нам следует стремиться стать.

 Мы утверждаем, что под действием технологий сама наша человеческая сущность подвергается видоизменению и перестройке. По мере того как растёт желание всё сделать «умным», появляется опасение, что… такие системы в итоге станут контролировать наши действия и будут иметь широчайшие возможности, чтобы вскрывать всю нашу подноготную. Нам интересно, приведёт ли формирование такого сверхумного мира к тому, что мы будем двигаться в некоем запрограммированном потоке, и будет ли этот поток оптимизирован таким образом, что для понимания того, что значит быть человеком, нам придётся согласиться рассматривать себя как технологию, которую можно оптимизировать.

Многие озабочены проблемой искусственного интеллекта ― их беспокоит, что однажды будет пройдена «сингулярность», после которой роботы захватят господство и поработят нас. Нас же беспокоит, что мы будем запрограммированы стремиться к условиям, настолько ослабляющим нашу субъектность, что... мы перестанем сами управлять своими эмоциями и способностями к контактам между собой. Сколько именно мы готовы потерять и до какой степени отупеть, чтобы вписаться в эти высокотехнологичные условия жизни?

Digital Trends: Вы утверждаете, что одной из привлекательных сторон высокотехнологичных условий жизни является «дешёвый кайф». Нет ли здесь двойного смысла?

Эван Сэлинджер: А какой в этом, по-вашему, двойной смысл?

Digital Trends: Он в том, что кайф становится дешёвым, то есть легко достижимым, но и дешёвым в том смысле, что настоящего удовлетворения он не приносит.

Эван Сэлинджер: Думаю, вы уловили суть. Рассуждая о дешёвом кайфе, мы хотим понять, что за мир мы строим и какие ценности становятся приоритетными в силу самого устройства этого мира. И мы хотим выяснить, к выбору каких ценностей людей подталкивают. Одна из тенденций, которая имеет место во всех потребительских технологиях и перекрывается с правительственными проектами вроде умных городов, ― это идея создания ещё более безпроблемного мира, в котором необходимость прилагать усилия будет считаться сбоем, а не нормальным явлением. Идея в том, что люди неэффективны, а технологии могут быть очень эффективными.

Разрабатывая технологии, избавляющие нас от необходимости прилагать усилия, вы меняете моральный баланс в направлении, которое вполне устроит людей, ценящих гедонизм в его простейшем варианте и считающих, что высшая ценность в жизни ― удовольствие, и чем больше удовольствия мы можем получать, тем лучше. По-видимому, именно для этого такой мир и оптимизирован.

В книге мы пытаемся предложить к обсуждению эти альтернативные ценности процветания человека.

 Digital Trends: Вы также пытаетесь подступиться к вопросу о том, как технологии дают нам возможность перепоручать им свои обязанности, а также выступаете против перепоручения родительских обязанностей. Вы называете это «безпилотным воспитанием».

Эван Сэлинджер: Я только поясню, что мы вовсе не занимаемся обличениями. Иначе мне пришлось бы обвинять самого себя. Очень сложно быть родителем в наши дни. Мы можем отлично понимать, что такое зависимость от технологий и проведение слишком большого времени за монитором. И всё же существует реальность, в которой подруги моей дочери, школьницы средних классов, постоянно сидят в телефонах и отправляют комментарии в Snapchat и Instagram. Социальное давление очень велико. Я с полным пониманием отношусь к сложностям и компромиссам, связанным с воспитанием детей.

Но технологии позволяют переложить на них всё больше и больше родительских функций. Благодаря всем этим технологиям быть родителем становится легче. Подумайте о родителях в ресторанах, где самый простой способ сделать так, чтобы дети никому не мешали, ― это дать им планшет.

Мы говорим о количественной мере собственного участия и применения устройств, помогающих следить за детьми. Порой это заманчиво. Новые родители хотят быть уверенными в том, что не допустят ошибок. Например, они хотят удостовериться, что ребёнок дышит, а если он проснётся ― отреагировать на это. Однако по мере того как за жизненными функциями ребёнка всё больше и больше следят все эти технологии, а их сообщения доходят до нас всё легче, возникает необходимость задуматься о том, чем придётся за это расплачиваться. Если мы принимаем эти технологии, то придётся определиться, хотим ли мы развивать свою собственную чуткость, для которой требуются навыки, усилия и желание быть рядом.

Digital Trends: Что же дальше? Как вы предлагаете нам решать дилемму?

Эван Сэлинджер: Мы не предлагаем идти по пути простых технических мер. Знаете, некоторые советуют отключать уведомления, чтобы реже отвлекаться на телефон, или перейти на чёрно-белый экран, потому что он меньше затягивает. Такие советы есть, однако эти микрорешения часто не столь действенны, как их пытаются представить те, кто их предлагает.

Кратко остановлюсь на двух моментах.

Люди отмечают, что наша система онлайн-договоров никуда не годится. Договоры строятся таким образом, чтобы в них можно быть включить максимум стандартных формулировок. Нет никакого смысла их читать. Вы не только не можете разобраться в договоре сами, но и понимаете, что никто не может. В результате вас побуждают к тому, чтобы вы отставили размышления и поскорее нажали «Я согласен», чтобы получить услугу. В итоге потребители не в полной мере знают, что они делают, а компании получают полную власть.

Но ведь договоры ― они повсюду. Похоже, их количество растёт, потому что их так легко заключать, а нас приучают совсем не задумываться о них. Это простой элемент машины. Нас оптимизируют таким образом, чтобы мы не думали о совместном волеизъявлении, а просто доверились автопилоту. Либо так, либо никак. Никто не собирается торговаться. Мы задаём вопрос, помогает ли этот подход осознать, что размышления не важны, когда имеешь дело с технологиями. Просто привыкайте принимать то, что предлагают, пока не случится какая-нибудь катастрофа ― и тогда останется надеяться, что регулирующие органы или кто-то ещё всё исправят.

Второй момент, который мы хотим отметить, заключается в том, что человеку важно иметь возможность передышки, чтобы он мог сделать шаг назад и обдумать все факторы социального давления и социального программирования, которым он подвергается. Возможность выйти из-под наблюдения со стороны окружающих, со стороны технологических компаний ― она исчезает. Всё труднее находить пространства, где можно сделать передышку. Как найти возможность такой передышки в этом мире? Это невозможно сделать, просто обособившись в своей маленькой нише, потому что этим всё и ограничится. Может быть, надо добиваться других правил в отношении того, когда именно компании вправе иметь к вам доступ.

Мы наблюдаем нечто подобное в Европе, но здесь, в США, эта идея точно не в числе популярных


Источник: http://rvs.su

<-назад в раздел

Русский календарь