Рамо Купер «Седьмое чувство»

В 1965 году ученый-технолог по имени Джозеф Вайзенбаум неожиданно поймал себя на том, что он занят проблемой, связанной с его компьютером и его пользователями, которой он не вполне ожидал. Шел эксперимент, который начинался довольно безобидно. Он написал программу, выполнявшую то, что сейчас называется естественной обработкой языка — код, созданный для перевода того, что человек сообщает машине, на язык, который компьютер сможет понять и с которым он сможет работать. Когда кто-то спрашивает компьютер, какая сейчас погода, машина использует особый подход, чтобы обратить этот вопрос в серию запросов. Чтобы на такие вопросы можно было получить ответ, требуется значительный объем цифровой работы, направленной на то, чтобы компьютер понял, что вы имеете в виду и как на вас реагировать. В 1965 году дело обстояло именно так.

Программа Вайзенбаума, которая могла выполнять примитивные коммуникативные программы, была настоящим прорывом. После разработки таких алгоритмов, которые позволяли компьютерам по-настоящему общаться с человеком, он захотел продемонстрировать истинный масштаб возможностей, открываемых этим новым подходом. Итак, его безобидная на вид идея состояла в том, чтобы построить систему, которая в какой-то степени сможет выстраивать личный диалог. Программа должна была воспринять то, что пользователь напечатает, а затем, основываясь на том, что она поняла, задать вопрос. Вайзенбаум позаимствовал этот простой подход к диалогу у американского психотерапевта Карла Роджерса, который считал, что лучше всего взаимодействовать с пациентами получается не посредством хитроумных ребусов Фрейда, а через доступные и легкие вопросы. Вайзенбаум написал две программы. Одна из них называлась DOCTOR и была создана для того, чтобы понимать введенные данные и на их основании решать, что говорить. Вторая программа использовала эту информацию, чтобы говорить с пользователем. Он назвал ее ELIZA в честь героини из «Пигмалиона».

Вот пример диалога между ELIZA и одним пользователем, который Вайзенбаум записал в 1965 году:

ПАЦИЕНТ: Все мужчины одинаковые.

ELIZA: В КАКОМ СМЫСЛЕ?

ПАЦИЕНТ: Они постоянно достают нас то одним, то другим.

ELIZA: НЕ МОГЛИ БЫ ВЫ ПРИВЕСТИ КОНКРЕТНЫЙ ПРИМЕР?

ПАЦИЕНТ: Ну, я здесь из-за своего парня.

ELIZA: ВЫ ЗДЕСЬ ИЗ-ЗА СВОЕГО ПАРНЯ?

ПАЦИЕНТ: Он говорит, что большую часть времени я хмурая.

ELIZA: МНЕ ЖАЛЬ СЛЫШАТЬ, ЧТО БОЛЬШУЮ ЧАСТЬ ВРЕМЕНИ ВЫ ХМУРАЯ.

ПАЦИЕНТ: Это правда. Я несчастна.

ELIZA: ДУМАЕТЕ ЛИ ВЫ, ЧТО ТО, ЧТО ВЫ ПРИШЛИ СЮДА, ПОМОЖЕТ ВАМ НЕ БЫТЬ НЕСЧАСТЛИВОЙ?

ПАЦИЕНТ: Помощь мне нужна — в этом я уверена.

Программа Вайзенбаума скоро стала известной в Массачусетском технологическом институте. (Там даже подшучивали над тем, что эта программа лучше вытягивает диалог, чем большинство непутевых студентов Кембриджского кампуса.) ELIZA выполняла именно то, что задумал Вайзенбаум: она давала пользователям возможность испытать, каково это — пользоваться машиной со своим независимым разумом. Вскоре программа разошлась по остальным кампусам и по различным НИИ, и с каждым новым этапом ее успеха Вайзенбаум все больше переживал из-за обратной связи, которую он получал. Беспокоила его не ELIZA, а ее пользователи.

Один за другим пользователи, общавшиеся с ELIZA, погружались в транс беседы с компьютером. Они уверовали в то, что машина способна помочь им. Даже профессиональные психологи писали Вайзенбауму, что его чудо-машина в один прекрасный день лишит работы тех, кто ставит диагнозы и консультирует людей. Такой ход событий казался естественным этапом неотвратимого прогресса, к которому все давно привыкли. Более технологичные холодильники, более надежные ремни безопасности, более быстрые самолеты, больше пластика — почему среди этого перечисления не может быть компьютера, проводящего терапию? Это звучало по-своему чудесно. «Ряд практикующих психологов действительно верил, что программа DOCTOR могла вырасти в почти полностью автоматизированную форму психотерапии», — писал Вайзенбаум несколько лет спустя в своем шедевре «Сила компьютеров и Разум людей». Он был в ужасе. Вайзенбаум прекрасно понимал, что участие, выражаемое ELIZA, было искусственным. Это был обычный код. «Мне казалось, что один может помочь другому справиться с его эмоциональными проблемами только при условии, что будет иметь место явное участие в его переживаниях». «Наука в последнее время обратилась в медленно действующий яд», — заключил он.

«Не могли бы вы выйти?» — сказал однажды секретарь Вайзенбаума, захваченный некоей особенно личной беседой с ELIZA. «Именно эта реакция на ELIZA показала мне яснее, чем когда-либо прежде, какие преувеличенные надежды даже самая образованная публика способна возложить — даже желает возложить — на технологии, которых она не понимает», — писал он. Он был серьезно обеспокоен. Кто вообще понимал технологии? Точно уж не пользователь. И вот здесь, перед ним сидит его секретарь, не имеющий даже отдаленного представления о том, как устроена машина, очарованный интимной беседой с ней. Доверяющий ей. Грандиозная сила таких машин — и людей, которые обладают контролем над ними, — вызывала панику у Вайзенбаума. «Программист, — заключил он беспокойно, — это создатель вселенных, над которыми властен только он один».

Оглядываясь на несколько сотен лет европейской истории назад, оксфордский профессор Дэвид Пристленд понял, что энергетические переходы можно уловить, отследив объединения, ненависть и надежды трех характерных, взаимодействующих групп. Он их представлял как своего рода касты. Если индийский социум можно разбить на браминов, кшатрий, вайшьи и шудры, то и самую влиятельную европейскую элиту можно разделить на купцов, военных и мыслителей. Под купцами Пристленд имел в виду банкиров, торговцев и промышленников, чей капитал и политическое влияние вывело Европу из феодального состояния в продвинутое промышленное. Медичи, голландские торговцы кофе, шотландские шелковые бароны. Под мыслителями же он подразумевал духовенство и, позже, технократов различных империй: Джона Локка в Англии, Отто фон Бисмарка в Пруссии и Никколо Макиавелли в Италии. Солдатами он признал как выдающихся европейских аристократов-воинов, так и таких выдающихся фигур, как Наполеон и Веллингтон, владеющих искусством войны не как свихнувшиеся кровожадные варвары, но как непревзойденные артисты.

Пристленд писал, что интересы этих трех каст в определенные моменты могли функционировать как мощные шестеренки исторического механизма. Объедините высокообразованных государственных деятелей Франции и ее великолепных солдат — и вы получите период расцвета империи. Слейте воедино торговцев-банкиров Великобритании и ее опытных мореплавателей — и вы получите мировой викторианский успех. Конечно же, такие купцы, военные и мыслители существуют и сегодня. Сегодня они размещены в суверенных валютных фондах, они принимают участие в важнейших заседаниях, они преподают в духовных семинариях и проводят исследования в лабораториях. Американское могущество, если угодно, можно представить как слияние финансовых и коммерческих каст этой страны с сильной и опытной военной кастой. Сейчас на арену выходит Новая Каста, которая контролирует сети, от которых мы все зависим. И поскольку все, что они делают, для нас представляется чем-то эфемерным и невидимым, они представляют собой именно то, чего боялся Вайзенбаум, — они творцы вселенной, в которой они сами являются единоличными хозяевами.

Члены этой Новой Касты определяются близостью к коммуникативным сетям, определяющим наш мир. Эта фракция нашего общества обладает высоким влиянием, которое к тому же постоянно растет. Они управляют машинами и владеют базами данных. Их компьютеры управляют целыми рынками, они же и формируют цены и регулируют денежный оборот. В любой соединенной системе сейчас есть люди, обладающие бóльшим знанием и большей силой, чем другие. Они сильны не только потому, что они соединены, но также потому, что они сами создают и направляют такие системы.

Задумайтесь о таком примере из мира технологий: допустим, миллион человек могут качественно написать объектноориентированный код. Сто тысяч человек могут сделать из этого кода некую инновационную информационную структуру. Несколько тысяч человек могут использовать его для создания большого информационного центра. И наконец, когда вы сузите область своих интересов до пары десятков человек, которые знают, как по-настоящему работает Google, Intel или Bitcoin, до группы, члены которой могут заставлять машины самостоятельно мыслить, которые способны использовать эти тайные ходы взломов атомного уровня, — вот тогда вы дойдете до высочайшей элиты. Если коммуникации меняют природу предмета, то они также могут вознести тех, кто контролирует соединение, до недосягаемых высот могущества и влияния. Посредством контроля над сетями, протоколами и информацией эта группа влияет на нашу жизнь значительнее, чем любая из когда-либо существовавших элит. При таких условиях трудно удивиться тому, что большинство из них — миллиардеры.

Эта каста настолько могущественна, что, как мне кажется, можно спокойно сделать следующий вывод: страны (ну или вообще любая группа — даже террористы и банкиры), из которых могут выйти лучшие члены Новой Касты, будут обладать поистине невероятной силой. Это, впрочем, не значит, что нужно тренировать миллионы программистов или создать условия для того, чтобы у всех выпускников были исключительные познания в математике. Это индустриальный подход к проблеме. Нет, Новая Каста должна быть немногочисленной. Мы уже убедились в том, как малые силы могут оставлять большой след в коммуникативном мире. Немногочисленная элита также его оставит. Взять хотя бы ту же легендарную лабораторию Xerox PARC в Пало-Альто, которая породила, к примеру, не только одних из самых ярких первых членов Новой Касты — Алана Кэя и Джона Сили Брауна, — но также подарила миру важнейшие изобретения, часть из которых принесла триллионы долларов дохода. Компьютерная мышь. Лазерные принтеры. Графический пользовательский интерфейс. PARC, вероятно, был самой экономически состоятельной малой группой в истории — целым Ренессансом, уместившимся в паре десятков офисов. В мире технологий так много может зависеть от всего лишь нескольких инноваций, что умелое владение этими конкретными узлами — это равносильно умелому владению центрами, о которых говорил Даллиен.

Наше будущее будет в значительной степени зависеть от действий этой группы, о какой бы сфере ни шла речь — мире IT, политики, медицины или вообще чего угодно, где может быть использована информационная сеть. Как нам оценить их смелость в инновациях, противоречащих здравому смыслу и идущих вразрез с представлениями о силе? Подумайте о компьютерщике, работающем в вашем офисе, который восстанавливает систему, когда она ломается. Он знает, что именно произошло? Откуда он это знает? Всякий раз, когда вы видите сетевую систему — будь то передовая база данных или торговая сеть, — в ней всегда есть такие люди, такая элитная группа, которая чувствует систему изнутри настолько тонко, насколько многие из нас никогда не смогут ее почувствовать. И каковы же их намерения? Знание ответа на этот вопрос — это тоже часть Седьмого чувства.

Эту Новую Касту можно сопоставить с более ранним поколением людей, определяющих целые империи, — исследователей океанов: испанского Христофора Колумба или португальского Васко да Гама, живших в XV веке. Эти капитаны-исследователи, поддерживаемые ранней формой венчурных капиталов — своеобразных «бюджетов риска» торговых домов, испытывали жажду проверить то, в чем, как они знали, они могли быть мастерами, — навигации, мореплавании и судостроении, — в условиях неопределенности географии, погоды и удачи. В тех приключениях было столько же нервной напряженности, сколько и приобретения знания. Что ожидает вас в пятидневном плавании после выхода из Кадиса? Если вы готовы к трудностям, готовы поверить в то, что может ожидать вас там, и в то, что вы с этим справитесь, то вас ждет вероятная удача.

«Ранние межконтинентальные путешественники достаточно часто платили за свой доступ к дальним берегам суровыми лишениями», — писал немецкий философ Петер Слотердайк об этом раннем поколении, группе, которая однажды была не менее важна для прогресса человечества, чем ученые или магнаты. Месяцы, проведенные в море, риски стихийных ненастий, голода, бесконечной скуки — эти капитаны знали о тяготах, но они также знали о вознаграждении: славе, богатстве, знаниях. Слотердайк цитирует Гете, который, размышляя в 1787 году о необыкновенной жизни мореплавателей, говорил, что «никто из тех, кто ни разу в жизни не оказывался посреди моря, где со всех сторон тебя окружает вода и ничто больше, не имеет настоящего представления о мире и о нашем отношении к нему».

Когда говоришь с одними из самых видных представителей Новой Касты, то сразу понимаешь, что они обладают мышлением нового типа: они знают, каково это — быть окруженным информационными сетями. У них есть особое восприятие, то же, что было у тех мореплавателей, только у них оно закалено не годами, проведенными в море, а годами, проведенными в Интернете. Главари ИГИЛ, понимающие, что видео с двенадцатью жертвами в оранжевом более влиятельно, чем Шестой флот ВМС США, знают, что коммуникации могут сделать их более сильными, чем вся военная каста, стремящаяся их уничтожить. Политики, знающие, что «новости» для большинства людей являются питающей сетью мелькающей заголовками информации, в которой ходят лишь сплетни радикального толка, понимают, что нужно делать, чтобы продолжать снабжать информационные сети идеями, шумом и изображениями, разлетающимися с вирусной скоростью. Кампании старой выучки — это точно то же, что и устаревшие армии в нынешних условиях. Не то оружие. Вне сети.

Представители Новой Касты существуют в мире финансов, в биотехнологиях и в любой области знаний, где коммуникации что-то значат. Во многих из этих сфер вы обнаружите следующую черту: они самообучаемы. Неудивительно, что так много самых выдающихся представителей Новой Касты бросили школу или выплыли из совершенно неожиданных мест. Они идут по новой дороге; образование старого типа было бы только лишним балластом в таком походе. Все это, впрочем, вовсе не значит, что они не эксперты в своем деле. Компьютерный ученый Эндрю Ын, один из первых людей, работавших с искусственным интеллектом, так выразил их позицию: «Умение принимать хорошие решения — это стратегический навык при построении искусственных интеллектуальных систем. Каждый день вы просыпаетесь и оказываетесь в совершенно уникальной ситуации, в которой прежде никто никогда не оказывался. Это не факт, никакой процедуры тут нет». Колумбу приходила точно такая же мысль. Как и Бисмарку. Или Козимо Медичи. Эта новизна приносит членам Новой Касты один из самых мощных возможных жизненных опытов: прикоснуться к чему-то, что никогда раньше не существовало. Миры, объединяющие миллиарды пользователей. Мыслящие машины. Новые торговые сети. Но для большинства из нас, тех, кто почти невольно попал в эту среду, — для нас здесь кроется леденящее душу чувство, которое Вайзенбаум испытывал 50 лет назад. Мы так же, как и он, знаем, что во всем замешан человек, он точно должен где-то там быть. Но что это за человек?

Тут-то и кроется парадокс. Мы сейчас окружены тем, что французский философ Бруно Латур назвал «черными ящиками», но мы ничего не знаем о том, как или зачем они работают. Мы также ничего не знаем о ценностях и идеалах тех, кто ими управляет. Латур описывал все непрозрачные технологии и сети, к которым мы несознательно обращаемся каждый день. На самом деле все обстоит так: чем лучше эти системы работают, тем меньше мы их замечаем. «Научную и техническую работу делает невидимым ее успех», — говорит Латур. Например, протоколы операционных систем и сетей вашего планшетного компьютера видны вам сейчас так, как они никогда не могли бы быть видимыми двадцать лет назад, когда рядовой компьютерный пользователь сталкивался с мигающим курсором и C:\>запросом. И это касается многих областей нашей жизни. «Каждая часть черного ящика — это отдельный сложно устроенный черный ящик», — писал Латур. Это касается вашего портфолио, вашего компьютера и вашего сердца, отслеживаемого биосенсорами. Вы, может быть, и считаете, что вы знаете, почему что-то, на что вы полагаетесь, меняется тем или иным образом, но так ли это на самом деле? Осмотритесь: как много дисплеев вы видите? Каждый из них — знак того, что Новая Каста работает.