Непостижимые программы

В предыдущих главах мы выяснили, что представляют собой вычислительные машины, откуда возникает их мощь и каким образом можно их использовать для построения моделей и материализации теорий. Меня интересовали попытки придать вычислительным машинам разумное поведение, а не применять их для решения рутинных числовых задач. Мы рассмотрели и обсудили ряд известных исследовательских проектов, посвященных решению задач, имитации процессов познания и пониманию вычислительными машинами естественного языка; были представлены взгляды "искусственной интеллигенции", причем часто посредством цитирования высказываний ее признанных лидеров. Я почти не затрагивал неудачи исследователей искусственного интеллекта, поскольку они сопровождают любую исследовательскую деятельность, но отнюдь не обязательно служат признаком безнадежности - как раз наоборот, часто такие неудачи удобряют почву, на которой позже возникают более плодотворные идеи. К тому же сам по себе факт, что что-то еще не сделано или окончилась неудачей даже попытка сделать это, вовсе не служит свидетельством невозможности всего предприятия. Я старался избежать тривиальных и бесплодных споров (например, на тему о том, могут или нет вычислительные машины "в принципе" решить ту или иную специфическую задачу), поэтому, возможно, у читателей создалось впечатление, что я оцениваю потенциальную (хотя до сих пор не полностью используемую) мощь вычислительных машин выше, чем это на самом деле. Настаивая на существовании задач, возникающих перед человеком, но которые никогда не могут возникнуть перед машиной, в связи с чем человек способен знать вещи, которые никакой машине вообще знать не дано, я, возможно, создал впечатление, что все задачи, с которыми сталкивается и человек, и машина, потенциально разрешимы машинами. В мои намерения это не входило.

Успехи "искусственной интеллигенции" ограничиваются в основном триумфами технического характера. Их вклад в психологию познания или в практику решения задач невелик.
Конечно, были достижения, которые можно назвать побочными результатами, например усовершенствования в области языков программирования высокого уровня, вызванные потребностями искусственного интеллекта и влившиеся в основное русло работ по информатике. Однако это едва ли именно те результаты, появление которых в "обозримом будущем" предсказала все эти долгие годы "искусственная интеллигенция". За более чем двадцатилетнюю историю исследований в области искусственного интеллекта, почти нет результатов, которые используются в промышленности вообще и в производстве вычислительных машин в частности.
Исключение составляют две замечательные программы: "Dendral" и "Macsyma", имеющиеся в Станфордском университете и Массачусетском технологическом институте соответственно1. Обе программы выполняют сугубо технические функции, обсуждение которых выходит далеко за рамки задач нашей книги, но несколько слов о них мы скажем.
Программа "Dendral" интерпретирует выходные данные масс-спектрометров - приборов, применяемых для анализа молекул химических соединений. Обычно химики во время стажировки после получения ученой степени занимаются установлением химических структур молекул по так называемому спектру масс, полученному с помощью этого прибора. Их задача в какой-то степени аналогична задаче реконструкции жизни доисторического поселения по его развалинам, обнаруженным археологами. Однако между этими задачами имеется существенная разница: теория масс-спектрометрии существует, т. е. известно, каким образом прибор получает результат при анализе определенного химического продукта. Поэтому предложенное решение можно оценить, определив теоретически, какой спектр должен был бы быть получен с помощью прибора, если бы химическое соединение было именно таким, как указывает предварительное решение. К сожалению, влияние ограничений по точности лишает этот процесс обратной проверки абсолютной надежности. И все же аналитик находится в лучшем положении, чем археолог, поскольку последний не располагает мощными методами для проверки своих гипотез.


Переходя на более общий язык, можно, таким образом, сказать, что "Dendral"-программа, анализирующая спектры масс и воспроизводящая описания структур молекул, которые с очень высокой точностью порождают эти спектры. Компетентность программы соответствует компетентности химика в части анализа молекул органических соединений определенных классов или превосходит ее.
"Macsyma" - по современным стандартам очень большая программа, предназначенная для выполнения математических операций над символами. Она может работать с алгебраическими выражениями, содержащими формальные переменные, функции и числа. Она способна дифференцировать, интегрировать, брать пределы, решать уравнения, разлагать многочлены на множители, разлагать функции в степенные ряды и т. д. Все эти операции программа выполняет в символьном, а не в численном виде. Например, если ей предлагается взять интеграл

, то в качестве ответа она выдает
Естественно, если ей задаются числовые значения всех переменных, то программа выдаст численное значение всего выражения, но для нее это сравнительно тривиальная задача. В данном случае технические подробности соответствующих процедур снова выходят за пределы нашего обсуждения. Важно здесь то, что, как и в случае программы "Dendral", существуют хорошие теории, указывающие способ осуществления необходимых преобразований. Самым важным, особенно для символического интегрирования, является то обстоятельство, что можно (при помощи дифференцирования) проверить, представляет ли полученное решение истинное решение, причем в случае интегрирования эта проверка абсолютно надежна. И точно так же, как в программе "Dendral", задача, решаемая программой "Macsyma", относится к разряду тех, которые обычно выполняются лишь высококвалифицированными специалистами.
Обе программы существенно обязаны искусственному интеллекту. В них двумя различными способами используются эвристические методы решения задач. Во-первых, в тот период, когда разработка этих программ начиналась, теории, ныне лежащие в их основе, не были разработаны в такой степени, чтобы их можно было моделировать на языке эффективных процедур.


И тем не менее человек мог решать соответствующие задачи. Первоначальная задача, таким образом, заключалась в том, чтобы получить от специалистов эвристики, используемые ими, когда они делают то, что они делают. Первые варианты этих программ представляли собой некую смесь алгоритмов, отражающих хорошо понятные аспекты задач, и закодированных процедур, воспроизводящих конгломерат всех тех фрагментов эвристических методов, которые удалось вытянуть из специалистов.
В процессе работы, однако, эвристические компоненты программ становились все понятнее, что и создавало предпосылки их использования для совершенствования соответствующих теорий. Благодаря этому процессу обе программы постепенно модифицировались до тех пор, пока, по существу, не стали полностью базироваться на соответствующих теоретических положениях.




Во-вторых, эвристические методы использовались и продолжают использоваться в обеих программах ради обеспечения эффективности их работы. Обе программы генерируют подзадачи, которые, хотя, в принципе, и разрешимы с помощью прямых алгоритмических средств, оказываются значительно проще, если они предварительно классифицируются как допускающие решение с помощью некоторой специальной функции, а затем их решение и поручается этой функции. Разработка и усовершенствование обоих путей использования эвристических методов так же, как и многих самих этих методов, является результатом исследований, выполнявшихся в области искусственного интеллекта.
Обе программы отличаются от большинства остальных программ, разработанных в рамках искусственного интеллекта, именно тем, что они прочно покоятся на фундаменте глубоких теорий. Основной вклад в теоретический фундамент программы "Dendral" принадлежит Джошуа Ледербергу, генетику, удостоенному Нобелевской премии; теоретическую основу программы "Macsyma" составляют, главным образом, результаты профессора Джоэла Мозеса, исключительно талантливого и квалифицированного математика из Массачусетского технологического института.


Существует множество других важных и плодотворных приложений вычислительных машин. Так, вычислительные машины управляют полностью работой нефтеочистительных заводов, пилотируют космические летательные аппараты и контролируют в целом среду, в которой протекает деятельность астронавтов. Соответствующие программы вычислительных машин базируются на математической теории управления и надежных физических теориях. Подобные программы, обладающие теоретической базой, имеют очень важное преимущество: в случаях, когда их работа нарушается, наблюдающий за ними человек-оператор может установить, что результаты не соответствуют предписываемым теорией, и в состоянии при помощи теории выявить причину ошибки.
Однако большинство существующих ныне программ, особенно наиболее важные из них, не базируются в этом смысле на какой-либо теории. Эти программы имеют эвристический характер, но не обязательно в том смысле, что в них непосредственно используются эвристические методы; их эвристичность заключается в том, что их конструкция основывается на эмпирических приемах, уловках, предположительно "работающих" в большинстве потенциально возможных случаев, и на прочих специфических механизмах, вводимых время от времени в программы.
Моя программа "Элиза" относится именно к такому типу. Такова же система понимания языка, разработанная Виноградом, а также система GPS Ньюэлла и Саймона, несмотря на все уверения в противоположном. Еще важнее обстоятельство, что все очень большие программы вычислительных машин, повседневно используемые в промышленности, правительственных учреждениях и университетах, также принадлежат к этому типу. Эти гигантские вычислительные системы обычно собирают (слово "разрабатывают" можно использовать не всегда) коллективы программистов, работа которых иногда растягивается на много лет. К моменту начала использования этих систем большинство программистов, стоявших у истоков работы, уходит или переключается на другие задачи. Именно к тому моменту, когда подобные системы начинают эксплуатироваться, их устройство уже недоступно пониманию ни какого-либо одного человека, ни небольшой группы людей.


Норберт Винер, отец кибернетики, предсказал это явление в своей замечательно прозорливой статье, опубликованной много лет назад. Он писал:
"Вполне может оказаться, что, в принципе, мы не в состоянии создать машину, элементы поведения которой мы не сможем рано или поздно понять. Это никоим образом не значит, что мы окажемся в состоянии понять эти элементы за время, существенно меньшее требующегося для работы машины, или даже за любое заранее заданное число лет или поколений".
"Осмысленное понимание характера функционирования машины может быть достигнуто много позже, чем будет завершено выполнение той задачи, ради которой машина создается... Это означает, что, хотя теоретически машины поддаются критической оценке человека, она может быть неэффективна еще в течение очень длительного периода после того, когда была нужна"2.
То, что Норберт Винер рассматривал как возможность, много лет спустя превратилось в реальность. Очевидно, для неспециалиста почти невозможно понять или принять причины этого явления. Непонимание им того, что на самом деле представляет собой вычислительные машины, что они делают и каким образом, на самом деле, они это делают, частично связано с широким распространением механической метафоры и глубиной ее проникновения в подсознание всей нашей культуры. Это наследие влияния, оказанного на воображение общества теми сравнительно простыми машинами, которые преобразовали нашу жизнь в XVIII и XIX вв.
Практически для каждого человека, живущего в промышленно развитой стране, "второй натурой" стало убеждение в том, что понять нечто - значит понять в терминах механистических категорий. Такой точки зрения придерживались даже крупнейшие ученые конца XIX в. Лорд Кельвин (1824-1907) писал:
"Я никогда не чувствовал себя удовлетворенным до тех пор, пока не был в состоянии построить механическую модель явления. Если я мог построить механическую модель, я был в состоянии понять явление. Если же я не мог построить некоторую механическую модель, объясняющую явление от "а" до "я", я был не в состоянии понимать его"3.


Выражением соответствующих современных настроений является убеждение Минского в том, что понимание музыки и "исполненных глубокого смысла картин" означает способность писать машинные программы, обеспечивающие создание подобных произведений. Однако если Минский полностью осознает, что вычислительные машины - это не те машины, которые можно было бы отождествлять с механизмами, известными лорду Кельвину, то неспециалист считает, что дело обстоит как раз наоборот. Для него вычислительные машины и машинные программы имеют "механическую природу" в том же простом смысле, что и паровая машина или коробка передач автомобиля.
Эта вера (а среди неспециалистов ее разделяют практически все) поддерживается одним лозунгом, который часто повторяют сами ученые в области информатики: "До тех пор пока некий процесс не определен абсолютно точно, его нельзя реализовать на вычислительной машине". Однако этот лозунг справедлив лишь при очень ограниченной и весьма необычной интерпретации значения понятия "определить процесс". Если в запоминающее устройство вычислительной машины ввести, например, случайную комбинацию битов и предложить вычислительной машине интерпретировать ее как некоторую программу, то при условии, что она вообще будет "работать", эта комбинация представит собой "определение" некоторого процесса. Обычно под определением программы понимается, что некий посредник (допустим, человек) работает над тем, что должно служить программой, прежде чем вводить ее в вычислительную машину. Неспециалист, услышав упомянутый лозунг, считает, что сам факт реализации некоторой программы на некоторой вычислительной машине служит гарантией предварительного определения неким программистом процесса, который эта программа воспроизводит, и понимания им этого процесса во всех подробностях.
Но факты противоречат этому убеждению. Большая программа-это, обращаясь к аналогии, к которой прибегает и Минский, замысловатая сеть судов, т. е. подпрограмм, улики которым предоставляются другими подпрограммами.


Эти суды взвешивают (оценивают) полученные ими данные и затем сообщают свои судебные решения еще каким-то судам. Вердикты, выносимые этими судами, могут содержать и часто действительно содержат решения о том, что подпадает под "юрисдикцию" суда, принятые на основе промежуточных результатов, подвергающихся затем обработке. Программист, таким образом, не в состоянии проследить даже процесс принятия решений в пределах собственной программы, не говоря уже о том, какие промежуточные или окончательные результаты она выдаст. Определение программы напоминает скорее рождение бюрократической системы, чем создание известной лорду Кельвину машины. Минский так характеризует это явление:
"Программист сам устанавливает... "правовые" принципы, допускающие... "апелляции", он может лишь в очень ограниченной степени понимать, когда и где в ходе работы программы эти процедуры будут вызывать друг друга. Что касается некоторого конкретного "суда", то он располагает лишь поверхностным представлением о некоторых обстоятельствах, которые могут привести к обращению к нему. Короче говоря, перестав быть начинающими,... программисты пишут не "последовательности" [команд], а административные инструкции для членов небольших обществ. При всем старании часто программист просто не в состоянии заранее полностью предвидеть все детали их взаимодействия. Поэтому, в конце концов, ему и нужна вычислительная машина"4.
Продолжая, Минский приводит следующие очень важные наблюдения:
"Когда мощь программы возрастает в результате ее "эволюции" из отдельных фрагментов и режимов работы, понимаемых лишь частично, программист уже не может прослеживать "внутренние" детали ее работы, теряет способность предсказывать, что будет происходить в программе, не знает, а надеется, и ждет результатов работы программы так, как если бы она была неким индивидуумом, модусы поведения которого точно не известны".
"Так обстоит дело уже в некоторых больших программах..., вскоре ситуация станет острее ...Большие эвристические программы будут создаваться и модифицироваться несколькими программистами одновременно, каждый из которых станет проверять их с помощью примеров, работая на [дистанционных] пультах управления вычислительной машины и вводя усовершенствования в программу совершенно независимо.


Эффективность программы будет расти, но ни один из программистов не сможет понимать ее полностью. (Естественно, подобный метод не всегда приводит к успеху - такое "взаимодействие" может ухудшить программу, и никому уже не удастся ее исправить!) Теперь понятно, в чем заключается истинный недостаток утверждений типа "она делает только то, что программист предписывает ей делать". Не существует какого-то одного определенного программиста"5.
Вернемся к одной из предыдущих тем. Непонятно, как программа типа, описываемого Минским, скажем, создающая "великую" музыку, помогает нам понимать музыку, если саму программу мы не можем понять.
Еще важнее другое: если программа ускользает из сферы, доступной пониманию своих создателей, то какой смысл они вкладывают в оценки типа "рост эффективности" или, коли на то пошло, "ухудшение"? Как преподаватели (а мы все преподаватели) мы, конечно, всегда надеемся, что эффективность наших учеников в обращении с тем, что является предметом обучения, возрастет. И обычно мы не считаем, что сами должны "понимать" процессы, развитие которых хотели бы стимулировать у своих студентов, т. е. понимать их так же, как, скажем, понимаем действие часов. Более того, мы надеемся на своих студентов, полагаемся на них и верим в них.
Совершенно несомненно, что Минский призывает нас к доверию именно такого рода к сложным программам искусственного интеллекта, эффективность которых растет, но сами они начинают выходить за пределы возможностей нашего понимания. Его точка зрения вполне обоснованна, если речь идет о программах, для которых есть рабочие критерии, позволяющие нам определять (причем за приемлемое время), что поведение этих программ выходит за пределы допустимого диапазона или по какой-то причине им больше нельзя доверять. Как отмечалось выше, к этому типу относятся программы, являющиеся, в сущности, моделями хорошо разработанных теорий, даже несмотря на то, что ни одна группа программистов детально не понимает внутреннюю организацию самих программ.


То же самое относится и к программам, отклонение которых от предписанных значений рабочих критериев можно обнаружить при выборочным контроле за их поведением (при условии, что: 1) имеется кто-то, кому поручено наблюдать за их поведением; 2) он может вовремя вмешаться, чтобы предотвратить катастрофу). Сегодня, однако, существует множество очень больших и очень сложных программ, выполняющих важные задачи, но не отвечающих указанным требованиям.
Оценка Минского, а она совершенно точна, является чрезвычайно важной. Она свидетельствует о том, что ситуация, описанная Норбертом Винером в 1960 г. как возможность, быстро становилась и теперь стала реальностью. Более того, слова Минского приобретают особую важность в связи с тем, что принадлежат одному из ведущих создателей и представителей искусственного интеллекта и цель их - воздействие на смутные представления гуманитариев путем восхваления мощи вычислительных машин, но не подчеркивание ее ограниченности.
Растущая зависимость нашего общества от вычислительных систем, сначала предназначавшихся для "содействия" людям в проведении анализа и принятия решений и уже давно ставших недоступными для понимания своих пользователей, но и незаменимыми для них, - это очень серьезное явление. Оно имеет два важных следствия. Во-первых, решения выносятся с помощью вычислительных машин, а иногда принятие решений полностью им перепоручается - программы же этих вычислительных машин больше никто не может вполне отчетливо знать или понимать. Следовательно, никому не могут быть известны критерии или правила, на основе которых подобные решения вырабатываются. Во-вторых, системы правил и критериев, реализованных в подобных вычислительных системах, приобретают иммунитет к изменениям, поскольку из-за отсутствия детального понимания внутреннего "устройства" вычислительной системы любая существенная ее модификация с очень большой вероятностью делает ее неработоспособной и, возможно, не поддающейся возвращению в прежнее состояние.


Таким образом, подобные вычислительные системы могут только разрастаться, причем и их рост, и увеличивающаяся зависимость от них сопровождаются в результате ростом "законной силы" их "базы знаний".
Профессор Филип Моррисон (Массачусетский технологический институт) рассказал по этому поводу одну поучительную историю.
"На стене моего кабинета висит карта мира, воспроизведенная вычислительной машиной и, следовательно, не столь красивая, как нарисованная картографом. На ней с помощью восьми-десяти тысяч точек даны резкие очертания гигантских плит, образующих земную кору; эти плиты, расходясь, сталкиваясь или наползая друг на друга, вызывают большинство, а может быть, и почти все значительные землетрясения. Карта реализует это представление, поскольку ее точечные очертания плит образованы тысячами очагов землетрясений".
Курьез заключается вот в чем. Сейсмологи, участвовавшие в создании этой карты, указывали, причем как-то даже оправдываясь, что все записи землетрясений, сделанные ими самими, имели один и тот же стандартный формат, обеспечивающий простой ввод этих данных в машину для локализации соответствующих точек на карте, и поэтому они могли пользоваться только собственными данными.
"Несомненно, они сознавали, что история сейсмологии не ограничивается этим десятилетием, но не приложили усилий ни для того, чтобы связать данные, полученные в прошлом, со стандартной системой координат, ни для того, чтобы привести к пригодному для ввода в свою вычислительную машину виду чрезвычайно многочисленные и разнообразные литературные данные за период с 1840 по 1961 годы, - все это осталось за пределами их работы. В результате они пренебрегли всеми научными данными, полученными до 1961 года, и учли лишь землетрясения, зарегистрированные их собственной всемирной сетью сейсмоприемников в период между 1961 и 1967 годами. Это составляло, однако, столько же землетрясений, сколько было зарегистрировано прежде. Они потеряли коэффициент, равный двум, что в статистическом смысле немного; обрели же они то преимущество, что избавились от необходимости читать и толковать все эти непонятные немецкие журналы".


"Эта поучительная история связана с вычислительными машинами. Как и во всех поучительных историях, в ней есть определенная внутренняя напряженность: она в равной мере льет воду на мельницу и врагов, и друзей вычислительной машины. Для друзей очевидно, что эта грандиозная коллекция эпицентров, определяющих очертания тектонических плит, представляет собой, возможно, единственный выдающийся результат подобного сводного исследования. Неспециалист оказывается загипнотизированным зрелищем трещин и расколов. Наконец, мы знаем нечто о Земле в целом. С другой стороны, весьма поразителен столь непринужденный отказ ото всей истории целой науки."
"Мораль этой истории вполне очевидна: никто, даже самый прямолинейный сторонник обработки данных на вычислительных машинах, не стал бы утверждать, что все началось в 1961 году, даже если наши нынешние совместные данные имеют в качестве исходной точки эту дату. Прошлое - это необходимый пролог: оно было свидетелем формирования концепций, становления методов, появления приборов, возникновения идеи систематической регистрации данных и т. д. Все это вкупе характеризует пройденный путь; я уверен, что лишь в результате того, что он уже пройден, "Управление геодезической съемки побережья" ("Coast and Geodetic Survey") и иже с ним в состоянии выпускать такие расчудесные карты".6
Вычислительная машина, таким образом, превратилась в. средство уничтожения истории. Если общество признает "законными" лишь те "данные", которые "записаны в одном и том же стандартном формате" и "легко поддаются вводу в вычислительную машину", то в этом случае история, сама живая память, отменяется. Газета "Нью-Йорк Тайме" уже приступила к созданию "банка данных" для текущих событий. Естественно, в эту систему смогут вводиться лишь те данные, которые можно без труда получить в качестве побочного результата работы шрифтонаборных машин. Число абонентов этой системы растет и они привыкают все больше и больше полагаться на "все те новости, которые заслуживают [однажды заслужили] публикаций" (как "Нью-Йорк Таймс" гордо определяет свою редакционную политику).


Возникает вопрос: сколько должно пройти времени, чтобы система стала устанавливать, что является истинным событием, а все иные знания, хранящиеся в нашей памяти, объявлять несуществующими. Вскоре будет построена суперсистема с банком данных "Нью-Йорк Таймс" в основе (или с другим, очень сходным с ним). С ее помощью "историки" будут судить о том, что "на самом деле" происходило, кто с кем был связан, какова была "истинная" логика событий. Много людей сегодня не видят во всем этом ничего дурного.
Чтобы дополнить поучительную историю, рассказанную Моррисоном, нет нужды обращаться к системам, которые появятся в будущем. Во время войны США с Вьетнамом [Прим. перев.: Вьетнам был захвачен Францией во второй половине XIX в. В 1941-1945 гг. был оккупирован японскими войсками. Августовская революция 1945 г. завершилась провозглашением Демократической Республики Вьетнам (ДРВ). В 1945-1946 гг. французские войска развернули военные действия на юге Вьетнама, а затем распространили их на территорию всей страны. На оккупированной Францией территории в 1949 г. было создано так называемое Государство Вьетнам. Женевские соглашения 1954 г. об Индокитае положили конец войне Франции против народов Вьетнама, Лаоса и Камбоджи. В 1955-1956 гг. вместо профранцузского режима в Южном Вьетнаме был создан проамериканский режим. Выполнение Женевских соглашений о мирном объединении Вьетнама было сорвано. В Южном Вьетнаме началось освободительное движение, которое возглавил основанный в 1960 г. Национальный фронт освобождения Южного Вьетнама. В 1964-1965 гг. США развернули воздушную войну против ДРВ, в 1965 г. ввели в Южный Вьетнам войска, взяли на себя непосредственное ведение войны. В январе 1973 г. подписано Парижское соглашение о прекращении войны и восстановлении мира во Вьетнаме. Режим Южного Вьетнама был свергнут весной 1976 г. В июле 1976 г. было завершено государственное воссоединение Вьетнама, провозглашена Социалистическая республика Вьетнам (СРВ)] вычислительные машины, используемые офицерами, не имевшими ни малейшего понятия о том, что происходит внутри этих машин, фактически определяли, какие деревни должны подвергнуться бомбардировке и в каких зонах концентрация вьетконговцев [Прим.


перев.: Вьетконговцами во время войны США с Вьетнамом (1965-1973 гг.) в западных странах называли вооруженные силы Национального фронта освобождения Южного Вьетнама и его сторонников] достаточна для того, чтобы "имелись основания" объявить их "зонами стрельбы без предупреждения", т. е. в обширных географических районах летчики наделялись "правом" убивать любое живое существо.
Естественно, в эти машины могли вводиться лишь "машиносчитываемые" данные, а именно, главным образом, информация о целях, поступающая от других вычислительных машин. И когда президент США принял решение о бомбардировке Камбоджи и сохранении этого решения в секрете от Конгресса США, вычислительные машины Пентагона были "настроены" так, чтобы на основе истинных сообщений о воздушных налетах, поступавших с места действия, фабриковать ложные сообщения, которые передавались руководителям правительства [Прим. перев.: Дж. Вейценбаум имеет в виду принятое президентом США Ричардом Никсоном в апреле 1970 г. решение о вооруженном вмешательстве в гражданскую войну в Камбодже (ныне Народная Республика Кампучия) после произведенного там правыми силами под руководством генерала Лон Нола государственного переворота (18 марта 1970 г.) и установления так называемого "пномпеньского режима". Под предлогом "угрозы для жизни американских солдат" в страну на несколько месяцев были введены американские и южновьетнамские войска, и отдельные районы Камбоджи были подвергнуты бомбардировке с воздуха].
История не просто уничтожалась, она переписывалась заново. И высшее звено правительственного аппарата, считавшее, что оно обладает привилегией доступа к секретным сообщениям, источником которых на самом деле являлись вычислительные машины Пентагона, естественно, этим сообщениям верило. В конце концов, говорили сами вычислительные машины. Правительственный аппарат не сознавал того, что превратился в "рабов" своих вычислительных машин (по выражению самого адмирала Мурера).


Обучая свои вычислительные машины лжи, которую те должны были передавать другим людям, сами наставники попадали в ее сети [прим. авт.: Согласно сообщению Симора Херша в газете "Нью-Йорк Тайме" от 10 августа 1973 г. адмирал Томас Мурер, председатель Объединенного комитета начальников штабов, давая показания Комитету Сената США по делам вооруженных сил (U. S. Senate Armed Services Committee), заявил, что данные о воздушных налетах на Камбоджу вводились в "большую вычислительную машину Пентагона для обработки данных" в виде данных о налетах на Южный Вьетнам. В том же сообщении приведена фотокопия донесения о воздушном налете, содержащего следующую запись: "Все боевые вылеты на цели в Камбодже будут программироваться как налеты на запасные цели в Южном Вьетнаме". Сообщается, что адмирал Мурер заявил в Комитете Сената: "К несчастью, мы превратились в рабов этих чертовых вычислительных машин"].
В современной войне солдата, например, летчика, пилотирующего бомбардировщик, и его жертвы разделяет колоссальная психологическая дистанция. Он не чувствует себя ответственным за сожженных детей, потому что никогда не видит ни деревни, в которой они жили, ни своих бомб, ни конечно, самих горящих детей. Техническая рационализация, которой в наши дни подверглись военная, дипломатическая, политическая и коммерческая сферы (например, "игры", имитируемые; с помощью вычислительных машин), оказала еще более пагубное влияние на процессы выработки политики. Политики не только возложили собственную ответственность за принятие решений на технику, действие которой они не понимают (сохраняя в то же время иллюзию, что они, творцы политики, ставят политические-проблемы и находят их решения), одновременно улетучивается и сама ответственность. Не только адмирал наивысшего ранга военно-морского флота США в, редкий момент откровения осознает, что он превратился, в "раба этих чертовых вычислительных машин", что ему не остается ничего другого, как основывать свои решения на том, "что скажет вычислительная машина", но вообще ни один человек не несет ответственности за результаты, предлагаемые вычислительной машиной.


Громадные вычислительные системы Пентагона и подобные им вычислительные системы, рассеянные в нашей культуре, в самом непосредственном смысле слова не имеют авторов. Поэтому они не допускают постановки вопросов о правильности или неправильности, справедливости, о какой-то теории, с которой можно соглашаться или не соглашаться. Они не представляют никакой основы для проверки того, "что говорит машина". Мой отец, желая опереться на высший авторитет, обычно говорил: "Это напечатано!". Однако затем я читал напечатанный текст, пытался представить себе человека, написавшего его, определить его взгляды и, наконец, соглашался или не соглашался с ним. Вычислительные системы не дают человеку возможности воспользоваться своим воображением, чтобы, в конце концов, он, мог вынести аутентичное суждение.
Не удивительно, что все, кто повседневно имеют дело с машинами, рабами которых они начинают ощущать-себя, приходят к мысли, что люди-машины. Например, один видный ученый сформулировал это так:
"На самого Человека можно смотреть как на продукт... эволюционного процесса развития роботов, поврежденных более простыми роботами, и так далее к истокам, вплоть до первобытной слизи; ...его нравственность - [это] нечто, поддающееся интерпретации в терминах работы соответствующих схем... Человек, погруженный в свою среду, - это некоторая машина Тьюринга, для которой определены лишь две обратные связи - желание играть и желание выиграть"7.
Можно ожидать, что значительная часть людей, живущих в обществе, в котором безымянные, а следовательно, ни за что не отвечающие силы определяют, что именно является главными проблемами дня и каков допустимый диапазон для поиска их решений, будет ощущать свое бессилие и окажется жертвой бессмысленной ярости. И мы действительно убеждаемся в том, что эти ожидания входят в нашу жизнь как реальность - в университетских городках и на заводах, дома и в учреждениях. Эта реальность проявляется в уничтожении рабочими продуктов своего труда, в волнениях и безразличии студентов, в преступлениях, совершаемых на наших улицах, в бегстве в мир навеянных наркотиками видений и т.


д. Тем не менее очень распространена и другая реакция; с одной точки зрения она воспринимается как позиция "неучастия", а с другой она представляет собой то, что Эрих Фромм давным-давно определил как "бегство от свободы".
[Прим. перев.: Эрих Фромм (1900-1980)-немецко-американский философ, психолог и социолог, один из главных представителей неофрейдистской школы ("культурного психоанализа"). В отличие от Фрейда для Фромма характерна меньшая биологизация сущности человека и переход к "социопсихологизму", что приближает исходные положения Фромма к экзистенциализму. Фромм занимался выяснением механизма взаимоотношений психологических и социальных факторов общественного развития. Согласно Фромму собственно человеческое начинается лишь там, где кончается природное; оно коренится в специфике человеческого существования. По Фромму, основная психическая потребность индивидуума - установить систему отношений к миру и обществу. Двойственность положения человека в мире (как природного и надприродного существа) порождает основную историческую "дихотомию": наряду со стремлением к свободе и независимости человека как мыслящего существа в нем также укоренено и стремление к безопасности ("бегство от свободы"), которое лишь принимает в ходе истории различные формы. Ставя своей задачей создание целостной концепции человека, Фромм ищет ее решение в объединении социального и индивидуально-психологического подходов, точнее - в попытке "синтезировать" марксизм и фрейдизм. Связующим звеном между психикой индивидуума и социальной структурой общества у Фромма является социальный характер.
Фромм стремился сделать свою теорию основой для перестройки общества в духе утопических проектов создания гармонического "здорового общества", используя просветительские методы "социальной терапии", особенно эффективные, по его мнению, в период дошедшего до предела человеческого отчуждения]
"Хороший немец" мог в гитлеровские времена спать совершенно спокойно, потому что он "не знал" о Дахау [Прим.


перев.: Дахау - первый гитлеровский концентрационный лагерь, организованный гестапо в 1934 г. недалеко от центра Мюнхена. В этом лагере, просуществовавшем вплоть до вступления в Мюнхен войск союзников, содержались 250 тыс. граждан Германии и оккупированных ею стран. 70 тыс. из них были замучены или убиты]. А не знал, как объяснял он позже, потому, что четко организованная нацистская система держала его в неведении. (Любопытно, что я, еще подросток, живший в той же Германии, знал о Дахау. Я считал, что у меня были основания испытывать ужас перед Дахау). Конечно, истинная причина того, что "хороший немец" ничего не знал, заключается в том, что он никогда не считал своим долгом выяснять, почему исчез его сосед-еврей, квартира которого неожиданно освободилась. Профессор университета, мечтающий добиться места заведующего кафедрой и неожиданно это место получающий, не спрашивал, каким образом вожделенная кафедра вдруг освободилась. В конце концов, все немцы стали жертвами своей судьбы.
Сегодня даже самые высокопоставленные руководители изображают себя невинными жертвами техники, ответственность за действие которой они на себя не принимают, а на понимание ее даже не претендуют. (Следовало бы, однако, поинтересоваться, почему адмиралу Муреру никогда не приходило в голову узнать, какой эффект произвели миллионы тонн бомб, сброшенных в соответствии с указанием вычислительной машины на Вьетнам.) Государственный секретарь США доктор Генри Киссинджер, объясняя, что ему было известна очень немногое о "кошмарах Белого Дома", выяснившихся в процессе расследования "уотергейского дела", с горечью говорил о "фатальности событий и трагедии, в которую оказались вовлеченными столько людей" [Прим. перeв.: "Уотергейтское дело" в 1973-1974 гг. находилось в центре политической и общественной жизни США и приняло характер общенационального потрясения. Суть его в следующем. В ночь на 17 июня 1972 г. (год очередных президентских выборов в США) в штаб-квартире демократической партии США, размещавшейся в крупном вашингтонском отеле "Уотергейт", была обнаружена и задержана группа лиц, тайно проникших туда для установки подслушивающей аппаратуры.


В процессе расследования было установлено, что президент США Ричард Никсон, республиканец, переизбранный в ноябре 1972 г. на второй срок президентства, был непосредственно причастен к организации попытки установить подслушивающую аппаратуру, а в ходе расследования отказывался сотрудничать со следственными органами, давал ложные сведения и пытался использовать полномочия президента для того, чтобы прекратить расследование или ввести следователей в заблуждение. Одновременно выяснилось, что ряд высокопоставленных сотрудников правительственного аппарата и аппарата Белого Дома, в том числе и вице-президент С. Агню, были замешаны в коррупции. Все это привело к тому, что под угрозой импичмента (отзыва с поста президента по суду) Р. Никсон подал в августе 1974 г. в отставку. (Как было установлено, Г. Киссинджер - помощник президента пo вопросам национальной безопасности и государственный секретарь США в правительствах Р. Никсона и Д. Форда (1973-1977 гг.) в "уотергейтском деле" замешан не был)]
"В этой трагедии, представленной подобным образом, есть действие, но нет действующих лиц. Лишь "события" были "ужасны" - не отдельные люди или официальные лица. В таком омертвленном представлении нарушение закона и обман людей не планировался ж не практиковался: это просто "происходило""8.
Миф о технической, политической или социальной неизбежности - очень эффективное средство для успокоения совести. Его действие заключается в том, что оно снимает ответственность с плеч всякого, по-настоящему в него верящего.
Но на самом-то деле действующие лица существуют! Вот что, например, говорится в документе, обосновывающем будущие исследования и распространенном директором ведущей вычислительной лаборатории ведущего университета среди профессорско-преподавательского состава и персонала лаборатории9.
"Большая часть наших исследований финансируется правительством США и, в частности, министерством обороны, причем в будущем, вероятно, эта финансовая поддержка будет продолжаться.


Министерство обороны, так же как и другие правительственные агентства, занимается разработкой и эксплуатацией сложных систем, обладающих очень большим разрушительным потенциалом и во все большей степени управляемых и контролируемых с помощью цифровых вычислительных машин. Эти системы в значительной степени отвечают за поддержание в мире мира и стабильности и в то же время способны привести в действие силы, разрушительный эффект которых для человека почти непостижим."
Обратите внимание - ответственностью наделяются системы, а не люди. Как бы то ни было, реверанс в сторону их разрушительного потенциала сделан - и достаточно; теперь автор переходит к тому, что его действительно заботит:
"Решающее значение вычислительных машин более отчетливо проявляется в приложениях, связанных с военной сферой, чем при их использовании в гражданских сферах жизни общества. Но большинство из нас уже в достаточной степени осознало прогрессивно увеличивающуюся зависимость торговли и промышленности от вычислительных машин, чтобы представить себе, как само функционирование общества может попасть в зависимость от упорядоченного и целенаправленного выполнения каждую секунду миллиардов электронных команд. ...Самые различные организации будут располагать грандиозными системами, оснащенными быстродействующей памятью с произвольной выборкой в миллионы слов, способными выполнять десятки миллионов операций в секунду. Большая часть этих вычислительных машин будет связана между собой, образуя комплексы сетей, благодаря которым они смогут иметь доступ (контролируемый с помощью механизмов, созданных на основе того, над чем некоторые из нас работают сегодня) ко всей той информации, которая имеется обо всем и обо всех. И нет никаких преград для реализации этой тенденции развития вычислительной техники..."
"Особенно значительную роль мы могли бы сыграть в области программирования и контроля за работой вычислительных машин. Вполне возможно, что никакая иная организация не пригодна для исполнения этой роли в той степени, как наша, причем, быть может, сегодня в науке и технике нет роли более важной."


" Важность этой роли определяется, как уже отмечалось, тем обстоятельством, что вычислительная машина включила себя и, несомненно, будет продолжать включать себя в осуществление большинства функций, имеющих фундаментальное значение для существования, защиты и развития нашего общества. Уже сегодня нельзя повернуть назад, а через несколько лет станет совершенно очевидно, что обработка информации на наших вычислительных машинах столь же жизненно необходима для нас, как и зерно, созревающее на полях, и поток топлива из скважин".
Здесь нет и малейшего намека на вопрос, хотим ли мы такого будущего. Оно просто наступает. Мы беспомощны перед лицом подобного развития, которому без указания каких-либо причин просто нельзя помешать. Назад пути нет. Этот вопрос не подлежит обсуждению.
"Имеется много аспектов общей задачи овладения и контроля. Их диапазон широк - от сугубо философских проблем, касающихся значений, целей и обеспечения соответствия плана и реального поведения сложной системы, до почти чисто технической задачи отыскания сбоев в подпрограммах."
(На машинном жаргоне "сбой" [Прим. перев.: В оригинале использовано английское слово "bug"] - ошибка программирования.) Обратите внимание, какой узкий (технический) взгляд на философию здесь демонстрируется. Продолжим далее:
"Нельзя считать удовлетворительными методы программирования, допускающие проникновение ошибок в программы. Вероятно, лучший способ исключить ошибки - разработать безошибочные методы программирования. Тем не менее отладка [устранение из программ ошибок] должна оставаться в центре внимания исследований, посвященных программированию. Исследования, связанные с отладкой, помогут проникнуть в целый ряд проблем, касающихся формулирования и выражения намерений человека. Дело не ограничивается составлением программы, воспроизводящей постановку и решение задачи. По мере развития программирования сфера решения задач будет постоянно расширяться, увеличивая тем самым пространство приложений.


Целью должен служить метод программирования, обеспечивающий отсутствие ошибок и внезапных отказов при работе на этих высших уровнях точно так же, как он обеспечивает это на низших".
Особенно примечательно во всем этом то, что основное, а в действительности, единственное препятствие "решению задач", даже на "этих высших уровнях", рассматривается как проблема, целиком сводящаяся к техническим ошибкам. Значит, в обществе нет подлинных конфликтов. Раз мы понимаем "намерения человека" как техническую, в сущности, проблему, то все остальное - дело техники.
"Вычислительные машины, почти наверное, при выполнении своих задач свободны от ошибок в большей степени, чем люди. Если мы создадим программу для написания программ, то в результате будет сделан большой шаг по пути к программному обеспечению, не требующему отладки. Однако важно не замазывать проблемы, возникающие на стыке постановки задачи человеком и понимания ее вычислительной машиной. Маловероятно, что вычислительная машина составит приличную программу, если ее понимание задачи не будет абсолютно правильным..."
"Возможно, важную основу для усовершенствования программирования и отладки составляет моделирование. ...Вначале программист использует подобные модели, имеющиеся в его распоряжении, как вспомогательное средство. К концу эти модели, объединенные в одну всеобъемлющую модель, выполняют большую часть программирования и отладки, но программист все еще играет заметную роль, наблюдая за процессом программирования, разрешая сложные случаи, осуществляя эвристическое управление или что-то в этом роде. В конце концов, при благоприятном исходе модель становится системой автоматического программирования...".
"Лишь год или два назад слово "знание" в контексте, подобном данному, необходимо было брать в кавычки..., но сейчас [в довольно узком кругу специалистов в области информатики] существует общее мнение о том, что нами пройден порог, после которого вычислительные машины можно рассматривать как обладающие знанием и использующие его эффективно и осмысленно способами, аналогичными, а возможно, и лучшими, чем способы использования знания людьми...".


"В результате бесед с [нашим] профессорско-преподавательским составом у меня сложилось впечатление, что точки зрения о новом направлении в основном совпадают. Судя по всему, многие согласны с одним и тем же порядком приоритетов. Превращение этих впечатлений в слова потребовало много более трезвой оценки, размышлений и множества обширных дискуссий."
"Общее мнение об этом направлении... предполагает не только обеспечение простоты использования вычислительных машин, но, как подчеркивалось здесь, и возможность на них полагаться...".
"[Наши] уникальные возможности будут использованы лучше, если их полностью посвятят тому, чтобы обеспечить соответствие нашего будущего, в котором вычислительные машины будут играть доминирующую роль, нашим пожеланиям. Возможно, одни [мы] в состоянии представить себе достижение этой важной цели."
Автор этого документа (он, кстати, нигде не упоминается в нашей книге) просто предлагает реализовать программу, столь часто провозглашающуюся другими представителями мира технического оптимизма. То, что он пишет, полностью соответствует, например, прогнозу X. А. Саймона, данному им в 1960 г.:
"В очень близком будущем (много раньше, чем через 25 лет) мы добьемся технической возможности возложить на машины все функции, выполняемые человеком в организации. За это же время мы получим в свое распоряжение глубоко разработанные и экспериментально проверенные теории процессов познания у человека и их взаимодействия с эмоциями, установками и системами ценностей человека" [прим. авт.: Н. A. Simon. The Shape of Automation, 1960 (Контуры автоматизации). Работа перепечатана в Z. W. Pylyshyn, ed., Perspectives on the Computer Revolution (Взгляды на революцию, произведенную вычислительными машинами), Englewood Cliffs, N. J.; Prentice Hall, 1970. В этой же работе Саймон делает следующее предсказание: "Воспроизведение способностей мозга к решению задач и обработке информации не за горами; было бы удивительно, если бы это не осуществилось в ближайшее десятилетие".


Итак, прошло уже не десять лет, а больше, но мозг остается такой же загадкой, какой он был всегда. Можно предположить, что профессор Саймон удивлен. Когда вам в кино приходится видеть какую-то особенно отвратительную сцену, вы, чтобы не поддаваться ее воздействию, сознательно напоминаете себе, что люди на экране - актеры. В нашем случае этот прием не работает. Профессор Саймон является одним из наиболее влиятельных деятелей науки современной Америки. То, что он говорит, воспринимается как имеющее большое значение].
Выраженный здесь "оптимизм" относится не только к вычислительным машинам. Профессор Б. Ф. Скиннер, лидер бихевиористского направления в психологии, о котором часто говорят как о крупнейшем психологе нашего времени, писал:
"Катастрофические последствия использования здравого смысла для управления поведением человека проявляются во всех аспектах жизни общества - от международных отношений до ухода за детьми, и мы будем продолжать демонстрировать свою несостоятельность во всех этих сферах до тех пор, пока научный анализ не обнажит преимущества более эффективной методологии."
"С бихевиористской точки зрения человек сегодня в состоянии управлять собственной судьбой, поскольку ему известно, что должно быть сделано и как это следует делать"10
[Прим. перев.: Бихевиоризм (от англ. слова "Behavior" - "поведение") - господствующее направление в американской психологии XX в., отрицающее сознание как предмет психологии и считающее таковым поведение, под которым понимаются телесные реакции на стимулы. Основоположником бихевиоризма является американский психолог Джон Уотсон (1878-1958). Сущность бихевиоризма Д. Уотсон определяет следующим образом [см. статью "Бихевиоризм". - В кн.: Хрестоматия по истории психологии. Период открытого кризиса (начало 10-х годов - середина 30-х годов XX в.)/ Под ред. П. Я. Гальперина, А. П. Ждан. - Изд. МГУ, 1980, с. 34-44. Статья написана им по заказу редакции БСЭ (М., 1930, т. 6)]:


" С точки зрения бихевиоризма подлинным предметом психологии (человека) является поведение человека от рождения и до смерти. Явления поведения можно наблюдать точно так же, как и объекты других естественных наук. В психологии поведения можно использовать те же общие методы, которыми пользуются в естественных науках. И поскольку при объективном изучении человека бихевиорист не наблюдает ничего такого, что он мог бы назвать сознанием, чувствованием, ощущением, воображением, волей, постольку он больше не считает, что эти термины указывают на подлинные феномены психологии. Он приходит к заключению, что все эти термины можно исключить из описания деятельности человека. Наблюдения над поведением могут быть представлены в форме стимулов (С) и реакцией (Р). Простая схема "С - Р" вполне пригодна в данном случае. Задача психологии поведения является разрешенной в том случае, если известны стимул и реакция ..." "Основная задача бихевиоризма заключается, следовательно, в накоплении наблюдений над поведением человека с таким расчетом, чтобы в каждом данном случае - при данном стимуле (или, лучше сказать, ситуации) - бихевиорист мог сказать наперед, какова будет реакция, или, если дана реакция, какой ситуацией данная реакция вызвана ..."
Уже в начале 20-х годов бихевиоризм начал распадаться на ряд направлений, в которых основные элементы его доктрины сочетались с элементами других теорий, в частности, гештальт-психологии и фрейдизма. В 30-х годах роль лидера американской психологии переходит к Бурхусу Фредерику Скиннеру (р. 1904). Категориальная схема, разработанная Скиннером, соединила категорию действия, какой она сложилась в "классическом" бихевиоризме, с принципом подкрепления, заимствованным у Павлова. Это позволило сделать шаг вперед по сравнению с Уотсоном, изучить широкий спектр отношений между двигательной активностью организма и ее мотивационной регуляцией. Скиннер считал формулу "С - Р" недостаточной для решения проблем управления поведением, поскольку она не учитывает результатов реакции на последующее поведение.


Реакция рассматривается только как производное от стимула, только как следствие, но не как детерминанта, которая модифицирует организм. Формула, адекватно представляющая взаимодействие организма со средой, должна, согласно Скиннеру, определять три следующих элемента: 1) событие, по поводу которого происходит реакция; 2) саму реакцию; 3) подкрепляющие последствия.
Скиннера отличала очень высокая культура психологического эксперимента. Разработанные им принципы "оперантного бихевиоризма" легли в основу разработанной им и его последователями методики "оперантного обусловливания", получившей в США широкое практическое применение, в частности, в педагогике. Более подробные сведения по этому поводу можно найти, например, в монографиях: М. Г. Ярошевский. Психология в XX столетии. Теоретические проблемы развития психологической науки: Изд. 2-е, дополненное. - М.: Политиздат, 1971; История психологии: Изд. 2-е переработанное. - М.: Мысль, 1976]
Последнюю фразу нельзя понять иначе, чем "Я, Б. Ф. Скиннер, знаю, что должно быть сделано и как это следует делать". Так же, как последняя фраза цитировавшегося мной документа, который обосновывает план дальнейших исследований, не может значить ничего иного, как "мы" - это те, работа которых заключается в посвящении наших ресурсов обеспечению соответствия будущего, где вычислительные машины будут играть столь доминирующую роль, "нашим" пожеланиям. "Мы" - это члены сравнительно узкого круга ученых-информатиков, и в этом кругу "мы" можем говорить откровенно, не прибегая к эвфемистическим кавычкам [Прим. перев.: Эвфемистический - прилагательное к "эвфемизму" - тропу, состоящему в непрямом, прикрытом, вежливом, смягчающем обозначении какого-либо предмета или явления]. Показательно, что обе фразы в обоих документах заключительные и, очевидно, содержат самое важное сообщение.
Мессии от техники, которые из-за того, что считают невозможным доверять мозгу человека, ощущают необходимость создать вычислительные машины, "на которые можно полагаться", которые постигают намерения человека и разрешают его проблемы, имеют, однако, конкурентов и в других сферах.


Одним из наиболее известных из них является профессор Д. В. Форрестер (Массачусетский технологический институт), интеллектуальный отец направления системной динамики. Давая показания в комитете конгресса США11, он заявил:
[Прим. перев.: Методология системной динамики возникла в Массачусетском технологическом институте (США) как следствие работ профессора Джея Форрестера, одного из крупнейших современных специалистов в области теории управления, связанных с изучением промышленных предприятий как сложных динамических систем. В методологии системной динамики соответственно вводятся понятия уровня и его изменения - темпа. Построение описания динамики системы предполагает проведение анализа зависимости темпов от уровней.
Системная динамика в современном варианте представляет собой тщательно разработанные методические рекомендации по анализу исследуемой проблемы, ее качественному описанию в виде специальной схемы - диаграммы, позволяющей наглядно увидеть все переплетения связей, проследить характер обратных связей, т. е., в сущности, блок-схемы имитационной программы. Изучение модели на вычислительной машине облегчается благодаря специально разработанному для системной динамики языку моделирования DYNAMO.
Дж. Форрестер разработал специфическую технику составления и машинной эксплуатации моделей сложных динамических процессов. Достоинства методологии, в первую очередь, Определяются простотой составления формальных описаний и интерпретации результатов, наглядностью, доступностью для использования специалистами, не обладающими высокой квалификацией в области математики и программирования.
Системная динамика получила широкое распространение и применялась и применяется в самых различных областях (техника, экономика, социология, экология, "глобальное" моделирование). Основные идеи и методы системной динамики изложены в монографии: Дж. Форрестер. Основы кибернетики предприятия (Индустриальная динамика): Пер. с англ./ Под общей ред. и с предисловием Д. М. Гвишиани. - М.: Прогресс, 1971.


Примеры реализации методологии системной динамики описаны в двух других монографиях Дж. Форрестера: [12] и Мировая динамика: Пер. с англ. А. Н. Ворощука и С. А. Пегова/ Под ред. Д. М. Гвишиани и Н. Н. Моисеева с предисловием Д. М. Гвишиани и послесловием Н. Н. Моисеева.-М.: Наука, 1978. 167 с.]
"Моя основная мысль заключается в том, что мозг человека не приспособлен для интерпретации поведения социальных систем.... До недавнего времени не существовало иного способа оценивать поведение социальных систем, кроме как посредством размышления, обсуждения, доказательств и слепых догадок."
Другими словами, способы, которыми Платон, Спиноза, Юм, Милль, Ганди и многие другие, пользовались, размышляя о социальных системах, явно хуже; чем подход, практикуемый системным анализом
[Прим. перев.: Отождествление системной динамики с системным анализом и системным подходом неправомерно. Под системным анализом а) и системным подходом б) в советской науке в настоящее время принято понимать следующее:
а) совокупность методологических средств, используемых для подготовки и обоснования решений по сложным проблемам политического, военного, социального, экономического, научного и технического характера; опирается на системный подход и ряд математических дисциплин и современных методов управления; основная процедура - построение обобщенной модели, отображающей взаимосвязи реальной ситуации; техническая основа системного анализа - вычислительные машины и информационные системы;
б) направление методологии научного познания и социальной практики, в основе которого лежит рассмотрение объектов как систем; ориентирует исследователя на раскрытие целостности объекта, на выявление многообразных типов связей в нем и сведение их в единую теоретическую картину; системный подход неразрывно связан с материалистической диалектикой, является конкретизацией ее основных принципов.
Термин "системный анализ" иногда употребляется как синоним термина "системный подход"]
Беда заключается в том, что эти способы мышления базируются на мысленных моделях.


Но
" Мысленная модель нечетка. Она неполна. Она неточно сформулирована. Более того, у отдельного человека мысленная модель меняется по мере течения времени и даже в ходе одной беседы.... Цели различны и остаются несформулированными. Неудивительно, что достижение компромисса занимает столько времени."
Ясно: дели должны быть фиксированными, а следовательно, и мысленные модели. Иначе, как в противном случае мы определим операторы (если обратиться к языку системы GPS), подлежащие применению к тем объектам, которые мы хотим преобразовать в "искомые объекты"? Нечеткость же мысленных моделей проистекает, как отмечает Форрестер, главным образом, из нечеткости собственно человеческого языка. Это также следует исправить.
"Машинные модели обладают рядом важных отличий от мысленных моделей. Машинные модели формулируются в явном виде. "Математическая" нотация, используемая для описания модели, однозначна. Этот язык обладает большей ясностью и точностью, чем разговорные языки типа английского или французского. Язык машинной модели - это более простой язык. Его преимущества определяются ясностью значений и простотой синтаксиса. Практически любой человек, независимо от уровня образования, в состоянии понять язык машинной модели. Более того, любые понятия и отношения, которые можно ясно сформулировать на обычном языке, поддаются переводу на язык машинной модели."
Остается только удивляться, что этот обычный язык, обладая всеми этими дисфункциональными свойствами, до сих пор существует. И если столь очевидно, что любые понятия и отношения можно перевести в термины машинного языка, то почему же лингвисты, например Халле, Якобсон, Хомский, все еще так упорно бьются над своими проблемами? И почему еще существуют поэты?
Что касается нашего вопроса, то просто неверно, что "практически любой человек" в состоянии понять язык, скажем, форрестеровских машинных моделей. Последние получили широкое признание потому, что были разработаны известным ученым, (работающим в престижном университете, а также потому, что получаемые с их помощью результаты имеют характер "как говорит вычислительная машина".


Большинство министров, профсоюзных лидеров и комментаторов, занимающихся социальными вопросами, которые были вовлечены в дебаты о "пределах роста" могли бы разобраться в программах вычислительных машин, образовавших сердцевину полемики, не в большей степени, чем в уравнениях квантовой физики. Подобно адмиралу Муреру они находят полезным "полагаться" на машину.
[Прим. перев.: Речь идет о книге американского ученого Денниса Медоуза "Пределы роста. Доклад Римскому клубу". Ее появление в 1972 г, вызвало глубокий интерес у ученых, политических и общественных деятелей многих стран мира и породило острую дискуссию по проблемам целей и перспектив мирового развития и, в частности, по проблемам экологии.
Римский клуб создан в апреле 1968 г. группой европейских ученых с целью осознания мировой проблематики как бесприбыльная гражданская ассоциация, имеющая неформальный, неполитический и транскультурный характер и включающая ограниченное число членов.
Основными целями Римского клуба являются: 1) способствовать и содействовать тому, чтобы люди как можно яснее и глубже осознавали затруднения человечества; 2) стимулировать формирование новых отношений, программ деятельности и институтов, которые бы способствовали исправлению нынешней ситуации. Важное место в работе Римского клуба занимают "проекты", каждый из которых посвящен какой-либо проблеме глобального значения. Результаты выполнения проекта представляются в форме "доклада Римскому клубу".
Доклад "Пределы роста" явился результатом осуществления первого проекта, основной задачей которого был призыв к регулированию материального роста как необходимой составной части общечеловеческого развития. В основу проекта легли созданные Дж. Форрестером с помощью разработанной им методологии системной динамики модели "Мир-1" и "Мир-2" (грубо имитировавшие развитие мировой ситуации с помощью пяти основных взаимозависимых переменных: населения, капиталовложений, использования невозобновимых ресурсов, загрязнения среды и производства продовольствия) и модель "Мир-3", созданная учеником Форрестера Д.


Л. Медоузом в процессе усовершенствования модели "Мир-2".
Основной вывод доклада Медоуза заключался в том, что материальный рост не может продолжаться до бесконечности: конечность размеров планеты с необходимостью предполагает и пределы человеческой экспансии. Он утверждал, что при сохранении нынешних тенденций к росту в условиях конечной по своим масштабам планеты уже следующие поколения человечества достигнут пределов демографической и экономической экспансии, что приведет систему в целом к неконтролируемому кризису и краху. Выводы гласили, что еще можно избежать катастрофы, приняв меры по ограничению и регулированию роста и переориентации его целей, но чем дальше, тем болезненнее будут эти изменения и тем меньше останется шансов на конечный успех.
Сведения об этом проекте на русском языке можно найти в книге: Дж. В. Форрестер. Мировая динамика: Пер. с англ. А. Н. Ворощука и С. А. Пегова/ Под ред. Д. М. Гвишиани и Н. Н. Моисеева с предисловием Д. М. Гвишиани и послесловием Н. Н. Моисеева. - М.: Наука, 1978, 167 с. В сб.: Современные проблемы кибернетики. Пер. с англ. с предисловием Н. Н. Моисеева. - М.: Знание, 1977. Сер. Математика, кибернетика, N 7. На русском языке сведения о деятельности Римского клуба можно найти в книге его президента - А. Печчеи. Человеческие качества: Пер. с англ. О. В. Захаровой/ Общая редакция и послесловие акад. Д. М. Гвишиани. - М.: Прогресс, 1980. Оценка работ Римского клуба с марксистских позиций дана в послесловии акад. Д. М. Гвишиани к этой книге]
И, наконец, профессор Форрестер снова заверяет публику, что "зримы способы" (естественно, для него), позволяющие приступить к полному устранению неопределенности.
"Величайшая неопределенность, свойственная мысленным моделям, заключается в невозможности предвидеть последствия взаимодействия отдельных частей системы. Эта неопределенность полностью ликвидирована в машинных моделях. Получив определенный; набор допущений, вычислительная машина прослеживает результаты, не впадая в сомнения или ошибки."


Он продолжает утверждать, что, хотя в нашей социальной системе "нет утопий" и нет устойчивых режимов-поведения, свободных от воздействия принуждений и: стрессов, некоторые из допустимых видов поведения более "желательны", чем остальные. А каким же образом создаются возможности для реализации этих более желательных видов поведения?
"Они, очевидно, возможны только в том случае, если мы обладаем хорошим пониманием динамики системы и намерены придерживаться самодисциплины и противостоять внешним воздействиям, неизбежно сопровождающим предпочтительные режимы поведения."
Несомненно, существуют интерпретации слов "система" и "динамика", придающие этому замечанию благоприятный характер. Но в том контексте, в котором эти слова употреблены здесь, они приобретают специфическое значение, определенное для них Форрестером. В таком случае очевидно, что обращение Форрестера равнозначно утверждениям Скиннера и других: единственный путь добиться лучшего понимания, который только и ведет к "предпочтительным видам поведения", - это форрестеровские (или скиннеровские, или GPS-ские, или тому подобные) методы "научного анализа".
Различные системы и программы, которые мы обсуждаем, обладают очень существенными общими характеристиками: они в некотором смысле простые; все они злоупотребляют языком и искажают его; и, наконец, провозглашая отказ от нормативного содержания, отстаивают авторитаризм, основанный на профессиональной компетентности. Эта защита, естественно, замаскирована риторикой, для изложения которой привлекается внешне нейтральный, обильно уснащенный жаргоном профессиональный язык (на нормальном языке все это обычно называется "дерьмом собачьим" [Прим. перев.: В оригинале употреблен более сильный термин "bullshit"]). Эти общие характеристики до определенной степени поддаются разделению, но они не являются взаимно независимыми.
Наиболее поверхностные аспекты простоты этих систем, проявляющиеся в упрощенных представлениях объектов их анализа, бросаются в глаза сразу же.


Так, Саймон рассматривает человека как "очень простую вещь". "Кажущаяся" сложность его поведения определяется сложностью среды, в которой он действует. В любом случае человека можно имитировать с помощью некоторой системы, учитывающей лишь "небольшое число простых параметров", системы, включающей лишь небольшое число (явно много меньше, чем, скажем, 10 тыс.) "элементарных информационных процессов".
Директор лаборатории, высказывания которого я приводил, считает, что проблему человеческих устремлений можно успешно решать в процессе исследования методов отладки программ вычислительных машин. Это убеждение разделяют многие его коллеги. Скиннер считает человека пассивным продуктом (жертвой) своего генетического фонда и сочетаний подкреплений, получаемых им на протяжении жизни. Основное различие между подходом Скиннера и системой GPS заключается в том, что Скиннер предпочитает рассматривать лишь "поведение типа "вход-выход"" (используя жаргон информатики), а создатели системы GPS и подобных систем считают, что они в состоянии кое-что сказать также о происходящем внутри организма. Философское различие между этими двумя подходами невелико. Форрестер рассматривает буквально весь мир в категориях контуров обратных связей.
"Цепи обратной связи являются теми основными ячейками, из которых построены системы. ...Цепь обратной связи описывается переменными двух видов, называемых здесь темпом и уровнем. Эти два вида переменных необходимы и достаточны... Переменные уровня... есть результат аккумуляции, или интеграции... Темпы потока служат причиной изменения уровней. Сведения об уровнях являются входными величинами в уравнениях темпов, которые управляют темпами потока."
"Уравнения темпов представляют собой формулировки линии поведения системы. Они определяют, каким образом имеющаяся информация об уровнях преобразуется в действие потока. ...Уравнения потока формулируют как несоответствие между целью и видимыми условиями, так и то действие, которое будет следствием этого несоответствия."12[Прим.


перев.: Цитата из книги Дж. Форрестера приводится по тексту ее русского перевода (см. [12])]
Обратите внимание на совпадение языка этой цитаты с языком, использованным Ньюэллом и Саймоном при обсуждении задач и процессов решения задач (гл. 6). Последние говорят о "текущих объектах" и "искомых объектах", различиях между ними, операторах, уменьшающих эти различия, целях и т. п.
Различие между их и форрестеровской системами определяется, главным образом, использованием разных наборов непроизводных "элементарных информационных процессов" и, несомненно, тем обстоятельством, что в системе GPS для сокращения объема поиска адекватных операторов и прочего используются эвристические методы, а в системе Форрестера все в явном виде алгоритмизируется в терминах переменных потока и уровня, включенных в контуры обратных связей. Представления же о мире, воспроизводимые этими двумя системами, в основе одинаковы и просты.
Эти системы просты также в более глубоком и важном смысле. Собственно разуму они отводят единственную роль - власть над вещами, человеком и в конечном счете над природой.
"Понятия сводятся к сводке характеристик, общих для нескольких образцов. Представляя сходство, понятия избавляют от необходимости перечислять качества и позволяют, таким образом, лучше организовать знания. Они рассматриваются как чистые аббревиатуры объектов, к которым относятся. Любое использование технического суммирования фактических данных, выходящее за пределы служебного, устраняется как последние проявления язычества. Понятия превращаются в "обтекаемые", рационализированные, облегчающие труд механизмы... само мышление [было] низведено до уровня производственных процессов..., т.е. превращено в неотъемлемый элемент производства."13
Тот, кто не знаком с технической основой обсуждаемых нами систем, не может даже вообразить, насколько трезвая и точная их характеристика дается в этом отрывке. Это было написано философом и социологом Максом Хоркхаймером в 1947 г., за много лет до того, как силы, даже тогда, по собственному выражению Хоркхаймера, извращавшие разум, стали буквально воплощаться в машинах.


Этот отрывок снова показывает нам (особенно если учесть, когда и кем он был написан), что ЭВМ в том виде, в каком она сейчас используется технической элитой, вовсе не является причиной. Она, скорее, инструмент, доставленный на службу рационализации, поддержке и увековечиванию самых консервативных, а, в сущности, реакционных идеологических компонентов нынешнего Zeitgeist [Прим. перев.: Дух времени (нем.)]
Как мы ясно установили, тщательно рассматривая различные системы, значение полностью трансформировалось в функцию. Язык, а следовательно, и собственно разум превратились в не что иное, как в инструмент для воздействия на предметы и события нашего мира. Ничто из выполняемого этими системами не несет никакого внутреннего смысла. Существуют лишь цели, определяемые необратимым ходом событий, и методы анализа типа "цели и средства", предназначенные для выявления различий между состоянием дел, "наблюдаемыми условиями" и тем, какими мы хотели бы их видеть в соответствии с предопределениями судьбы, ведущей нас.
В процессе самоадаптации к этим системам мы и даже наши адмиралы "кастрировали" не только себя (иначе говоря, обрекли себя на импотенцию), но и наш язык. Поскольку сейчас он превратился просто в еще один инструмент, то все понятия, идеи, образы, которые художники и писатели не могут зашифровать на доступном вычислительной машине языке, потеряли свои функции и силы. Форрестер говорит об этом определенным образом - можно увидеть, как другие кивают в знак согласия с ним: "Любые понятия и отношения, которые можно ясно сформулировать на обычном языке, поддаются переводу на язык машинной модели". Бремя доказательства того, что нечто было "ясно сформулировано", лежит на мастере слова. Неудивительно, что при подобном отношении к языку разница между живым и неживым, между человеком и машиной превращается во что-то малореальное, самое большее - в проблему нюанса!
Искаженный язык очень тесно сросся с риторикой технической элиты.


Мы уже обращали внимание на трансформацию Минским значения слова "понимать" в чисто инструментальный термин. Именно такая интерпретация этого термина пронизывает, естественно, все обсуждаемые нами системы. Употребление Ньюэллом и Саймоном слова "задача" - другой пример, который имеет столь же существенное значение.
В период волнений в американских университетах часто можно было слышать, как ораторы из самых лучших побуждении утверждали, что беспорядки, по крайней мере в их университете, главным образом, вызваны неудовлетворительной коммуникацией между различными группами, составляющими университетское сообщество, например профессорско-преподавательским составом, администрацией, студентами, научным персоналом. "Задача", таким образом, рассматривалась как коммуникационная, т. е. по существу техническая проблема. Поэтому ее следует решать техническими средствами: установкой разнообразных систем прямой телетайпной связи с кабинетом ректора или проректора.
Вероятно, коммуникационные трудности действительно существовали; в большинстве университетов они обычно имеются. Но такой взгляд на "задачу" (полностью согласующийся с позицией Ньюэлла и Саймона о "решении задач человеком" и с инструментальным мышлением) энергично маскирует, в сущности хоронит, сам факт существования реальных конфликтов.
Может сказаться, например, что подлинные этические, моральные и политические интересы студентов вступают в конфликт с интересами университетской администрации, причем обе группы прекрасно понимают интересы партнера. Тогда возникает настоящая задача, а не коммуникационные трудности, и совершенно очевидно, что дело нельзя поправить техническими средствами-установкой прямой телетайпной связи.
Инструментальное мышление превращает любую дилемму, какой бы реальной она ни была, в сущий парaдокс, ее можно разрешить с помощью логики и вычислений. Все интересы, находящиеся в конфликте, замещаются чисто техническими проблемами [Прим. перев.: Речь идет о бурном студенческом движении в американских университетах в 60-е годы.


Оно составляло основу так называемых новых левых, провозгласивших необходимость решительной борьбы с фундаментальными пороками современного "постиндустриального" общества. Волнения были связаны в основном с двумя проблемами: 1) борьбой за реформы системы высшего образования, в том числе демократизацию университетской жизни, разрыв связей университетов с военно-промышленным комплексом (начало и середина 60-х годов); 2) борьбой против войны США во Вьетнаме (вторая половина 60-х годов)].
Это так же поучительно, как и история, рассказанная Филипом Моррисоном. В более широком смысле значение этого обстоятельства заключается в том, что искажение смысла слова "задача" породило в свою очередь мистику "решения задач", оказавшую на весь мир катастрофическое влияние. Когда любая проблема, возникающая в международных отношениях, "самыми лучшими и самыми яркими" специалистами по решению задач рассматривается как чисто техническая, войны типа вьетнамской становятся по существу неизбежными. Признание действительно взаимно противоречащих, но законных интересов сосуществующих обществ (а оно является необходимым предварительным условием для разрешения или урегулирования конфликта) полагается невозможным с самого начала. Все делается как раз наоборот-простейшие критерии используются для обнаружения различий, для поиска средств уменьшения этих различий и для применения операторов к "имеющимся объектам", чтобы преобразовать их в "искомые объекты". Это действительно вполне разумно, если под "разумом" предполагать инструментальное мышление, т. е. использовать американские вооруженные силы, бомбардировщики "В-52", напалм и все остальные средства против "находящегося под коммунистическим господством" Вьетнама (явно "нежелательного объекта") в качестве "оператора", чтобы преобразовать его в "искомый объект" - страну, служащую американским интересам. Механизация мышления и языка приводит к последствиям, далеко выходящим за пределы предвидений упоминавшихся нами специалистов по решению задач.


Хоркхаймер обрисовал соответствующие перспективы еще задолго до того, как вычислительные машины превратились в фетиш и познакомили нас с конкретной формой извращения разума:
"Справедливость, равенство, счастье, терпимость - все понятия, которые... в предыдущие века предполагались присущими разуму или благодаря ему существующими, лишились своих интеллектуальных корней. Они еще продолжают оставаться целями и намерениями, но нет такой разумной силы, которая была бы наделена властью отдавать им должное и соединять их с объективной реальностью.
Придя к нам из священных исторических документов, они все еще могут пользоваться определенным престижем, а некоторые входят в конституции величайших стран. Тем не менее они никак не подтверждаются разумом в его современном понимании. Кто может сказать, что любой из этих идеалов ближе к истине, чем его противоположность?"
"Согласно философии современного среднего интеллектуала существует лишь одна высшая власть - наука, которая понимается как классификация фактов и исчисление вероятностей. Утверждение о том, что справедливость и свобода сами по себе лучше несправедливости и угнетения, не поддается научной проверке и потому бесполезно. Само по себе это утверждение становится бессмысленным точно так же, как утверждение, что красное красивее голубого или что яйца лучше молока"14.
Как мы уже отмечали, реальная сложная система, не имеющая конкретных авторов, о которой нам известно только то, что она дана наукой и за ее результатами стоит авторитет науки, не позволяет ставить вопросы об истинности или справедливости.
Я не могу сказать, почему цитировавшиеся мной представители искусственного интеллекта хотят, чтобы развитие, которое они предсказывают, стало реальностью. Некоторые из них говорили, что работают в этом направления потому, что "если мы не сделаем этого, то это сделает кто-нибудь другой"; с моральной точки зрения эта причина совершенно несостоятельна. Они боятся, что злонамеренные люди создадут сверхинтеллектуальные машины и воспользуются ими для порабощения человечества; при этом единственным средством защиты от этих вражеских машин будут сверхинтеллектуальные машины, находящиеся под нашим контролем, т.


е. под контролем людей благонамеренных. В других случаях выясняется, что эти люди отказываются от своей независимости, исходя из "принципа" технической неизбежности. В конечном счете, однако, все, что я могу сказать с полной уверенностью: эти люди - не глупцы. Все остальное покрыто тайной.
Немногим легче понять, почему широкая публика воспринимает их идеи, по меньшей мере, хладнокровно, а иногда и с энтузиазмом. Риторика технической интеллигенции может казаться привлекательной, потому что воспринимается как приглашение обратиться к разуму. Действительно, это - так. Но, как я утверждал, при этом имеется в виду инструментальное мышление, а не подлинный разум человека. Эта риторика рекламирует простые и "научно" освещенные ответы на все мыслимые вопросы. Она эксплуатирует миф о профессиональной компетентности.
Искажение языка здесь также играет значительную роль. Язык, используемый "искусственной интеллигенцией", специалистами в области модификации поведения и системотехники, вводят в заблуждение. Люди, вещи, события "программируются", говорится о "входах" и "выходах", контурах обратной связи, переменных, параметрах, процессах и тому подобном, и в конце концов исчезает какая бы то ни была связь с конкретными ситуациями. В результате остаются лишь диаграммы, наборы данных, распечатки. И лишь "мы"-специалисты, в состоянии понимать их. "Мы" настойчиво демонстрируем (хотя бы только для того, чтобы иметь хорошее общественное реноме) нашу озабоченность социальными последствиями "нашей" деятельности и "наших" планов. Обоснования планов исследований типа того, что я цитировал, всегда открываются разделом, содержащим беглое упоминание о разрушительном потенциале наших инструментов. И "мы" неустанно пишем эссе о социальных последствиях наших технических новинок. Но, как я отмечал раньше, эти высказывания практический посвящены самообслуживанию.
"Типичный очерк на тему "Влияние вычислительных машин на общество" построен так.


Сначала перечисляются аргументы в пользу машин. Говорится обо всем хорошем, что машины уже дали для общества и иногда пытаются утверждать, что общество рухнуло бы, если бы вовремя не наступила "машинная революция". Затем следуют соображения "против", говорится о тех проблемах, которые вызывает введение вычислительных машин. Обычно упоминается об угрозе отдельной личности, создаваемой огромными информационными системами, об опасности роста безработицы в результате промышленной автоматизации. И наконец, следуют аплодисменты настоящему и блестящему будущему вычислительных машин, причем показывается, что опасности, упомянутые во второй части, можно смягчить с помощью хитроумных технических выдумок. Заключительный параграф содержит призыв к щедрой поддержке со стороны общества все более и более развивающихся исследований в области изучения и конструирования вычислительных машин. При этом обычно следуют более или менее прозрачные намеки на то, что только информатика, а следовательно, только ученые-информатики могут уберечь мир от, надо признаться, опасных "радиоактивных осадков", выпадающих в результате использования вычислительных машин."15[Прим. перев.: Цитата из работы Дж. Вейценбаума приводится по тексту перевода на русский язык (см. [15]) с некоторыми изменениями]
Истинное содержание такого типичного эссе заключается в том, что специалист обо всем позаботится, даже о разрешении проблем, которые он, сам создает. Он нуждается в большем количестве денег. Всегда. Но он успокаивает общественное мнение, которое вообще ни о чем знать не хочет.
Каков же ответ "технаря" на обвинения, подобные выдвинутым здесь? Их просто отбрасывают как чисто философские. Например, моя статья о влиянии вычислительных машин на общество вызвала сотни писем, но лишь одно было написано человеком, работающим в области искусственного интеллекта. Оно пришло от бывшего студента профессора Саймона, в нем говорилось:
"Что касается общества в целом, то основная роль вычислительных машин важнее, чем их [sic] побочные эффекты.


Только люди с очень сильным философским уклоном считают более важными потенциальные побочные эффекты... Редкий человек тратит больше нескольких часов на обдумывание философского смысла"16.
Это, несомненно, полностью соответствует наблюдению Хоркхаймера о том, что язык утратил собственное право использовать не инструментальные, т. е. философские, термины. Важный в более непосредственном смысле ответ дал доктор Кеннет Б. Кларк на симпозиуме, проходившем в Массачусетском технологическом институте. Он выразил отчаяние по поводу того, что Массачусетский технологический институт не посвящает большую часть своих возможностей решению социальных проблем. Он сказал (цитирую по памяти): "Это грандиозный институт, занимающийся проблемами науки и техники и обладающий в этой области высокой компетентностью. Почему же, видя вокруг столько горя и страданий, вы не используете свои приборы и методы для разрешения жгучих социальных проблем нашего времени?"
Я заметил ему, что разрешение насущных проблем нашего времени не обязательно искать исключительно в науке и технике; что его собственный поиск технических решений для величайших проблем, в частности, предложение регулярно давать транквилизаторы политическим лидерам17, возможно, ложно по существу.
Он ответил: "Я уже очень давно пришел к заключению, что ответы на важнейшие вопросы, с которыми человек сталкивался во все времена, может дать только рациональное мышление. Единственной альтернативой является какая-то разновидность отказа от разума, что как мы убедились, приводит только к насилию и разрушению".
Вполне можно подписаться под этой точкой зрения, но лишь в том случае, если под рационализмом понимать нечто отличное от обычного использования науки и техники, если его не отождествлять автоматически и по смыслу с вычислимостью и логичностью. Альтернатива той разновидности рационализма, которая решение мировых проблем видит в психотехнике, не сводится к отказу от разума. Эта альтернатива - разум, возвращенный величию, подлинности, чувству собственного достоинства и индивидуальной независимости человека.


Инструментальное мышление превратило слова в фетиш, окруженный черной магией. И только у магов есть права посвященных. Только они могут сказать, что значат слова. И они играют словами и водят нас за нос. Когда Скиннер противопоставляет науку здравому смыслу и утверждает значительное превосходство первой, он имеет в виду свою "науку о поведении" и придает слову "здравый" в выражении "здравый смысл" уничижительное значение [Прим. перев.: В переводе этой фразы мысль автора несколько нивелируется из-за языковых различий. Английское "common sense" в русском языке передается как "здравый смысл", но слово "common" имеет значение не "здравый", а "общий", "общепринятый", "распространенный", "обыденный"]. Он не подразумевает просвещенный здравый смысл, выступающий, с общих культурных позиций, или здравый смысл, вообще безо всякой "причины" упрямо противящийся тому, что свобода и достоинство - это абсурдные и отжившие понятия.
Технократ будет снова и снова утверждать, что точки зрения, подобные высказанным, - антитехничны, антинаучны и, в конечном счете, антиинтеллектуальны. Он попытается трактовать все доводы, направленные против его исполненных мании величия видений, как аргументы, ведущие к отказу от разума, рациональности, науки, техники и призывающие к использованию одной интуиции, ощущений, наркотического умопомрачения и т. д. На самом деле, я выступаю за рациональное мышление. Но я настаиваю на том, что рациональность нельзя отделять от интуиции и чувств.
Я выступаю за рациональное использование науки и техники, а не за отказ от них и не за их мистификацию. Я настаиваю на переходе к этическому мышлению при планировании научного развития. Я веду бой с экспансионизмом [Прим. перев.: В оригинале автор использует термин "imperialism"] инструментального мышления, а не с мышлением.
Говорят, всегда есть люди, считающие, что время, в которое они живут, преисполнено отчетливыми предвестниками грядущих великих катастроф и даже что оно - наихудшее из всех времен.


Мы, которые жили и ясно сознавали происходящее в те времена, когда казалось, что фашизм распространяется чуть ли не повсюду, видели, как смерть приготовилась поглотить всю цивилизацию. Цивилизация справилась с этой угрозой - опасностью, в которой нынешняя молодежь не отдает себе отчета. Но нельзя сказать, что цивилизация, пережив фашизм или мировую войну, которая была лишь за двадцать лет до него, осталась совершенно невредимой [Прим. перев.: Речь идет о первой мировой войне 1914-1918 гг.]. Нам, как никому до нас, довелось узнать, что человек может творить с себе подобными. Германия осуществила "окончательное решение еврейского вопроса" как упражнение из учебника по инструментальному мышлению [Прим. перев.: Под "окончательным решением еврейского вопроса" в нацистской Германии понималась государственная программа, выражавшая один из ключевых пунктов нацистской идеологии и предусматривавшая полное уничтожение евреев во всем мире. В результате осуществления этой программы с 1933 г. по 1945 г. было уничтожено около 6 млн. евреев, живших в Германии и в захваченных ею странах и районах].
Человечество ненадолго приходит в ужас, когда больше не может закрывать глаза на то, что происходило, когда начинают распространяться фотографии, сделанные самими убийцами, и когда на свет божий снова появляются несчастные уцелевшие.
Но это ни к чему не приводит. Та же логика, то же холодное и безжалостное использование "вычислительного мышления" в последующие два десятилетия жестоко погубили, по меньшей мере, столько же людей, сколько пало жертвами специалистов тысячелетнего рейха. Мы ничему не научились. Сегодня цивилизация находится в такой же опасности, как и тогда.
Каждый раз слышится пророческий крик Кассандры, но каждый раз никто не признает его пророческим [Прим. перев.: Кассандра - в греческой мифологии дочь царя Трои Приама, получившая от Аполлона пророческий дар. Аполлон, отвергнутый Кассандрой, сделал так, что ее прорицаниям перестали верить.


Кассандра стала нарицательным именем для пророков, предсказывающих грядущие несчастья (которые действительно происходят), но остающихся невыслушанными]. Цивилизации гибли - много цивилизаций. Но никогда не гибло само человечество. Мы живем в другое время. Мы устали слышать, что сегодня человек в состоянии уничтожать все, но мы не может отрицать этого. Только собственные решения человека могут спасти его.
Принято было говорить, что религия - опиум для народа. Я думаю по этому поводу следующее: говорившие это имели в виду, что люди одурманивались иллюзиями райской жизни, которая им предстоит, если они будут терпеливо переносить ад на земле, созданный для них власть имущими. Но, быть может, религия вовсе не наркотик. Будь это так, боги, возможно, не умерли бы и новый рационализм не одержал бы победу над верой.
Дурман - это инструментальное мышление, торжествующая техника и необузданная наука. Они создают нашу действительность-кошмар их самовыражения. Оптимистически настроенный технократ, быть может, все-таки прав: возможно, мы достигли той точки, когда уже нельзя повернуть назад. Но почему же тогда команда, которая завлекла нас так далеко, веселится? Почему пассажиры не оторвутся от своих развлечений? И, наконец, если теперь мы, а не бог играем в кости со Вселенной [Прим. перев.: Перефразируется знаменитая фраза Альберта Эйнштейна, из его письма М. Борну от 4 декабря 1926 года: "Квантовая механика заслуживает всяческого уважения, но внутренний голос подсказывает мне, что это не настоящий Иаков. Теория дает нам много, но к таинствам Старого [т. е. Бога (прим. перев.)] она не подводит нас ближе. Во всяком случае я убежден, что он не играет в кости". Цитируется по тексту русского перевода, опубликованного в "Переписке А. Эйнштейна и М. Борна" (перевод И. Л. Гандельсмана и В. Я. Френкеля). - Эйнштейновский сборник, 1972. - М.: Наука, 1974, с. 7], то как нам уберечься от того, чтобы не влезть в дерьмо?

Содержание раздела

---

---