Социализм с кибернетическим лицом
 
14.10.2003
Юрий Ревич


 
<< стр. 2
стр. 3

Можно легко показать на примере, чего не учел в своей чилийской модели Бир. Очень просто — он не учел пиночетовского переворота, когда цели функционирования системы поменялись и радикально. А кому, простите, нужно управление экономикой в масштабах страны, если оно заточено под правление конкретного… ну, пусть не человека, а конкретной идеологии? Не учел он и предсказуемую реакцию США на национализацию их предприятий, и недовольство СССР отклонениями Альенде от единственно верного учения. Можно еще много такого перечислить, и пусть в меня бросит камень тот, кто скажет, что все эти факторы — незначимые! Пожалуй, наоборот. Но вот вопрос: а можно ли их учесть, хотя бы в принципе? Ответьте сами.

В семидесятые годы мне рассказывали такую притчу. Построили биологи компьютерную модель экосистемы Азовского моря. Долго строили — с десяток лет кропотливо собирали информацию, фильтровали данные, уравнения писали — не чета штурмовой восьмидневке Бира. И победно отрапортовали о том, что теперь, дескать, мы могём предсказывать запасы рыбы аж на годы вперед! А тут возьми да и случись незадача — в районе… ну, пусть донской дельты потерпел аварию крупный — по азовским меркам — танкер с нефтепродуктами. Пленка растеклась чуть ли не по всему морю, планктон, естественно, дохнуть начал, за ним рыба, птиц погибло немерено… Угадайте, где эти биологи со своей моделью оказались?
Мораль сей басни можете вывести сами. Я бы определил ее так: не нужно, ребята, строить из себя демиургов и конструировать то, что конструированию нашими слабыми силенками не поддается в принципе. Это в равной степени относится как к ИИ (именно к интеллекту-творцу, а не к шахматным машинам или распознавателям рукописного текста), так и к управлению людьми. Есть много других рецептов, как поработать на благо общества, — только выбирайте.

P.S. Тут слишком мало места для того, чтобы затронуть еще одну проблему, непосредственно относящуюся к нашей теме: дело в том, что Стаффорд Бир, Норберт Винер, Виктор Глушков, Уильям Росс Эшби, как и многие другие ученые того времени, называли себя кибернетиками (ваш покорный слуга, между прочим тоже окончил специальность, в названии которой присутствует слово «кибернетика»). Между тем, сейчас вы едва ли найдете хоть одного живого кибернетика. Можно сколько угодно спорить об этом, но такой науки — кибернетики — как доказала сама жизнь, не существует. Просто потому, что у нее нет предмета изучения. Насколько основательны в этом контексте могут быть претензии на построение «кибернетически управляемого общества»?

Эксперименты Бира и проблема ИИ

Проблема создания ИИ заключается в первую очередь в том, что человеческий мозг, который только один и умеет создавать новые знания, функционирует, как сейчас уже фактически доказано, неалгоритмическим образом. Процедуры, которые не поддаются алгоритмизации, носят еще название «невычислимых»*. Парадокс развития ИИ заключается в том, что само понятие невычислимости ввел тот же самый человек, который явился одним из основателей искусственного интеллекта как научной дисциплины — Алан Тьюринг. В своей эпохальной работе 1936 года «О вычислимых числах с приложением к проблеме разрешимости» («On the Computable Numbers, with an Application to the Entscheidungsproblem»), в которой впервые возникло понятие универсальной машины («машины Тьюринга»), ученый подробно разбирал понятие «вычислимости». Тьюринг вслед за известным математиком Геделем доказал, что математика в целом не является такой «вычислимой» системой и не может быть представлена в виде законченного и непротиворечивого набора аксиом и выведенных из них теорем. А в 1950 году журналом «Mind» была опубликована его работа под названием «Computing maсhinery and intelligence» («Вычислительные машины и интеллект»), которая неоднократно переиздавалась разных странах, в том числе и в СССР (1960), под названием «Can the Machine Think?» («Может ли машина мыслить?»). В ней Тьюринг подробно обсуждает критерий, по которому можно сделать заключение о «разумности» некоего объекта, фактически положив тем самым начало эпохе ИИ. Но еще более поразительно, что эта проблема — в какой мере можно говорить о «машинном разуме» — всерьез обсуждалась еще …за сто с лишним лет до Тьюринга! Вот что писала в 1842 году гениальная Ада Лавлейс, урожденная леди Байрон, вошедшая в историю, как первая программистка: «Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать. Она может следовать анализу, но она не может предугадать какие-либо аналитические зависимости или истины. Функции машины заключаются в том, чтобы помочь нам получить то, с чем мы уже знакомы (курсив мой. — Ю.Р.)».

Ну, а какое все это имеет отношение к Стаффорду Биру и его социальным экспериментам? Самое непосредственное — дело в том, что функционирование человеческих сообществ является типичным примером невычислимой процедуры — процедуры, для которой не может быть создано соответствующей машины Тьюринга. И при внимательном рассмотрении, задачи построения ИИ и кибернетической системы управления обществом оказываются, вполне в духе философии Роджера Пенроуза**, одной и той же задачей.


* (назад) См. Пенроуз Р. «Новый ум короля». Пер с англ. — М.: Едиториал УРСС, 2003.
** (назад) Там же, а также тема номера в «КТ» #268 (1998 г).
 



 
<< стр. 2
стр. 3

<<Блистательные высоты коммерческой мифологии
Все материалы номера
Жертвы аборта >>