Рубрика НТР: Беседы с объявленной программой

В "Литературной газете" [ №1, 1976] была начата публикация серии материалов на тему "Искусственный интеллект". Возможен ли он? Зачем это делается? Как это делается? Что потом? Уже первая публикация – диалог обозревателя В.Моева с академиком В.М.Глушковым – вызвала большую читательскую почту. В своих письмах одни читатели соглашаются с участниками диалога, другие высказывают отдельные замечания, а третьи – решительные возражения. Это не удивительно, ведь проблема искусственного интеллекта необычно сложна, многогранна, некоторые ее аспекты только-только начинают разрабатываться.

Сегодня мы продолжаем разговор. Заместитель председателя Научного совета по проблеме "Искусственный интеллект" Комитета по системному анализу при Президиуме АН СССР профессор Д.А.Поспелов и корреспондент "ЛГ" В. Латышев в своей беседе затрагивают два вопроса: "Искусственный интеллект: Возможен ли? Зачем это делается?

- Дмитрий Александрович, это вторая беседа на тему "Искусственный интеллект". В прошлый раз наш обозреватель В.Моев и академик В.М. Глушков обсуждали вопрос: возможен ли он? Я знаю, что на этот счет есть разные точки зрения. Некоторые ученые выражают большие сомнения в возможности создания полноценного искусственного разума, ничем не уступающего естественному – человеческому. Другие, наоборот, считают это задачей, разрешимой в ближайшем будущем. А тем временем даже само понятие интеллекта формулируется весьма приблизительно. Поэтому, может быть, не будем выяснять, кто ближе к истине, а поговорим о научных трудностях этой проблемы.

- Одна из причин горячих споров об искусственном интеллекте состоит в нестрогости формулировок. «Оптимисты» предлагают своим оппонентам некую реальную или воображаемую техническую систему и говорят: «Вот это и есть искусственный интеллект». А те отвечают им: «Ну, какой же это интеллект?! Интеллект - это совершенно иное». И, как вы понимаете, при такой ситуации в худшем положении оказываются «пессимисты», - ведь чтобы доказать, что чего-то достичь невозможно, надо это «что-то» строго определить. К сожалению, строгого и даже нестрогого, но единого определения, что такое интеллект, да еще искусственный, - нет. Значит, ни доказать, ни опровергнуть тезис о возможности его создания, как мне представляется, пока нельзя. А тем временем в качестве «рабочих критериев» интеллекта используют различные временные заменители.

- Вроде критерия Тьюринга? Если я не догадываюсь, что беседую с машиной, то это и есть искусственный интеллект…

Вот именно. Чаще всего искусственный интеллект представляют в виде некоторой системы, способной выполнять какое-то число осмысленных действий - беседовать о погоде, играть в шахматы, сочинять музыку и т. п. Если оппонент скажет, что машина не умеет, к примеру, писать любовные письма или рассуждать о хоккее, можно сделать еще две программы, реализующие эти функции, создав тем самым «более мощный искусственный интеллект». Таким образом, предлагается модель разума в виде корзинки, где лежат программы на все случаи жизни. Логическим завершением «принципа корзинки» и является критерий Тьюринга. «Скажите, что вы хотите сымитировать, и мы сделаем это», - вот основной принцип специалистов, считающих, что создание искусственного интеллекта - дело ближайшего будущего.

_ - Имитации-то пока получаются довольно плохие… ___

- Это, в общем-то, не довод. Сегодня плохие, завтра могут появиться хорошие. А, кроме того, и сегодня есть хорошие. Шахматные программы уже играют в силу второго разряда ( в мире шахматных программ "завтра" уже наступило на рубеже третьего тысячелетия – прим. ред.). Многие ли любители поднимаются до этого уровня? Есть хорошие музыкальные программы. Несколько лет тому назад в Москве был устроен конкурс-экзамен, на котором исполнялись и машинные, и «человеческие» произведения. Совсем в духе Тьюринга с его игрой в имитацию. Машинные сочинения писались программой, составленной кибернетиком Р. Зариповым. И что вы думаете? Именно их жюри признало наиболее интересными и, «без сомнения, написанными человеком».

Таким образом, деятельность машины удовлетворяла критерию Тьюринга - жюри не узнало ее. Но, вряд ли кому пришло в голову провозгласить ее искусственным интеллектом. Потому что это все же никакое не творчество, а только его имитация. Анализируется какое-то количество близких по стилю произведений. Находится общий принцип их написания, и по этому трафарету создается еще одно такое же сочинение. Не хуже и не лучше. Примерно такой способ «творчества» ,как вы, наверное, помните, предложил еще Остап Бендер в «Золотом теленке», продав журналисту Ухудшанскому свое «Незаменимое пособие для сочинения юбилейных статей, табельных фельетонов, а также парадных стихотворений, од и тропарей», избавляющее от «необходимости ждать, покуда вас окатит потный вал вдохновенья». Из раздела первого (словарь) берутся нужные существительные, прилагательные, глаголы, смешиваются по образцам раздела второго (творческая часть) и получается «шедевр» вроде:

Железный конь несет вперед

Исторьи скок взметать,

Семью трудящихся несет

Ошибки выявлять.

Такое конечно, можно запрограммировать. Сегодня тоже пишутся повести, рассказы, стихи, что называется, по алгоритму, «как у такого-то». И порой даже с интересом читаются. Но в искусстве этому есть имя -эпигонство. Творчество же предполагает новые мысли, новые образы, для которых нельзя найти трафарет. Оно тем и отличается от эпигонства, что его источник - жизнь, а не описание жизни. Возьмите, к примеру, пушкинское «Я вас любил...». Что именно здесь программировать? Стихотворное изложение нехитрой цепи «любил... страдал ... разлюбил... будь счастлива»? Ну, и получится банальщина. У Пушкина ведь здесь говорят не только слова... Такое может написать лишь человек, который действительно любит сильно и самоотреченно.

- Да, любовь и электронная машина — вещи далекие.

- Эту мысль на языке науки впервые высказал, по-видимому, американский кибернетик Г. Дрейфус. Кратко она звучит так: «Мышление без физического тела, находящегося в физическом мире, невозможно». И это является одним из аргументов против возможности создания полноценного искусственного интеллекта поскольку машинная программа «живет» не в физическом мире, а в мире символов.

Отсутствие физического тела ведет к тому, что машина «ничего не хочет». Она не знает ни любви, ни голода, ни усталости, ни потребности в комфорте, ни более сложных чувств. Ну, а так как никаких потребностей у машины пока нет, то она и не в состоянии сама выбирать цели своего поведения и, стало быть, без понуждения человеком остается мертвой грудой металла, не способной ни мыслить, ни действовать. Большинство ученых считает, что искусственный интеллект будет возможен только, если машина сумеет сама осуществить весь мыслительный процесс, начиная от выбора задачи. Пока же, что и как делать машине, решает программист.

И даже если мы сымитируем в машине все человеческие потребности и чувства, это еще не будет гарантией того, что она сможет создать второе «Я вас любил...». Может быть, она создаст что-то не менее великое, но... для себе подобных. Представляете, такая картина - машина-читатель вводит в себя стихи машины-поэта и от наслаждения меняет ток в питающем трансформаторе. Но мы-то будем подходить к ней с нашими мерками! Она должна будет отражать не свои, а наши чувства, а для этого мало имитировать человека, - надо быть человеком.

Впрочем, мы заговорили о самых вершинах художественного творчества, к каким и из людей-то поднимались единицы. Кибернетика же занимается пока задачами более простыми, разрешимыми и, главное, близкими к практике - моделирует основы интеллектуальной деятельности - логическое, аналитическое мышление.

- И каковы успехи?

- Есть несколько довольно приблизительных моделей логического мышления. Одна из них - так называемая лабиринтная модель. Сейчас я поясню, что это такое. Допустим, вы последовательно, шаг за шагом решаете какую-то задачу. Сделав очередной «шаг», вы должны оценить, какой из дальнейших возможных в данной ситуации шагов окажется наилучшим. Все это очень похоже на поведение человека в лабиринте - отсюда и название. Возьмем простейший пример: вы стоите на окраине незнакомого города и хотите попасть в центр. В поле вашего зрения - расходящиеся в разные стороны улицы. По какой и в какую сторону пойти? На каждом перекрестке нужно сравнивать варианты и выбирать наилучший. В данном случае это довольно просто. Вы знаете, что нумерация домов начинается от центра, что к центру сходятся самые крупные магистрали. Значит, нужно каждый раз выбирать наиболее широкую улицу и идти по ней в сторону уменьшения номеров домов.

Лабиринтная модель очень «машинна»,так как требует лишь перебора вариантов из заданной совокупности. По этой модели американские кибернетики А. Ньюэлл, Д. Саймон и Дж. Шоу создали программу, которую без лишней скромности назвали «Общий решатель проблем». С ее помощью были доказаны не только все теоремы, содержащиеся в курсе математической логики Д. Уайтхеда и Б. Рассела, но и ряд тех, которых там не было. В этом случае программа оказалась очень удачной. Однако, когда тот же «решатель» попробовали приспособить к игре в шахматы, он оказался совершенно бессильным.

- Ну, центр города по лабиринтной модели найти, конечно, можно, поскольку заранее известно, что на данной площади центр есть. А если неточно известно, где искать? Это «лабиринтное мышление» похоже, на мой взгляд, на ползание мухи по стеклу в тщетных поисках выхода. А выхода нет - окно закрыто. Догадаться же, что надо перелететь к соседнему открытому окну, она не может...

- Лабиринтная модель действительно несовершенна. Она помогает найти путь, уже содержащийся в неявном виде в заданном лабиринте, не позволяя выйти за его пределы. Простые же психологические опыты убеждают, что в решении почти любой проблемы важно не столько перебрать все возможности в заданном лабиринте, сколько создать модель самого лабиринта и в ней уже искать. Вот элементарный эксперимент, можете проверить на себе. Дано шесть спичек. Нужно сложить из них четыре равносторонних треугольника. Все и всегда начинают одинаково: перемещают спички по поверхности стола, - типичный пример поисков по лабиринтной модели. Ничего у них не получается, после чего половина заявляет, что задача решения не имеет. Другая половина «начинает думать» и довольно скоро понимает, что нужно на столе выложить треугольник, а из оставшихся трех спичек построить на этом основании пирамиду.

Догадавшись, что нужно перейти от плоскости к объему, человек создал новую модель лабиринта - объемную. Именно этот момент воспринимается им как творческий акт. Да и вообще человек, по-видимому, находит решения не путем перебора всех вариантов, а создавая модель ситуации (лабиринт), выделяя главное. Скажем, вам нужно куда-то поехать в городе. Как вы намечаете маршрут? Не перебираете же по карте все возможные пути. Нет, вы схематично представляете в уме план города, выделяете начальный и конечный районы и связывающие их магистрали. Вы оперируете районами, а не улицами. Оказавшись близ нужного места, вы переходите к более мелкой модели, на которой уже должны быть и улицы, и дома, и даже подъезды, чтобы выбрать нужный.

- А нельзя заранее заложить в машину все модели?

- Модель не может быть создана раз н навсегда, а должна строиться каждый раз заново в зависимости от сути задачи. Скажем, намечая маршрут, вы представляете себе сеть магистралей, а если составляете план озеленения города, важно другое - распределение застройки, наличие свободных пространств. Построение модели обязательно должно исходить из смысла задачи. Отсюда возникает еще одно возражение против возможности создания полноценного интеллекта: мышление невозможно без построения моделей, построение моделей требует понимания смысла задачи, а смысл «нельзя вычислить», то есть его нельзя выразить посредством каких-то формальных операций. Семантика - учение о значении объектов - это одно, а синтаксис - учение о правилах операций с ними - другое, и одно не может быть выведено из другого. Например, мы хотим, чтобы машина составляла нам фразы типа: «Красивая девушка весело смеется». Вводим в машину список существительных, список прилагательных, список наречий и список глаголов, задаем правила составления фраз, и машина выдает что: то вроде: «Белокурый самовар яростно спит». Эта фраза абсолютно правильна с точки зрения грамматики (синтаксиса), но семантически она абсурдна. А чтобы машина могла выбирать «годные» фразы, ее нужно снабдить «внешним миром задачи», то есть, ни много-ни мало, заложить все знания об окружающем нас мире. Поэтому системы искусственного интеллекта должны будут как-то формировать «модели внешнего мира». То ли путем непосредственного контакта с ним, то ли чтением книг. Это перекликается с аргументом Дрейфуса, о котором я говорил раньше. «Оптимисты» полагают, что возможно имитировать интеллектуальную деятельность на основе строгой математической теории. Но математика - наука чисто формальная, «синтаксическая».

Мы говорим о логике. Но ведь это тоже только свод правил операций с понятиями. Сами же понятия рождаются из анализа чувственных восприятий. Да и вообще, кроме логического, у человека есть еще и образное мышление. По-видимому, его не должен быть лишен и искусственный интеллект, если мы хотим, чтобы он походил на естественный.

Совсем недавно, только в шестидесятых годах, выяснилось, что эти два вида мышления - логическое и образное - настолько различны, что ими «заведуют» разные полушария нашего мозга. Левое связано с рационально-логическим, аналитическим, символьным мышлением вербального (словесного) характера. Правое с пространственно-образным, синтетическим, невербальным. У левшей — наоборот.

- «Литературная газета» писала об этом в прошлом году...

- Да, и если я снова возвращаюсь к этой теме, то только затем, чтобы еще раз подчеркнуть, что уникальная способность человека мыслить рождается из синтеза по крайней мере двух различных систем мышления, не заменимых одна другой. Например, если у больного выключено левое полушарие, н. продолжает совершать осмысленные действия, но теряет способность объяснить словами их мотивы. Вся его деятельность проходит на уровне подсознания. Все это имеет прямое отношение к теме нашего разговора. Дело в том, что сегодня почти все признают невозможным описать процессы, идущие в правом полушарии, «символьным» языком — обычным разговорным или математическим. А если так, то нельзя будет и сымитировать эти явления на ЭВМ.

До сих пор работы в области искусственного интеллекта моделировали логическое мышление - левое полушарие. Работа над «правым полушарием» только-только началась, и пока нельзя сказать, насколько она окажется успешной. Кстати, сейчас высказываются соображения, что у человека есть еще и третье — «лобное мышление», центр которого — лобные доли. Оно, по-видимому, так же «несловесное», как и правостороннее, и имеет дело с мотивационной деятельностью, организующей всю жизнедеятельность организма. Если наличие третьего вида мышления подтвердится, задача создателей искусственного интеллекта станет еще более сложной.

- Короче говоря, если собрать воедино все «но», то может сложиться

впечатление, что стоит возвратить идею искусственного интеллекта

писателям-фантастам...

- Отнюдь нет. Работы в области искусственного разума успешно развиваются. Если же я старался объективно показать трудности на этом пути, во-первых, таковы были «условия игры» - мы и договаривались обсуждать трудности. Во-вторых, я бы не хотел, чтобы возникало чувство неоправданного оптимизма относительно достигнутого.

И все же, как я уже сказал, работы по искусственному интеллекту развиваются; некоторые из трудностей, о которых мы говорили, в той или иной степени преодолеваются. Например, сейчас во всем мире очень велик интерес к созданию роботов- автоматов, способных как-то ориентироваться в окружающем мире, наделенных элементарными логическими способностями, памятью и выполняющих относительно широкий круг операций. Такие роботы уже в некоторой степени «живут в физическом мире». Они имеют зрение, слух, осязание, могут чувствовать различные излучения, снабжены датчиками напряжения в различных точках схемы, загрузки памяти (аналог самочувствия). Есть исследования, связанные с вводом в машину изображений, фиксируемых «глазом» робота, с вводом речевой, осязательной информации. Правда, проблема осмысления этой информации решается медленнее, хотя и в этой области сделано не так уж мало. Развитие роботостроения стимулировало создание моделей внешнего мира. Главная «техническая» трудность здесь - необозримое богатство мира и языка. Наиболее трудна проблема имитации мотивационной деятельности. Об успехах здесь говорить пока, к сожалению, рано.

Однако уже сейчас работы в области искусственного интеллекта дают практический выход - сегодня работает, а завтра их будет больше, несколько тысяч так называемых проблемно-ориентированных роботов: роботы-станочники, роботы-пожарные, роботы-шахтеры и так далее. Создание их не требует решения всех задач, которые стоят перед учеными, занимающимися искусственным интеллектом, поскольку каждый такой робот нужно наделять относительно немногими способностями. Ну, а аналог интеллекта естественного... Знаете, чтобы успешно решать простые задачи, нужно ставить перед собой сложные. И потом, если бы в этой проблеме все было ясно, если бы это было только «делом техники», наверное, я бы нашел себе другое занятие.