|
|
 |
Некоторые критерии интеллектуальных систем
Елашкина Анна (elashkina@noolab.ru), 12.08.2008
Елашкина А.В. Некоторые критерии интеллектуальных систем // Философия науки, № 1(32). — Новосибирск, 2007.— С. 102-128.
Содержание
Введение
Обзор ситуации в области разработки интеллектуальных систем
Что такое интеллектуальная задача?
Два типа знаний
Различие механизмов, приписываемых мышлению, в разных системах знания
Заключение
1. Введение
Современный цивилизованный человек живет в мире, где многие процессы (в бизнесе, научных исследованиях , развлечениях и д.р.) осуществляются с помощью информационных технологий. Это осуществление влияет и на поддерживаемые процессы и на то, в каком направлении движется развитие технологий. Причем, одной из характерных черт здесь оказываются быстрые изменения.
Россия некоторое время лишь частично включалась во всемирный процесс, где «Новое – значит лучшее». Теперь и мы участвуем в гонке новизны, явно отставая от лидеров. Но можем ли мы говорить об успехах в области разработки и внедрения информационных технологий (ИТ) без ясного понимания того, как мышление человека взаимодействует с программной средой, и какие закономерные результаты этого взаимодействия можно ожидать? Объектом нашего исследования выбрано взаимодействие ИТ и мышления. Мы полагаем, что в этом объекте заново актуализируется проблематика, имеющаяся в философии, логике и естественных науках.
Предметом нашего исследования будет граница между системой с интеллектуальными функциями и системой без таковых. Изначально запрос к информационным технологиям состоял в замещении интеллектуальных ресурсов человека компьютером в ряде задач. В пределе же речь шла о моделировании мышления. Главной нашей задачей мы считаем формулировку и обоснование критериев, по которым можно было бы отличить систему с интеллектом от системы без такового.
Мы будем использовать старый термин Искусственный Интеллект (ИИ), когда будем говорить о попытках реализации механизмов мышления на основе искусственно организованной материальной среды.
2. Обзор ситуации в области разработки интеллектуальных систем.
На сегодня не создано ни одной системы (ни практически, ни теоретически), которая настолько бы приблизилась к человеческому мышлению, что была бы общепризнанна интеллектуальной системой. Неудачи на пути создания ИИ приводят к нескольким стратегиям, наиболее распространенным в среде разработчиков. Кратко опишем их. 1 стратегия - «Локализация задачи». Резко сужается область применимости алгоритмов, идет концентрация на частной предметной области, внутри которой сохраняется постановка задачи на придание системе функций интеллектуальности. Класс решаемых задач, вообще говоря, не важен. Это может быть, например, распознавание однотипных объектов на определенных снимках из космоса, или контекстный поиск по текстам близкого содержания. Важно, что происходит локализация применимости теоретических моделей и алгоритмов, а граничные условия, параметры и другие сведения о реальной ситуации задает эксперт. Внутри четко очерченной области удается сделать шаги к довольно сильным функциям, напоминающим интеллект, которые машина реализует в той или иной степени самостоятельно.
2 стратегия – «Мощные алгоритмы». Здесь характерно скептическое отношение к возможности понимания механизмов функционирования интеллекта вообще, вплоть до вывода о том, что любая постановка задачи на создание каких-либо моделей мышления бессмысленна. Предлагается сосредоточится не на интеллектуальных, а на очень мощных алгоритмах, которые будут дополнять работу реально существующего человеческого интеллекта. Приверженцы этой линии часто говорят о сложностях, касающихся использования, обслуживания уже существующего программного обеспечения (ПО) и оборудования («железа»). Пока не решатся эти актуальные вопросы, об ИИ думать не надо. Все ресурсы нужно пустить на обслуживание того, что уже обеспечивает деятельность человека в реальных процессах, без качественного изменения информационных технологий.
3 стратегия – «Хитрые алгоритмы». Надо отметить, что не прекращаются надежды на создание полноценного ИИ путем наращивания сложности и оригинальности алгоритмов, но без изменения при этом научной парадигмы, в которой появился сам тип используемых на сегодня методов. Смена базовых представлений об ИИ признается не целесообразной. Сами эти представления построены в рамках естественно-научной парадигмы. Предполагается, что задачу в целом можно решить, сделав достаточно сложную и оригинальную комбинацию из уже существующих разнообразных средств, в том числе из уже готовых программных блоков, решающих частные задачи.
4 стратегия – «Физиологические алгоритмы». Стратегия направлена на выявление механизмов мышления напрямую в физиологии живых организмов. Иногда предлагается обнаруженные феномены работы живой нервной системы копировать вплоть до аналогий с течением химических реакций. Характерно, что при этом вопрос о логике интеллекта либо вообще не ставится, либо всю логику, присущую интеллектуальным системам, стараются вывести из физиологической эмпирики. В некотором смысле предполагается, что имеет место параллелизм: то, как видимым образом устроена работа нервной системы, и есть то, как устроен сам интеллект.
Мы привели собственный набросок классификации. Наша классификация не совпадает, но и не противоречит другим известным попыткам определить различные стратегии в создании интеллектуальных программ, например, классификации направлений развития интеллектуальных систем, приведенной в статье Д.А. Поспелова «Десять "горячих точек" в исследованиях по искусственному интеллекту».
В реальной деятельности обычно имеет место сочетание разных стратегий. Например, направление нейронных сетей одновременно придерживается «физиологической» стратегии и достигает эффективности за счет локализации задач.
В стратегии локальные задачи и хитрые алгоритмы попадают многие лингвистические модели для задач по обработке текста, основанные как на традиционном лингвистическом анализе, так и на некоторых модных представлениях о том, что и мир, и мышление можно понимать, исходя из структуры языка. Здесь делается много интересного, например, в попытках перевода линейного текста в структуры, схемы и т.п.
Для нас интересна своим скепсисом вторая стратегия, ориентированная на мощные алгоритмы. Сомнения в правомерности самой постановки задачи на построение ИИ – это заявка на новый этап теоретического осмысления того, в чем же состоит специфика мышления человека. Однако часто среди разработчиков и теоретиков ИИ этот шаг к сомнению оказывается последним. Вместо рационального исследования происходит переход в область поэзии и интуиции. Аргументируется это тем, что всякое мышление вообще невозможно ни описать, ни осмыслить, что оно совершенно иррационально. Отвергается возможность точного понятийного мышления о самом мышлении.
Мы же полагаем наиболее актуальной - пятую стратегию, которая занимается исследованием специфики мышления, ищет точную формулировку для критериев интеллектуальности системы.
Допустим, что иррациональный момент в мышлении присутствует. Однако до него еще надо дойти. На наш взгляд между этим моментом и всеми уже написанными алгоритмами ИИ лежит огромная область для вполне конструктивной теоретической и практической работы. Лишь разобравшись в ней, можно ответственно принять решение о том, что еще можно сделать в моделировании мышления, а что нам принципиально недоступно, и почему именно.
Мы не будем придерживаться прагматизма первой линии, естественно-научной и формально-логической парадигмы третьей линии, параллелизма физиологии и интеллекта четвертой. Безусловно, наиболее тяжело отказаться хотя бы на время от опоры на то, что в современном мире считается наиболее строгим, проработанным – от точных наук. Чтобы моделировать интеллект, нам придется это сделать (хотя бы на первых шагах исследования), поскольку сами эти науки построены человеческим мышлением, причем в рамках определенных представлений. Если же мы хотим разобраться с механизмами мышления, нам придется сначала подумать о самом мышлении, не упуская из виду специфику такого его продукта, как научное знание.
Для более полной картины сегодняшней ситуации отметим, что те стратегии, которые мы описали, практически не привлекают внимания вне среды самих разработчиков. Простой пользователь программного обеспечения (ПО) далек от размышлений о том, как устроены ИТ, каковы тенденции их развития. Пользователя интересуют функции, а не технологии. Часто результаты работы существующих программ настолько впечатляющи для внешнего наблюдателя, что не заметны принципиальные границы их применимости.
Это, конечно, не случайно. Арсенал формализованных средств из математики, из естественных наук, накопленный за пару тысяч лет, в течение всего лишь нескольких десятилетий был фактически весь перенесен в информационные технологии, что дало интенсивный рост функциональности программ. В результате пользователю кажется, что существующие программы уже интеллектуальны. Для пользователя кажется естественным предложить добавить в программу дополнительную «кнопку», например, чтобы при поиске учитывалась не только морфология слова, падежи, но, и еще, чтобы автоматически распознавались как близкие по смыслу предложения из текстов на естественном языке. Например, чтобы сопоставлялись «человек сидит в лесу» и «мужчина, который расположился под березами» Или, чтобы машина сама добавила еще дополнительный параметр описания столов. Кроме уже занесенных программистом парметров «количество ножек», «размер», самостоятельно обнаружила по мере поступления к ней информации важность, например «цвета» .
Здесь разработчик видит себя в тупике. При разной форме текстов выявить за ними единое содержание или реализовать автоматическое добавление нового аспекта классификации, что соответствует или автоматическому расширению языка описания объектов - это с одной стороны, понятная и востребованная пользовательская функция, а с другой - бесконечно далекая от сегодняшних реальных технологических возможностей. Пользователю почти не виден зазор между «новой кнопкой» и уже существующими функциями. К сожалению, многие теоретики также не видят здесь проблемы и предлагают, например, программисту просто создать огромный синонимический словарь для разных случаев, что разработчикам, имеющим подобный опыт, представляется ошибочным путем, хотя бы в силу катастрофического роста объема закладываемых вручную характеристик. Такие теоретики перекладывают свою работу по исследованию интеллекта на плечи программиста. Программист видит пропасть между существующими технологиями и той, что должна обеспечить недостающую «кнопку». Преодоление ее потребует огромного пути по времени, по деньгам, по освоению дополнительных знаний.
Наиболее неприятным для разработчиков моментом оказывается понимание того, что системы, интеллектуальные по своему внутреннему устройству, на первых порах будут проигрывать в пользовательских функциях, например, мощным алгоритмам. Существенные для пользователя преимущества, внешняя эффектность, могут появиться нескоро, что не добавляет программистам оптимизма. Поэтому большинство разработчиков, находясь обычно в жесткой ситуации выполнения заказа, приходят к тем стратегиям, которые мы охарактеризовали выше .
3. Что такое интеллектуальная задача?
Машина, в которую заранее заложили массу правил о том, как обрабатывать информацию об определенной ситуации, например, выделить на фоне изображение, классифицировать и разделить по группам поток данных, может поразить воображение пользователя своими результатами. Основания классификации, напрямую или косвенно, заложенные оператором, могут быть столь хорошо прописаны и отлажены, что кажется, будто бы программа сама внутри себя порождает какое-то новое основание, не предусмотренное заранее разработчиком.
В конечном счете, если мы сильно сузим запрос, то нас устроит просто большая вычислительная мощность для обработки огромного числа параметров (занесенных человеком вручную), которые описывают реальную ситуацию. Никто не ждет от машины, которая умеет классифицировать финансовые данные, что она с тем же успехом будет это делать с текстами на естественном языке из Интернета. На сегодня мы имеем множество программ, которые эффективны каждая в своей области и иногда как-то связанны между собой через интерфейсы.
Если же, например, объект исследования лежит на пересечении разных областей, либо объект находится в качественном изменении, появляются новые параметры его описания, то разработчики ПО не берутся за такие задачи. Чаще всего окончательную экспертизу в таких случаях доверяют отделу аналитиков, которые получают данные об объекте и от программ, и из разных других источников.
На первом шаге мы можем пояснить специфику действующих сегодня программ и того, что мы видим в качестве интеллектуальной системы на следующем примере. Представим себе, что у нас есть изображение – половина поля белая, а половина черная. Пусть машина получает такие изображения в большом объеме. Задача машины сделать различение и отправить все, что черное в одно место, а все что белое в другое. Конечно, программист может за полминуты написать такую программу, где напрямую даст машине параметры разделения. Можно даже добавить нечеткую логику, чтобы при размытом переходе от белого к черному, она все равно работала. Стандартная нейронная сеть тоже при должной тренировке легко будет различать и обрабатывать картинки. При этом в случае нейронной сети речь не идет о порождении новых информационных объектов , так же как в других видах алгоритмов не идет речь о самостоятельном порождении параметров классификации.
На фоне гораздо более сложных задач, этот пример не выглядит хоть сколько-нибудь интеллектуально. А теперь предположим, что машину «не предупредили» о том, по каким основаниям и на сколько частей она должна разделить поток данных. Тогда, чтобы сделать разделение, машине придется, например, построить у себя что-то вроде понятия границы (фактически породить новый информационный объект), научиться проводить ее между разными частями потока данных. Чтобы самостоятельно сделать эту внешне простейшую операцию, без заранее заданного человеком правила, машина должна обладать тем, что мы называем интеллектом. Напрямую в программе никаких указаний на черное и белое, на объекты и на границы нет. Обеспечить решение задачи должно особое устройство среды, которую мы моделируем, – элементы, связи между ними, запущенные на них процессы, построенные в соответствии с тем, как мы понимаем механизмы мышления.
Решение описанной задачи может потребовать обучения со стороны человека, но в отличие от нейронных сетей здесь не просто ставится в соответствие вход и выход сети, а должен возникнуть такой качественно новый информационный объект, которого не было на входе. Сеть, обученная что-то распознавать на финансовых потоках, не имеете внутри себя понятия поток, и в общем случае не сможет применить его в задачах на гидродинамику, или в задачах, где поток – это только часть целостного исследуемого явления, хотя для человека аналогии могут быть очевидны. Новый информационный объект в системе должен быть минимально зависим от конкретного типа данных, то есть полученная в искусственной среде граница должна быть применима вообще там, где можно что-то от чего-то отделить.
Еще раз подчеркнем, что мы выбрали такую задачу, решив которую ИИ внешне будет проигрывать обычным системам. Но нам важно не то, как это будет выглядеть, не то, какие именно функции будут реализованы. Мы могли бы выбрать другие простейшие задачи. Нам важно то, какие механизмы будут заложены для их решения, как должна быть устроена внутренность такой машины. Самостоятельное определение основания для классификации, порождение нового, не заданного человеком, информационного объекта - это один из многих необходимых этапов, которые надо преодолеть на пути через пропасть между обычными функциями и интеллектуальными.
Мы утверждаем, что современное научное знание не может обеспечить построения соответствующей этому шагу логической модели интеллекта, как минимум потому, что само не устроено подобным образом. То есть люди, которые создавали науки, конечно, мыслить умели, но механизм их мышления в построенное знание не заложен.
4. Два типа знаний
Сегодня попытки создания ИИ оказываются вызовом для точных наук, логики, философии, лингвистики. Все, кто, так или иначе, занимался мышлением вынуждены ответить на вопрос о том, насколько их знания применимы для практической реализации. Заметим, что сегодня в большинстве своем компьютеры - это искусственная среда, реализующая пространство булевых функций. Мышление в живом мозге реализует не булево пространство или не только его. Решение вопроса о механизмах мышления состоит не в том, чтобы конструировать интеллект из математики и существующих логических исчислений. Решение состоит в том, «чтобы увидеть математику, логические исчисления и прочие знания как результат мышления» . Рассмотрим, в чем же для нашего предмета состоит специфика оснований, на которых построены современные точные науки и формализованные логики.
Еще со времен Аристотеля в представлении о мышлении, об устройстве знания видны две тенденции, которые мы обозначим как формальную и диалектическую.
Первая из них - формальная - предполагает несколько обязательно выполняемых требований. Приведем самые главные из них. - В основе любого знания лежат аксиомы, принципиально ни из чего уже не выводимые, не доказуемые. Аксиомы мы здесь понимаем в широком смысле - любые исходные положения, любой фундамент, система базисных определений, фактов или описаний, которые не подвергаются изменениям за время работы системы.
- Содержание каждой из них не зависит от других. Аксиомы задаются автором из его внешних по отношению к аксиомам, не входящих в саму систему, соображений,.
- На основе этих аксиом происходит выведение, дедукция всего остального знания по уже заданным, качественно не меняющимся правилам. В рамках одной системы невозможно появление качественно новых объектов.
- В любой формальной системе знаний, обязательно выполнение основных законов формальной логики, из которых для данного обсуждения наиболее важен закон запрещения противоречия. Аристотель формулирует этот закон следующим образом: «Невозможно, чтобы одно и то же вместе было и не было присуще одному и тому же и в одном и том же смысле». В современной формулировке иногда говорят: «Невозможно, чтобы одно и то же высказывание было одновременно истинным и ложным»
Все естественные науки, все формальные логические системы, а также многие другие области знаний и многие философские системы построены в соответствии с этими принципами. Любая точная наука строится на аксиомах, не выводимых внутри самой науки, взятых готовыми и, в этом смысле, произвольных. Положенные в основания наук аксиомы и правила дедукции позволяют на последующих за аксиомами шагах делать точные построения. Внутри такой системы знания противоречия исключены.
Можно отметить парадокс, который состоит в том, что самые точные науки, самые рациональные науки, претендующие на строгость доказательств, имеют в основании аксиомы никак рационально не обсуждаемые, не выводимые, часто даже не имеющие однозначной связи с практикой. Большинство самих первооткрывателей и больших теоретиков науки задавались вопросами об основаниях науки и научного мышления. Многие великие ученые показывают нам пример обращения к философскому знанию, к методологии и к истории науки. Подобные размышления можно найти и у Эйнштейна, и у Дирака, у Вейля и многих других.
Указанные признаки формальных систем совпадают с привычным для философии пониманием рассудочной компоненты мышления человека. Такое различение подробно обсуждается, например, у Гегеля. Рассудок, в отличие от разума по гегелевской терминологии, оперирует с готовыми формами, исключает противоречия. Причины любой мысли, любого знания находятся не в них самих, а в чем-либо внешнем по отношению к ним. Все качественно новое появляется не изнутри системы, даже не в результате взаимодействия с чем-то иным по отношению к ней, а в результате действия полностью принадлежащего внешней по отношению к системе «силы», определяющей систему. Например, новые правила машинной обработки текстов, вообще, новые представления о текстообразовании, закладываются в машину вручную человеком, а вовсе не являются результатом развития самой «интеллектуальной» системы в процессе ее работы с текстами . Формальная логика, с одной стороны, задает правила построения формализованного знания, а с другой, сама устроена по этим правилам. Но это еще не все мышление!
Вторая тенденция - диалектическая - отличается от формальной по всем указанным нами пунктам. - Базовые предпосылки диалектических систем взаимоувязаны (и в этом смысле доказуемы), одна через другую - самосогласованы. Причем увязывание, взаимное определение посылок делается с учетом их содержания, а не каким-то внешним к этому содержанию образом.
- Последующее получение знания делается как порождение качественно новых объектов внутри самой системы, правила могут изменятся при развитии системы, а не даны заранее в готовом виде.
- Противоречивость является главным условием возможности взаимного определении базовых предпосылок и порождении новых объектов в системе. Диалектическая система оказывается самоопределяющейся, не нуждающейся во внешней силе для своего движения, она имеет «рычаг» развития внутри себя.
Диалектика по гегелевской терминологии принадлежит сфере разума.
Стоит отметить, что термин «противоречие» слишком расплывчат. В логических справочниках мы можем найти много разных видов противоречий. В данной работе нам важно указать только на то, что отличает противоречие в формальных и диалектических системах. Противоречие в формальных системах абстрактно, а противоречие в диалектических – конкретно. Это значит, что в диалектических системах мы берем в качестве противоречия не просто, к примеру, форма и не-форма, когда не-формой может быть все, что угодно, например, стол, красное, таблица умножения, сосед по подъезду и т.д. Мы берем в качестве противоречия то, что не абстрактно, а конкретно противостоит форме, а, именно, содержание. Иногда для такой конкретной противоположности используется термин свое иное. Из взаимодействия двух конкретных противоречий получается не что угодно, случайным образом, а нечто третье, оказывающееся их единством. Формальные системы запрещают наличие противоречий в одном и том же объекте, в одно и тоже время, в одном отношении, как абстрактных, так и конкретных.
Вопрос о том, какого рода противоречия могут или не могут выступать порождающими для интеллектуальных функций системы, еще будет затронут в данной статье, хотя рамки статьи явно недостаточны для всестороннего обсуждения этого вопроса, которому посвящены целые тома исследований. Здесь же нам важно показать необходимость вообще разговаривать о диалектических противоречиях в применении к интеллектуальным системам. Необходимо отметить, что в данной работе мы не заявляем никаких новых философских или логических идей и лишь повторяем хорошо известные старые, расставляя при этом нужные нам акценты в контексте задачи построения искусственного интеллекта.
Далее, везде, где мы будем говорит о взаимо-определении противоречий, мы будем иметь ввиду не абстрактные, а о конкретные противоречия.
Рис. 1 а – схематическое изображение аксиоматического знания, б – схематическое изображение взаимного определения двух базовых идей (или двух информационных объектов)
Диалектическую систему со многими предпосылками знания можно зарисовать так:
Рис. 2
С точки зрения формальной логики, все диалектики делают ошибку, когда настаивают на взаимном определении базовых предпосылок или идей системы. Такое взаимное определение неминуемо приводит к логическому кругу рассуждения . Закон запрещения противоречия говорит, что одна и та же вещь не может быть и такой и не такой в один и тот же момент. Формальный логик может представить себе «стол как целый объект» и «стол как состоящий из частей», но только в разных суждениях, в разном отношении, не позволяя «рассуждать по кругу», и быть мысли противоречивой. Важно, что, по мнению формального логика, диалектика, с указанными нами ее принципами, сразу оказывается в зоне иррационального, не строгого. Однако мышление человека делает эти операции регулярно, в самых обыденных ситуациях, не впадая при этом в мистику или абсурд.
Примером взаимного определения мысли является факт понимания текста. Гипотеза о смысле текста в целом появляется на самом первом шаге знакомства с его первым фрагментом. Затем эта гипотеза переопределяется последующим чтением. Однако прочитанный вторым фрагмент был прочитан с учетом наличия первой гипотезы и теперь ее надо заново переопределить, понять с учетом второго фрагмента. Но тогда и второй фрагмент после нового понимания первого тоже должен будет измениться. И так по всем фрагментам текста.
Последующие фрагменты переопределяют предыдущие и должны сами переопределяться заново. При этом из порочного круга взаимного определения, из бесконечной рекурсии генезиса смысла мышлению человека удается выйти с готовым цельным смыслом всего текста, а существующим программным решениям, основанным на формальных логиках - нет. Из цельного, ставшего смысла текста становятся видны и смыслы его фрагментов, концептуально-значимые смыслы в теории тема-рематического анализа текстов. Утверждается, что только при условии взаимного определения, объекты (смысловые фрагменты текста) образуют целостную систему, обладающую признаками внутреннего единства.
Заметим, что текст мыслится противоречиво. Человек одновременно видит фрагмент текста как самостоятельный единичный смысловой фрагмент и как часть целого. А весь текст одновременно виден и как целый и как состоящий из частей. Только эта одновременность и позволяет в результате соединить фрагменты текста в его целостный смысл.
Есть и другие классы задач, реализуемых в человеческой деятельности и принципиально не решаемых заданием аксиом, выведением из аксиом правил и процедурным описанием действий. Примером могут служить анализ сложной ситуации со многими связями и способностью к рефлексии у участников ситуации. Очень важным классом задач, решаемых мышлением, является создание нового набора аксиом как нового объекта. В рамках заданной аксиомами теории возможно только выведение следствий, качественно не меняющих саму теорию, что вполне поддается современной вычислительной мощности компьютеров. Однако никакая существующая вычислительная мощность не победит логический круг (даже из двух элементов), с которым ежеминутно справляется мышление человека.
Надо признать, что мы рассуждаем в рамках парадигмы, которая признает возможность закономерности вообще или, как минимум, не полной случайности переходов от одного состояния интеллектуальной системы к другому, от одной теории к следующей.
Есть философские школы, которые считают этот переход абсолютно случайным, запускающимся по мере появления фактов, противоречащих предыдущей теории, диалектика в виде противоречия между новым фактом и теорией здесь понимается не как основание любого мышления, а лишь как организующий момент, запускающий спонтанное порождение новых теорий. Далее действует метод проб и ошибок. Такие мыслители предложили бы программистам «включить генератор случайных чисел» и получить в машине новый информационный объект, новое понятие или набор терминов языка именно таким образом – путем перебора всех возможных сочетаний, которые следует проверять на эффективность. Мы полагаем, что эта версия - уход от проблемы и не дает нужного результата, однако ничто не мешает программистам пробовать такой путь.
Остаются вопросы: как именно организовать проверку огромного числа получившихся сочетаний, и что именно считать успехом в этой проверке? Известно, что многие новые теории изначально не выигрывали в практических задачах у старых. Тогда вся сложность проблемы переносится в область постановки задач, формулирования целей и критериев эффективности для нового еще не опробованного знания. Это вновь переносит груз интеллектуальности на человека, ничего не добавляя при этом в сферу искусственного интеллекта.
Если же речь идет о том, что случайные порождения новых теорий все-таки имеют обусловленность со стороны внешней среды, контекста, в котором они появляются, то вся острота вопроса переносится на не достаточно конкретное для программирования понятие контекста. Появляются вопросы о том, что под ним понимать, как его использовать, как он взаимодействует с той частью системы, которая порождает новое знание. Рано или поздно мы либо вернемся к тем же самым проблемам, либо обнаружим иные, не менее сложные.
Вопрос о присутствии случайности в мышлении, безусловно, требует, более подробного рассмотрения и станет темой отдельного нашего исследования .
Следует признать, что до сих пор не создано адекватного логико-математического описания взаимного определения идей или объектов. Действительно, при попытке описать такой процесс получается порочный круг, бесконечная рекурсия – определяемое выступает в роли определяющего и наоборот. (Пусть А определяет В. Но и А само было определено В, поэтому теперь заново надо переопределять А… и т.д.). Попытки формализации подобных систем, переведения ее на бумагу в виде знаков и их комбинаций периодически предпринимаются, так же как и разные другие попытки создания формальных систем, отличных от формальной логики.
Закономерность появления этих попыток охарактеризовал автор троичных цифровых машин Н. П. Брусенцов, в своей статье «Блуждание в трех соснах. Приключения диалектики в информатике»:«На протяжении двух с лишним тысячелетий имели место лишь единичные попытки преодолеть роковую ограниченность (Раймонд Лулий, Уильям Оккам, Ян Коменский, Лейбниц, Гегель, Льюис Кэррол). Двадцатый век ознаменован прогрессирующим нарастанием протеста против двухзначности: отвержение интуиционистской математикой закона исключенного третьего, попытки Льюиса, а затем Аккермана преодолеть "парадоксы" материальной импликации, изобретение Лукасевичем трехзначной логики, предположение Рейхенбаха о трехзначности логики микромира (квантовой механики), общее усиление активности в области многозначных логик, наконец, нечеткие множества Заде, справедливо квалифицируемые "как вызов, брошенный европейской культуре с ее дихотомическим видением мира в жестко разграничиваемой системе понятий". Однако все это пока как бы некий "модерн", не достигающий преследуемых целей, да и сами цели еще далеко не осознаны».
Обсуждение попыток создания и формализации нестандартных логик выходит за рамки данной статьи, однако тот материал, с которым нам удалось познакомиться, позволяет говорить об их безуспешности. Отмена «запрещенного третьего» часто оказывается лишь послаблением для последующего введения «запрещенного четвертого». Закон запрещения противоречия отменяется для одних случаев и сохраняется для каких-то других. Взаимное определение посылок теории из их содержания формализовать, на наш взгляд, не удается. Возможно, в этом есть определенная философская подоплека – можно ли вообще логику реальных объектов и живых мыслящих систем реализовать «на бумаге», или она доступна лишь инженерной реализации в практически действующих искусственных средах.
Итак, мы предполагаем, что принципы, закладываемые в систему и обещающие в перспективе дать действительно интеллектуальные функции, должны принадлежать к диалектическому типу.
Как соотносятся с этим тезисом обозначенные нами стратегии в разработке программного обеспечения?
Стратегические линии с первой по четвертую оказываются в зоне формальных систем, зоне рассудка. Локальная эффективность предполагает не определяемые внутри системы аксиомы. Все хитрые алгоритмы обычно продумываются как сочетание уже существующих локально истинных теорий. На пути умощнения алгоритмов не целесообразно выходить за рамки хорошо проработанного исчисления, метода, поскольку все, что оказывается за рамками формально-логической и математической точности, в привычном смысле строго не мыслится. Из этого делается вывод, что вообще никакой строгой мысли, понятий и аргументации вне рассудка быть не может, и все, что оказывается за границей формализованной науки, либо называется поэзией, интуицией, искусством, либо помещается в корзину «плохой литературы».
В рамках «физиологической» стратегии наблюдается некритическое отношение к обрабатываемому эмпирическому материалу. Неявно предполагается, что мышление работает по формальной логике. Поэтому эмпирике ставится в соответствие одна из аксиоматических систем, которая сама является порождением мышления. Одним из следствий этого оказывается параллелизм – предполагается, что выявленные экспериментатором элементы, структуры и замеренные формы процессов на живой нейронной сети и есть элементы, структура и процессы мысли, без существенного качественного скачка, что характерно для вульгарного материализма, который часто критикуется представителями диалектических школ философии. Например, достаточно интересную критику вульгарного материализма в понимании мышления можно найти у Э.В. Ильенкова в книге «Диалектическая логика» (М., 1984.) в очерке, посвященном Спинозе «Мышление как атрибут субстанции». Примером попытки не тривиального понимания физиологии может служить, например, работа Д.Марра «Зрение, информационный подход к изучению представлений и обработки зрительных образов» (М, «Радио и связь», 1987).
5. Различие механизмов, приписываемых мышлению, в разных системах знания
Иногда создается впечатление, что адепты обозначенных двух тенденций (формальной и диалектической) общаются не просто на разных языках, а словно вообще не слышат друг друга.
Пусть, например, мы указываем на яблоко – «это яблоко». Представитель формальной логики не видит здесь вообще никакой проблемы. Это всего лишь указательное суждение о факте. А для фактов требуется лишь описание в логически выверенном языке. Для диалектика уже в одной этой фразе и в предшествующем ему акте мысли есть огромный вопрос о механизме мышления.
С точки зрения формальной логики ситуация выглядит так, что мы имеем абстрактное понятие яблока, и указываем на одного из представителей множества реальных яблок. Получилось абстрактное понятие когда-то раньше путем наблюдения за яблоками и отсечения несущественных признаков. Существенные признаки складываются в понятие. Но ведь чтобы увидеть существенные признаки, надо уже знать, что такое яблоко.
Если предложить программисту просто «показывать» машине много яблок, чтобы при этом машина отсекала несущественное, программист поймет, что ему надо создать большое количество описаний существенных и несущественных признаков для разных случаев с яблоками. Дело в том, что сам программист знает про яблоко как абстрактный объект, и поэтому может продумать и заложить в машину правила обработки для некоторого множества характеристик частных случаев.
Для представителя формальной логики в мышлении есть две последовательно выполняемые операции.
Рис. 3 В первом случае один абстрактный объект-образец примеряется к имеющимся объектам, и из подходящих под образец собирается множество. В другом, на множестве объектов отсекаются несущественные признаки, и делается построение одного объекта-образца.
Многие (и автор данной статьи) пытались пройти до ИИ этим путем. Программирование, в конечном счете, сводилось к бесконечному описанию для машины готовых шаблонов (абстрактных объектов) либо правил абстрагирования для разных случаев.
Диалектик не против того, что могут быть два разных суждения о яблоке как общем и яблоке как частном. И сами эти суждения, конечно, противоречат друг другу. Но мысль, результатом которой являются эти суждения, была единой. Диалектик полагает, что в одном акте мысли человек соединяет обе «стрелки», мыслит в одном объекте противоречие, например, множественность и единство одномоментно, в «одном кадре», в одном отношении. Именно это формальными логиками считается иррациональным, не поддающимся никакому строгому мышлению и описанию.
Однако для того, чтобы человек высказал суждение – «это яблоко», он должен был заранее одновременно, а не последовательно, удерживать в мысли и одно яблоко и все, потенциально бесконечное, множество яблок, принадлежащих одному роду яблоко. А иначе никто ничего не мог бы ни помыслить, ни назвать. Каким образом бесконечное множество явлений (всех возможных яблок в роде «яблоко») может быть наличным в едином акте мысли? Вот на это надо искать ответ. На этот вопрос искали ответ все диалектики, начиная с Платона, с античной проблемы Единого/Многого. Никаким улучшением формальной логики, по сути своей аксиоматической, запрещающей противоречия, работающей на уровне суждений, а не мышления, которым эти суждения получены, никаким нечеткими и многозначными логиками этот вопрос не решится.
Итак, наша гипотеза состоит в том, что, чтобы быть интеллектуальной по сути, а не по видимости, система должна выбрать путь не формальной логики, а диалектический, то есть имеющий взаимо-определяющиеся предпосылки и позволяющий иметь противоречивые суждения в один момент.
Обе противоположности (яблоко одновременно и «одно вот это» и «многие яблоки рода») объекта должны быть схвачены за один такт механизма мышления. Попробуем еще раз кратко пояснить почему.
Обозначим кружком акт мысли, а буквами противоречивые ее моменты (Рис.4). По диалектике в одном и том же акте мысли присутствует и единство и множественность, именно сама мысль и есть и А и конкретное, свое не-А, и их единство:
Рис. 4
Формальный логик говорит, что не обязательно стараться получить соединение противоречий в одном акте, ведь можно просто двумя суждениями описать эту ситуацию (разными актами мысли, разными «точками зрения»):
 и
Рис. 5 Но какой акт теперь их объединит? Пусть теперь мы назовем первый акт В. А второй – С, чтобы упростить ситуацию. Например, в реальности это может быть переводом выражения на другой формальный язык.
 и
Рис. 6.
Но мы при этом приходим к той же структуре, в которой эти два высказывания отдельны.
Рис. 7
Так можно продолжать до бесконечности, не достигнув желаемого соединения. Мысль человека возможна только за счет того, что есть механизм соединения двух диалектически противоречивых актов. Избежать регресса в бесконечность можно, допустив существование такого объединяющего акта. Но это значит, что с необходимостью должна реализоваться схема Рис 4. - в едином акте конкретные противоречия должны совмещаться, каждое из них есть свое иное для другого, так что они составляют единство.
Мы уже говорили, что иногда делаются различные попытки снять остроту вопроса о разрешении или запрете противоречий. Говорят, например, о возможности противоречий в суждениях или в мысли как всего лишь логического, риторического, методологического приема или временного затруднения в нахождении окончательного единства без каких-либо противоречий. В таких случаях считается, что правильная мысль, результирующая и конфигурирующая исходно имевшиеся противоречия (да и сам объект мысли) на самом деле не содержат никаких противоречий.
Еще раз подчеркиваем, что у нас А и «свое не-А» - это не какие-то разные взгляды на объект, не проекции чего-то одного непротиворечивого на разные оси, не аспекты чего-то одного, например, в простейшем случае «яблоко кислое» и «яблоко зеленое», а это и есть сама мысль, причем одна. В одном и том же отношении яблоко в мысли и одно и многое. Не абстрактное, а конкретное, диалектическое – это не просто отрицание чего-то (часть/не часть, движение/не движение, белое/не белое), а взаимоувязанные противоречия, например, часть/целое, движение/покой, форма/содержание. Только такие противоречия являются взаимно определяющими, а не соединенными произвольно какой-то внешней и случайной по отношению к их содержанию мыслью. Более того, будучи конкретными противоречиями, они не существуют друг без друга, и мысль не существует без того, чтобы в самом ее основании были положены конкретные противоречия, взятые в их единстве.
Не диалектическая логика может оперировать качествами объектов, уже полученных в результате взаимодействия противоречий. Конечно, эти качества тоже различны, не тождественны и могут даже быть противоречивы, поскольку могут касаться разных аспектов предмета, например разных моментов времени его существования. Но это лишь совокупность признаков предмета, например, яблоко – зеленое и круглое, человек молодой и старый. Такие противоречия снимаются правильно произведенной рассудочной деятельностью, которая либо выбирает одно истинное суждение, либо обнаруживает на самом деле отсутствие противоречия, поскольку каждое из противоречивых суждений на самом деле взято, например, в разном отношении к объекту.
Разные суждения об объекте, касающиеся разных точек зрения о нем, разных аспектов, могут относиться к разным частям, к разным временным стадиям жизни объекта, к разным логическим моментам мысли о нем, к разным позициям людей, которые мыслят об объекте, и это не требует диалектического осмысления. Такие наши суждения оказываются в разных отношениях к объекту. Здесь неявно предполагается, что где-то в других актах уже соединены все эти высказывания, как относящиеся к одному объекту и сам объект каким-то образом уже есть в мысли, а мы обсуждаем только его разные аспекты.
Различие же, которое присутствует в самой мысли и в самом предмете и собственно оказывается условием их существования, лежит не на этом уровне признаков готового объекта, а, например, в противоречии между тем, что качеств много, но все они принадлежат к одному объекту, который к ним, однако, не сводится.
Диалектика – это различение и соединение внутри системы, из внутреннего содержания самих объектов, идей, это логика самоорганизации. Это также логика рефлексии, поскольку в рефлексии соединяются в одном акте страдающее и действующее, объект и субъект. Формальная логика – это оперирование качествами кем-то уже соединенного в одно, и уже различенного в этом одном, причем, по заданным внешним образом правилам. Рассудок абстрагирует из диалектического единства противоположностей один из моментов без сохранения исходного единства.
Здесь стоит упомянуть одно актуальное в современной философии течение, когда мыслители говорят, что практически любой привычной философской проблематики можно избежать, переводом на какой-то новый язык или исправлением языка. Иногда делается предположение, что вообще все привычные проблемы философии исторически случайны и являются лишь порождением неумело использованного естественного языка. Если предлагаемые исправления или какой-то новый язык помогут мышлению уйти хотя бы от проблемы Единого/Многого, то их надо ввести в круг технологических обсуждений и реализовать на практике. Такой язык надо реализовать в материале уже имеющихся компьютеров, либо в ином материале, свойства которого будут подобраны (созданы) с учетом этого языка – и мы получим долгожданный искусственный интеллект. Только можно ли на этом языке сказать и помыслить, что-то, например, подумать «яблоко», не соединяя в одном акте мысли его единство и множественность? Сможет ли такой язык решить проблему Искусственного Интеллекта (хотя бы на примере простой задачи, которую мы обозначили выше), тем самым доказав, что он и есть подлинная модель мышления?
Наши рассуждения о необходимости взаимо-определения предпосылок и противоречивости мысли как условия любого мышления вообще касаются, конечно, не только простых языковых выражений, а имеют универсальный характер. Мы могли бы привести пример необходимости соединения в мысли не Единого и Многого, а других противоречий - Сущность/Явления, Целое/Части, Предмет мысли/Форма мысли, Элемент/Связь. В любом случае, речь идет о том, что мышление мыслит хоть о каком-то объекте, только при соединении противоречивых моментов мысли в одном акте.
Попробуем сформулировать постановку задачи на создание интеллектуальной функции с учетом разобранных двух тенденций. Самое простое рассуждение, наиболее близкое к поставленной задаче проведения границы на экране, выглядит следующим образом. Объект мысли только тогда действительно существует в мысли, когда он имеет свои границы, выделен из не различенного потока данных, отделен от других объектов – от всего иного по отношению к нему. Но мысль должна удерживать и объект, и то, что ему противопоставлено (иное по отношению к объекту), чтобы вообще что-то мыслить. Вырезание объекта из того, что не-объект, из фона, проведение границы между объектом и не-объектом – первая задача любой интеллектуальной системы, и она сталкивается с необходимостью удерживать в мысли и объект и фон в одном акте мысли, в одном и том же отношении. Нельзя первым тактом увидеть объект, вторым – фон, а третьим их соединить, поскольку без второго и третьего такта первый невозможен. Обе противоположности должны присутствовать в мысли об объекте в одном и том же отношении, в одном акте, а не в разных. Иной механизм мысли уводит нас в дурную бесконечность либо требует, чтобы это соединение проделал кто-то заранее, и значит, не предполагает самостоятельного порождения знания. С таким механизмом система не будет действительно интеллектуальной, мы получим бесконечную попытку соединить два противоречивых суждения с удручающим результатом. Для решения же нашей задачи проведения границы, необходимо порождение новых объектов внутри интеллектуальной системы, которое возможно только при наличии механизма различения противоречий и их соединения в одном такте работы системы.
Механизм соединения противоположностей требуется уже в самых первых актах обработки информации – при восприятии, представлении. Он может не осознаваться на этом уровне, быть слабо проявленным, и в полной мере разворачиваться на высших уровнях мышления, но реально диалектический механизм действует как базис. Возможно, этот базис реализован в самом материале нервной системы, и обеспечивает возможность вообще какого-либо интеллектуального действия даже на уровне насекомых.
Именно поэтому любые попытки существующими естественно-научными средствами, математикой организовать в искусственной среде самостоятельный переход, например, от явления к стоящей за ним сущности (к этому, в конечном счете, сводятся запросы на пользовательские функции интеллектуальных систем) заранее обречены на провал, пока не продуман механизм, соединяющей в себе противоречия.
Итак, для построения интеллектуальных систем необходимо соблюдение принципов, которые мы обозначили как диалектические. Взаимное определение идей, информационных объектов в системе из них самих, а не от внешнего источника. Для системы принципиально важна противоречивость мысли – наличие А и своего не-А в едином акте интеллектуальной системы. Такая система может развиваться – порождать новые объекты внутри себя, в том числе и изменять однажды полученные процедуры и правила. Такую диалектическую систему мы полагаем базовой для интеллекта, для мышления вообще. Рассудок в мышлении играет свою важную роль, например, он действует на уровне суждений об уже определенных, существующих в мысли заранее объектах и их свойствах. Формальная логика на уровне рассудка является регулятивом, позволяющем в рамках локальной определенной области строить верные рассуждения.
Заключение
Искусственным интеллектом сегодня по большей части занимаются люди с естественно-научным или математическим образованием, выстроенным в рамках формальных систем. Некоторые изначально гуманитарные науки все более приобретают сходные с ними черты, например, социология, лингвистика. Такое образование не предполагает, что можно всерьез размышлять вне локально истинных теорий, видеть предмет своей мысли как качественно меняющийся, определенный не внешним образом, а изнутри самого себя. Это образование не дает увидеть, что в гуманитарной среде, например, в истории философии, даже в «эфемерном мире идей» Платона, существуют законы, относящиеся к механизмам мышления, не менее рациональные, чем естественно-научное знание.
Мы далеки от того, чтобы полностью отрицать рассудочные формы и формальные логики, ибо в целостном мышлении человека они присутствуют, и рассудок более эффективен, чем любые другие формы мысли, будучи примененным в задачах определенного типа. Мы только предлагаем не придавать рассудку значения исключительности при обсуждении механизмов мышления.
Обращаясь в разработке ИИ к диалектическому мышлению, как к возможной альтернативе, мы уходим из общепринятой научной и технической традиции, по общему мнению, обеспечивающей сейчас развитие. Говорить всерьез о попытках формализации диалектики в ее гегелевском или платоновском смысле - значит помещать себя в зону, как минимум, непонимания со стороны образованного, технически подкованного сообщества. В таких сообществах лозунг об абсолютном преимуществе нового над старым, мало кто всерьез подвергает сомнению. Однако, судя по всему сказанному выше, в логическом развертывании разработок интеллектуальных систем, Платоновская диалектика только еще будет, до нее надо еще дойти.
Выбранный нами в самом начале объект исследования – взаимодействие мышления человека со средой ИТ, и взятый нами аспект – выяснение критериев интеллектуальности системы приводят к актуализации некоторых старых философских и логических проблем. Из вышесказанного видно, что некоторые аспекты философских, логических и естественно-научных проблем, действительно, оказываются с необходимостью включенными в круг нашего обсуждения. Следует сказать также несколько слов о том, как проявляется в социальной сфере тот факт, что мышление человека не сводится к рассудочному механизму, который полностью определяет современные информационные технологии. Здесь возникает ряд вопросов, требующих ответа.
Нужно ли вообще пытаться выскочить из уже сложившейся и вполне процветающей парадигмы ИТ? Какие ограничения накладываются тем, что существующие ИТ поддерживают только рассудочные формы мысли? В каких типах ситуаций эти технологии перестают быть удовлетворительными? Можно ли выделить такие типы ситуаций, автоматизация которых актуальна, но которые требуют не рассудочных (или не только рассудочных), а иных, форм мышления? Какой подход к ИТ для этого требуется?
На сегодня в развитии ИТ мы естественным путем получили систему с обратной связью между ИТ и деятельностью человека - рассудок лежит в основе компьютеров и сами компьютеры поддерживают именно рассудочное мышление у человека. Естественно, что инструменты, адекватные для решения формализованных, сводимых к последовательной процедуре задач, стимулируют к формулировке именно таких задач, без учета возможной противоречивости, многоплановости ситуаций. Класс задач, которые принципиально не подвластны рассудку, не вписываются в плоскость формализации, оказывается за пределами внимания, либо подвергается редукции к рассудочным формам. Жизнь человека, взаимоотношения людей, личностные проблемы, сложная деятельность, например в медицине, образовании, этике, управленческая деятельность, будучи подвергнутыми такой процедуре, теряют свой объем, оказываются спроецированными на единственно принятую плоскость.
При этом не существует жесткой границы между зоной ИТ (зоной рассудка) и зоной разума. Повсеместное распространение ИТ форматирует мышление людей под свои законы, и за счет этого рассудок неконтролируемо осуществляет экспансию на все формы жизни и деятельности, обязывает человека мыслить и действовать по соответствующим нормам.
Одним из закономерных эффектов такой экспансии оказывается повышенное внимание ко всему, что человеку, зажатому в жестких рамках, кажется иррациональным. Область иррационального некритически связывается при этом со свободой. Туда человек, уставший от плоских процедур и готовых алгоритмов, помещает без различия все, что, по его мнению, более живо, более объемно и менее детерминировано, чем рассудок. В область иррационального, не строгого без различия попадает все - от высоких образцов литературы, музыки, философской мысли до абсурда, абсолютизации спонтанности, разных видов так называемого «креатива», явленного разнообразными властителями массового сознания. Причем, последнее пользуется наибольшим почтением по принципу максимальной удаленности от рассудка и от мышления вообще, а также по принципу наименьшего действия – это не требует серьезной проработки и усваивается непосредственно. С нашей точки зрения, такое бегство от рассудка - это лишь иллюзия свободы мышления и творчества, которая оставляет человека все в той же плоскости.
Несогласие с такой ситуацией является лучшим стимулом для продолжения работ над изучением философских проблем, поиска технических решений, моделей Искусственного Интеллекта, выводящих за рамки формальных логик и поддерживающих истинно творческий характер человеческой личности.
Елашкина Анна (elashkina@noolab.ru), 12.08.2008
руководитель отдела исследований компании NooLab (Новосибирск)
Елашкина А.В. Некоторые критерии интеллектуальных систем // Философия науки, № 1(32). — Новосибирск, 2007.— С. 102-128. |
