Статья 'Гибридная схема построения искусственных интеллектуальных систем' - журнал 'Кибернетика и программирование' - NotaBene.ru
по
Меню журнала
> Архив номеров > Рубрики > О журнале > Авторы > О журнале > Требования к статьям > Редакция и редакционный совет > Порядок рецензирования статей > Политика издания > Ретракция статей > Этические принципы > Политика открытого доступа > Оплата за публикации в открытом доступе > Online First Pre-Publication > Политика авторских прав и лицензий > Политика цифрового хранения публикации > Политика идентификации статей > Политика проверки на плагиат
Журналы индексируются
Реквизиты журнала

ГЛАВНАЯ > Вернуться к содержанию
Кибернетика и программирование
Правильная ссылка на статью:

Гибридная схема построения искусственных интеллектуальных систем

Душкин Роман Викторович

Директор по науке и технологиям, Агентство Искусственного Интеллекта

127473, Россия, Москва, г. Москва, пер. 1-Й волконский, 15

Dushkin Roman

Director of Science and Technology, Artificial Intelligence Agency

127473, Russia, Moskva, g. Moscow, per. 1-I volkonskii, 15

roman.dushkin@gmail.com
Другие публикации этого автора
 

 
Андронов Михаил Григорьевич

Ведущий инженер-разработчик, Агентство Искусственного Интеллекта

119049, Россия, г. Москва, ул. Житная, 10

Andronov Mikhail Grigor'evich

Leading Development Engineer, Artificial Intelligence Agency

119049, Russia, g. Moscow, ul. Zhitnaya, 10

mihandronov@gmail.com
Другие публикации этого автора
 

 

DOI:

10.25136/2644-5522.2019.4.29809

Дата направления статьи в редакцию:

20-05-2019


Дата публикации:

15-12-2019


Аннотация: Предметом исследования является архитектура искусственных интеллектуальных систем, разработанная в рамках гибридного подхода к искусственному интеллекту. В статье предлагается авторское видение процесса построения искусственных интеллектуальных агентов на основе гибридного подхода с использованием организмических принципов. Искусственный интеллектуальный агент с гибридной схемой представляет собой «кибернетическую машину», действующую в некоторой среде и функционально взаимодействующую с ней. Интерес представляет способ взаимодействия и принятия агентом решений, в рамках которого информация из окружающей среды проходит через множество сенсоров, а потом подвергается очистке и сенсорной интеграции с дальнейшим переводом в символьный вид для принятия решений на основе символьной логики и работы универсальной машины вывода. В качестве основной методологии проведения исследования был принят системотехнический подход к анализу и построению технических систем, а также функциональный подход как дополнительный метод исследований. Новизна исследования заключается в использовании гибридной парадигмы построения искусственных интеллектуальных систем в совокупности с системотехническим и функциональным подходами при проектировании технических систем, что позволило обобщить имеющиеся данные о взаимодействии интеллектуальных агентов со средой и выявить интересные закономерности для использования при развитии систем искусственного интеллекта. Основным выводом проведённого исследования является возможность использования гибридной парадигмы для получения искусственных интеллектуальных агентов, обладающих важными плюсами восходящей и нисходящей парадигмы искусственного интеллекта — возможностью обучаться и адекватно себя вести в неизвестном окружении и способностью объяснять причины своих решений соответственно. Этот важный вывод позволит продвинуть исследования в области объяснимого искусственного интеллекта.


Ключевые слова:

искусственный интеллект, гибридная парадигма, интеллектуальный агент, системная архитектура, кибернетический подход, взаимодействие со средой, функциональный подход, системотехника, системный анализ, объяснимый искусственный интеллект

Abstract: The subject of research is the architecture of artificial intelligent systems, developed as part of a hybrid approach to artificial intelligence. The article offers the author’s vision of the process of constructing artificial intelligent agents based on a hybrid approach using organismic principles. An artificial intelligent agent with a hybrid scheme is a “cybernetic machine” operating in a certain environment and functionally interacting with it. Of interest is the way the agent interacts and makes decisions, in which information from the environment passes through many sensors, and then it is cleaned up and sensory integrated with further translation into a symbolic form for decision making based on symbolic logic and the operation of a universal output machine. As the main research methodology, a systems engineering approach to the analysis and construction of technical systems was adopted, as well as a functional approach as an additional research method. The novelty of the study is in the use of a hybrid paradigm for constructing artificial intelligent systems in conjunction with systems and functional approaches in the design of technical systems, which made it possible to generalize the available data on the interaction of intelligent agents with the environment and identify interesting patterns for use in the development of artificial intelligence systems. The main conclusion of the study is the possibility of using a hybrid paradigm to obtain artificial intellectual agents that have important advantages of the upward and downward artificial intelligence paradigm - the ability to learn and behave appropriately in an unknown environment and the ability to explain the reasons for their decisions, respectively. This important finding will advance research into explainable artificial intelligence.


Keywords:

artificial intelligence, hybrid paradigm, intellectual agent, system architecture, cybernetic approach, interaction with environment, functional approach, system design, system analysis, explainable artificial intelligence

Введение

Наука об искусственном интеллекте – междисциплинарная область исследований, бурное развитие которой началось в XX веке. В середине XX века были предприняты попытки создать интеллектуальную систему в виде универсальной вычислительной машины, но быстро стало очевидно, что разработать интеллект in silico — чрезвычайно сложная задача. В дальнейшем благодаря совместным усилиям математиков и физиологов появилась модель искусственного нейрона и была создана первая искусственная нейронная сеть, в которой, к разочарованию ученых, тоже не зародился разум. Стало ясно, что само существование нейронной сети не гарантирует её разумность, и что разум, скорее всего, обусловлен какими-то неясными синергетическими эффектами внутри сети из многих миллионов нейронов [1].

Выделяется два подхода к построению искусственного интеллекта. Первый известен под названиями «чистый подход» или «нисходящий ИИ». Примерами нисходящего подхода являются такие технологии, как экспертные системы, системы поддержки принятия решений, базы знаний, машины вывода [3]. Принципы нисходящего ИИ выражаются в гипотезе Ньюэлла-Саймона: «осмысленные действия можно выполнять только при наличии в некоторой физической системе механизма символьных вычислений, а сами такие символьные вычисления являются необходимым условием наличия в этой системе интеллекта [2]». Наиболее развитым направлением в рамках данного подхода является направление символьных вычислений, основанное на логике синтаксического манипулирования символами.

Второй подход, определение которого сформулировал Марвин Мински, получил название «грязный подход» или «восходящий ИИ». Он основывается на предположении возможности моделирования естественных низкоуровневых процессов, происходящих в живом мозге. Данное направление объединяет такие технологии, как искусственные нейронные сети, эволюционные вычисления, а также биокомпьютинг[4].

Фактически, две парадигмы, описанные выше, лежат в основе всякого подхода к разработке искусственных интеллектуальных систем.

И чистый, и грязный подход имеют свои достоинства и недостатки. К достоинствам чистого подхода можно отнести лёгкость интерпретации и объяснения результатов, полученных машиной логического вывода на основе символьных вычислений. При этом в рамках чистого подхода сложно работать с данными большого объёма из-за необходимости готовить для машины вывода слишком большую базу знаний, которая к тому же должна будет строиться с использованием лингвистических переменных, значение которых определено не строго [5]. Более того, вопрос обучения искусственных интеллектуальных систем, основанных на нисходящей парадигме, до сих пор скорее открыт — окончательного формализма для описания функции самостоятельного обучения интеллектуальных систем не предложено [1].

У грязного подхода проблемы скорее противоположные: искусственную нейронную сеть легко можно обучить на очень больших объёмах данных, но при этом будет почти невозможно интерпретировать полученный результат. Полного понимания того, как работает обученная искусственная нейронная сеть (для произвольной архитектуры), в науке сейчас нет, так что сеть представляет собой «чёрный ящик» [6]. Поэтому сложно проконтролировать корректность выдаваемых нейронной сетью результатов, например, в случае попадания некорректных данных в выборку, на которых обучалась сеть. Кроме того, искусственные нейронные сети принципиально отличаются от нейронной сети в мозгу человека: в человеческом мозгу постоянно идет нейрогенез и дообучение, действуют другие неясные эффекты, приводящие к появлению сознания [7]. Поэтому искусственные нейронные сети сами по себе не могут претендовать на интеллектуальность в человеческом понимании.

Архитектура гибридной интеллектуальной системы

Решение задачи построения искусственных интеллектуальных систем можно искать в совмещении возможностей чистого и грязного подхода. Можно попробовать построить архитектуру гибридной интеллектуальной системы, продолжая вдохновляться устройством разума и интеллекта человека, но на более общем уровне. Следующая диаграмма графически показывает общую схему взаимодействия компонентов в гибридной интеллектуальной системе, которая основана на таких принципах.

Рис. 1. Общая архитектура гибридного интеллектуального агента

Сенсоры (аффекторы) передают информацию на нейронную сеть обработки сенсорной информации, которая преобразует информацию с сенсоров к символьной информации, на основе которой универсальная машина логического вывода формирует входные данные для моторной нейронной сети. Результат работы моторной нейросети ― низкоуровневые команды, которые управляют исполнительными устройствами гибридной ИС. При этом сенсоры также воспринимают информацию о состоянии компонентов самой системы.

Можно улучшить схему на рис. 1, разделив систему управления на две подсистемы, и тогда общая схема гибридной интеллектуальной системы будет выглядеть так, как показано на следующей диаграмме:

Рис. 2. Расширенная архитектура гибридного интеллектуального агента

Теперь система управления разбивается на две части:

  1. Реактивная подсистема управления. Фактически, эта система реализует привычную схему управления. Сигналы с сенсоров поступают на систему управления и обрабатываются, после чего формируются управленческие воздействия на объект управления (среду), передаваемые через исполнительные устройства. Эта система подобна «рефлекторному контуру» у человека.
  2. Проактивная подсистема управления. Добавляет дополнительный уровень, служащий для интеллектуализации схемы автоматической системы управления. Данный уровень позволяет системе осуществлять самообучение, прогнозирование своего состояния и состояния среды на основе моделирования среды и данных о ней, построение планов действий, а также адаптацию к изменяющимся условиям среды. Данная подсистема реализует «условные рефлексы» гибридной системы.

Между этими двумя системами передается управленческий фокус. Когда условия поведения системы меняются, проактивный контур создаёт новый шаблон поведения, и фокус управления передается на реактивную подсистему. Для неизменных условий среды работа проактивной системы не требуется, поэтому более быстрая реактивная реакция является предпочтительной. Это и есть формирование «условного рефлекса». С другой стороны, при обнаружении изменений в среде или объекте управления во время работы реактивной подсистемы фокус управления эскалируется на проактивную для адаптации к изменившимся условиям и выработки новых шаблонов поведения системы.

Цикл функционирования гибридной системы состоит в последовательном выполнении следующих шагов:

1. Со всех сенсоров, осуществляющих мониторинг параметров среды функционирования системы, собирается входная информация. Разные типы сенсоров в данном случае являются отдельными модальностями восприятия гибридной интеллектуальной системы.

2. После сбора входной информации осуществляется очистка её от шумов и выбирается путь дальнейшей обработки. Если входная информация соответствует каким-либо автоматическим шаблонам поведения системы, то фокус управления передается в реактивную подсистему, которая выбирает и исполняет конкретный шаблон.

3. Если для входной информации не находится автоматической реакции, то все модальности восприятия системы интегрируются в единый блок описания среды (этот блок аналогичен деятельности таламуса в человеческом мозге). На выходе этого блока формируется целостная картина восприятия среды, которая передается в проактивную управляющую подсистему.

4. Проактивной системой формируется новое правило для реактивной системы. Это управленческое воздействие в символьном виде, которое записывается в реактивную систему и направляется на исполнение. Правило выводится проактивной системой на основе моделей системы, её поведения и среды с помощью механизма символьного вывода, поэтому может быть легко интерпретировано человеком.

5. Символьное управленческое воздействие переводится на низкоуровневый язык и передается на исполнительные устройства, которые взаимодействуют со средой и объектом управления. Перевод может осуществляться различными механизмами. Например, нейронной сетью. После исполнения команды исполнительными устройствами цикл функционирования завершается.

Кроме всего прочего внутри гибридной интеллектуальной системы должны быть реализованы контрольные связи от всех её элементов к сенсорам. Тем самым реализуются адаптационные механизмы, основанные на постоянстве внутреннего состояния системы.

Наконец, связь от проактивной подсистемы управления в саму себя олицетворяет так называемый «внутренний конфликт», когда интеллектуальная система может моделировать различные варианты развития ситуации, которая затрагивает и её саму. Цикл оценки и выбора приемлемой альтернативы осуществляется до тех пор, пока этот внутренний конфликт не будет улажен.

Примеры применения

Гибридная искусственная интеллектуальная система получается из автоматических систем управления путём их интеллектуализации, то есть повышения адаптивности и автономности [8]. Поэтому примерами применения гибридных ИИ-систем могут служить многие хорошо знакомые, но интеллектуализированные в гибридной парадигме автоматические системы управления. Следующие примеры являются реальными примерами, взятыми из рабочей практики авторов, для которых приводятся соответствующие ссылки на более детальные описания реализаций.

  1. Интеллектуальная система управления дорожным движением. Автоматизированные системы управления дорожным движением призваны обеспечивать безопасность и оптимальную скорость дорожного движения. При массовом внедрении беспилотных автомобилей интеллектуальные транспортные системы становятся логическим продолжением идеи автоматизации дорожного движения. Переход к интеллектуальным транспортным системам осуществляется при помощи перевода режима управления с традиционного программного (включающего календарное управления) на адаптивное управление дорожным движением на всей улично-дорожной сети населённого пункта. В этом случае эффекторами интеллектуальной системы управления становятся объекты периферийного оборудования и технические средства организации дорожного движения, расположенные на дорогах и объектах придорожной инфраструктуры. Решения об управленческих воздействиях принимаются системой в зависимости от параметров транспортных потоков и прогнозов, данных транспортной моделью с учётом развития дорожной и метеорологической обстановки [9].
  2. Системы управления умным домом. Системы управления зданиями могут быть спроектированы в гибридной парадигме. Здание может содержать большое количество различных датчиков, осуществляющих мониторинг состояния его внутренней среды. Некоторые выделенные параметры среды необходимо поддерживать постоянными. Наличие в системе управления умным зданием реактивной подсистемы позволяет реагировать на известные ситуации, которые были учтены проектировщиками здания заранее, однако с новыми неучтенными проблемами одна реактивная система не справится. Добавление к контуру управления проактивной подсистемы позволит системе самообучаться в процессе функционирования и корректно реагировать на новые изменения, возникающие в среде [8].
  3. Интеллектуализация технологических процессов. В схему гибридной интеллектуальной системы можно уложить практически любой автоматизированный технологический процесс. Подобно системе управления зданием, в систему управления технологическим процессом должна быть добавлена проактивная подсистема управления, содержащая модели объекта управления и среды его функционирования. Проактивная подсистема повысит интеллектуальность технологического процесса за счёт прогнозирования и планирования управленческих воздействий с самообучением в автоматизированном режиме на основе сравнения прогноза, плана и факта [10, 11].
  4. Интеллектуализация дистанционного образования. Привычный процесс дистанционного образования основан на самостоятельном изучении слушателем материалов курса и общения на форумах с другими слушателями и преподавателями. Анализ задаваемых на форумах вопросов показывает, что большинство вопросов, относящихся к теме курса, являются типовыми. С целью интеллектуализации системы онлайн-обучения этом случае можно использовать интеллектуального агента (например, чат-бота) для автоматического формирования ответов на вопросы слушателей на естественном языке. Выдача ответов может вестись в персонифицированном режиме с автоматизированным обучением интеллектуального агента ответам на вопросы, на которые агент ранее не давал ответов [12].

Заключение

Данная в настоящей работе архитектура гибридной интеллектуальной системы описывает отдельный класс ИС, который основан на высокоуровневом копировании отдельных аспектов функционирования человеческого интеллекта. Можно предположить, что уточнение предложенной архитектуры конкретными технологиями при реализации таких интеллектуальных систем позволит повысить эффективность применения решений на основе искусственного интеллекта.

Приведённые примеры применения описанной архитектуры показывают, что предлагаемая архитектура и подход достаточно универсальны, чтобы применяться в различных проблемных областях. Вместе с тем, эти вопросы пока ещё открыты, и требуются дополнительные исследования открывающихся возможностей, способов применения и возникающих эффектов.

Библиография
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
References
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.

Результаты процедуры рецензирования статьи

В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.

Предмет исследования – подходы к проектированию интеллектуальных систем и архитектура гибридного (на основе сочетания «чистого» и «грязного» подходов) интеллектуального агента.

Методология исследования основана на сочетании теоретического и модельного подходов с применением методов анализа, моделирования, сравнения, обобщения, синтеза.

Актуальность исследования обусловлена широким распространением интеллектуальных систем в различных отраслях современной экономики и, соответственно, необходимостью их изучения и проектирования, в том числе в части архитектуры гибридного интеллектуального агента.

Научная новизна связана с обоснованным автором подходом к проектированию архитектуры гибридного интеллектуального агента, которая описывает отдельный класс таких агентов, который основан на высокоуровневом копировании отдельных аспектов функционирования человеческого интеллекта. Предполагается, что уточнение предложенной архитектуры конкретными технологиями при реализации таких интеллектуальных агентов позволит повысить эффективность применения решений на основе искусственного интеллекта.

Стиль изложения научный. Статья написана русским литературным языком.

Структура рукописи включает следующие разделы: Введение (природа разума и сознания, искусственный интеллект, «чистый» и «грязный» подходы, «нисходящий» и «восходящий» искусственный интеллект, гипотеза Ньюэлла-Саймона, биокомпьютинг, подходы к разработке искусственных интеллектуальных систем – интуитивный, логический, символьный, структурный, эволюционный, квазибиологический, агентный), Архитектура гибридного интеллектуального агента (решение задачи построения искусственных интеллектуальных систем, архитектура гибридной интеллектуальной системы, общая и расширенная архитектура гибридного интеллектуального агента, универсальная машина вывода –реактивная, проактивная подсистемы управления, цикл функционирования гибридного интеллектуального агента, 2. Примеры применения (беспилотные автомобили, интеллектуальная система управления дорожным движением, системы управления умным домом, создание умных городов, интеллектуализация технологических, образовательного процесса), Заключение (выводы), Библиография.

Номер раздела 2 «Примеры применения» (желательно конкретизировать, о применении чего идёт речь) следует удалить либо пронумеровать также и раздел «Архитектура гибридного интеллектуального агента». Текст включает два рисунка.

Содержание в целом соответствует названию. Вместе с тем обращает внимание, что представленная формулировка заголовка в большей степени подходит для монографии, нежели отдельной статьи. С учётом того, что практически все представленные примеры, иллюстрирующие предлагаемую автором схему построения искусственных интеллектуальных систем широко известны и распространены, следует конкретизировать научную новизну и практическую значимость проведённого исследования.

Библиография включает 18 источников отечественных и зарубежных авторов – монографии, научные статьи, материалы научных мероприятий, Интернет-ресурсы. Библиографические описания некоторых источников нуждаются в корректировке в соответствии с ГОСТ и требованиями редакции, например:
1. Ященко В.А. Теория искусственного интеллекта (основные положения) // ММС (???). 2011. №4. 17 с. (???)
6. Tong A., van Dijk D., Stanley J.S., Amodio M., Wolf G., Krishnaswamy S. Graph Spectral Regularization for Neural Network Interpretability // Proc. ICLR (???). 2019. P. 9.
7. Steiner E., Tata M., Frisén J. A fresh look at adult neurogenesis // Nature Medicine. 2019. P. 542–543.
8. Thacher R. W., John E. R. Foundations of Cognitive Processes. Hillsdale, N. J. : Erlbaum, 1977. 294 p.
12. Название ресурса на языке оригинала ???. https://bespilot.com/chastye-voprosy/kak-rabotaet-bespilotnyj-avtomobil (дата обращения: 12.05.2019).
Для источника № 13 нужно привести не более трёх, для № 14 – не менее трёх авторов. Возможно излишнее самоцитирование (Душкин Р. В.).

Апелляция к оппонентам (Ященко В. А., Рассел С., Норвиг П., Черненко В. В., Пискорская С. Ю., Нариньяни А. С., Tong A., Dijk D. van, Stanley J. S., Amodio M., Wolf G., Krishnaswamy S., Steiner E., Tata M., Frisén J., Thacher R. W., John E. R., Hofstadter D., Dennett D., Нечаев С. Ю., Андреева Е. А., Белкова Е. В., Жарков А. Д., Курочкин Е. А., Левин Н. В., Морозов В. П., Иванов Д. А., Ицкович Э. Л., Коптев А. П., Batty M. и др.) имеет место.

Замечен ряд опечаток: Получив свое начало вместе с работой Декарта «Рассуждение о методе...» – Получив свое начало вместе с работой Рене Декарта «Рассуждение о методе...»; выразилось в гипотезе Ньюэлла — Саймона – выразилось в гипотезе Ньюэлла-Саймона; [Душкин, 2018a] – [Номер источника ???]; цитируется по книге Хофштадтера и Деннета – цитируется по книге Имя ??? Хофштадтера и Имя ??? Деннета.

Аббревиатуры ИИ, MOOC при первом упоминании нужно привести полностью.

В целом рукопись соответствует основным требованиям, предъявляемым к научным статьям. Материал представляет интерес для читательской аудитории и после доработки может быть опубликован в журнале «Кибернетика и программирование» (рубрика «Базы знаний, интеллектуальные системы, экспертные системы, системы поддержки принятия решений»).

Результаты процедуры повторного рецензирования статьи

В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.

В статье авторы рассматривают задачу построения интеллектуальных систем, имеющую практическую значимость. Актуальность работы несомненна в связи с расширением областей применения интеллектуальных систем, необходимостью их использования в сложных аналитических задачах, появлением новых классов задач. В статье подробно приведены подходы к построению ИС. Достоинством работы являются схемы архитектуры, алгоритм работы гибридной системы. Приведены примеры гибридных ИС в актуальных областях, однако желательно расширить этот раздел примерами из различных областей, привести примеры конкретных систем.
Структура статьи характерна для научного обзора. Личных экспериментов авторов не содержит.
Используемая авторами формулировка «чистый подход» и «грязный подход» может упоминаться в научной публикации, но упоминание этой формулировки более одного раза нежелательно. Далее по тексту необходимо заменить на термины нисходящий и восходящий подход.
В тексте необходимо пояснить какие взаимодействия на схемах (рис.1,2) обозначены сплошными стрелками, какие – пунктирными стрелками. На рис.2 для проактивной системы управления вместо замыкания стрелки на блок рекомендуется или другое обозначение, или ограничиться указанием в тексте статье.
Встречаются ошибки («в мозгу» вместо «в мозге»), синтаксические ошибки.
Библиография достаточна, содержит публикации в индексируемых изданиях. 30% источников на английском языке. Источник 12 оформлен не по ГОСТ, интернет ресурс при возможности желательно заменить на печатное издание.
Статья представляет интерес для широкой аудитории и может быть опубликована после доработки в журнале «Кибернетика и программирование».
Ссылка на эту статью

Просто выделите и скопируйте ссылку на эту статью в буфер обмена. Вы можете также попробовать найти похожие статьи


Другие сайты издательства:
Официальный сайт издательства NotaBene / Aurora Group s.r.o.