DOI: 10.7256/2454-0730.2020.1.30722

Аннотация: Авторы подробно рассматривают вопросы применения отдельных технологий теории многоагентных систем в области организации дорожного движения с использованием беспилотных автотранспортных средств для борьбы с так называемыми «атаками при помощи оптических иллюзий» (или иначе — генеративно-состязательными атаками) на системы компьютерного зрения, используемые в таких автомобилях. В статье приводятся примеры генеративно-состязательных атак на нейронные сети различных типов, а также описываются проблемы и риски, которые возникают при использовании компьютерного зрения. Также приводятся возможные варианты решения описанных проблем. В качестве методологии исследования используется теория многоагентных систем в применении к автомобильному транспорту, что предполагает использование так называемого V2X-взаимодействия, то есть постоянного обмена информацией между автомобилем и различными акторами, участвующими в дорожном движении — центральной системой управления, другими автомобилями, придорожной инфраструктурой и пешеходами. Особым вкладом авторов в исследование темы является применение теории многоагентных систем для организации дорожного движения при рассмотрении его акторов в качестве агентов с различными ролями. Новизна этого заключается в применении одного из направлений искусственного интеллекта для решения проблем, полученных из-за использования других методов искусственного интеллекта (распознавания образов в компьютерном зрении). Актуальность исследования основана на постепенном широком охвате исследованиями вопросов организации беспилотного движения на полигонах и автомобильных дорогах общего пользования.

DOI: 10.25136/2644-5522.2019.4.29809

Аннотация: Предметом исследования является архитектура искусственных интеллектуальных систем, разработанная в рамках гибридного подхода к искусственному интеллекту. В статье предлагается авторское видение процесса построения искусственных интеллектуальных агентов на основе гибридного подхода с использованием организмических принципов. Искусственный интеллектуальный агент с гибридной схемой представляет собой «кибернетическую машину», действующую в некоторой среде и функционально взаимодействующую с ней. Интерес представляет способ взаимодействия и принятия агентом решений, в рамках которого информация из окружающей среды проходит через множество сенсоров, а потом подвергается очистке и сенсорной интеграции с дальнейшим переводом в символьный вид для принятия решений на основе символьной логики и работы универсальной машины вывода. В качестве основной методологии проведения исследования был принят системотехнический подход к анализу и построению технических систем, а также функциональный подход как дополнительный метод исследований. Новизна исследования заключается в использовании гибридной парадигмы построения искусственных интеллектуальных систем в совокупности с системотехническим и функциональным подходами при проектировании технических систем, что позволило обобщить имеющиеся данные о взаимодействии интеллектуальных агентов со средой и выявить интересные закономерности для использования при развитии систем искусственного интеллекта. Основным выводом проведённого исследования является возможность использования гибридной парадигмы для получения искусственных интеллектуальных агентов, обладающих важными плюсами восходящей и нисходящей парадигмы искусственного интеллекта — возможностью обучаться и адекватно себя вести в неизвестном окружении и способностью объяснять причины своих решений соответственно. Этот важный вывод позволит продвинуть исследования в области объяснимого искусственного интеллекта.