Статья 'Выявление тенденций становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений' - журнал 'Административное и муниципальное право' - NotaBene.ru
по
Меню журнала
> Архив номеров > Рубрики > О журнале > Авторы > Требования к статьям > Политика издания > Редакция > Порядок рецензирования статей > Редакционный совет > Ретракция статей > Этические принципы > О журнале > Политика открытого доступа > Оплата за публикации в открытом доступе > Online First Pre-Publication > Политика авторских прав и лицензий > Политика цифрового хранения публикации > Политика идентификации статей > Политика проверки на плагиат
Журналы индексируются
Реквизиты журнала
ГЛАВНАЯ > Вернуться к содержанию
Административное и муниципальное право
Правильная ссылка на статью:

Выявление тенденций становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений

Лапина Марина Афанасьевна

доктор юридических наук

главный научный сотрудник, профессор Департамента международного и публичного права, Финансовый университет при Правительстве Российской Федерации

109456, Россия, г. Москва, пр-д 4-Й вешняковский, 4, ауд.406

Lapina Marina Afanas'evna

Doctor of Law

Chief Scientific Associate, Professor, the department of International and Public Law, Financial University under the Government of the Russian Federation

109456, Russia, g. Moscow, pr-d 4-I veshnyakovskii, 4, aud.406

LapinaMarina@inbox.ru
Другие публикации этого автора
 

 

DOI:

10.7256/2454-0595.2019.5.30567

Дата направления статьи в редакцию:

17-08-2019


Дата публикации:

24-08-2019


Аннотация: Предметом исследования является международное и зарубежное законодательство, законодательство Российской Федерации, а также стратегические документы и проекты становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений. Объект исследования – общественные отношения, способствующие разработке и внедрению технологий искусственного интеллекта в социальную сферу государственного управления. В статье приведен анализ возможных областей социальных отношений, в которых уже сейчас применимы технологии искусственного интеллекта и объекты робототехники, выявлены терминологические проблемы, не позволяющие единообразно подходить к правовому регулированию искусственного интеллекта, роботов и объектов робототехники, сформулированы предложения по развитию законодательства в области технологий искусственного интеллекта. Методологическую основу статьи основные методы научного познания: экспертный и событийный анализ, правовые методы, а также структурный анализ. Автор приходит к выводу, что в силу существенного расхождения в терминологии и разновидностях искусственного интеллекта, роботов и объектов робототехники необходимо идти по пути разработки лишь основных принципов правового регулирования, применимых ко всем видам искусственного интеллекта и объектам робототехники. Развитие правового регулирования отдельных разновидностей искусственного интеллекта и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств.


Ключевые слова:

правовое регулирование, искусственный интеллект, робот, робототехника, социальные отношения, принципы, техническое нормирование, слабый искусственный интеллект, цифровая экономика, цифровое государственное управление

Статья подготовлена по результатам исследований, выполненных за счет бюджетных средств по государственному заданию Финуниверситета

Abstract: The subject of the research is international, foreign and Russian laws as well as policy papers and projects aimed at developing legal regulation of artificial intelligence, robots and robotics in the sphere of social relations. The object of the research is the social relations that promote development and implementation of artificial intelligence technologies in the social sphere of public management. In her article Lapina analyzes possible spheres of social relations that already imply artificial intelligence technologies and robotics, defines terminological problems that explain the fact why there is no single approach to legal regulation of artificial intelligence, robots and robotics, and makes suggestions on how to improve the law in the sphere of artificial intelligence technologies. The methodological basis of the research implies expert and case analysis, legal methods and structural analysis. At the end of the research the author concludes that as a result of significant differences in definitions of terms and kinds of artificial intelligence, robots and robotics, it is necessary to develop the main principles of legal regulation that would be applicable to all kinds of artificial intelligence and robots. Legal regulation of particular kinds of artificial intelligence and robots should be developed based on concrete technical standards because different devices need different rules and regulations.


Keywords:

legal regulation, Artificial Intelligence, robot, robotics, social relations, principles, technical regulation, weak artificial intelligence, digital economy, digital government

В данной статье мы рассмотрим основные вопросы и выявим правовые проблемы, связанные с возможностью интеграции технологических инноваций на базе искусственного интеллекта (далее – ИИ) и робототехники в область социальных отношений благодаря деятельности органов государственного управления, а также обоснуем необходимость правового регулирования указанных процессов. Данная тема слабо освещена в отечественной научной литературе. Наиболее системно правовые основы технологий искусственного интеллекта раскрыты в 2017 г. П. М. Морхатом в монографии «Искусственный интеллект: правовой взгляд» [23]. Одну из первых попыток рассмотреть вопросы правосубъектности киберфизических систем, основания, содержание и правовые перспективы понятия «электронного лица» была предпринята проф. О. А. Ястребовым [28,29]. Однако можно с полной определенностью говорить о взятом Россией курсе на развитие информационного общества и повышение эффективности деятельности органов государственной власти посредством интеграции определенных достижений развития цифровых технологий и ИИ уже сейчас в развивающемся информационном обществе.

Следует отметить, что в отечественной научной и учебной литературе по административному и информационному праву многогранно рассматривается понятие «Информационное общество» [22,27], в том числе как часть общества социального: «это наиболее заметно на области социальных отношений граждан с органами публичной власти… Гражданин и его законные действия в системе государственного управления ныне рассматривается не как объект управления, а как полноправный субъект общественных отношений, актор гражданского общества, включая и область государственного управления и местного самоуправления» [18]. Указом Президента РФ от 9 мая 2017 г. № 203 была утверждена Стратегия развития информационного общества в Российской Федерации на 2017-2030 гг.[1]. Данная Стратегия направлена на дальнейшее развитие информационного общества, формирование национальной цифровой экономики, обеспечение национальных интересов и реализацию стратегических национальных приоритетов. Становление и дальнейшее развитие информационного общества не возможно без использования ИИ и робототехники в различных социальных отношениях. В Послании главы государства Федеральному Собранию Российской Федерации от 1 марта 2018 г. отмечалось, что «в кратчайшие сроки нам необходимо создать передовую законодательную базу, снять все барьеры для разработки и широкого применения робототехники, искусственного интеллекта, беспилотного транспорта, электронной торговли, технологий обработки больших данных. Причем такая нормативная база должна постоянно обновляться, строиться на гибком подходе к каждой сфере и технологии» [2].

В соответствии с реализацией Послания Президента Федеральному Собранию от 20 февраля 2019 г. запущены масштабные программы национального уровня в области ИИ[3]. Так должна в 2019 г. была быть разработана национальная стратегия в области ИИ[6].

В большинстве развитых стран мира на внедрение технологий ИИ в различные социальные сферы органы публичного управления также запускают государственные проекты и принимают программы развития. Согласно докладу американского Центра Общественного Воздействия (Centre for Public Impact) «Destination Unknown: Exploring the impact of Artificial Intelligence on Government» [31], ИИ может быть применен в области предикативного анализа, обнаружения, компьютерного наблюдения, анализа естественных языков. Технологии искусственного интеллекта и роботизация способны кардинально ускорить переход к информационному обществу. Однако имеющиеся юридические проблемы могут препятствовать применению современных технологий ИИ и робототехники в области социальных отношений.

Основы правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений прежде всего должны содержать конкретно определенный понятийный аппарат. Однако, понятия «искусственный интеллект» и «робот» имеют множество определений. Наиболее подробный тезаурус на русском языке рассматриваемых понятий представлен в работе П. М. Морхата [24]. При широком подходе, приведенном в Большой российской энциклопедии, ИИ определен как «раздел информатики, в котором разрабатываются методы и средства компьютерного решения интеллектуальных задач, традиционно решаемых человеком» [25].

В нормативно-технической документации, а именно:

в ГОСТ Р 43.0.8-2017 и ГОСТ Р 43.0.7-2011 ИИтрактуется как «моделируемая (искусственно воспроизводимая) интеллектуальная деятельность мышления человека» [10,12];

в ГОСТ Р 60.0.0.2-2016 «Национальный стандарт Российской Федерации. Роботы и робототехнические устройства. Классификация» со ссылкой на ИСО 8373:2012 (ISO 8373:2012) «Роботы и робототехнические системы. Словарь (Robots and robotic devices - Vocabulary)» робот (robot) определен весьма конкретно как «исполнительное устройство с двумя или более программируемыми степенями подвижности, обладающее определенным уровнем автономности и способное перемещаться во внешней среде с целью выполнения поставленных задач» [11].

Как видим, нормативно-технические трактовки понятий ИИ и робота имеют существенные различия. Так, ИИ определен на основе компьютерного моделирования весьма широко, а понятие робота не позволяет охватить широкий спектр категорий роботов, которые имеют существенные различия.

К примеру, Комитет Японии по политике в сфере робототехники еще ранее 2007 года предложил классифицировать роботы нового поколения на такие разновидности, как:

1) Промышленные роботы, которые управляются людьми или работают наравне с людьми;

2) Обслуживающие роботы, которые выполняют домашнюю уборку, могут ухаживать за детьми и другими социально незащищенными категориями граждан, служить для целей обеспечения безопасности и другие виды работ, то есть в целом поддерживать жизнедеятельность офисов и домохозяйств [32].

Исходя из приведенных терминов ИИ и роботов, можно утверждать, что подходы к правовому регулированию ИИ, роботов и объектов робототехники в области социальных отношений могут быть весьма различными и обладать определенными особенностями в зависимости от специфики отдельных сфер их применения. По этой самой причине возможно разработать только основные принципы правового регулирования, применимые ко всем видам ИИ и робототехники. А непосредственно правовое регулирование отдельных разновидностей ИИ и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств. Именно по этому пути пошли страны ЕС в развитии европейской роботизированной промышленности, исходя из смысла содержания Резолюции Европейского Парламента (далее - Резолюция) [13]. В Резолюции содержатся рекомендации по установлению критериев классификации роботов; по необходимости прохождения специальной регистрации и об обязательности оснащения роботов «черным ящиком», в котором записываются данные по каждой выполняемой операции, включая логику принятия решений; обоснование разработки правил тестирования новых роботов в реальных условиях; обоснование необходимости внедрения обязательного страхования для определенных видов роботов.

В ЕС в апреле 2018 г. была принята стратегия развития и использования искусственного интеллекта. С середины 2019 г. предполагается принятие национальных планов развития ИИ, создание фондов для финансирования стартапов для развития технологий ИИ. Резолюцией Европейского парламента о всеобъемлющей европейской промышленной политике в области ИИ и робототехники, опубликованной в феврале 2019 г., установлены общие положения рекомендательного характера. К примеру, в резолюции рекомендуются такие сферы применения технологий ИИ в области социальных отношений, как транспорт, энергетика, промышленность, здравоохранение.

Важным документом для возможностей применения технологий ИИ является Руководство по этике для ИИ, принятое в ЕС. Руководством установлены общие три принципа деятельности ИИ, которые можно кратко сформулировать как: делать добро, не навредить и работать прозрачно. Предполагается, что перечисленные принципы позволят устойчиво развивать технологии ИИ и робототехники. Руководством установлены общие правила разработки таких технологий: они должны быть безопасными, подотчётными, не носить дискриминационного характера, быть поднадзорными человеку.

Перечисленные документы ЕС по сути являются базовым юридическим фундаментом правового регулирования ИИ, роботов и объектов робототехники в области социальных отношений. Предлагаемый в государствах ЕС начальный путь развития правового регулирования закономерен, но не учитывает возникающих в результате такой деятельности рисков [21]. Описывая идею преимущества искусственного сверхразума, Ник Бостром в своей научно-популярной книге «Искусственный интеллект: этапы, угрозы, стратегии» предупреждает, что следует учитывать риски, связанные с самоуправством сверхразумных машин, которые способны причинить необратимый ущерб человеческой цивилизации или, вообще, к гибели человечества [30].

Весьма интенсивно технологии ИИ применяются в такой сфере социальных отношений, как здравоохранение. Уже имеются на вооружении у врачей медицинские роботы различных типов (например, хирургическая система да Винчи и Хоспи). В сфере здравоохранения технологии ИИ применяются при диагностике заболеваний и прогнозировании, сборе данных, для выявления пациентов с высоким риском развития заболеваний, при разработке лекарств. Наиболее перспективно использование ИИ в телемедицине и системе диагностики [26]. По мнению некоторых исследователей, электронное здравоохранение стало одним главных «драйверов» всей отрасли [20].

Согласно Паспорту федерального проекта «Цифровые технологии» [7] запланировано к концу 2024 года утроить финансирование развития так называемых затраты на развитие «сквозных»[1] цифровых технологий.Паспортом федерального проекта «Нормативное регулирование цифровой среды» [8] национальной программы «Цифровая экономика Российской Федерации»определено, что создание системы правового регулирования цифровой экономики должно быть основано на гибком подходе в каждой сфере общественных отношений с обязательным участием бизнес-сообщества. Согласно п. 1.8 паспорта проекта запланировано формирование отраслевого регулирования правоотношений в сфере робототехники и применения технологий ИИ; п.1.12 – реализация комплекса мер по совершенствованию механизмов стандартизации; п. 1.16 – обеспечение законодательного регулирования вопросов создания и функционирования особых правовых режимов в условиях цифровой экономики («регуляторных песочниц»).

Для обеспечения ускоренного внедрения цифровых технологий в экономику и социальные отношения за счет использования цифровых технологий и платформенных решений в сферах государственного управления утвержден Паспорт федерального проекта «Цифровое государственное управление» [9]. В частности, он содержит цель доведения доли приоритетных государственных услуг, предоставляемых без необходимости личного посещения государственных органов, до 100 % к концу 2024 г. Безусловно, анализируемый паспорт федерального проекта «Цифровое государственное управление» является лишь первым шагом на пути внедрения технологий ИИ в практику деятельности органов государственного управления и не охватывает множества направлений деятельности, которые можно было бы оптимизировать благодаря имеющимся разработкам в области ИИ и робототехники. К примеру, учёные РАН С. И. Борталевич, А. В. Лапин и С.С. Харитонов в статье «Искусственный интеллект в системе обеспечения экономической безопасности» выявили отсутствие на федеральном уровне нормативно установленной возможности использования ИИ в целях обеспечения экономической безопасности государства. Авторы статьи предлагают включить технологии ИИ в качестве элемента экономической безопасности России [19].

Вопросы интеграции ИИ в процессы государственного управления социальной сферой отношений рассматриваются и в рамках правительственных документов в других зарубежных странах. Например, данным вопросам уделяется место в немецком Обзоре стратегии федерального правительства в области ИИ [14], в рамках канадской Pan-Canadian Artificial Intelligence Strategy [15], индийской National Strategy for AI. Discussion-Paper[16], японского Базового плана научно-технического развития[17].

Таким образом, интеграция слабых ИИ-технологий в деятельность государственных органов, осуществляющих управленческие функции в области социальных отношений, является неизбежным явлением, которое в настоящий момент не имеет достаточной степени осмысления в актуальном нормотворчестве и научной литературе.

[1] «Сквозные» цифровые технологии – это технологии ИИ, робототехники, больших данных, промышленного интернета, беспроводной связи, виртуальной и дополненной реальностей и др.

Библиография
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
31.
32.
References
1.
2.
3.
4.
5.
6.
7.
8.
9.
10.
11.
12.
13.
14.
15.
16.
17.
18.
19.
20.
21.
22.
23.
24.
25.
26.
27.
28.
29.
30.
31.
32.

Результаты процедуры рецензирования статьи

В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.

Предмет исследования - выявление «тенденций становления и развития правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений». Предмет не раскрыт.
Методология исследования – ряд методов, используемых автором: формально-юридический, анализ и синтез, логика и др.
Актуальность хорошо обоснована автором и выражается в следующем: «рассмотрим основные вопросы и выявим правовые проблемы, связанные с возможностью интеграции технологических инноваций на базе искусственного интеллекта (далее – ИИ) и робототехники в область социальных отношений благодаря деятельности органов государственного управления, а также обоснуем необходимость правового регулирования указанных процессов».
Научная новизна отсутствует.
Стиль, структура, содержание заслуживают внимания. Исследование не имеет всех необходимых структурных элементов: цели и задачи, методология (слабо выражена), основная часть и выводы.
Стиль работы хороший, она легко читается, но не носит не совсем исследовательский характер.
Содержание не отражает существо статьи.
Автор логично подводит читателя к существующей проблеме. В начале статьи автор акцентирует внимание читателя на предмете статьи. Он показывает, что «Данная тема слабо освещена в отечественной научной литературе. Наиболее системно правовые основы технологий искусственного интеллекта раскрыты в 2017 г. П. М. Морхатом в монографии «Искусственный интеллект: правовой взгляд» [23]».
Автор отмечает, что «Гражданин и его законные действия в системе государственного управления ныне рассматривается не как объект управления, а как полноправный субъект общественных отношений, актор гражданского общества, включая и область государственного управления и местного самоуправления» [18]» (но человек никогда в праве не был объектом, он только субъект!), «В соответствии с реализацией Послания Президента Федеральному Собранию от 20 февраля 2019 г. запущены масштабные программы национального уровня в области ИИ[3]. Так должна в 2019 г. была быть разработана национальная стратегия в области ИИ[6]». Далее автор описывает различные документы.
Он также пишет: «В большинстве развитых стран мира на внедрение технологий ИИ в различные социальные сферы органы публичного управления также запускают государственные проекты и принимают программы развития», «Однако имеющиеся юридические проблемы могут препятствовать применению современных технологий ИИ и робототехники в области социальных отношений» и приводит примеры. При этом автор анализирует НПА, работы ученых, как российских, так и зарубежных.
Автор отмечает, что «Вопросы интеграции ИИ в процессы государственного управления социальной сферой отношений рассматриваются и в рамках правительственных документов в других зарубежных странах», «Основы правового регулирования искусственного интеллекта, роботов и объектов робототехники в области социальных отношений прежде всего должны содержать конкретно определенный понятийный аппарат. Однако, понятия «искусственный интеллект» и «робот» имеют множество определений» и делает правильный вывод: «Исходя из приведенных терминов ИИ и роботов, можно утверждать, что подходы к правовому регулированию ИИ, роботов и объектов робототехники в области социальных отношений могут быть весьма различными и обладать определенными особенностями в зависимости от специфики отдельных сфер их применения. По этой самой причине возможно разработать только основные принципы правового регулирования, применимые ко всем видам ИИ и робототехники».
И переходя к анализу основного вопроса, автор замечает, что «…непосредственно правовое регулирование отдельных разновидностей ИИ и роботов должно конкретизироваться при помощи технического нормирования, поскольку необходима разработка разных правил для различных классов устройств. Именно по этому пути пошли страны ЕС в развитии европейской роботизированной промышленности, исходя из смысла содержания Резолюции Европейского Парламента (далее - Резолюция) [13]», «В ЕС в апреле 2018 г. была принята стратегия развития и использования искусственного интеллекта. С середины 2019 г. предполагается принятие национальных планов развития ИИ, создание фондов для финансирования стартапов для развития технологий ИИ». Автор подробно анализирует документы и правильно показывает, что «Важным документом для возможностей применения технологий ИИ является Руководство по этике для ИИ, принятое в ЕС. Руководством установлены общие три принципа деятельности ИИ, которые можно кратко сформулировать как: делать добро, не навредить и работать прозрачно».
И конечно правильно замечание автора о том, что «Наиболее перспективно использование ИИ в телемедицине и системе диагностики [26]. По мнению некоторых исследователей, электронное здравоохранение стало одним главных «драйверов» всей отрасли [20]», а касаясь России «создание системы правового регулирования цифровой экономики должно быть основано на гибком подходе в каждой сфере общественных отношений с обязательным участием бизнес-сообщества».
В заключение автор подводит итог: «Таким образом, интеграция слабых ИИ-технологий в деятельность государственных органов, осуществляющих управленческие функции в области социальных отношений, является неизбежным явлением, которое в настоящий момент не имеет достаточной степени осмысления в актуальном нормотворчестве и научной литературе.
[1] «Сквозные» цифровые технологии – это технологии ИИ, робототехники, больших данных, промышленного интернета, беспроводной связи, виртуальной и дополненной реальностей и др.».
Так как журнал является научным, направляемые в издательство статьи должны соответствовать требованиям, предъявляемым к научным публикациям, в частности для научной полемики нужно обращаться к текстам научных статей, монографий или диссертационных работ оппонентов. Такой научной полемики статье несколько недостает.
Библиография полная и содержит помимо нормативных актов, большое количество современных научных исследований, к которым автор обращается, но не анализирует их, а только ссылается, что они были. Это позволяет автору определить проблемы. Он, не исследовав их, пытается раскрыть предмет статьи.
Апелляция к оппонентам в связи с вышесказанным присутствует. Автором мало используется материал других исследователей.
Выводы – работа требует незначительной доработки, интерес читательской аудитории будет присутствовать.
Ссылка на эту статью

Просто выделите и скопируйте ссылку на эту статью в буфер обмена. Вы можете также попробовать найти похожие статьи


Другие сайты издательства:
Официальный сайт издательства NotaBene / Aurora Group s.r.o.