К вопросу о распознавании и дифференциации философского зомби
по
Меню журнала
> Архив номеров > Рубрики > О журнале > Авторы > О журнале > Требования к статьям > Редакционный совет > Редакция журнала > Порядок рецензирования статей > Политика издания > Ретракция статей > Этические принципы > Политика открытого доступа > Оплата за публикации в открытом доступе > Публикация за 72 часа: что это? > Политика авторских прав и лицензий > Политика цифрового хранения публикации > Политика идентификации статей > Политика проверки на плагиат
Журналы индексируются
Реквизиты журнала

Публикация за 72 часа - теперь это реальность!
При необходимости издательство предоставляет авторам услугу сверхсрочной полноценной публикации. Уже через 72 часа статья появляется в числе опубликованных на сайте издательства с DOI и номерами страниц.
По первому требованию предоставляем все подтверждающие публикацию документы!
ГЛАВНАЯ > Вернуться к содержанию
Философская мысль
Правильная ссылка на статью:

К вопросу о распознавании и дифференциации философского зомби
Душкин Роман Викторович

Директор по науке и технологиям, Агентство Искусственного Интеллекта

127473, Россия, Москва, г. Москва, пер. 1-Й волконский, 15

Dushkin Roman

Director of Science and Technology, Artificial Intelligence Agency

127473, Russia, Moskva, g. Moscow, per. 1-I volkonskii, 15

roman.dushkin@gmail.com
Другие публикации этого автора
 

 

DOI:

10.25136/2409-8728.2020.1.32079

Дата направления статьи в редакцию:

30-01-2020


Дата публикации:

12-02-2020


Аннотация.

В настоящей дискуссионной статье делается попытка рассмотреть задачу распознавания и дифференциации так называемого «философского зомби» в целях построить набор операционных критериев для определения субъектности искусственных интеллектуальных систем. Эта задача может рассматриваться в качестве одного из возможных путей к решению «трудной проблемы сознания». Несмотря на то, что сам по себе предложенный подход не решает «трудную проблему», он раскрывает определённые аспекты нейрофизиологии, кибернетики и теории информации на пути к её решению. В качестве методологии исследования использован междисциплинарный подход к рассмотрению предмета исследования и слияние результатов рассмотрения с точки зрения четырёх теорий в единые выводы. Актуальность этой задачи вытекает из всё большей и большей степени использования искусственных когнитивных агентов в человеческой жизни — где именно находится та граница, которая отделяет разумное существо от искусственного когнитивного агента, хоть бы и обладающего разумом иной природы. По мнению автора статьи именно наличие феноменологического сознания наделяет объект субъектностью, поэтому разработка всё более и более сложных искусственных когнитивных агентов (систем искусственного интеллекта) в конце концов приведёт к острой постановке этого вопроса на всестороннее обсуждение. В статье делается попытка ввести процедуру распознавания философского зомби и её ограничения, а также приводятся размышления о том, смогут ли искусственные когнитивные агенты получить квалиа. Статья будет интересна всем, кто живо интересуется искусственным интеллектом во всех его аспектах, а также философией сознания.

Ключевые слова: философия сознания, философия искусственного интеллекта, философский зомби, квалиа, восприятие, феноменология сознания, искусственный интеллект, машинный интеллект, разум, нечеловеческий разум

Abstract.

This article examines the task of identification and differentiation of a so-called “philosophical zombie” in order to form a set of operational criteria for determining the agency of artificial intelligence systems. This task can be viewed as one of the possible ways towards solution of a “hard problem of consciousness”. Despite the fact that the proposed approach alone does not solve the “hard problem”, it reveals certain aspects of neurophysiology, cybernetics and information theory towards its solution. The relevance of this task results from the more extensive implementation of artificial cognitive agents in human life – the boundary that distinguishes an intelligent creature from an artificial cognitive agent, endows an object with agency. Therefore, the development of more complicated artificial cognitive agents (artificial intelligence systems) would ultimately lead to a contentious debate on the topic. The author attempts to introduce the procedure of identification of a philosophical zombie and its restrictions, as well as explores the idea whether or not the artificial cognitive agents would obtain qualia. The article is valuable of those interested in artificial intelligence in all of its aspects, as well as in the philosophy of consciousness.

Keywords:

artificial intelligence, phenomenology of consciousness, perception, qualia, philosophical zombie, philosophy of artificial intelligence, philosophy of mind, machine intelligence, mind, nonhuman mind

Введение

Искусственный интеллект — это междисциплинарная область научных исследований, главной задачей которой является познание природы человеческого интеллекта, разума и, в конечном итоге, сознания (в особенности, феноменологического) [Душкин, 2019]. Первоначально исследователями в области искусственного интеллекта была поставлена такая цель [Crevier, 1993], однако в процессе развития этой науки появилось большое количество прикладных методов и технологий решения различных задач посредством когнитивного подхода — методами, которыми, как кажется, такие задачи решает человек вне рамок строгого вычислительного подхода в понимании А. Тьюринга и Дж. Фон Неймана [Lavington, 2012]. Последнее привело к появлению и повсеместному распространению искусственных когнитивных агентов (искусственных интеллектуальных систем) различной природы и различных классов для решения самых разных прикладных задач во всех сферах жизни — от обеспечения безопасности до создания персональных помощников общего уровня.

Развитие таких искусственных интеллектуальных агентов будет приводить к тому, что они будут демонстрировать всё более сложное когнитивное поведение. Более того, уже сегодня искусственные интеллектуальные системы в некоторых задачах по своей эффективности превосходят людей, а с повышением их сложности таких задач и областей применения будет всё больше. В свою очередь, это определённо приведёт к постановке на повестку дня вопроса об обязанностях, правах и ответственности искусственных интеллектуальных систем.

Этот вопрос не так прост, как могло бы показаться на первый взгляд. Дело в том, что если какой-то объект показывает интеллектуальное поведение довольно сложной природы, то возникает проблема — насколько этот объект может представлять собой субъект, в том числе и субъект права? Ведь если что-то ведёт себя интеллектуально, выглядит интеллектуальным и сообщает о себе, что оно интеллектуально, то оно, скорее всего, является интеллектуальным. И вот здесь возникает тонкий момент — как именно определить, что объект приобрёл субъектность? Когда вещь становится существом?

Новизна настоящей работы основана на рассмотрении специально сконструированного набора критериев для размышлений о возможности заданного объекта изучения иметь нечто, что может быть охарактеризовано как «феноменальное внутреннее состояние», при этом рассмотрение осуществляется в аспекте систем искусственного интеллекта так, как они понимаются человечеством сегодня. Актуальность работы вытекает из необходимости получения набора операционных критериев для определения возможной субъектности рассматриваемого когнитивного агента как искусственной, так и естественной природы, что позволит использовать эту возможность в рамках разработки современных искусственных интеллектуальных систем. Это позволит, как кажется, более осознанно подходить к процессам разработки искусственных когнитивных агентов и избежать определённых ошибок при их построении, что, вне всяких сомнений, могут возникнуть перед людьми при построении искусственных интеллектуальных систем различной степени автономности. Таким образом, актуальность работы основана на стремлении предложить операционную гипотезу для распознавания и дифференциации «философских зомби» и, как следствие, обратно — для определения наличия феноменального внутреннего опыта.

Далее в настоящей работе приводятся обоснования того, для чего в принципе необходимо иметь возможность распознавать и дифференцировать «философского зомби», а также даётся набор предварительных критериев для возможности такого распознавания и дифференциации для специальных условий. Также приводятся размышления о том, смогут ли искусственные когнитивные агенты когда-нибудь получить внутренние квалитативные состояния («квалиа»), определяющие феноменологический субъективный опыт. Всё это рассматривается в аспекте применения к системам искусственного интеллекта.

Для чего размышлять о философских зомби

Философский зомби — мысленный эксперимент из области философии сознания, который впервые был введён в аргументацию философом Робертом Кирком, который использовал этот термин в своей работе [Kirk, 1974]. Затем уже Дэвид Чалмерс активно использовал аргументацию от философского зомби в своей краеугольной работе [Chalmers, 1996]. Фактически, философский зомби является аргументом против физикализма в философии сознания.

Вместе с тем, концепция философского зомби хотя и является чётко определённой, однако с точки зрения научно-естественного мировоззрения она не может быть фальсифицирована, поэтому чаще всего выходит за рамки научного интереса. Д. Чалмерс определяет философского зомби как существо, которое по своим внешним признакам и поведению никаким образом не может быть отличимо от человека, однако у него отсутствуют внутренние квалитативные состояния, которые имеются у людей, но которые можно наблюдать только от первого лица. Это существо, у которого «всё темно внутри » [Chalmers, 1996; стр. 38] (и тихо — добавление автора).

Однако отсутствие квалитативных состояний у гипотетического философского зомби не может быть выявлено от третьего лица, так как по определению на вопрос «Есть ли у тебя внутренние квалитативные состояния?» философский зомби отвечает положительно. Это выбивает из рук исследователей возможность верификации, и именно поэтому само по себе понятие не является фальсифицируемым. «Чистого» философского зомби невозможно распознать извне по определению, и это делает концепцию исключительно умозрительным аргументом в философских мысленных экспериментах.

При этом концепция философского зомби, по мнению автора, имеет очень важное прикладное значение, которое может использоваться в области права. Дело в том, что вопрос о правосубъектности у когнитивных агентов можно как раз свести к наличию у изучаемого агента внутренник квалитативных состояний. И в связи с развитием искусственных когнитивных агентов, которые показывают всё более и более эффективное интеллектуальное поведение этот вопрос о правосубъектности уже выходит за рамки чисто теоретических спекуляций и становится острым вопросом современного состояния искусственного интеллекта (как науки).

Дело в том, что в аргументации есть так называемый «утиный тест», который был сформулирован поэтом Дж. Райли [Heim, 2007; стр. 68]: «When I see a bird that walks like a duck and swims like a duck and quacks like a duck, I call that bird a duck » («Когда я вижу птицу, которая ходит как утка, плавает как утка и крякает как утка, я называю эту птицу уткой» — перев. автора). Это апофеоз поведенческого подхода к идентификации объектов, который может привести к неожиданным последствиям, если его попытаться применить к искусственным интеллектуальным агентам. Ведь если что-то ведёт себя как разумное существо, действует как разумное существо, принимает решения как разумное существо и, вполне вероятно, называет себя разумным существом, то нет никаких резонов не принимать такого когнитивного агенты в качестве разумного существа. И хотя полный тест Тьюринга на текущий момент не пройден ни одним искусственным когнитивным агентом, человеческая цивилизация уже находится на пороге его прохождения.

Позиция автора заключается в том, что субъектность можно определить через наличие внутренних квалитативных состояний. Если у нечто имеются внутренние квалитативные состояния, то это нечто является достаточно развитым для того, чтобы получить субъектность с точки зрения права — получить права и, если требуется, обязанности и ответственность. Такой подход может разрешить дилемму о том, можно ли назначать субъектность искусственным интеллектуальным агентам и когда это можно делать.

Именно поэтому и необходимо размышлять о философских зомби. Философский зомби — вещь. Нечто с квалиа, внутренними квалитативными состояниями, — разумное существо, имеющее базовое право на субъектность.

Как же распознать философского зомби

Приступая к задаче распознавания философского зомби, необходимо сузить рамки рассмотрения и перевести эту концепцию из разряда мысленных экспериментов в категорию верифицируемых феноменов. Это невозможно сделать, не встав на какую-либо определённую точку зрения. Поскольку у человека уже имеется ярко осознаваемая точка зрения, с которой он может изучать свои собственные квалитативные состояния (от первого лица), то именно с этой точки зрения и следует рассматривать философского зомби и возможных методов его распознавания. Конечно, в этом случае получится антропоцентричное рассмотрение, но другого в современных условиях получить затруднительно.

Для изучения концепции философского зомби далее будет предложено несколько мысленных экспериментов, которые шаг за шагом раскроют возможность распознавания и дифференциации философского зомби. Из этих мысленных экспериментов будет составлен набор критериев, который можно будет использовать в следующем разделе для ответа на вопрос «Смогут ли искусственные когнитивные агенты когда-нибудь получить внутренние квалитативные состояния (квалиа)?».

Для первого мысленного эксперимента можно представить себе некое гипотетическое идеальное устройство, которое предназначено для полной депривации сенсорных систем погружённого в него человека. Несмотря на то, что с середины XX века существуют так называемые камеры сенсорной депривации, позволяющие практически полностью отключить все внешние и часть внутренних сенсорных стимулов для помещённого внутрь человека [Lilly & Gold, 2000], однако как любое неидеальное устройство такие камеры не отключают внешние и, тем более, внутренние стимулы на 100 %. Что произойдёт, если поместить в неё обычного взрослого человека? Человек погрузится во тьму и тишину, он не будет ощущать вкусов, запахов и прикосновений. Но его внутренние ощущения останутся — он сможет сам себе причинить боль, он будет при помощи всего комплекса проприорецепторов продолжать иметь модель своего тела и, более всего, его память и воображение будут рисовать перед мысленным взором различные образы. Сначала смутные, потом всё ярче и ярче, и вот уже весь комплекс ощущений по мере захвата во взаимодействие всех участков сенсорной коры головного мозга будет доступен человеку в камере полной сенсорной депривации. Это будет похоже на осознанное сновидение. Является ли в этой ситуации человек философским зомби? Ответ на этот вопрос от первого лица очевиден: «Нет». Впрочем через некоторое время мозг постепенно погружается во тьму из-за отсутствия сенсорной стимуляции, человек всё чаще засыпает без сновидений, а его личность находится под угрозой диссоциации.

Теперь можно представить себе младенца, который только что появился на свет из утробы матери, и его тут же поместили в камеру полной сенсорной депривации. Материнская утроба сама по себе является такой камерой, поэтому смены среды этот младенец «не заметит», если так можно выразиться. В этих условиях к такому младенцу требуется применить все необходимые меры по жизнеобеспечению так, чтобы он не ощущал никакими своими сенсорными системами поступления питательных веществ и отведения продуктов жизнедеятельности. И пусть этот младенец вырастет в депривационной камере до того же возраста, в каком полноценный взрослый человек погружался в эту камеру ранее. В этих условиях будут ли у бедняги какие-либо внутренние квалитативные состояния? Он погружён во тьму и тишину, и потому его сенсорные зоны на коре головного мозга не работают (если уже не атрофированы). Из-за отсутствия обучения через восприятие у него даже не будет какой-либо знаковой системы для описания своих переживаний, и потому переживаний у него тоже не будет. Он будет существом, у которого всё темно и тихо внутри. Впрочем, нельзя сказать, что это будет философский зомби в полном определении этого понятия, так как полноценно взаимодействовать с окружающим миром после вызволения из камеры сенсорной депривации он уже не сможет. Более того, до сих пор неясно, получит ли он новый субъективный опыт после выхода из камеры — дискуссии насчёт «комнаты Марии» всё ещё ведутся [Jackson, 1986; Dennet, 2006].

Приведённый мысленный эксперимент показывает, что для обладания квалиа необходимы сенсорные системы соответствующей модальности, которые включены и работают. Кроме того, отдельные виды квалиа, такие как образы памяти и воображения, все порождённые ими чувства, переживаемые человеком — для всего этого необходим чувственный опыт, который запечатлелся в памяти и может быть активирован в условиях недостатка сенсорной информации. Но память и опыт опять же основаны на массовой обработке сенсорных сигналов в процессе обучения, так что, похоже, что наличие сенсорных систем является первичным условием существования квалиа у человека.

Вместе с тем важным является вопрос о количественном и качественном составе сенсорных систем и, как следствие, сенсорных сигналов, которые приходят на обработку в мозг человека и порождают в нём квалитативные переживания. Немецкий философ Рудольф Герман Лотце в своей книге [Lotze, 1852] привёл описание гипотетического животного, у которого имеется только одна сенсорная система тактильной модальности, расположенная в виде чувствительной точки на подвижном усике. И это гипотетическое животное Лотце своим усиком может ощупывать мир, осуществляя функцию познания. По мнению Р. Г. Лотце такое животное вполне могло бы познать окружающий мир, и уж точно у него была бы возможность отличить движущиеся объекты от стационарных.

Однако здесь необходимо отметить, что наличие всего лишь одной чувствительной точки в тактильной модальности не даёт возможности отделить себя от окружающего мира, и у этого гипотетического животного Лотце была бы серьёзная проблема — весь объём способности к сенсорным переживаниям заполнялся бы одним тактильным чувством (причём именно только тактильное без ощущения температуры), причём оно было бы недифференцированным в зависимости от того, ощупывает ли животное само себя или что-то иное. И такое животное не смогло бы выделить себя из окружающего мира, слившись с ним в своих внутренних ощущениях. У него были бы внутренние квалитативные состояния тактильной модальности, которые поглощали бы всё его внимание на протяжении всей его жизни. Фактически, это означает, что феноменальное сознание такого гипотетического животного находилось бы в состоянии постоянного воздействия «белого шума» одной модальности.

Тем не менее, среди людей есть примеры, которые близки к описываемому гипотетическому животному Лотце. Речь идёт о слепоглухих с рождения людях. Будучи обречёнными всю жизнь провести во тьме и тишине, они, вместе с тем, обладают возможностью стать полноценной личностью, о чём свидетельствует «загорский педагогический эксперимент» [Митасова, 2016]. Несмотря на то, что сам эксперимент в контексте настоящего обсуждения не может считаться чистым, так как в нём участвовали дети, потерявшие зрение и слух к какому-то возрасту, он показывает другой важный аспект — для дифференциации своей личности от окружающего мира необходима «протяжённая сенсорная система». Если рассмотреть кожу, тактильный орган человека, то она должна быть чувствительна к прикосновениям повсюду, чтобы одновременное прикосновение к двум местам можно было осознавать как «изучение самого себя». Вопрос о том, какие сенсорные системы могут быть использованы для дифференцированного познания мира выходит за рамки настоящей статьи, однако здесь можно отметить, что из внешних сенсорных систем человека для этой цели не подходит только обоняние.

Далее можно рассмотреть муравья. Муравей — достаточно простое существо, которое обладает двумя развитыми сенсорными системами, которые позволяют ему обследовать окружающий мир и так или иначе успешно выполнять свои функции. Эти системы — тактильная система и хеморецепция (аналог человеческого обоняния), причём вторая в отличие от человеческого обоняния может использоваться для описанной ранее дифференциации, так как является «протяжённой» (при этом зрение у муравьёв развито очень плохо, а у некоторых видов и вовсе отсутствует). Вместе с тем, эти сенсорные системы муравья не интегрированы друг с другом, и каждая из них работает по отдельности. Фактически, обработка сенсорной информации и принятие решений на её основе происходит в этих двух сенсорных системах независимо друг от друга. Это имеет очень важное следствие.

Интерес представляет то, что Джон Локк в своём труде «Опыт о человеческом разумении» [Locke, 1690; книга 2, глава 9] описал так называемую «задачу Молиньё», которую ему описал в своём письме ирландский натурфилософ Уильям Молиньё: «Предположим, человек родился слепым, вырос, и он научен различать на ощупь куб и сферу из одного и того же металла и примерно одного и того же размера, так что он может сказать, касаясь одного и другого предмета, который из них куб, а который — сфера. Предположим далее, что куб и сферу поместили на стол, и слепому придали способность видеть; спрашивается, сможет ли он теперь при помощи своего зрения, прежде чем он дотронется до них, различить их и сказать, который из них шар и который куб? ». Похоже, что ответ на этот вопрос отрицательный. Спекулятивно на него отвечали отрицательно большинство философов, которые рассматривали этот мысленный эксперимент, однако в конечном итоге проверка на практике со слепыми детьми, которым удалось вернуть зрение, показывает, что сенсорные пространства изначально разделены — в течение некоторого времени после успешного восстановления зрения детям приходилось брать объект в руки и ощупывать его, чтобы опознать и назвать. И только через некоторое время обучения наконец-то происходила сенсорная интеграция двух модальностей — зрительной и тактильной [Held et al., 2011].

По информации от многих исследователей дети с нарушениями сенсорной интеграции страдают от разнообразных психиатрических и психоневрологических проблем различной степени (часто объединяемых термином «расстройство аутистического спектра») в зависимости от того, какие сенсорные системы подвержены патологии [Крановиц, 2012]. Действительно, в головном мозге животных, начиная с хордовых, имеется такой важный орган как таламус. Этот орган состоит из большого количества ядер, многие из которых принимают информацию от нескольких сенсорных систем организма, а после обработки передают информацию в ассоциативные отделы коры. У высших животных, включая приматов и человека, таламус отвечает за мультисенсорную интеграцию и ассоциацию, образуя большое количество реципрокных связей с неокортексом [Jones, 2012]. В таламусе приматов фильтруется и обрабатывается вся входящая информация от внешних сенсоров, проприорецепторов и интерорецепторов, исключая обонятельную систему. Тем самым формируется целостная картина окружающей реальности, данная в нескольких модальностях ощущений и в модели тела по отношению к среде.

Всё это наталкивает на следующие мысли, которые можно оформить в виде гипотезы о необходимом наборе свойств объекта для того, чтобы он не мог считаться «философским зомби»:

1. Для формирования внутренних квалитативных состояний требуются функционирующие сенсорные системы, обеспечивающие восприятие сигналов из окружающей среды.

2. Сенсорные системы должны иметь возможность дифференцировать наблюдателя и наблюдаемое, отделять объект от среды.

3. Должна осуществляться мультисенсорная интеграция обрабатываемой сенсорной информации для целостного представления окружающей среды.

Перечисленные условия являются необходимыми. Если какое-то из этих условий отсутствует у рассматриваемого агента, то он, предположительно, является философским зомби. Однако являются ли они достаточными? Для этого необходимо попытаться ответить на вопрос: «Смогут ли искусственные интеллектуальные системы получить квалиа?».

Смогут ли искусственные интеллектуальные системы получить квалиа

В соответствии с [Душкин, 2019; стр. 170] под квалиа в этой работе будет пониматься «осознаваемое качество сенсорных сигналов ». Сенсорные сигналы — это входные потоки информации, воспринимаемой сенсорами организма из внешней или внутренней среды. Например, это могут быть фотоны, акустические волны, сила тяжести, тепловое движение молекул и сами молекулы. Под осознаваемым качеством оных сигналов понимается модальность сигнала (визуальный, акустический, тактильный и т. д.) вместе с комплексом внутренних «впечатлений», которые эта модальность возбуждает в нервной системе воспринимающего существа. Фактически, по современным воззрениям за осознаваемое качество сенсорных сигналов в коре головного мозга млекопитающих отвечают гиперсетевые комплексы возбуждаемых в ответ на сенсорные стимулы нейронов [Анохин, 2015]. Как следствие, это позволяет определить нейрофизиологические корреляты квалитативных состояний (впрочем, это всё равно не позволяет объяснить, откуда оные квалитативные состояния берутся).

В соответствии с современными воззрениями в области аналитической философии сознания квалиа являются супервентным феноменом над физическим субстратом нервной системы [Chalmers, 1996]. Вместе с этим квалитативные состояния феноменологического сознания полностью определяются деятельностью мозга, его биохимическими и электро-физиологическими процессами [Dennett, 1991]. Феноменология сознательной деятельности живого существа определяется возбудимостью групп нейронных сетей per se , а потому не требует для своего объяснения использования дополнительных сущностей. Вместе с тем ни одна из современных теорий сознания не даёт ответа на так называемую «трудную проблему сознания» [Chalmers, 1995]. Эта работа также не претендует на предоставление ответа на эту трудную проблему, однако в ней делается попытка определить место зарождения квалиа с теоретико-информационной точки зрения, а также ответить на вопрос о том, смогут ли искусственные системы получить возможность испытывать внутренние квалитативные состояния.

На рис. 1 показана общая схема получения и обработки внешнего сенсорного сигнала от датчика до ассоциативного механизма, отвечающего за возбуждение комплекса ассоциаций к полученному сигналу.

Рис. 1. Общая схема передачи информации от сенсора к ассоциативной нейронной сети

На рис. 1 крайне упрощённо при помощи общих блоков обработки информации показан процесс передачи информации от сенсорной системы к ассоциативной нейронной сети живых существ (как это нам известно на текущий момент). В качестве примера можно привести визуальную модальность воспринимаемой информации. Фотоны (сенсорный сигнал), отразившись от некоторого объекта в окружающей среде, попадают на сетчатку глаза (сенсорная система). В сенсорной системе сигнал преобразуется в последовательность потенциалов действия, которые приводят к возбуждению сначала промежуточных нейронов, которые доводят преобразованный сигнал до ядер зрительного перекрёста и таламуса, где осуществляется сенсорная интеграция зрительной модальности с сигналами от других сенсорных систем, воспринимающих информацию в то же самое время. Далее преобразованный, отфильтрованный и интегрированный сигнал попадает в зрительную кору, где осуществляется распознавание образов, откуда «символьная» информация (представленная теми же потенциалами действия) передаётся, наконец-то, в ассоциативную нейронную сеть в неокортексе, где осуществляется «узнавание» путём активации огромного числа ассоциаций, представляющих собой связанные понятия с тем, что было распознано.

Для того чтобы попытаться ответить на вопрос о том, в каком месте этой цепочки передачи информации могут зарождаться квалитативные состояния, можно воспользоваться мысленным экспериментом по разрезанию и перекоммутации связей в этой цепочке. Для этих целей необходимо рассмотреть одновременное функционирование двух сенсорных систем — например, зрения и слуха. На рис. 2 показана упрощённая схема такой совместной работы.

Рис. 2. Общая схема передачи информации от сенсора к ассоциативной нейронной сети одновременно для двух сенсорных систем: слуховой и зрительной

На представленной на рис. 2 диаграмме область сенсорной интеграции и связи с нею показаны пунктирными линиями, так как в дальнейшем изложении для упрощения умозаключений этот аспект рассматриваться не будет. В предыдущем разделе было показано, что подсистема сенсорной интеграции важна для формирования внутренних квалитативных состояний, и она наверняка делает какой-то вклад в этот процесс, но этот вопрос выходит за рамки настоящей работы как вопрос более высокого уровня, и его изучение требует дополнительных размышлений и исследований. Также здесь видно, что на диаграмме имеется одно существенное упрощение — от слуховой и зрительной коры связи ведут к одной и той же области ассоциативных нейронов. Это рассмотрение на довольно высоком уровне абстракции, так как в реальности ассоциативная кора головного мозга также имеет множество отделов, отвечающих за различные функции. Тем не менее, представленная абстрактная схема коммутации позволит рассмотреть отдельные вопросы формирования квалиа внутри нейронных сетей нервной системы высших животных.

Принимая во внимание представленные упрощения и ограничения, появляется всего лишь две возможности по перекоммутации сигналов от сенсорных систем в приведённой на рис. 2 диаграмме так, чтобы обработанный звуковой сигнал попадал в зрительную кору и наоборот — обработанный визуальный сигнал попадал в слуховую кору. Эти две возможности представлены на рис. 3, диаграммы а) и б) соответственно.

а)

б)

Рис. 3. Возможные варианты перекоммутации сигналов от сенсорных систем к системам распознавания образов. Варианты: а) перекоммутация происходит непосредственно от сенсорных систем к промежуточным нейронам; б) перекоммутация осуществляется от промежуточных нейронов к зонам распознавания образов

Для размышления о следующем мысленном эксперименте также необходимо разделить на два варианта процедуру восприятия — восприятие при первоначальном обучении нейронных сетей и восприятие уже обученных нейронных сетей на всём протяжении канала передачи информации от сенсорного сигнала к ассоциативной коре головного мозга. Действительно, это могут быть два совершенно различных процесса, на что также намекает различие процессов обучения и штатного функционирования искусственных нейронных сетей [Николенко и др., 2018]. Поэтому в случае перекоммутации каналов передачи сенсорной информации для уже обученных сетей происходит фактическая замена модальностей для сенсорных зон коры головного мозга.

Таким образом, в следующей таблице (табл. 1) представлены результаты мысленного эксперимента по перекоммутации связей в спаренных каналах передачи сенсорной информации в двух режимах работы нейронных сетей.

Таблица 1. Мысленный эксперимент по перекоммутации связей

Вариант перекоммутации

Вариант А

Вариант Б

Режим работы

Обучение

Самый простой вариант. При перекоммутации нейронных путей от слуховых и зрительных сенсоров к промежуточным нейронам кажется, что при обучении сенсорных нейронных сетей ничего не должно измениться, за исключением того, что оные сенсорные сети поменяются местами. С сенсорной интеграцией также всё будет в порядке — сенсорные модальности будут интегрироваться так же, как и в случае без перекоммутации.

Перекоммутация сенсорных путей от слуховых и зрительных сенсоров после сенсорной интеграции может привести к тому, что после обучения сенсорные зоны коры не будут интегрированы друг с другом. Зрительная и слуховая зоны коры поменяются местами, однако сенсорные сигналы от противоположных сенсоров после интеграции будут приходить в ту же зону: от ушей в слуховую кору, от глаз — в зрительную. В результате после обучения у человека с такой перекоммутацией не будет возможности сопоставить название и внешний вид объектов.

Восприятие

В этом случае перекоммутации сигнал от ушей будет подаваться в обученную зрительную кору, а от глаз — в слуховую соответственно, при этом сенсорная интеграция будет работать в «штатном режиме». Можно предположить, что если осуществить эту перекоммутацию, то человек будет видеть звуки и слышать визуальные образы, но в силу отсутствия изоморфности между слуховой и зрительной корой, а также между отдельными составляющими каналов, такое восприятие будет в целом хаотично — увиденные звуки будут вызывать мельтешение точек и смутных образов, а услышанные визуальные образы, скорее всего, вызовут какофонию в голове. Однако поскольку сенсорная интеграция была проведена корректно, будет установлено некоторое соответствие между визуальным хаосом и какофонией, что в итоге может привести к возможности ориентации в окружающем пространстве.

Наконец, в этом варианте также произойдёт хаотизация восприятия от перекоммутированных сенсорных модальностей, однако из-за нарушенной сенсорной интеграции нарушения восприятия вообще не будут никак связаны друг с другом, и фактически у человека откажут обе сенсорных модальности — он не сможет ни видеть, ни слышать, и об установлении какого-либо соответствия между воспринимаемыми сигналами речи не идёт. Это самый тяжёлый вариант нарушения.

Представленные в табл. 1 описания последствий перекоммутации нейронных путей в системе обработки сенсорной информации человека основаны на неявном предположении о том, что структура зон коры головного мозга, отвечающих за такую обработку, однородна и не зависит от сенсорной модальности тех сигналов, которые туда приходят на обработку. Это довольно сильное предположение, которое может быть проверено на практике в натурных экспериментах. Вместе с тем низкоуровневая структура всех таких сенсорных зон состоит из слоёв, наполненных так называемыми «кортикальными колонками» [Hawkins, 2004], при этом состав и структура колонок, предназначенных для распознавания одного типа сигнала, выглядит одинаково для всей коры головного мозга. Поэтому описанное предположение для представленных вариантов мысленного эксперимента выглядит корректным.

Представленные варианты мысленного эксперименты наводят на идею о том, что в процессе обучения естественных нейронных сетей где-то в них сохраняется информация о том, откуда приходит тот или иной сенсорный сигнал. Нейроны головного мозга на всём протяжении канала передачи информации от сенсорной системы к ассоциативной коре не только настраивают «весовые коэффициенты» в синапсах, но и как-то фиксируют информацию о том, какая модальность у входящих обрабатываемых сенсорных сигналов. Именно поэтому в «чистых», необученных нейронах при перекоммутации не возникает хаотизации восприятия, а уже у обученных такая хаотизация возникает. При этом фиксировать информацию о природе сенсорного сигнала должны нейроны соответствующей сенсорной коры, но она должна передаваться через промежуточные интернейроны, то есть там она также может фиксироваться.

Для чего нужна такая фиксация информации о модальности сенсорного сигнала? Действительно, если возбудить нейронные сети зрительной коры, в них и возникнет то феноменологическое квалитативное состояние, называемое «квалиа». Как было упомянуто, по современным воззрениям квалиа возникают в самих нейронных сетях во время возбуждения комплексов нейронов — квалонов [Анохин, 2015]. И если представить себе обученный нейрон зрительной коры, куда приходит сенсорный сигнал от уха, то в нем возникает визуальное квалиа, так как этот нейрон хранит информацию о том, на какой сенсорной модальности он был обучен.

Всё это также подтверждается простым экспериментом. При открытых глазах в зрительной сенсорной сети формируется яркое квалитативное состояние, потому что все обученные нейроны зрительной коры сильно активизируются поступающими от глаз сигналами. Но стоит закрыть глаза — перед внутренним взором будет тьма, нарушаемая смутными амёбообразными образами, которые появляются из-за стохастической незначительной активации отдельных зон на сенсорной коре. Однако во время сновидения нейроны зрительной коры также активно работают и получают сигналы от других зон коры, притом что интернейроны от глаз не работают. При этом во сне формируются квалиа, что намекает на то, что информация о сенсорной модальности хранится в нейронах зрительной коры.

Эта гипотеза вполне может быть основана на генетических механизмах запоминания информации нейронами [Ивашкина и др., 2018]. При обучении нейронов сенсорных нейронных сетей в них могут формироваться биомолекулярные комплексы, основанные как на активации специализированных транскрипционных факторов, так и на экспрессии определённых генов, которые маркируют воспринимаемую модальность. Комплексы обученных таким образом нейронов формируют квалоны, а после сенсорной интеграции с другими воспринимаемыми модальностями — опероны и холоны, формирующие при их активации целостную картину воспринимаемой действительности во всех сенсорных модальностях.

Наконец, как ответить на поставленный в заголовке этого раздела вопрос? Действительно, смогут ли искусственные интеллектуальные системы получить квалиа? Если подходить к ответу на него с позиции описанной гипотезы, то ответ на этот вопрос положительный. Фактически, природа квалиа лежит в передаче и запоминании модальности сенсорной информации от сенсорных систем к нейронам сенсорной коры, и при активации этих нейронов соответствующая сенсорная модальность формирует квалиа. Если в путях передачи информации искусственного когнитивного агента, которые должным образом скоммутированы и интегрированы, передавать и фиксировать информацию о сенсорной модальности, то вполне вероятно, что в этих сетях смогут возникнуть внутренние квалитативные состояния. Впрочем, они могут быть иной природы, чем у человека.

Заключение

В этой статье представлена попытка обрисовать набор возможных критериев для практического распознавания и дифференциации философских зомби в целях определения субъектности искусственных интеллектуальных агентов. Приведён ряд мысленных экспериментов, раскрывающих авторское понимание того, как в информационной системе (в том числе и нервной системе высших животных) появляются внутренние квалитативные состояния. Вместе с тем, трудная проблема сознания всё также остаётся неразрешённой, и представленный набор критериев может использоваться исключительно в операционных целях для попыток выявления философских зомби с позиции человеческого сознания.

Вместе с тем, описанные в статье мысленные эксперименты в какой-то части могут быть проверены как на модельных животных, так и in silico , что позволяет обрисовать направление дальнейших исследований представленных в статье вопросов. Как минимум, перекоммутация сенсорных путей и поиск генетических механизмов памяти нейронов могут быть осуществлены на биологических моделях, а потом перенесены в имитационные модели в искусственных когнитивных агентах. Кроме того, важными объектами наблюдений могут являться и люди с некоторыми особенностями восприятия, к которым, в первую очередь, можно отнести слепоглухоту (в части серьёзного ограничения сенсорных систем) и синестезию (в части нарушения и смешения сенсорной интеграции).

Автор будет признателен читателям за любые замечания и предложения, касающиеся представленных в статье вопросов. Также автор благодарит за ценные идеи, полученные в дискуссиях с М. Андроновым, П. Голосовым, В. Крюковым, В. Степаньковым, Д. Стефановским и А. Толматовым.

Библиография
1.
Chalmers D. J. (1995) Facing up to the Problem of Consciousness // Journal of Consciousness Studies. — 1995. — Vol. 2, № 3. — p. 200-219.
2.
Chalmers D. J. (1996) The Conscious Mind: In Search of a Fundamental Theory. — New York and Oxford: Oxford University Press. — ISBN 0-19-511789-1.
3.
Crevier D. (1993) AI: The Tumultuous Search for Artificial Intelligence. — New York, NY: BasicBooks. — ISBN 0-465-02997-3.
4.
Dennett D. C., Allen L. (ed.) (1991) Consciousness Explained. — The Penguin Press, 1991. — 551 p. — ISBN 978-0-7139-9037-9.
5.
Dennett D. C. (2006) What RoboMary Knows // In Alter, Torin (ed.). Phenomenal Concepts and Phenomenal Knowledge. — Oxford Oxfordshire: Oxford University Press, 2006. — ISBN 978-0-19-517165-5.
6.
Heim M. (2007). Exploring Indiana Highways // Exploring America's Highway, 2007. — ISBN 978-0-9744358-3-1.
7.
Held R., Ostrovsky Y., de Gelder B., Gandhi T., Ganesh S., Mathur U., Sinha P. (2011) The newly sighted fail to match seen with felt // Nature Neuroscience. — 2011. — Vol. 14. — P. 551-553. — DOI:10.1038/nn.2795.
8.
Hawkins J. (2004) On Intelligence (1st ed.). — Times Books. — pp. 272. — ISBN 978-0805074567.
9.
Jackson F. (1986) What Mary Didn't Know // Journal of Philosophy, 1986. 83 (5): 291-295.
10.
Jones E. G. (2012) The Thalamus: [англ.]: in 2 vol. — редакция от 1985 года. — Нью-Йорк: Springer, 2012. — 915 с. — ISBN 978-1-4615-1749-8. — DOI:10.1007/978-1-4615-1749-8.
11.
Kirk R. (1974) Sentience and Behaviour. — Mind, vol. 83, pp. 43-60.
12.
Lavington S., ed. (2012) Alan Turing and his Contemporaries: Building the World's First Computers. — London: British Computer Society. — ISBN 978-1-9061-2490-8.
13.
Lilly J. C., Gold E. J. (2000) Tanks for the Memories: Flotation Tank Talks. — Gateways Books & Tapes, 2000. — ISBN 0895560712.
14.
Locke J. (1690) An Essay Concerning Humane Understanding. — 1st ed. 1 vols. London: Thomas Basset, 1690.
15.
Lotze R. G. (1852) Medizinische Psychologie oder Philosophie der Seele. — Leipzig: Weidmann’sche Buchhandlung, 1852. — http://bit.ly/2uLhzwT.
16.
Анохин К. В. (2015) Когнитом. Гиперсетевая модель мозга // В сборнике: Нейроинформатика-2015. XVII всероссийская научно-техническая конференция с международным участием: сборник научных трудов. Ответственный редактор: А. Г. Трофимов. — 2015.
17.
Душкин Р. В. (2019) Искусственный интеллект. — М.: ДМК-Пресс, 2019. — 280 с. — ISBN 978-5-97060-787-9.
18.
Ивашкина О. И., Воробьёва Н. С., Груздева А. М., Рощина М. А., Торопова К. А., Анохин К. В. (2018) Когнитивная индексация нейронов: Cre-управляемое генетическое маркирование и изучение клеток, участвующих в обучении и памяти // Acta Naturae (русскоязычная версия). — М.: Издательство Парк-медиа, том 10, № 2, с. 40-51.
19.
Крановиц К. С. (2012) Разбалансированный ребёнок. — М.: Издательство «Редактор». — 396 с. — ISBN 978-5-9901-7512-9.
20.
Митасова М. (2016) Выход из темноты: история одного эксперимента / «Со-единение», фонд поддержки слепоглухих. — М.: Эксмо, 2016. — 252 с.
21.
Николенко С., Архангельская Е., Кадурин А. (2018) Глубокое обучение. Погружение в мир нейронных сетей. — СПб: Питер, 2018. — 480 с. — ISBN 978-5-496-02536-2
References (transliterated)
1.
Chalmers D. J. (1995) Facing up to the Problem of Consciousness // Journal of Consciousness Studies. — 1995. — Vol. 2, № 3. — p. 200-219.
2.
Chalmers D. J. (1996) The Conscious Mind: In Search of a Fundamental Theory. — New York and Oxford: Oxford University Press. — ISBN 0-19-511789-1.
3.
Crevier D. (1993) AI: The Tumultuous Search for Artificial Intelligence. — New York, NY: BasicBooks. — ISBN 0-465-02997-3.
4.
Dennett D. C., Allen L. (ed.) (1991) Consciousness Explained. — The Penguin Press, 1991. — 551 p. — ISBN 978-0-7139-9037-9.
5.
Dennett D. C. (2006) What RoboMary Knows // In Alter, Torin (ed.). Phenomenal Concepts and Phenomenal Knowledge. — Oxford Oxfordshire: Oxford University Press, 2006. — ISBN 978-0-19-517165-5.
6.
Heim M. (2007). Exploring Indiana Highways // Exploring America's Highway, 2007. — ISBN 978-0-9744358-3-1.
7.
Held R., Ostrovsky Y., de Gelder B., Gandhi T., Ganesh S., Mathur U., Sinha P. (2011) The newly sighted fail to match seen with felt // Nature Neuroscience. — 2011. — Vol. 14. — P. 551-553. — DOI:10.1038/nn.2795.
8.
Hawkins J. (2004) On Intelligence (1st ed.). — Times Books. — pp. 272. — ISBN 978-0805074567.
9.
Jackson F. (1986) What Mary Didn't Know // Journal of Philosophy, 1986. 83 (5): 291-295.
10.
Jones E. G. (2012) The Thalamus: [angl.]: in 2 vol. — redaktsiya ot 1985 goda. — N'yu-Iork: Springer, 2012. — 915 s. — ISBN 978-1-4615-1749-8. — DOI:10.1007/978-1-4615-1749-8.
11.
Kirk R. (1974) Sentience and Behaviour. — Mind, vol. 83, pp. 43-60.
12.
Lavington S., ed. (2012) Alan Turing and his Contemporaries: Building the World's First Computers. — London: British Computer Society. — ISBN 978-1-9061-2490-8.
13.
Lilly J. C., Gold E. J. (2000) Tanks for the Memories: Flotation Tank Talks. — Gateways Books & Tapes, 2000. — ISBN 0895560712.
14.
Locke J. (1690) An Essay Concerning Humane Understanding. — 1st ed. 1 vols. London: Thomas Basset, 1690.
15.
Lotze R. G. (1852) Medizinische Psychologie oder Philosophie der Seele. — Leipzig: Weidmann’sche Buchhandlung, 1852. — http://bit.ly/2uLhzwT.
16.
Anokhin K. V. (2015) Kognitom. Gipersetevaya model' mozga // V sbornike: Neiroinformatika-2015. XVII vserossiiskaya nauchno-tekhnicheskaya konferentsiya s mezhdunarodnym uchastiem: sbornik nauchnykh trudov. Otvetstvennyi redaktor: A. G. Trofimov. — 2015.
17.
Dushkin R. V. (2019) Iskusstvennyi intellekt. — M.: DMK-Press, 2019. — 280 s. — ISBN 978-5-97060-787-9.
18.
Ivashkina O. I., Vorob'eva N. S., Gruzdeva A. M., Roshchina M. A., Toropova K. A., Anokhin K. V. (2018) Kognitivnaya indeksatsiya neironov: Cre-upravlyaemoe geneticheskoe markirovanie i izuchenie kletok, uchastvuyushchikh v obuchenii i pamyati // Acta Naturae (russkoyazychnaya versiya). — M.: Izdatel'stvo Park-media, tom 10, № 2, s. 40-51.
19.
Kranovits K. S. (2012) Razbalansirovannyi rebenok. — M.: Izdatel'stvo «Redaktor». — 396 s. — ISBN 978-5-9901-7512-9.
20.
Mitasova M. (2016) Vykhod iz temnoty: istoriya odnogo eksperimenta / «So-edinenie», fond podderzhki slepoglukhikh. — M.: Eksmo, 2016. — 252 s.
21.
Nikolenko S., Arkhangel'skaya E., Kadurin A. (2018) Glubokoe obuchenie. Pogruzhenie v mir neironnykh setei. — SPb: Piter, 2018. — 480 s. — ISBN 978-5-496-02536-2

Результаты процедуры рецензирования статьи

В связи с политикой двойного слепого рецензирования личность рецензента не раскрывается.
Со списком рецензентов издательства можно ознакомиться здесь.

Рецензируемая статья представляет собой опыт чрезвычайно глубокого и тонкого обсуждения проблемы специфики искусственного интеллекта, которое ведётся в философской и научной литературе уже несколько десятилетий. Существуют ли критерии, по которым ИИ может быть признан «субъектом»? Этот вопрос рассматривается автором, прежде всего, в практическом аспекте, поскольку положительный ответ на него (принципиально возможный, по мнению автора) ведёт к пересмотру сложившихся в обществе моральных и правовых норм. Автор связывает «субъектность» с верифицируемой возможностью «внутренних квалитативных состояний». (Правда, в заключении статьи появляется оговорка, что «квалиа» ИИ могут оказаться принципиально иными, чем те, с которыми привык иметь дело человек, и данная оговорка снова ставит под вопрос ценность представляемых автором мысленных экспериментов и выкладок. В этом случае окажется, что «разум» или даже «сознание» ИИ – это всё же не «человеческие» разум и сознание, и все поиски возможности их включения в единое более общее понятие некой «универсальной интеллигенции» нужно будет начинать с самого начала.) У меня нет никаких сомнений как в актуальности темы рецензируемой статьи, так и в профессионализме решения поставленной в ней задачи. При этом автор не повторяет аргументы, которые за прошедшие десятилетия уже были предложены в философии сознания, а выстраивает собственную линию аргументации. Устранение небольших шероховатостей текста не потребует много времени и не может рассматриваться как препятствие для решения о публикации статьи в научном журнале. Например, появляются два «который» в предложении «мысленный эксперимент из области философии сознания, который впервые был введён в аргументацию философом Робертом Кирком, который использовал…». Или, зачем нужно было приводить английский текст «утиного теста», ведь он ничего не добавляет к его простому русскому переводу? Чтобы сохранить стихотворную строку? Но это никак не задача философской статьи. Собственно, единственное концептуальное замечание, которое можно было бы сделать к этому исследованию, состоит в том, что его автор не использует наследие философской классики при решении поставленных проблем (прежде всего, новоевропейской философии, в которой понятие субъекта уже было предметом всесторонней рефлексии), но это было бы замечание ко всей современной «философии сознания» (а не только к данной статье), продолжающей развиваться почти исключительно на почве англо-американской традиции философии, логики, психологии, компьютерных наук, и явно недооценивающей роль классической философии в самом определении понятия субъекта и описании критериев, по которым он может быть установлен. Рекомендую рецензируемую статью к печати.
Ссылка на эту статью

Просто выделите и скопируйте ссылку на эту статью в буфер обмена. Вы можете также попробовать найти похожие статьи


Другие сайты издательства:
Официальный сайт издательства NotaBene / Aurora Group s.r.o.
Сайт исторического журнала "History Illustrated"