11 октября 2018 г. в на 11/93-м заседании семинара состоялся доклад «Природа сознания и искусственный интеллект. I. Грозит ли нам "технологическая сингулярность"?». 

Докладчик: Александр Дмитриевич Панов, д.ф.-м.н., ведущий научный сотрудник НИИЯФ МГУ.

Файл презентации: здесь. 

Аннотация

Показано, что представления о «технологической сингулярности» – времени, когда ИИ станет во всех отношениях сильнее человеческого интеллекта, после чего люди станут ему не нужны, и он уйдет в саморазвитие столь высокими темпами, что мы не сможем уследить процессом – основано на нескольких неявных допущениях, которые в лучшем случае очень плохо обоснованы, а в действительности, скорее всего, неверны. Одним из важнейших факторов является недооценка ресурсов мозга и ошибочное представление о том, что допустима аналогия «мозг – это компьютер».

Комментарий Л.М. Гиндилиса

Позвольте представить вам докладчика.

Панов Александр Дмитриевич, доктор физ-мат наук, ведущий научный сотрудник НИИЯФ МГУ (Научно-исследовательский институт ядерной физики). Основное направление исследований – астрофизика космических лучей. В сферу научных интересов входят также основания квантовой механики, основания математики, космология (А.Д. читает курс лекций по космологии на физфаке МГУ), проблема SETI (руководитель научно-культурного центра SETI и председатель секции жизнь и разум во Вселенной НСА РАН), философские и методологические проблемы науки (тесно сотрудничает с Институтом философии РАН), является также специалистом в области программирования и алгоритмических языков, так что эта тема для него не случайная.

Те, кто давно участвуют в нашем семинаре, помнят его очень интересные и содержательные доклады о методологических проблемах космологии и квантовой гравитации (2010 г.) и о природе математики, космологии и структуре реальности (2011 г.). Они опубликованы в Трудах семинара, с которыми можно познакомиться на сайте Секции космического мышления и ЖЭ.

Доклад называется «Природа сознания и искусственный интеллект». Природа сознания имеет непосредственное отношение к тематике нашего семинара. Что касается искусственного интеллекта (ИИ), то эта проблема стала не просто актуальной, но и весьма модной. Об ИИ говорят и пишут все, кому только придется, часто не удосуживаясь разобраться в сути проблемы. Даже в такой области как SETI, стало модным рассматривать встречу с внеземными цивилизациями как контакт с искусственно созданным машинным разумом. Насколько эта проблема захватила умы, свидетельствует такой факт, как ответ В.В. Путина на недавней встрече с одаренными индийскими детьми, где он сказал, что к приоритетным вопросам исследований можно отнести ИИ. Правда, Путин оговорился, что, по крайней мере, сейчас ИИ не возможен без естественного интеллекта.

Я хотел бы сделать несколько замечаний по докладу. Но при этом я буду основываться не только на том, что было озвучено докладчиком, но и на его очень содержательной статье «Технологическая сингулярность, теорема Пенроуза об искусственном интеллекте и квантовая природа сознания», 2014.

Наибольший интерес вызывает проблема так называемого сильного ИИ, который по своей мощности (быстродействию и памяти) превосходит совокупную мощность мозга всего человечества. Я бы не сказал, что эта проблем весьма актуальна, но именно она вызывает наибольший интерес. Ситуация, к которой приведет создание сильного ИИ, называется технологической сингулярностью. Считается, что ТС будет достигнута в 2045 г. Это привело к созданию таких движений как «Трансгуманизм», «Россия 2045». Я думаю, что в основе их лежит подсознательное стремление людей добиться личного бессмертия за счет симбиоза с машинным разумом. С метафизических позиций такое стремление является нелепым, ибо бессмертие означает просто непрерывное сохранение сознания при переходах между различными состояниями человека или различными мирами (физическим и тонким). Потенциально человек наделен такой способностью, надо только развить её.

Я думаю, что достоинство доклада состоит в том, что автор не упрощает проблему. Он убедительно показывает, что проблема ИИ не является чисто технической задачей, это чрезвычайно сложная междисциплинарная проблема, затрагивающая фундаментальные основы Бытия, включая вопрос о природе мысли и природе сознания.

На нашем семинаре эти проблемы обсуждались в докладе Евгения Давыдовича Яхнина «Проблемы “Я”, души и свободы воли» (2011) и в докладе Валентины и Юрия Маняхиных «Сознание сердца» (2016).

В Живой Этике (ЖЭ) категории мысли и сознания занимают центральное положение, им уделяется значительное внимание. Мысль рассматривается как основа Мироздания. Космос, в совокупности всех его планов, создается мыслью Высоких Духовных сущностей. Что касается человеческой мысли, то она тоже имеет творческую природу. Она не является чем-то абстрактным, отвлеченным. Мысль – это субстанция, т.е. материя и энергия (которые неразделимы). Мысль, порождаемая человеком в процессе мышления – это живая пространственная сущность, принадлежащая ментальной сфере психодуховного пространства. Мысль не уничтожима, ее нельзя уничтожить, ее можно только преобразовать, трансформировать. Трансформировать мысль должен тот, кто ее породил. Отсюда ответственность человека за качество мышления.

В докладе все эти проблемы не рассматриваются. Автор стоит на строго научных позициях и следует строго научному рассмотрению (в духе современной парадигме). Но важно, что при этом он невольно подходит к постановке метафизических (метанаучных) проблем, хотя и не останавливается на них.

А.Д. Панов убедительно показывает, что главным препятствием на пути создания сильного ИИ является вовсе не недостаточная мощность современных компьютеров, а множество принципиально нерешенных проблем, которые относятся к самым разным научным дисциплинам. Приводятся, на мой взгляд, очень интересные и важные данные из области биологи и строения клетки. На меня большое впечатление произвели наблюдения очень сложного поведения одноклеточных существ (например, слизевика), у которых нет не только мозга, но и вообще нервной системы. Отсюда следует, как справедливо замечает А.Д. Панов, что существуют сложные внутриклеточные механизмы обработки информации, включающие возможность обучения на основе использования внутриклеточной памяти. Я думаю, А.Д. Панов совершенно справедливо полагает, что эти свойства одноклеточных организмов в процессе эволюции могли быть унаследованы клетками многоклеточных организмов. И тогда, в частности, индивидуальные нейроны должны проявлять сложные формы поведения, не сводящиеся к функции порогового переключателя нейронной сети. Важно, что это подтверждается экспериментально.

Естественно возникает вопрос, где на субклеточном уровне может помещаться механизм «внутриклеточного сознания»? А.Д. Панов приводит веские, на мой взгляд, основания в пользу того, что эти функции реализуются в системе внутриклеточных микротрубочек. Они вполне могут оказаться тем универсальным «вычислительным устройством», которое отвечает за сложное поведение автономных одноклеточных существ или за поведение клеток многоклеточного организма. Любопытно, что скорость «вычислений» такого внутриклеточного устройства для одного нейрона, согласно приведенным оценкам А.Д. Панова, составляет 10¹⁵ операций в секунду, а быстродействие всего мозга 10¹⁵ х 10¹¹ = 10²⁶ операций в секунду, что на десять порядков превышает оценку быстродействия мозга (10¹⁶) согласно концепции сильного ИИ. По мнению А.Д. Панова, всё это свидетельствует о недостаточности нейронной парадигмы, согласно которой работа мозга как нейронной сети в основном исчерпывает его функции. Противоположная точка зрения, по его мнению, состоит в том, что нейросетевая активность не есть носитель сознания, а лишь инструмент сознания, интерфейс связывающий, с окружающей действительностью. Само сознание живет на некоторых более глубоких (субнейронных, квантовых?) уровнях организации мозга. Это, безусловно, очень важный вывод. Замечу, что, согласно метанаучной концепции, не только нейросетевая активность мозга, но весь мозг со всеми своими функциями не является носителем сознания. Сознание находится на более глубоких, но не субнейронных уровнях мозга, а вообще вне мозга, в ментальном теле человека. Мозг перерабатывает информацию, поступающую от ментального тела человека в форму, которую можно использовать в физическом мире с помощью физических органов чувств (слуха, зрения).

Из теоремы Гёделя-Тьюринга, о которой речь пойдет, видимо, во второй части доклада (на следующем семинаре) следует, что утверждение «мозг есть компьютер» неверно. А это означает, что человеческий мозг может обладать способностями, недоступными конечному автомату. В связи с этим я хотел бы обратить внимание на следующее обстоятельство. Известно, что компьютер способен гораздо быстрее, на много порядков быстрее человеческого мозга производить перебор разных вариантов. И тогда возникает вопрос: почему в шахматных партиях против человека компьютеры не всегда одерживают победу? На мой взгляд, это происходит потому, что шахматист не занимается простым перебором вариантов, а использует другие способности своего мозга, которыми компьютер не обладает. Мы очень плохо знает способности своего тела – аппарата, как оно называется в ЖЭ. Согласно ЖЭ, человеческий аппарат обладает огромными нераскрытыми возможностями. Это положение убедительно демонстрируется в телепередаче «Удивительные люди», участники которой (взрослые и дети) демонстрируют поразительные способности счета, памяти, других качеств. Причем, я хочу подчеркнуть, это вовсе не экстрасенсы, это, вроде, обычные, но действительно удивительные люди. У некоторых из них эти способности врожденные, другие развили их путем упорных упражнений.

В дискуссиях со сторонниками сильного ИИ мне приходилось приводить аргументы типа: у компьютера нет души, он не способен любить, у него нет совести, он не способен к озарению. Обычно на них это не действует. А.Д. Панов не рассматривает эти категории. Он обращает внимание на то, что самое главное, что недоступно компьютеру, это чисто человеческая универсальная способность к пониманию и придумыванию. Автоматы ходят только вдоль логических цепочек, поэтому новые фундаментальные идеи, которые «не висят на концах этих цепочек», автоматам недостижимы. Замечу, что, согласно метафизике, фундаментальные идеи «висят» в ментальном плане, в мире идей Платона. Далее А.Д. Панов ссылается на идеи Хьюберта Дрейфуса о том, что мозг не может быть просто компьютером, поскольку компьютер обрабатывает информацию (выраженную в битах) и не интересуется смыслом, а человек работает именно со смыслами. Думаю, это очень важное замечание! Здесь можно было бы вспомнить о смысловом поле (поле смыслов) В.В. Налимова, которое по смыслу близко к миру идей Платона. (Напомню, что у нас в 2013 г. был доклад С.В. Мальцевой «Вероятностная философия В.В. Налимова – Теория смыслов»).

В связи со всеми этими идеями я хотел бы обратить внимание на следующее заключение А.Д. Панова: то, что обрабатывается мозгом, может не быть информацией [выраженной в битах], поэтому, возможно, мысль – не есть вычисление в обычном смысле. Этот вывод вполне соответствует метанаучному представлению о мысли. Следует также добавить, что мыслительная деятельность тесно связана с чувственной, эмоциональной сферой, которая недоступна компьютерам. На этом заканчиваю.

Будем ждать следующего доклада.

Комментарий О.Л. Чемодуровой

ЗАЧЕМ НУЖЕН ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ?

Трудно ответить на этот вопрос дилетанту, не ученому, а простому человеку, да еще поэту… Но тема интересная, и обойти ее никак нельзя.

Однако мне гораздо проще ответить на вопрос, почему Искусственный интеллект (ИИ) НЕ нужен человечеству!

Человеческая эволюция идет сейчас по пути технического прогресса. Это сразу бросается в глаза, т.к. техническое совершенствование сильно обгоняет нравственное или культурное. Конечно, в целом, человек стал умнее, культурнее, утонченнее по сравнению со своими предшественниками, которые ели мясо с ножа, а братоусобицы, пытки и казни были нормой… Итак, человечество стало выше в нравственном положении, но! Это положение могло быть еще выше, если бы мы уделяли столько же внимания не техническому развитию, а изучению природы самого человека, т.е. его нравственному (духовному) развитию.

Техника – благо, если она в руках мудрых, и она же – зло, если находится в руках безумных. Идея создания ИИ, на мой взгляд, по сути своей безумна. Т.к. при этом человек отходит от решения важнейших нравственных задач, пытаясь подменить их, якобы, более важными. Это иллюзия, самообман. ИИ не способен сделать человека ни счастливее, ни мудрее. К примеру, стало ли человечество счастливее с появлением Интернета? Здесь тот же критерий. Если Интернет в добрых руках – то да, если в злых – нет. Но Интернет – это все же инструмент. А ИИ (в таком смысле, в каком его хотят видеть) – это уже принципиально новый технический уровень, в котором есть новая составляющая – самостоятельность действий. А поскольку ИИ тоже будет создавать человек, то, в зависимости от его мудрой или дурной природы, ИИ будет служить либо добру, либо злу. И тогда можно уже говорить о войне между машинами… Нужна ли эта проблема человечеству? Нет! Но, как уже прекрасно и (самое главное) вполне научно доказал А.Д. Панов, создание ИИ человеком невозможно. И в этом наше счастье!

Мне же хочется добавить, почему я тоже считаю идею создания ИИ иллюзией. Многие философские умы древности и современности доказали, что эволюция человечества лежит через совершенствование его нравственной или духовной природы! Желание создать ИИ не отвечает этой глобальной идее. Почему же она возникла? Почему человек стремится «играть в игрушки», создавая новые машины, вместо того, чтобы познавать самое себя и мир? Это напоминает нерадивого ученика, который рад уйти с уроков, чтобы подготовить школьный вечер, лишь бы не учиться. (Но если школьный вечер – штука безобидная, то создание ИИ, как мы видим, вещь опасная!) Уроки-то все равно придется учить, как не отвлекай себя на посторонние приятные занятия. Но человечество упорно отвлекается от главных задач эволюции и занимается самообманом, прилагая усилия, например, к созданию ИИ.

Мы вплотную подошли к грани, за которой начнется, либо не начнется новая Эпоха развития цивилизации. Мы должны, наконец, перестать воевать! Добрый разум должен восторжествовать над злом во всем мире. Иначе цивилизация погибнет. И видимо, кому-то все равно – погибнет или нет, важно – получить барыш от этой неустойчивой ситуации, в которой сейчас пребывает человечество. И идея создания ИИ только усугубляет эту ситуацию, отвлекая от духовных эволюционных задач. Ведь духовно развитому человечеству не нужен будет никакой искусственный интеллект, оно само в себе откроет массу совершенно неожиданных приспособлений и инструментов, о которых можно лишь мечтать!

Не ИИ должен создавать человек, а познавать самого себя (еще древние философы призывали к этому! «Сам человек, утверждает Сократ, есть именно то, что пользуется телом, а то, что пользуется телом, мы называем душой. Итак, человек есть душа, управляющая телом, как своим инструментом; а значит, бог, призывающий его познать самого себя, призывает его познать свою душу» – Википедия).

И действительно, при всем техническом прогрессе мы не только не продвинулись вперед в познании самих себя по сравнению с древними мыслителями, но и отстали от них. Погрузившись в элементарные науки, мы все же ничего не знаем о себе – откуда идут наши чувства, какова их природа? Да и управлять ими не можем пока. Как наши мысли влияют на окружающую среду и на людей? Почему одни способны убивать, ради наживы, а другие – умирают сами, чтобы спасти кого-то? На планете представлен широкий спектр представителей человечества: от дикарей до гениев и святых! Что есть святость? Почему могут проявляться те или иные необыкновенные качества в человеке? Какова их природа? Что есть сновидение, ясновидение, предчувствие?.. Человек полон загадок! Пора научно объяснять все это… Пусть не сразу, но должно быть постоянное действенное стремление к этому. Настало время научно доказать, что влияние высоких мыслей и чувств облагораживает человека, что они способны обеспечить человечеству в целом совершенную жизнь. Что только духовный подход приемлем для решения всех проблем на Земле!

Мы привыкли к фразе – человек есть микрокосм! Так надо обратить такое же пристальное внимание на изучение этого микрокосма, коим мы являемся сами, как и на изучение Макрокосма – Космоса! Эта задача намного важнее и нужнее создания ИИ.

Циолковский считал, что человечеству суждено великое будущее – эволюция вверх, до «лучистого» человечества, свободно живущего в космосе! Земля появилась 4,5 млрд. лет назад, позже появился человек. И почти невозможно представить, что будет с человеком, кем он может стать еще через 4,5 млрд. лет. Как эволюционирует его микрокосм?! Но одно, несомненно, это будет! Эволюция не может стоять на месте, и нынешний человек – лишь этап, а не предел в ее цепи.

Может быть, когда-нибудь, микрокосму будет суждено слиться воедино с Макрокосмосом! И это будет самым великим достижением человека, намного более величественным и целесообразным, чем создание ИИ.

Дополнение от докладчика в отношении комментария выше

У меня нет научного доказательства, что ИИ невозможен. У меня есть утверждение, что СЕЙЧАС нет никаких указаний на то, что создание сильного ИИ возможно в любом обозримом будущем, так как движение в направлении создания сильного ИИ СЕЙЧАС действительно полностью отсутствует. Но отсюда не следует, что такое движение не может возникнуть когда-то в будущем, и существующее положение дел может измениться.