18 октября 2018 г. в на 12/94-м заседании семинара состоялась вторая часть («Теорема Пенроуза об ИИ и квантовая природа сознания») доклада «Природа сознания и искусственный интеллект». 

Докладчик: Александр Дмитриевич Панов, д.ф.-м.н., ведущий научный сотрудник НИИЯФ МГУ.

Файл презентации: здесь.

Аннотация

Неудачи программ создания сильного искусственного интеллекта (ИИ) не случайны – теорема Пенроуза об ИИ запрещает создание сильного ИИ на базе архитектуры конечного автомата (компьютера в современном понимании). Объясняется суть теоремы и полностью приводится основная часть ее доказательства. Элементарным следствием теоремы является то, что мозг – не конечный автомат. Обсуждается, чем же может быть мозг, если он не конечный автомат. Обсуждение дается в трактовке Пенроуза, после чего сама трактовка Пенроуза подвергается критическому анализу.

Комментарий Л.М. Гиндилиса

Прежде всего, хочу отметить, что доклад А.Д. Панова (обе его части), на мой взгляд, очень интересный и содержательный. Поставлены все точки на i и убедительно развенчан миф о возможности создания в ближайшее время искусственного интеллекта, который превзойдет совокупные мыслительные способности всего человечества. В докладе много интересных и важных положений. Хотелось бы поделиться некоторыми размышлениями, навеянными докладом.

Начну с теоремы Пенроуза.

Содержание теоремы сводится к утверждению, что классический (не квантовый) компьютер не может превзойти мышление человека во всех отношениях независимо от его мощности. Здесь существенно оговорка «во всех отношениях», т.е. в некоторых отношениях может превзойти, например, в скорости счета, скорости перебора вариантов. Когда я читал статью А.Д. Панова и подходил к тому месту, где говорилось о теореме Пенроуза, то опасался, что доказательство будет очень сложным и я не смогу его понять. Оказалось, это не так. Доказательство предельно простое, в несколько строк. Используется метод доказательства от противного, как нас учили в школьной геометрии. Но! Доказательство основано на другой теореме – теореме Гёделя о неполноте. Это тоже соответствует школьной геометрии: принимая одну теорему за истину, на её основании доказываем другую. И так, начиная от постулатов, строим всё здание геометрии. Так в чём же тогда Но? А в том, что теорема Гёделя уже не такая простая. Приходится принять её на веру. И вот тут возникает важный вопрос – о роли веры в науке. Мы как-то обсуждали этот вопрос с Александром Дмитриевичем. Он говорит, что разница между наукой и метанаукой (метафизикой) состоит в том, что в науке, если что-то и принимается на веру, то в принципе это всегда можно проверить, а метафизики просто принимают на веру какие-то утверждения и не заботятся о их проверке. Я думаю, это не совсем так. В принципе, конечно, любое научное утверждение можно проверить. Но, если речь идет о том, что уже принято наукой, то никто этого не делает. Думаю, ни один философ (да и физик тоже) не будет проверять корректность доказательства теоремы Гёделя; раз математики в своё время это признали, мы им верим. Так же, если вы, беседуя с физиком, сошлетесь на то, что ваш вывод основывается на некоем утверждении, он может усомниться в справедливости этого утверждения. Но если вы скажете, что оно содержится в курсе Ландау-Лившица, ваш собеседник не будет возражать против этого утверждения. Тому, что написано в курсе Ландау-Лившица, физики свято верят. Также и метафизики верят в свои авторитеты (например, в «Тайную Доктрину» или книги Живой Этики), но это не значит, что содержащиеся в них положения нельзя проверить. Есть замечательная книга Фритьофа Капры «Дао физике», где он проводит убедительные параллели между методологией современной физики и восточной мистики. Но я отвлёкся. О роли веры в науке и в метанауке стоит поговорить отдельно. Возвращаюсь к теме доклада. 

Итак, согласно теореме Пенроуза (или теореме Гёделя-Тьюринга), человеческий мозг обладает некими способностями, не доступными классическому компьютеру. На прошлом семинаре я приводил пример с шахматистом, который обыгрывает компьютер, несмотря на то, что тот гораздо быстрее производит перебор вариантов. Александр Дмитриевич в заключительном слове привел пример партии, в которой шахматист выигрывает как раз за счет использования способностей, недоступных компьютеру. Также на прошлом семинаре и сегодня тоже отмечалось, что самое главное, что недоступно компьютеру, это чисто человеческая универсальная способность к пониманию и придумыванию, которая не поддается формализации. Думаю, сюда можно добавить воображение, мечту, фантазию. Также надо иметь в виду, что мышление человека тесно связано с его чувственной сферой, которой компьютер не обладает. Ещё напомню с прошлого семинара (и об этом также говорилось сегодня), что человек работает со смыслами, а компьютер с информацией, выраженной в битах и лишённой всякого смысла. 

Теперь, я хотел бы остановиться на природе невычислительной активности мозга. Действительно, возникает вопрос: что же содержится в мозге человека, что превращает его во что-то существенно отличное от любого вычислительного устройства. Если говорить о позиции Пенроуза, то он твердо стоит на том, что источник невычислительной активности мозга нужно искать только внутри мозга. Он упоминает, что логически допустима альтернатива: источник невычислительной активности лежит вне мозга. Но Пенроуз отбрасывает такую возможность, поскольку, по его мнению, это ведет к представлению о «сверхъестественном», нематериальном происхождении источника. Пенроуз, безусловно, выдающийся ученый и мыслитель, но это обычное заблуждение современной науки – считать всё, находящееся за пределами физического плана Бытия, нематериальным. Между тем, с позиций метанауки, источник мыслительной деятельности находится вне мозга, в ментальной сфере, именно там зарождаются мысли, а мозг только преобразует их в форму, доступную нашему организму (речь или текст). Причем ментальная сфера вполне материальна, она состоит из материи ментального плана, более тонкой по сравнению с материей физического плана. Мысль материальна, и чувство тоже материально.

Считая, что источник невычислительной активности мозга лежит только внутри мозга, Пенроуз рассматривает различные возможности. Прежде всего процессы, связанные с классической физикой, и приходит к выводу, что они не могут быть источником невычислительной способности мозга. Затем он рассматривает возможность того, что мозг в процессе мышления использует квантовые процессы, и приходит к выводу, что квантовая физика также не может быть источником невычислительной активности мозга. Остается допустить, что в основе работы мозга лежит ещё не известная  физика (новая физика). Думается, это очень важный вывод. Ведь, что такое новая физика? Это, по большому счету (если не говорить незначительных новшествах), и есть физика тонкого мира. Здесь уместно вспомнить идею Тейяра де Шардена и некоторых современных космологов о том, что материя (имеется в виду материя физического плана) и сознание должны войти в новую расширенную физику. Здесь также можно отметить сотрудничество современных ученых (разных специальностей) с буддистами под эгидой Далай-ламы Четырнадцатого в попытке понять работу сознания и создать науку о сознании. А.Д. Панов в статье (в докладе он из-за недостатка времени это упустил) также упоминает идеи М.Б. Менского, согласно которому наука о сознании должна занять важное место в фундаментальной объединяющей физической теории, а также высказывание А. Линде в этом же духе. Кроме того, он обращает внимание на то, что, если все эти идеи (от Тейяра де Шардена до Пенроуза) верны, то путь к новой физике лежит не через гигантские коллайдеры и крупные телескопы, а через науку о сознании. На мой взгляд, очень важный вывод.

В отличие от Пенроуза, А.Д. Панов допускает, что источник невычислительной активности мозга может лежать вне мозга. Такая невычислительная активность, существующая вне мозга, присуща Вселенной в целом. Действительно, активность Вселенной в целом не может быть «вычислена» конечным автоматом, т.к. для этого потребовался бы компьютер, превосходящий размеры Вселенной. На мой взгляд, это интересный и важный вывод. Ведь ментальное тело человека, которое, на самом деле является источником активности мозга, и ментальная сфера Тонкого мира Земли представляют собой часть ментального плана Мироздания. Получается, что само устройство Вселенной указывает на место, где обитает сознание. Это с позиций Учения. Но важно, что к выводу о Вселенной как источнике невычислительной активности сознания можно прийти с чисто научных позиций, не касаясь метанаучных (метафизических) представлений о структуре Мироздания.

Следующий вопрос – роль квантовых процессов. А.Д. Панов не соглашается с категорическим выводом Пенроуза и рассматривает возможную роль квантовых процессов в деятельности мозга.  В частности, их роль в формировании смыслов, поскольку они определяют поведение человека. Он считает, что смыслы связаны с квантовыми состояниями и не имеют простой информационной природы. Это интересная гипотеза. Из неё следует, что поскольку классические компьютеры обрабатывают только информацию в обычном понимании (выраженную в битах и лишенную смысла), а мозг обрабатывает, наряду с обычной, и квантовую информацию, то он не может являться обычным компьютером.

Одно замечание относительно симуляции квантовых состояний. А.Д. Панов рассматривает такую ситуацию. Предположим, что на компьютере удалось очень точно смоделировать настолько большой фрагмент реальности, что он может включать в себя разумного наблюдателя. Если симуляция достаточно точна, то такой виртуальный наблюдатель не сможет заметить, что он живет в виртуальном, а не реальном пространстве.  А.Д. Панов рассматривает различные связанные с этим парадоксы. Любопытно, что С. Лем  в «Сумме технологий» еще в средине прошлого века рассматривал подобные парадоксы.

И последнее – о космологическом горизонте вычислимости. В космологии существует понятие о горизонте событий, который ограничивает возможность наблюдения: мы можем наблюдать только то, что находится внутри горизонта событий. А.Д. Панов вводит понятие о космологическом горизонте вычислимости. Речь идет о том, что для вычисления поведения практически важных квантовых систем требуются такие мощности классического компьютера или такие объемы вычислений, которые нельзя реализовать не только практически, но и принципиально, т.к. для вычисления будет необходимо время, превышающее возраст Вселенной, или размер компьютера будет такой, что его нельзя будет разместить внутри космологического горизонта событий. Это ограничение он и называет космологическим горизонтом вычислимости. Он столь же фундаментален и непреодолим, как и космологический горизонт событий.  А.Д. Панов утверждает, что если работа мозга на некотором фундаментальном уровне опирается на что-то похожее на квантовые вычисления, то размерность такой квантовой системы будет столь высока, что ее физика будет невычислимой в смысле космологического горизонта вычислимости.  «Говорить о вычислимости поведения квантового мозга физически бессмысленно». Вначале я подумал, что здесь какое-то противоречие. С одной стороны, допускается, что в основае работы мозга могут лежать квантовые процессы; а с другой утверждается, что говорить о вычислимости поведения квантового мозга физически бессмысленно. Но потом я потом я понял, что противоречия здесь нет, ибо речь идет о вычислимости «квантового мозга» с помощью классического компьютера.

Если я правильно понял, А.Д. Панов, в отличие от Р. Пенроуза, допускает возможность реализации сильного ИИ на основе квантовых устройств, но только на основе квантовых устройств. Учитывая множество нерешенных проблем, о чём говорилось в первой части доклада, на прошлом семинаре (начиная от биологии клетки и заканчивая космологией), он приходит к осторожному выводу, что создание сильного ИИ в ближайшее время маловероятно. В связи с этим я хотел бы подчеркнуть ещё раз, что, с позиций метанауки, создание сильного ИИ не маловероятно, а невозможно, и не в ближайшее время, а в принципе. Ибо (повторю) природа сознания лежит вне мозга, мозг лишь трансформирует мысли в форму, доступную для телесного организма.