Этот разговор академика Константина Анохина с профессором Му-мин Пу происходил во время Конференции по сознанию животных (ACC-2026) в июне этого года в Китае. Анохин и Пу смотрят на проблему искусственного интеллекта сквозь призму фундаментальных законов биологического мозга. Именно академик Анохин в свое время доказал ключевую роль «ранних генов» в консолидации памяти, открыв молекулярные «выключатели», которые переводят наш опыт в долговременную форму. Путь самого профессора Пу — от теоретической физики к нейробиологии и нейроморфным технологиям показывает, как физика сложных систем стала главным ключом к разгадке мозга, и отражает глобальный сдвиг в мировой науке: исследование сознания перестало быть философским увлечением ученых на закате карьеры и превратилось в передовой край науки для нового поколения исследователей.
Ученые рассуждают о том, почему современные нейросети обречены упереться в физический потолок, как механизмы долговременной памяти и временной синхронизации спайков могут спасти ИИ от «катастрофического забывания» и почему ключ к загадке разума лежит на стыке физики сложных систем и биологии.
Фото Елены Кокуриной
Константин Анохин – директор Института перспективных исследований мозга МГУ., академик РАН, один из ведущих мировых специалистов в области нейробиологии памяти, высших функций мозга и сознания. Автор фундаментальной Гиперсетевой теории мозга (теории когнитома). Согласно этой концепции, разум и сознание представляют собой не просто активность отдельных клеток, а высшую макроструктуру — распределенную нейронную гиперсеть («когнитом»), которая связывает воедино весь субъективный и когнитивный опыт организма. Активно развивает подходы к созданию биоподобного искусственного интеллекта нового поколения на основе принципов работы естественных нейронных систем.
Му-мин Пу — всемирно известный китайско-американский нейробиолог и биофизик, научный руководитель Института нейронаук Китайской академии наук (CAS), директор Центра передового опыта в области наук о мозге и интеллектуальных технологий CAS. Один из самых авторитетных исследователей пластичности мозга в мире. Главный идеолог и архитектор масштабного государственного проекта China Brain Project, который объединил фундаментальное изучение мозга с разработкой систем «интеллекта, подобного мозгу».
К.А.: Можно я сначала расскажу короткую историю? В 1991 году я участвовал во встрече Европейской сети по изучению обучения и памяти (European Network of Learning and Memory) в Исландии. Был сентябрь, мы жили в университетском кампусе за пределами Рейкьявика — вокруг было поле и несколько маленьких домиков, так что по вечерам делать было совершенно нечего. Со мной были мои аспиранты, и я предложил: давайте сделаем наши вечера здесь по-настоящему интересными. Будем приглашать выдающихся ученых, приехавших на конференцию, и задавать им важные вопросы об их жизни и карьере: почему они выбрали именно эту область науки, кто были их учителя, и кто оказал на них наибольшее влияние. И вот, вечер за вечером, мы в нашем «русском доме» вели беседы — с Пером Андерсоном, Тимом Блиссом, Ричардом Моррисом. Позже я продолжил эту традицию на конференциях, в которых участвовал и которые организовывал. И мне очень хотелось бы повторить такой разговор здесь, потому что я уверен: многим людям будут крайне интересны ваши ответы на подобные вопросы. Вы согласны?
ММП: Конечно!
КА: Вы ведь физик по образованию. Как случилось, что вы заинтересовались нейробиологией?
ММП. А ведь это, действительно, интересно, потому что я и докторскую защищал как физик, изучал биофизику мембран, работая над технологией диффузии белков в клеточной мембране. В то время мне удалось измерить скорость диффузии белка родопсина — главного зрительного белка в сетчатке. Я еще не знал тогда, куда все это меня приведет, и насколько важным окажутся эти исследования для дальнейшей работы.
Фото Елены Кокуриной
К.А.: В начале 70-х? В тот период ученые еще не знали, как устроена оболочка клетки. Многие считали её жесткой и статичной структурой, где все элементы жестко закреплены на своих местах…
М.М.П.: В 1973–1974 годах. В то время мы впервые показали, насколько быстро белок может перемещаться по мембране. Образно говоря, доказали, что мембрана живой клетки — это не твердая «стена», а жидкое «озеро», в котором белки могут свободно «плавать».
Повторяю, тогда я был физиком и еще ничего не понимал в биологии. После получения ученой степени я размышлял, чем заниматься дальше. И Ричард Коун, мой научный руководитель в Университете Джонса Хопкинса, оказавший на меня огромное влияние, сказал: «Если не знаешь, что делать, возможно, тебе стоит поехать в Вудс-Хол, там обсуждаются самые интересные проблемы, и ты в итоге обязательно наткнешься на что-то стоящее». Летом 1974 года я получил официальную должность постдока в Вудс-Холе, своеобразной «научной Мекке» для биологов со всего мира. Это небольшая портовая деревня на мысе Кейп-Код в штате Массачусетс, где расположена знаменитая Морская биологическая лаборатория (MBL) — старейшая частная морская лаборатория в США. Там я немного обучился физиологии и впервые взял в руки микроскопические иглы-электроды, воткнул их в живые светочувствительные клетки мечехвоста (Limulus) и в реальном времени на экране осциллографа увидел, как живой глаз превращает вспышку света в электрический ток. Возможно, это и был переломный момент, когда я из физика-теоретика превратился в нейробиолога.
Я слушал лекции, они, действительно, были захватывающими, и всё же к концу лета я все-еще не мог решить, какую конкретно тему выбрать для своей постдокторской работы. Однажды, прогуливаясь по кампусу, я наткнулся на книжную выставку и обнаружил новую книгу под названием «On Development: The Biology of Form» биолога-эволюциониста Джона Тейлора Боннера. Она только что вышла в издательстве Гарвардского университета. Я купил ее и прочитал её за несколько дней. Эта книга наглядно показывает, как из самых простых кирпичиков — отдельных клеток и молекул — шаг за шагом выстраиваются сложнейшие системы. В частности, там подробно описывалось, как клетки приобретают полярность, а в качестве классического примера приводилась яйцеклетка фукуса — бурой водоросли. Эта тема меня по-настоящему увлекла, и мне захотелось поближе познакомиться с этой областью науки.
Человеком, который совершил этот научный прорыв и разгадал тайну фукуса, был Лайонел Джаффе. Именно он связал физику (свет и электричество) с биологией (развитием клетки). Он доказал, что физические и электрические силы (такие как гравитация или солнечный свет) могут нарушать симметрию и индуцировать полярность клеток. Джаффе выдвинул теорию, что внутренние электрические поля, генерируемые ионными токами, работают как миниатюрный аппарат для электрофореза внутри клетки. Вдохновленный этими идеями, я решил пойти к нему в лабораторию в качестве постдока и переключился на клетки животных. Мне хотелось изучить, как нейрон превращается из абсолютно симметричной сферы в высоко поляризованную клетку с дендритами на одном конце и аксоном на другом. Мне было безумно интересно, однако за два года работы мне так и не удалось обнаружить эти ионные токи, вызывающие эту поляризацию.
Тогда я обратился к классическим трудам конца 1920-х годов. Они показывали, что, если приложить искусственное электрическое поле, нейроны начинают поляризоваться. В этой области, называемой гальванотропизмом, велось много работ, в том числе и в России. Так что вместо того, чтобы искать скрытые эндогенные токи, я начал сам прикладывать внешние электрические поля к растущим аксонам — с помощью микроэлектродов.
Это было захватывающе: получалось, что токи, возникающие при развитии эмбриона, могут создавать электрические поля, которые задают нейронам полярность и буквально направляют их рост. Меня увлекла сама суть процесса — как именно белки распределяются асимметрично, ведь неравномерное распределение элементов и есть основа поляризации. Внешняя сила нарушает симметрию внутри клетки, это состояние закрепляется, и в итоге запускается направленное развитие.
И тогда я задумался: хорошо, а что это значит? Какой вообще смысл клетке собирать белки в одном месте, если силы диффузии стремятся хаотично размыть их по всей мембране? Я начал осознавать, что в этом противоречии и кроется главная тайна синапса. Наша память и способность мозга к обучению (пластичность) напрямую зависят от этого процесса: синапс просто не сможет сформироваться и удерживать информацию, если нужные молекулярные компоненты не будут жестко закреплены в одной конкретной точке.
Таким образом, я переключился на нейробиологию, начав использовать синапс в качестве модели для изучения локализации белков и механизмов этого процесса.
Фото: Елена Кокурина
КА: Для вас тогда это была чисто физическая задача — победить хаос диффузии и зафиксировать белок, — или вы уже смотрели на проблему шире, понимая, что закладываете фундамент для изучения пластичности синапсов?
М.М.П.: На том этапе исследователи еще не пытались детально разобраться в детальных механизмах синаптической потенциации – то есть, в том, как синапсы усиливают свои сигналы. Только в конце 1970-х годов, после открытия NMDA-рецепторов — специальных белков в мозге, которые улавливают сигналы и впускают в клетку кальций для запуска памяти, и описания их функций, исследователи начали фокусироваться на процессах, связанных с ионами кальция. Чуть позже, уже в 1980-х, разгорелся большой спор о том, где именно прячется этот механизм. Ученые разделились на два лагеря: одни считали, что изменения происходят на передающем конце нейрона (пресинаптически), а другие — что на принимающем (постсинаптически). Эти дискуссии затянулись на многие годы.
В конце прошлого века новые технологии микроскопии наконец позволили ученым увидеть движение отдельных молекул. Стало ясно, что рецепторы буквально попадают в ловушку внутри синапса — эту идею я доказал еще в 1982 году. Но до сих пор остается главная загадка: как именно синапс понимает, где ему нужно собраться? Нервное окончание должно подать какой-то химический сигнал, чтобы рецепторы собрались ровно в месте контакта. Что это за сигнал и как устроена эта молекулярная ловушка — наука не до конца понимает даже сегодня.
К.А.: Меня поражает, как мало мы знаем о точных функциях синапсов и нейронов, которые нам еще только предстоит открыть. У нас есть лишь схематичное понимание, и некоторые элементы этого понимания могут оказаться абсолютно неверными.
М.М.П.: Совершенно верно! Здесь стоит упомянуть книгу выдающихся нейробиологов Дэйла Пёрвса и Джеффа Лихтмана «Принципы развития нервной системы», которая вышла в 1985 году и до сих пор не переиздавалась. В ней подробно описывается трофическая гипотеза — идея о том, что синапсы постоянно конкурируют за особые факторы роста и питания, которые выделяют клетки. Эта гипотеза до сих пор остается непревзойденной. Как именно пре- и постсинаптические клетки взаимодействуют друг с другом и как устроена эта синаптическая конкуренция — ключевые вопросы, из которых, по сути, и выросли все мои последующие исследования.
Вот вы спросили, что повлияло на меня в моей карьере. Это не были мои непосредственные руководители, и дело не в том, что я встретил кого-то, кто поделился со мной важной идеей. Именно потому, что я не знал биологов, — я всегда читал классические учебники. Всё это пришло именно из чтения учебников: о трофических факторах, о синаптической конкуренции, о гипотезе Хебба…
К.А.: Поразительно, что это именно учебники, а не научные статьи. Дело в том, что в учебниках (особенно написанных хорошими учеными) авторы всегда стремятся выстроить четкие, фундаментальные концепции, которые можно проверить.
М.М.П.: Я хотел бы указать на одну важную проблему, касающуюся классических учебников или монографий по нейробиологии, написанных очень давно. Ощущение такое, что они не требуют переиздания просто потому, что в самой этой области не было достигнуто принципиального прогресса. Сам Лихтман комментирует это, да и вообще все вокруг постоянно твердят, что книге «Принципы развития нервной системы» уже сорок лет: «Сделайте обновленное издание! Ведь за это время наука ушла далеко вперед, почему вы не хотите переработать книгу?» Но каждый раз, когда я разговаривал с Джеффом, я просил его: «Пожалуйста, не переиздавай её, потому что классика не подлежит редакции». Классическая книга стоит как незыблемое свидетельство состояния науки той эпохи. И неважно, были ли старые идеи опровергнуты или они все еще ждут своей экспериментальной проверки. Поскольку развитие нервной системы до сих пор остается недостаточно исследованным и недостаточно понятым процессом, эту книгу следует оставить без изменений.
К.А.: Значит, я прав: ваша исследовательская логика развивалась от механики простых периферийных связей к фундаментальным вопросам межклеточного питания и конкуренции, а от них — к самому сложному. Расскажите, когда именно произошёл этот переломный момент и вы переключились на изучение центральных синапсов мозга?
М.М.П.: Это произошло благодаря чистой случайности, когда я перевелся из Колумбийского университета в Калифорнийский университет в Сан-Диего (UCSD). Моим соседом по лаборатории в Пасифик-холл оказался Билл Харрис, который как раз начинал заниматься картированием синапсов. В этой области существует важнейший вопрос: как изначально диффузная, размытая карта нейронных связей со временем становится высокоточной?
Это была как раз та самая концепция конкуренции из книги Пёрвза и Лихтмана — о том, как окончания аксонов борются друг с другом за выживание. И мы решили поставить эксперименты, чтобы выяснить, по каким правилам идет это соперничество, что именно делает синапсы стабильными и почему часть из них в итоге элиминируется (отмирает).
К.А.: Это ведь также модель, которая широко изучалась в контексте развития нервно-мышечной системы… Вы говорите, что искали правила конкуренции в мозге, но разве вы не переносили туда ту модель, которую ученые уже видели в мышцах?
М.М.П.: Да. И тут произошла интересная вещь: я был полностью готов перейти к исследованиям in vivo (на живом организме), поскольку к тому моменту выполнил огромное количество работ (включая изучение факторов роста и питания в синапсах), но все они были сделаны на культурах клеток. И меня за это постоянно критиковали. Люди говорили: «О, это всё в культуре … Пока ты не покажешь это на живом организме, научное сообщество не проявит к открытию должного интереса».
Поэтому я всегда стремился найти подходящую живую систему, чтобы перепроверить результаты, полученные в чашке Петри. Культура клеток проста, тогда как реальный живой организм — среда невероятно сложная. И если явление, увиденное в культуре, удается воссоздать в живом организме, это делает открытие в разы более значимым. Именно так я начал переходить к экспериментам in vivo, и этой важной вехой в моей карьере стала наша совместная работа с Кристин Хольт — в то время исследователем из UCSD, а сегодня — профессором Кембриджа и одной из ведущих мировых специалистов в области биологии развития.
Ведь просто прочесть учебник, найти там гипотезу и сопоставить факты — это легко. Правило «нейроны, которые активируются вместе, связываются вместе» в теории выглядит очень простым. Но в учебниках никогда не говорилось, насколько именно точными должны быть эти временные совпадения, чтобы приводить к стабилизации или, наоборот, к отмиранию синапсов.
И в этом плане зрительная система головастика оказалась идеальной экспериментальной платформой. Именно на ней мне и удалось открыть пластичность, зависящую от времени прихода импульсов (STDP — spike-timing-dependent plasticity) — фундаментальный закон мозга, согласно которому разница всего в несколько миллисекунд между сигналами нейронов определяет, превратится ли связь в прочную память или сотрется навсегда.
К.А.: По вашему мнению или исходя из ваших личных предпочтений — поскольку вы размышляете над множеством самых разных проблем — какие нерешенные задачи в современной нейробиологии вы считаете главными?
ММП.: Я считаю, что одна из ключевых проблем — это природа перцептивной памяти, которую мы исследуем как эмерджентное свойство (то есть, новое системное качество, возникающее лишь при объединении коллективной работы) нейронных сетей. Сейчас этот феномен рассматривается как фундаментальный аспект сознания.
На мой взгляд, изучение подобных сложных, системных свойств биологических сетей остается главным вызовом для нейробиологии. Убедительной теории здесь пока нет из-за колоссальной сложности систем, а огромную часть феноменов нам только предстоит изучить экспериментально. Именно этим направлением я советую заняться молодым исследователям. Полагаю, на поиск окончательных ответов уйдет еще не одно десятилетие.
К.А.: Я тоже так считаю. Но вас, как и меня, наверняка интригуют эмерджентные свойства искусственных сетей — в частности, спонтанная специализация нейронов. Ведь там тоже возникают сложные системные эффекты, однако полностью отсутствует синхронизация. Если искусственные сети способны генерировать сложные эмерджентные свойства без ключевого биологического механизма — синхронизации, означает ли это, что их «интеллект» принципиально иной природы, или же это доказывает их глубинную ущербность и неспособность прийти к подлинному сознанию? Что вы думаете по этому поводу?
ММП: В искусственных сетях синхронизация отсутствует — обучение там идет через подстройку весов, исходя из средней скорости их обновления. Это напоминает биологическую нейромодуляцию, но без привязки ко времени. Существуют искусственные методы работы с долговременной памятью, однако они плохо справляются с временнЫми факторами. В живой нервной системе обработка сигналов на уровне отдельных импульсов (спайков) крайне эффективна, а сама информация не объединяется в общие массивы (не агрегируется). Создавать алгоритмы для импульсных нейросетей (Spiking Neural Networks), которыми сейчас активно занимаются исследователи, гораздо сложнее. Алгоритм обратного распространения ошибки (backpropagation) в классических сетях настолько силен и удобен, что ученые просто не уделяют достаточно времени созданию алгоритмов обучения и модификации для импульсных моделей.
Ученые нашли обходной путь. Они берут аналоговые вычисления и смотрят, сколько импульсов (спайков) накапливается в синапсе перед тем, как он сработает. На основе этого количества они высчитывают среднюю частоту сигналов. Если подобрать правильную математическую функцию, этот процесс можно упростить и превратить в обычную частоту. В итоге это позволяет использовать тот же привычный метод для настройки и изменения весов в нейросети.
КА: Вы руководите Центром передовых технологий в области науки о мозге и интеллектуальных систем. Насколько я понимаю, именно вашей идеей было связать его работу с нейробиологией. Как вы думаете, возникнет ли в будущем необходимость создавать более точные биологические модели нервной системы, включая импульсные сети, и будет ли здесь прогресс? Или же колоссальные вычислительные мощности и ресурсы, которые сейчас брошены на развитие обычных нейросетей, затормозят разработку нейроморфных и биологически реалистичных технологий?
МР: Это неизбежно, потому что классические сети сейчас невероятно успешны. Как только вы перестаете беспокоиться о нехватке вычислительной мощности и объемах данных, вы просто добавляете сотни миллиардов новых параметров и связей. Сочетая огромные мощности с этими параметрами, вы увеличиваете сложность и потенциал системы. Имея такие ресурсы, можно вообще ни о чем не переживать. Но это неустойчивый путь. На самом деле, мне кажется, всё сводится к тому, что чем больше вычислений, чем больше данных и чем больше параметров вы получаете, тем мощнее становится модель.
КА: И мы упираемся в стену…
Мумин Пу: В конце концов вы упретесь в стену, потому что нельзя бесконечно добавлять данные, не имея достаточного количества энергии для поддержания системы. Поэтому люди будут вынуждены задуматься о более совершенных алгоритмах и более эффективной архитектуре. Архитектура современных больших языковых моделей слишком проста: даже если взять Трансформер, в нем все равно используется базовая однородная структура связей, преимущественно с прямым распространением сигнала (feed-forward). При этом не учитывается разнообразие нейронов, не берутся в расчет такие вещи, как избирательная связанность или сокращение числа связей.
Главная проблема больших языковых моделей сейчас совершенно очевидна: они просто не умеют запоминать информацию надолго. Механизмы долговременной памяти невозможно внедрить путем простых модификаций архитектуры. Система не способна оценить, должна ли конкретная связь зафиксироваться навсегда или её следует стереть. Нам необходим алгоритм памяти, которая со временем угасает, но при подтверждении важности информации консолидируется и переходит в постоянное хранилище.
Из-за отсутствия такого механизма возникает проблема непрерывного обучения (continuious learning). У моделей нет памяти, способной развиваться во времени. Вы можете общаться с языковой моделью сегодня и завтра, но этот опыт никак ее не изменит — она не сохранит информацию о вас. Завтра она снова воспримет вас как совершенно незнакомого, нового человека, потому что не помнит, что общалась с вами вчера.
КА: Когда вы сказали, что 80% своего времени думаете об ИИ, вы имели в виду именно эти проблемы?
Мумин Пу: Да, именно. Вообще-то я уже много лет размышляю о том, как устроена эффективная архитектура мозга у живых организмов. Но в последние пару лет я был вынужден переключиться на ИИ, потому что большие языковые модели стали невероятно мощными и их уже почти готовы встраиваться в физические системы. А это несет реальную опасность для общества.
Послушайте Илона Маска: он заявляет, что к 2030 году его фабрики выпустят сто миллионов роботов. Но он ни разу не говорил о том, как эти роботы будут взаимодействовать с людьми. Будет ли у них сознание? Будут ли у них мораль и этика? Смогут ли они нормально общаться с людьми в обществе? Есть ли у них эмпатия? Если не заложить все эти аспекты в роботов, общество столкнется с огромной проблемой.
Я не сомневаюсь, что он сможет выпустить миллионы роботов на улицы. Меня волнует другое: кто будет продавать это «железо» и как контролировать робота, когда он выйдет в город? У него должна быть система управления (регулирования). Нам необходимо тестировать роботов — проводить не только тесты на сознание, но и проверять их на эмпатию и этические стандарты.
КА: То есть, здесь вы, как ученый, переводите важные социальные вопросы на язык конкретных задач, которые наука должна изучать и решать?
Мумин Пу: Да, и это идеально совпадает с моими интересами. Я уже много лет изучаю высший интеллект и такие сложные свойства психики, как самосознание. Именно поэтому меня так впечатляет ваша научная программа по сравнительному изучению сознания и вопросы, которые мы обсуждаем на этой конференции.
Мы пришли к этому через изучение животных — у нас уже есть целый набор критериев для проверки разных сторон интеллекта, включая сознание. И теперь нам действительно нужно создать правила управления для роботов с мощнейшим интеллектом. Некоторые утверждают, что скоро появится сильный искусственный интеллект (AGI), который превзойдет человека в мышлении. Но если у него не будет развит социальный интеллект, общество окажется в большой опасности.
Так что, исследования в области сравнительного анализа сознания сейчас имеют важнейшее значение, и общество ждет от нас ответов. Мы должны использовать наш опыт изучения животных (где у нас есть проверенные методы, тесты и инструменты вмешательства) для того, чтобы установить правила контроля над новым поколением роботов.
КА: Нам отчаянно нужны не только тесты — необходимо разработать и конкретные инструменты для контроля.
Мумин Пу: Именно так. Представьте, что мы понимаем, как у животных возникает эмпатия, — ведь у нас есть целый набор инструментов воздействия. В экспериментах с животными мы задаем сценарии, обучаем их, прививаем им более высокий уровень эмпатии, памяти или других аспектов интеллекта. Мы могли бы использовать эти же методы, чтобы контролировать и помогать развивать «правильный» интеллект у создаваемых нами искусственных систем.
На самом деле, мы хотим, чтобы роботы были даже более эмпатичными, чем люди, ведь далеко не все люди обладают эмпатией. Мы должны требовать, чтобы роботы сочетали в себе лучшие качества и были лучше нас. Джеффри Хинтон, ключевой разработчик методов глубокого обучения, очень переживал из-за этого, его главные мысли были заняты тем, как нам контролировать вид, который умнее нас.
КА: И его идея заключалась в том, что мы должны воспитывать ИИ так, «как хорошие родители воспитывают ребенка», который в будущем станет умнее их, прививая ему эмпатию с самого детства…
Мумин Пу: Да, и бывает, что у отца материнский инстинкт развит даже сильнее, чем у матери. Хинтон использовал именно выражение «материнский инстинкт». Если мы поймем биологическую природу формирования этого инстинкта у животных, почему бы нам не обучить этому искусственный интеллект, используя «обучение с подкреплением» (reinforcement learning)? Таким образом, у роботов появится сильный материнский инстинкт, который будет заложен в них навсегда.
КА: Спасибо, что поделились своими мыслями. Меня этот вопрос беспокоит точно так же. Вплоть до того, что иногда я начинаю думать: а стоит ли вообще двигаться в этом направлении? Ведь сам этот прогресс может принести вред, если мы создадим мыслящие, сознательные системы. Если мы не будем четко понимать, как их контролировать, и при этом создадим сознательный ИИ, это может закончиться катастрофой — для всего человечества.
Мумин Пу: На самом деле, мне кажется, что только нейробиологи и исследователи мозга — то есть люди, которые понимают, как устроен разум, — по-настоящему переживают об этом. У нас есть понимание, которого нет у специалистов по ИИ. Разработчики не осознают масштаб социальной угрозы, которую несет сильный искусственный интеллект (AGI), и не говорят об этом. Они сосредоточены исключительно на логике, анализе и когнитивных функциях. Поэтому я считаю, что наш долг — объяснять им эти риски и помогать во всем разобраться. Будем надеяться, что они к нам прислушаются.
Я считаю, что следующие 5 лет станут самым переломным временем для нашего общества из-за стремительного прогресса ИИ и робототехники. Общество просто не знает, что с этим делать. Даже сами создатели этих технологий в растерянности. Пусть существует хотя бы 10-процентная вероятность катастрофы — разработчиков эти 10% не волнуют, но нас-то они волнуют! Поэтому ближайшие 5 лет критически важны.
Самой науке, возможно, придется измениться. Но сейчас большинство ученых, включая нейробиологов, ведут себя так, будто их это не касается. Они говорят: «Это не мое дело, моя задача — публиковать статьи и получать гранты». Это политика страуса — прятать голову в песок, возможно, потому что у них просто нет ресурсов или смелости открыто взглянуть на проблему. Но ведь это касается и студентов: мы их обучаем, они приходят в профессию, выходят в общество, и им тоже придется со всем этим разбираться.
Прежде всего, молодым ученым стоит шире смотреть на главную цель своей карьеры. Фундаментальная наука по-прежнему стремится понять, как рождаются скрытые (эмерджентные) свойства в живых нейронных связях, — и это до сих пор самая важная проблема в биологии. Непосредственная работа над этой задачей станет для главным источником знаний. Но в то же время нужно смотреть и на другие виды, включая «новый вид» — искусственный интеллект, и изучать, как зарождается сознание в нем. Я считаю, что оба этих направления одинаково важны для исследований.
КА: Безусловно, нынешним студентам неизбежно придется столкнуться с этой проблемой. Альтернативы нет — они окажутся в эпицентре этих вызовов. Именно по этой причине я инициировал проект AnyMind. Его первоначальная концепция была сосредоточена на охвате широкого спектра биологических видов, обладающих сознанием. Однако за четыре года эволюции проекта, уже в рамках второй конференции, я сместил акцент на методологию исследования нечеловеческого сознания (non-human consciousness). Это означает, что нам пора признать: существуют иные системы, обладающие потенциалом не только высшей когнитивной деятельности, но и формирования сознания как такового.
Еще 10–15 лет назад я глубоко интересовался искусственными нейронными сетями и утверждал, что нам следует экстраполировать методы и эмпирические знания из нейробиологии на их анализ. В искусственных сетях мы точно так же можем регистрировать активность нейронов и проводить направленные манипуляции с ними. Следовательно, весь инструментарий современной нейробиологии применим для декодирования и понимания принципов работы искусственных систем.
Постепенно я пришел к мысли, что колоссальный рост их эффективности и появление новых скрытых свойств (которые для нас всё еще загадка), скорее всего, помогут нам приблизиться к пониманию самой фундаментальной природы сознания. Как нашего собственного, так и сознания вообще в самых разных системах. Они могут сильно отличаться от нас и не обладать сложной архитектурой, но в них зарождается нечто новое. В то же время это пугает, ведь мы не знаем, что именно там зародится.
В нашем институте работает лаборатория нейронного интеллекта. Там исследуется как раз эта граница между обычным ИИ и импульсными нейросетями. Кроме того, мы сотрудничаем с российской компанией по вопросам больших моделей, чтобы понимать, что в них происходит, и осторожно их контролировать. Это отнимает у меня лично всё больше времени. Думаю, я совершенно осознанно назвал этот проект «Программой сравнительного изучения сознания». Это значит, что речь идет не только о животных, нечеловеческом разуме или младенцах, но и об искусственных системах. Мы обязаны объединить все эти направления, чтобы докопаться до сути.
Еще несколько лет назад исследованием сознания ученые начинали заниматься ближе к пенсии — о нем задумывались на закате карьеры. Но сегодня ситуация кардинально изменилась: изучение сознания стало делом именно для молодых исследователей.
Во-первых, это фундаментальный вопрос нашего бытия: для человека сознание эквивалентно самому существованию, ведь нас нет, если мы не в сознании. Во-вторых, появились реальные экспериментальные инструменты, позволяющие вести полноценную и смелую научную работу. И в-третьих, как мы уже обсуждали, это загадочная и интригующая область на стыке нейробиологии и развития искусственных систем.
Беседу записала Елена Кокурина
Читайте материалы нашего сайта во ВКонтакте, Одноклассниках, Яндекс-Дзен и каналах в Telegram и MAX.
