«Когда мы сажаем террориста, мы просто обучаем нейросети»: почему выдающийся израильский ученый не верит в свободу воли

Хаим Сомполински еще много лет назад обнаружил, что наш мозг и искусственные нейросети работают на одних и тех же принципах. Это позволило не только развивать искусственный интеллект, но гораздо лучше понять естественный. Профессор Сомполински рассказал «Деталям», как компьютеры и люди познают мир, почему в современной науке нет места свободе воли и как нам всем жить с этим пониманием. А еще дал несколько практических советов по работе с нашими собственными нейросетями в голове.

Искусственные нейронные сети за последние 10 лет перевернули мир, подарив нам ChatGPT, системы распознавания лиц, программы-переводчики, голосовых помощников, дипфейки и множество этических проблем. Но программисты мало интересуются тем, как эти нейросети устроены внутри. Практики воспринимают их как черный ящик: сначала мы этот ящик обучаем, потом даем нечто на входе и получаем нечто иное на выходе. Как именно программа добивается результатов, для них не важно.

Хаим Сомполински из Еврейского и Гарвардского университетов – один из тех, кому важно. И в том числе за это 74-летний профессор получит 30 мая Brain prize – главную в мире награду в сфере нейронауки.

– Ключевой вопрос в этой области: насколько наш интеллект в принципе основан на символах и правилах. Многие уверены, что в мозг как-то интегрирован набор языковых, грамматических, логических законов, и именно они делают возможным всякое сложное мышление и язык. Но для искусственного интеллекта все это оказалось совершенно не обязательным, – объясняет профессор Сомполински. – При этом, наоборот, все системы ИИ, которые пытались построить на базе правил и законов, провалились.

Построенные без жестких алгоритмов, обученные и натренированные компьютерные программы стали 10 лет назад прорывом не только в ИИ, но и в понимании нашего сознания. И оказались важным аргументом в пользу того, что, возможно, и у людей в мозгах никаких заранее заданных правил нет. Стоило принять такой подход, и искусственные нейросети вдруг оказались весьма достоверными моделями для изучения человеческого мышления.

• Читайте также: 
• Израильский профессор получит престижную премию в области нейронауки
• Первый пациент Neuralink с имплантированным в мозг чипом играет в шахматы силой мысли (видео)
• Технион занял первое место в Европе по числу зарегистрированных патентов

– До этого прорыва у нас не было никакой модели, которая могла бы обработать реалистическую картинку и сказать: это собака, а это взрослый человек держит за руку ребенка, – рассказывает профессор Сомполински. – Без этого мы застряли на многие годы, пытаясь понять, как устроена наша система обработки визуальной информации. И вот 10 лет назад искусственные нейросети открыли дорогу для множества научных работ.

Хаим Сомполински и его исследовательская группа тоже занимаются проблемой анализа изображений: они применяют геометрические методы, смотрят, в каких конфигурациях взаимодействуют настоящие или искусственные нейроны, обрабатывая информацию.

– Например, понятие «ножницы», – профессор поднимает ножницы со стола. – Мы измеряем паттерны активности, которые представляют это понятие в искусственных нейросетях, и сравниваем с тем, как «ножницы» геометрически отображаются во взаимодействиях нервных клеток человеческого мозга, когда он видит ножницы.

Это позволило установить два удивительных факта. Во-первых, одни и те же зрительные образы в мозгах разных людей и даже обезьян порождают сходные геометрические конфигурации. Не с точностью до нейрона, но с точностью до групп клеток.  Второй факт еще поразительнее: в искусственных нейросетях происходят взаимодействия аналогичной формы.

– Мы обнаружили, что у самых разных нейросетей для обработки визуальной информации геометрические отражения одних и тех же понятий очень похожи, несмотря на то, что при их создании использовали разную архитектуру, разное количество нейронов и слоев. Это стало большим сюрпризом, – признается профессор Сомполински. – Можете, если хотите, сравнить это с платоновскими идеями. Но идеи Платона – они из другого мира попадают в наш мир. А я далек от мистики.

Не судить за поступки, а конструировать будущее

Но если человеческие мозги и компьютерные нейросети устроены по одному и тому же принципу, то как быть со свободой воли, важнейшим свойством человека? Ответ профессора – в том, что этой свободы нет. И он совсем не такой экстравагантный, как может показаться.

При современных научных представлениях очень сложно отыскать в мозге место для свободной воли. Ведь все, что происходит внутри – непрерывная цепь вполне материальных физических, химических и биологических процессов. Вещество и энергия не возникают и не исчезают баз следа. А значит, физически объяснить момент выбора между тем или иным решением не получается – из одного и же состояния мозга не может быть двух разных следствий.

Хаим Сомполински предлагает просто принять этот факт и отказаться от идеи свободной воли, которую он называет эзотерической. Все это не мешает ему быть верующим иудеем. Одно время он даже учился в йешиве, так что приводит талмудический пример.

– Хочу подчеркнуть, мозг и сознание – это настоящая магия, – убежден он. – В Средние века комментаторы Торы говорили: чудо – это солнце, которое восходит каждый день, это небо, облака и цветы. Кому нужны другие чудеса? Человек может восхищаться магией порядка вселенной. Зачем нужна магия исключений, нерегулярности? Но есть важное различие, которое часто упускают: между объективными физическими процессами, стоящими за нашими мыслями и решениями, с одной стороны, и субъективным мышлением. Оно не должно учитывать эти объективные процессы. Оно должно ориентироваться на наши ценности, представления и цели.

Только вот как в такой ситуации быть с моралью? Если террорист, участвовавший в резне 7 октября, не имел свободы выбора и не мог действовать иначе, как к нему относиться?

– Поскольку все, что происходит в сознании, – это физика, химия и биология, наша манера оценивать людей должна быть принципиально изменена, – уверен профессор Сомполински. – Не важно, насколько человек зол и насколько он заслуживает наказания. Так же, как не важно, насколько героически поступил и насколько заслуживает награды другой. Потому что все на свете – природа. И зло, совершенное людьми, такое же бедствие, как цунами или извержение вулкана. Единственная рациональная причина кого-то наказать или поощрить – конструирование будущего. Взгляд вперед, а не назад.

Так что убийцу из ХАМАСа вполне рационально посадить в тюрьму. И для этого есть, как минимум, две хорошие причины. Во-первых, так он не будет представлять опасности для общества. Второе и более важное – это способ научить людей не быть террористами.

– Мы не наказываем и не поощряем, мы обучаем нейросети в головах людей, – объясняет профессор Сомполински. – Просто нейронаука так продвинулась, что мы теперь понимаем эти процессы.

Со временем, уверен он, придется придумать, как научить, что хорошо и что плохо, и искусственные нейросети. Сейчас все просто, мы даем системам ИИ подробные инструкции. Например, не помогать пользователям в изготовлении оружия.

– Но в не таком уж далеком будущем машины станут самостоятельными агентами. Системы ИИ получат искусственные тела и будут с их помощью помогать нам в самой разной работе. Тут уже не получится прописать все возможные сценарии и придется учить их абстрактным представлениям о целях и ценностях, – рассуждает ученый. – Это будет похоже на обучение ребенка. Вы же не говорите ему или ей: в такой-то ситуации поступай так, а в такой-то этак. Вы приводите примеры каких-то абстрактных принципов и стараетесь на них объяснить: это хорошо, а это плохо.

Дать нейросетям побродить

Из того, что мы за последние 10 лет поняли о работе нейронных сетей, кое-что уже можно применить на практике.

– Например, правильно использовать повторения для стимуляции памяти, – говорит профессор Сомполински. – Или подстегнуть креативность. Зачастую нейросети ищут решения проблем не перебором одного варианта за другими. Они используют генерируемый нейронами внутренний шум, чтобы бродить по пространству возможных решений и искать лучшую точку для старта.

Один из вкладов профессора в науку – открытие механизмов генерации этого хаотичного внутреннего шума за счет чередования возбуждения и торможения нейронов. И этот шум позволяет нам искать решения трудных задач. Свое открытие ученый применяет и в собственной жизни.

– Если я застрял на какой-то проблеме на несколько часов или дней, то стараюсь отставить ее в сторону, пойти погулять, побегать, подумать о чем-то другом. Все, чтобы освободить свои нейросети от одного конкретного пути и дать им побродить в поисках свежего решения, – рассказывает Хаим Сомполински. – Но более системное приложение того, что мы знаем о нейросетях, к учебе и жизни, еще впереди.

Профессор считает, что пока рано говорить, каким станет образование будущего после того, как мы лучше разберемся в устройстве нашего мозг7а.

– Но могу сказать точно, что уменьшение учебной нагрузки – это совершенно неверное направление, – говорит ученый. – Абсолютное преступление – не учить математику. У людей есть возможности думать и использовать математические инструменты, чтобы понимать так много о природе и разрабатывать замечательные технологии для улучшения жизни.

Хаим Сомполински не одобряет и более позднее получение образования, ведь человеческий мозг сохраняет пластичность лишь до 20 с небольшим лет.

– Да, определенные области знания можно изучать и потом. Но для некоторых существует лишь короткое окно, – констатирует он. – Не важно, сколько усилий я приложу, пытаясь научить внуков математике, до определенного возраста это не получится – мозг еще не готов. Так же я вижу студентов, очень способных в биологии или психологии, которые хотят перейти в компьютерную нейронауку и которым она дается с большим трудом, потому что окно уже закрылось.

Все это совсем не отменяет того факта, что учиться лучше всю жизнь.

– Важно подвергать свой мозг испытаниям в любом возрасте. Тут как с мускулами: чем больше упражняешь, тем в лучшей они форме, – объясняет Сомполински. – Мой отец ушел от нас в 100 лет. Но и в 94-95 лет он продолжал учиться, узнавать новое и писать научные статьи по микробиологии. Это вопрос базового здоровья нашего мозга.

В общем, свой выбор профессор сделал и собирается сохранять научную активность до глубокой старости. Если, конечно, допустить, что он в принципе мог сделать тот или иной выбор. Но для этого пришлось бы признать свободу воли.

Никита Аронов, «Детали». На фото: Хаим Сомполинский. Фото предоставлено пресс-службой Еврейского университета. Credit: Kris Snibbe, Harvard∇