Создать искусственный интеллект — это не просто создать шахматный движок, способный обыграть гроссмейстера. Это значит посмотреть в зеркало на наш собственный интеллект, чтобы лучше понять себя. Исследователи стремятся создать не просто искусственный интеллект, а искусственный общий интеллект, или АИИ, — систему, обладающую адаптивностью и креативностью, как у человека.
Ограничения современных языковых моделей
Большинство языковых моделей приобрели способность решать задачи, о которой большинство исследователей даже не мечтали. Но они по-прежнему совершают глупые ошибки и не способны к свободному обучению: после того, как они обучены на книгах, блогах и других материалах, их запас знаний остаётся неизменным. Они не справляются с тем, что называют «тестом на студента-робота»: вы не можете отправить их в колледж (или даже в детский сад).
Единственное, в чём эти системы однозначно преуспели, — это язык. Они обладают тем, что эксперты называют формальной компетенцией: они могут проанализировать любое предложение, которое вы им дадите, даже если оно фрагментарное или сленговое, и ответить на том, что можно было бы назвать стандартным английским. Но они не справляются с другими аспектами мышления — со всем, что помогает нам справляться с повседневной жизнью.
Как работает человеческий мозг в сравнении с ИИ
В каком-то смысле языковые модели имитируют только языковые способности мозга, без способности к восприятию, запоминанию, навигации, социальным суждениям и так далее. Если, как выразилась Канвишер, наш мозг — это швейцарский армейский нож с множеством функций, то языковые модели — это действительно отличный штопор.
Нейробиологи спорят о том, локализованы ли эти функции мозга в определённых местах или распределены по всему серому веществу, но большинство согласны с тем, что по крайней мере какая-то специализация есть. Разработчики ИИ внедряют такую модульность в свои системы в надежде сделать их умнее.
Концепция глобального рабочего пространства
Одна из провокационных гипотез заключается в том, что сознание — это общее. Согласно этой идее, известной как теория глобального рабочего пространства (GWT), сознание для мозга — это то же самое, что совещание для компании: место, где модули могут обмениваться информацией и обращаться за помощью.
GWT — далеко не единственная теория сознания, но она представляет особый интерес для исследователей ИИ, поскольку предполагает, что сознание является неотъемлемой частью интеллекта высокого уровня. Для выполнения простых или заученных задач мозг может работать на автопилоте, но для выполнения новых или сложных задач, выходящих за рамки одного модуля, нам нужно осознавать, что мы делаем.
Как исследования ИИ помогают понять работу мозга
GWT долгое время был примером того, как нейробиология и исследования в области искусственного интеллекта дополняют друг друга. Эта идея восходит к «Пандемониуму» — системе распознавания изображений, предложенной Оливером Селфриджем в 1950-х годах.
Баарс вдохновил ученого-компьютерщика Стэнли Франклина из Университета Мемфиса на попытку создать сознательный компьютер. Была ли машина Франклина действительно сознательной — скорее нет, но она, по крайней мере, воспроизводила различные причуды человеческой психологии.
Парадоксы сложности и распределения задач в ИИ
Стремление к искусственному интеллекту учит нас тому, что задачи, которые мы считаем простыми, требуют больших вычислительных мощностей, а то, что мы считаем сложным, например, шахматы, на самом деле является простым.
Если система кажется анархистской, то в этом и суть. Она избавляет от начальника, который распределяет задачи между модулями, потому что правильно распределять задачи сложно. В математике делегирование — или распределение обязанностей между разными участниками для достижения оптимальной производительности — относится к категории так называемых NP-сложных задач, решение которых может занимать непомерно много времени.
Механизмы внимания в глобальном рабочем пространстве
В 2021 году Мануэль Блюм и Ленора Блюм, математики и почётные профессора Университета Карнеги-Меллона, разработали детали борьбы за внимание в глобальном рабочем пространстве. Они включили в него механизм, гарантирующий, что модули не будут переоценивать свою уверенность в информации, которую они предоставляют, и не позволят нескольким крикунам захватить власть.
Сознательное внимание — дефицитный ресурс. В рабочей памяти не так много места для информации, поэтому модуль-победитель должен быть очень избирательным в том, что он передаёт другим модулям. Это похоже на недостаток в конструкции. Однако это ограничение позволяет нам фокусироваться на главном и выстраивать когнитивную дисциплину.
Ограничения современных нейросетей
По мнению Йошуа Бенжио, современные искусственные нейронные сети слишком мощны для своего же блага. У них есть миллиарды или триллионы параметров, которых достаточно, чтобы охватить обширные области Интернета, но они, как правило, застревают в деталях и не могут извлечь более важные уроки из того, с чем сталкиваются. Они могли бы работать лучше, если бы их обширные хранилища знаний проходили через узкую воронку, подобно тому, как работает наш сознательный разум.
Бенжио начал работать над внедрением в системы ИИ «узкого места», похожего на сознание, ещё до того, как задумался о GWT. Он и его коллеги создали механизм мягкого внимания, который позволил моделям выделять важные элементы в тексте, не исключая остальные.
Гиперспециализация и межмодальный перевод в нейросетях
Ещё одна сложность при внедрении глобального рабочего пространства — гиперспециализация. Различные модули мозга создают собственные абстракции, адаптированные к обработке определённых данных. Как же они общаются?
Ван Руллен и Канаи предложили, что искусственные нейронные сети могут решать эту проблему аналогично системам языкового перевода. Они могут сопоставлять «облака» слов и концепций в разных языках или модальностях восприятия, позволяя строить межмодальные связи.
Применение глобального рабочего пространства в ИИ
Исследователи изучают модели, подобные Perceiver от Google DeepMind, чтобы объединить текст, изображения, аудио и другие данные в единое общее скрытое пространство. Персонажи в играх, таких как AI People от GoodAI, уже используют GPT не только для диалогов, но и для имитации эмоций и поведения.
Развитие подобных технологий приближает нас к созданию искусственного интеллекта с более глубокой когнитивной архитектурой, способной к саморефлексии и адаптации.
Дискриминационные сети против генеративных моделей
Потенциально новаторский шаг в области искусственного интеллекта был сделан исследователем Янном Лекуном. Хотя он прямо не ссылается на глобальное рабочее пространство в качестве источника вдохновения, он пришел своим собственным путем ко многим из тех же идей, бросая вызов нынешней генеративной модели — “G” в GPT.
«Я выступаю против ряда вещей, которые, к сожалению, на данный момент чрезвычайно популярны в сообществе машинного обучения», — говорит Лекун. «Я говорю людям: откажитесь от генеративных моделей».
Генеративные нейронные сети называются так потому, что они генерируют новый текст и изображения на основе того, с чем они сталкивались. Для этого они должны быть внимательны к деталям. Но интеллект — это, скорее, выборочное игнорирование деталей. Таким образом, Лекун выступает за возвращение к «дискриминационным» нейронным сетям, которые не создают новый контент, а распознают различия между входными данными.
Развитие архитектуры, похожей на мозг
Лекун разработал специальный режим обучения, позволяющий дискриминационной сети извлекать основные характеристики текста, изображений и других данных. Она создаёт абстрактные представления, аналогичные тем, что формируются в человеческом мозге. Например, если система анализирует видео автомобиля, она выделяет его марку, модель, цвет и скорость, игнорируя незначительные детали.
Эти представления сами по себе бесполезны, но они позволяют выполнять ряд когнитивных функций, необходимых для искусственного общего интеллекта (AGI). Лекун интегрирует дискриминационную сеть в более сложную архитектуру, которая включает кратковременную память и механизм координации модулей.
Сознание в искусственном интеллекте: возможна ли эволюция?
Лекун предлагает концепцию, согласно которой сознание — это работа «конфигуратора», который в его модели играет роль, схожую с глобальным рабочим пространством. Вопрос о том, может ли ИИ стать сознательным, остаётся дискуссионным. Некоторые исследователи считают, что сознание связано не только с интеллектом, но и с биологической природой живых существ.
По мнению Деаэна, если системе удастся объединить глобальное рабочее пространство со способностью к самоконтролю, она может обрести сознание. Однако Баарс и другие учёные скептически относятся к этому, полагая, что сознание — это эволюционная функция, свойственная биологическим организмам.
Прогностическая обработка и альтернативные теории
Анил Сет, нейробиолог из Университета Сассекса, предлагает альтернативную теорию сознания — концепцию прогностической обработки. Согласно этой теории, сознание возникает из стремления организма предсказывать, что с ним произойдёт, и адаптироваться к изменениям.
Сет также изучает теорию интегрированной информации, которая связывает сознание не с функциями мозга, а с его сложной сетевой структурой. В этой модели сознание могло бы появиться как побочный продукт высокой степени интеграции информации, а не как прямой результат интеллекта.
Будущее ИИ: уроки из человеческого разума
Современные исследования ИИ подтверждают, что человеческий мозг остаётся наиболее сложной и эффективной моделью интеллекта. «У мозга есть трюки, которые инженерия ещё не освоила», — отмечает Николаус Кригескорте.
Также стало ясно, что интеллект — это не единая способность, а совокупность модулей, выполняющих различные задачи.
По мере развития технологий искусственный интеллект приближается к точке, где он сможет комбинировать различные навыки, создавая решения для задач, с которыми человечество ранее не сталкивалось. Возможно, в будущем ИИ и человек будут вместе исследовать новые горизонты знаний и возможностей.
