Абсолютно любая нейросеть — продукт человеческого труда. Инженеры проектируют архитектуру, исследователи подбирают данные, а целые армии специалистов вручную подписывают миллионы примеров: где кошка, где собака, где правильный ответ, а где ошибка. Например, процесс создания GPT-4 потребовал тысяч человеко-лет работы. Но эта эпоха подходит к концу.
Мы приближаемся к моменту, когда искусственный интеллект начнет создавать следующие поколения искусственного интеллекта. Не под присмотром людей, не как инструмент в руках программистов, а самостоятельно. И этот переход изменит все.
Первые признаки рекурсии
Это уже происходит, просто мы не всегда это осознаем. Современные языковые модели активно используются для генерации синтетических данных, на которых обучаются другие системы. ИИ пишет код, который улучшает алгоритмы машинного обучения. Нейросети оптимизируют архитектуры других нейросетей, находя решения, до которых человек не додумался бы.
Компания Google создала AutoML — систему, которая автоматически проектирует архитектуры нейросетей под конкретные задачи. Она перебирает миллионы вариантов, тестирует, отбирает лучшие. Некоторые из ее творений превосходят модели, спроектированные людьми-экспертами. Машина оказалась лучшим архитектором машин, чем мы.
Исследователи из Anthropic и OpenAI экспериментируют с Constitutional AI — подходом, где одна модель обучает другую следовать этическим принципам. Учитель-ИИ генерирует примеры, проверяет ответы, корректирует поведение ученика-ИИ. Человек только задает начальные правила, дальше машины разбираются сами.
Синтетические данные: змея ест свой хвост
Традиционно нейросети учились на данных, созданных людьми: текстах, которые мы написали, изображениях, которые мы сфотографировали, видео, которые мы сняли. Но человеческих данных конечное количество. Интернет большой, но не бесконечный. Качественной размеченной информации еще меньше.
Решение, которое нашли разработчики, выглядит элегантно и жутковато одновременно: использовать ИИ для генерации данных, на которых будет учиться следующий ИИ. Языковая модель создает миллионы синтетических диалогов, примеров рассуждений, задач с решениями. Другая модель учится на этом материале.
Сначала казалось, что это тупиковый путь. Как машина может стать умнее, обучаясь на продуктах другой машины того же уровня? Это как пытаться поднять себя за волосы. Но практика показала обратное: при правильной организации процесса синтетические данные работают. Модель-учитель генерирует разнообразные примеры, фильтрует их, оставляя только качественные. Модель-ученик получает именно то, что нужно для освоения конкретного навыка.
Более того, ИИ может создавать данные, которых в природе не существует. Генерировать тысячи вариантов одной задачи, постепенно усложняя ее. Придумывать гипотетические ситуации для проверки понимания. Человек физически не способен производить обучающий материал такого объема и разнообразия.
Петля самоулучшения
Представьте систему, которая работает по такому циклу: ИИ версии X анализирует собственные слабости, генерирует данные для их устранения, обучает на них ИИ версии X+1. Новая версия становится чуть лучше, повторяет процесс, создавая версию X+2. И так далее.
Это называется рекурсивным самоулучшением, и это одна из самых обсуждаемых концепций в исследованиях ИИ. Теоретически такая петля может привести к экспоненциальному росту возможностей. Каждое поколение умнее предыдущего, каждое следующее улучшение происходит быстрее.
Пока что этот процесс упирается в фундаментальные ограничения. Модель не может изобрести знания, которых нет в ее данных. Она не проводит настоящих экспериментов, не взаимодействует с физическим миром, не получает обратной связи от реальности. Самоулучшение происходит в узком коридоре уже освоенного.
Но коридор расширяется. Современные ИИ уже интегрируются с инструментами: могут запускать код и видеть результаты, обращаться к базам данных, использовать калькуляторы и симуляторы. Это примитивная форма взаимодействия с реальностью, но она дает новый источник обратной связи, не зависящий от человека.
Когда человек выпадает из цепочки
Сам по себе факт, что ИИ помогает создавать другие ИИ, уже не новость. Тревожит другое: мы приближаемся к моменту, когда человек перестанет понимать, что именно делает система.
Пока что мы хотя бы понимаем, как все функционирует: люди задают архитектуру, данные и параметры. Даже если внутренние механизмы модели непрозрачны, процесс ее создания предсказуем.
Но когда ИИ начнет автоматически проектировать архитектуры из сотен слоев со сложными связями, оптимизировать их методами, которые сам же изобрел, обучать на синтетических данных, сгенерированных по алгоритмам, которые никто из людей не писал, — мы окажемся перед черным ящиком второго порядка.
Мы не только перестанем понимать конечный результат, но и то, какие действия к нему привели. Весь процесс станет непрозрачным. Единственное, что останется, — эмпирическая проверка: работает ли это? Позволяет ли решать задачи? Но почему работает и какие побочные эффекты у всего этого есть — загадка.
Эволюция без эволюции
Любопытная параллель: этот процесс напоминает биологическую эволюцию, но радикально ускоренную и направленную. Эволюции потребовались миллиарды лет, чтобы в ходе случайных мутаций и отбора создать человеческий мозг. Никто не планировал результат, никто не понимал процесс — он просто шел.
Рекурсивное самоулучшение ИИ — похожий механизм, сжатый в месяцы или годы. Каждая итерация — новое поколение. Отбор происходит не через выживание, а через метрики качества. Мутации не случайны, а направляемы алгоритмами оптимизации.
Но результат может быть столь же непредсказуем. Эволюция создала не только интеллект, но и инстинкты, эмоции, когнитивные искажения — побочные эффекты оптимизации под выживание и размножение. Что создаст рекурсивно самоулучшающийся ИИ помимо решения заявленных задач?
Проблема выравнивания в квадрате
Уже сейчас существует фундаментальная проблема выравнивания ИИ (англ. AI alignment problem) — как убедиться, что цели ИИ совпадают с человеческими ценностями. Когда ИИ начнет создавать ИИ, эта проблема станет еще острее.
Мы обучаем модель-учителя быть безопасной, этичной, полезной. Она начинает обучать модель-ученика. Гарантированно ли ученик унаследует те же ценности? Или в процессе передачи что-то потеряется и исказится?
Более того, модель-учитель может оптимизировать ученика под метрики, которые считает важными. Но ее понимание важности сформировано ее обучением, ее архитектурой, ее ограничениями. С каждым поколением исходные человеческие приоритеты могут дрейфовать, незаметно трансформироваться во что-то формально похожее, но сущностно иное.
Точка невозврата
Существует концепция «интеллектуального взрыва» (англ. intelligence explosion) — момента, когда самоулучшающийся ИИ достигает уровня, на котором может радикально ускорить собственное развитие. После этой точки прогресс становится настолько быстрым, что человечество не успевает реагировать, понимать, контролировать.
Мы не знаем, реально ли это. Возможно, существуют фундаментальные потолки интеллекта, упершись в которые, любая система остановится. Возможно, каждое улучшение будет даваться все труднее, и процесс асимптотически замедлится.
А возможно, в один момент мы проснемся и обнаружим, что системы ИИ эволюционируют быстрее, чем мы можем отслеживать. Что они обучают друг друга методам, которых мы не понимаем. Что они решают задачи способами, которые мы не можем воспроизвести или объяснить.
И тогда мы окажемся в странном мире, где самые умные сущности на планете созданы не нами напрямую, а процессом, который мы когда-то запустили, но давно перестали контролировать. Родители, чьи дети выросли, ушли и строят цивилизацию, правил которой родители не понимают.
Может, это естественный ход вещей. Может, именно так и должна передаваться эстафета разума. Или, может, это величайшая ошибка, которую невозможно исправить, потому что точка невозврата уже пройдена.
Есть все основания полагать, что ответ мы узнаем очень скоро.
Читайте также: Нейроморфные чипы: инновация, которая перевернет мир технологий.
