ИИ научится перестраивать себя без людей? Новый стартап Ричарда Сочера уже собрал $650 млн
Recursive Superintelligence привлекла $650 млн на разработку ИИ, который сможет улучшать сам себя
RusPhotoBank
Один из заметных участников AI-индустрии Ричард Сочер запускает новый проект в области искусственного интеллекта. Ранее он основал You.com — ранний стартап, связанный с чат-ботами, а также работал над ImageNet. Теперь его внимание сосредоточено на Recursive Superintelligence — компании из Сан-Франциско, которая вышла из скрытого режима и уже привлекла $650 млн финансирования.
Вместе с Сочером над проектом работают известные исследователи в сфере ИИ, включая Питера Норвига и сооснователя Cresta Тима Ши. Их цель — создать модель, способную к рекурсивному самоулучшению: такой ИИ должен сам находить собственные слабые места и перестраивать себя, чтобы их устранить, без участия человека.
Не просто улучшение, а замкнутый цикл развития
Сочер объясняет подход компании через идею «открытости» — open-endedness. По его словам, Recursive Superintelligence стремится не просто к тому, чтобы ИИ помогал улучшать отдельные системы или задачи. Команда хочет автоматизировать весь цикл исследовательской работы: от появления идей до их реализации и проверки.
Сначала это должно касаться исследований в области ИИ, затем — более широкого круга научных задач, включая физические области. Особенно важным Сочер считает сценарий, при котором искусственный интеллект работает над самим собой и постепенно формирует понимание собственных ограничений.
Почему команда делает ставку на open-endedness
В Recursive Superintelligence считают, что открытые, самоподдерживающиеся процессы могут стать ключом к настоящему рекурсивному самоулучшению. Один из сооснователей компании, Тим Роктэшель, ранее руководил командами Google DeepMind, занимавшимися open-endedness и самоулучшением. В статье упоминается его работа над Genie 3 — моделью мира, способной создавать интерактивные среды по заданной концепции.
Сочер сравнивает этот подход с биологической эволюцией: организмы приспосабливаются к среде, другие виды отвечают на эти изменения, и процесс может продолжаться чрезвычайно долго, порождая всё новые формы развития.
«Радужное тестирование» вместо ручной проверки
Один из примеров такого подхода — rainbow teaming. Если red teaming в контексте LLM означает попытки найти опасные или нежелательные ответы модели, то rainbow teaming расширяет этот принцип. Вместо того чтобы люди вручную придумывали проблемные запросы, одну AI-систему можно заставить проверять другую.
По описанию Сочера, две модели могут многократно взаимодействовать: одна ищет всё новые способы спровоцировать сбой, другая становится устойчивее. За счёт множества направлений атаки и возникла аналогия с «радугой». Такой метод, как утверждает Сочер, уже используется в крупных лабораториях.
Конкуренция с крупными лабораториями — но не только лабораторный формат
Recursive Superintelligence можно было бы отнести к новой волне исследовательских AI-стартапов, которые иногда называют «неолабораториями». Однако Сочер не вполне согласен с таким ярлыком. Он подчеркивает, что компания не хочет оставаться только исследовательской структурой: у неё должны появиться реальные продукты, которыми люди будут пользоваться.
По словам Сочера, команда продвинулась быстрее, чем ожидалось, поэтому сроки запуска первых продуктов могут быть сдвинуты ближе. Он говорит не о годах, а о кварталах.
Вычислительные мощности как главный ресурс
Отдельный вопрос — роль вычислительных ресурсов. В логике рекурсивного самоулучшения, если система действительно сможет развиваться автономно, скорость прогресса начнёт зависеть от того, сколько вычислительной мощности ей доступно.
Сочер считает, что значение compute недооценивать нельзя. В будущем, по его мнению, человечеству придётся решать, какие задачи стоит обеспечивать вычислительными ресурсами в первую очередь — например, борьбу с одной болезнью или с другой. Он описывает это как будущий вопрос распределения ресурсов глобального масштаба.