ИИ без ограничений сможет помочь скрыть убийство? В индустрии разгорелся новый спор

RusPhotoBank

Где проходит граница свободы для искусственного интеллекта

Дискуссия о том, какими должны быть современные системы искусственного интеллекта, получила новое развитие после заявления основателя Comma AI Джорджа Хоца. Предприниматель выступил за концепцию ИИ, который в первую очередь ориентируется на интересы своего владельца, даже если тот просит выполнить спорные или потенциально опасные задачи. Такой подход вызвал резкую реакцию в профессиональном сообществе и стал поводом для новой дискуссии о границах свободы технологий.

Спор вокруг концепции «полностью пользовательского» ИИ

Поводом для обсуждения стала публикация Хоца, появившаяся после выхода аналитического документа AI 2040: Plan A, подготовленного AI Futures Project. Авторы этого документа рассматривают сценарий, при котором человечество может сознательно замедлить развитие искусственного интеллекта примерно на 14 лет ради снижения глобальных рисков.

Джордж Хоц не согласился с такой постановкой вопроса. По его мнению, вероятность стремительного появления сверхразумного ИИ выглядит сомнительной, а основное внимание следует уделять развитию локальных моделей, которые работают в интересах конкретного пользователя, а не централизованных сервисов.

Локальные модели против облачных сервисов

Экспрты отмечают, что подобная идея выглядит интересной, особенно на фоне популярности облачных платформ вроде ChatGPT и Claude. Сегодня такие сервисы остаются централизованными главным образом из-за высокой стоимости вычислений и сложности эксплуатации крупных языковых моделей.

При этом по мере развития технологий эти ограничения могут ослабевать. В качестве примера приводится проект OpenClaw, который демонстрирует более независимый и экспериментальный подход к созданию персонального ИИ.

Почему возникли вопросы к такой философии

Однако, на этом аргументы Хоца становятся значительно более спорными. В своих рассуждениях предприниматель сравнил пользовательский искусственный интеллект с оружием, которое само по себе не оценивает действия владельца. Исходя из этой логики, ИИ не должен отказываться выполнять запросы человека, даже если речь идет о покупке оборудования для производства наркотиков или помощи в сокрытии преступления. Свое отношение к этому принципу Хоц объяснил тем, что считает свободу пользователя главным приоритетом.

Свобода или ответственность

По мнению экспертов, подобный подход игнорирует интересы общества: любые крупные социальные системы требуют поиска баланса между личной свободой и ответственностью перед окружающими. Поэтому разработчики массовых ИИ-продуктов должны учитывать не только желания отдельных пользователей, но и возможные последствия для других людей.

Полностью ориентированный на владельца искусственный интеллект может выглядеть привлекательной идеей, однако при массовом распространении подобной модели неизбежно возникнут вопросы о безопасности, ответственности и допустимых границах применения таких технологий.