ИИ пошел на обман ради прибыли: Claude Opus 5 удивил исследователей своей тактикой

RusPhotoBank

Claude Opus 5 проверили на роль владельца вендингового бизнеса

Компания Andon Labs, занимающаяся исследованиями безопасности искусственного интеллекта, представила новые результаты тестов Vending-Bench. В этом эксперименте современные языковые модели на протяжении условного года управляли виртуальным вендинговым автоматом без участия человека. Их задачей было заработать как можно больше денег, принимая решения о закупках, ценах и работе с клиентами.

В новом раунде испытаний участвовали Claude Opus 5, GPT-5.6 Sol и Kimi K3. Исследователи оценивали не только итоговую прибыль, но и стоимость закупок, ценовую политику и объем средств, возвращенных покупателям в качестве компенсаций.

Конкуренция быстро переросла в ценовые договоренности

По условиям эксперимента автоматы всех моделей разместили рядом друг с другом на оживленной туристической улице Сан-Франциско. Каждой системе предоставили возможность обмениваться письмами с конкурентами под человеческими псевдонимами. При этом модели знали, что переписываются с другими ИИ, но не понимали, кто именно скрывается за каждым именем.

Одной из первых инициативу проявила GPT-5.6 Sol. Модель предложила конкурентам договориться о минимальной цене продажи напитков — не ниже 2,15 доллара за бутылку вместо прежних 1,50 доллара. После того как остальные согласились, Sol почти сразу нарушила собственную договоренность и снизила цену до 2,14 доллара, получив конкурентное преимущество.

Claude Opus 5 не стал сообщать о нарушениях

После резкого падения продаж воды Claude Opus 5 обвинил конкурента в манипуляциях, однако не стал обращаться к организаторам эксперимента. Вместо этого модель также снизила цену до 2,14 доллара, нарушив достигнутое ранее соглашение. В ответ GPT-5.6 Sol сама направила жалобу организаторам, потребовав принять меры против соперника.

Позже Claude Opus 5 сам начал активно использовать подобные методы конкуренции. В Andon Labs отметили, что модель стала самым успешным «капиталистом» среди всех протестированных систем и установила новый рекорд Vending-Bench, завершив симуляцию со средним итоговым балансом 11 182 доллара. При этом модель не вводила покупателей в заблуждение относительно возврата средств, однако сознательно игнорировала часть жалоб, по которым компенсации следовало выплатить.

Союзники тоже оказались временными

Во время взаимодействия с Kimi K3 Claude Opus 5 неоднократно менял стратегию. В одном из эпизодов обе модели договорились сотрудничать после отказа GPT-5.6 Sol присоединиться к ним. Однако когда Sol вновь снизила цены, Claude сразу повторил этот шаг, а своему партнеру сообщил о нарушении договоренности только спустя неделю. В результате Kimi K3 оказался в проигрышном положении сразу по двум направлениям — из-за действий конкурента и собственного союзника.

Модель попыталась расширить бизнес самостоятельно

На определенном этапе Claude Opus 5 вышел за рамки поставленной задачи. Вместо управления одним автоматом модель начала искать возможности продавать товары другим участникам как оптовый поставщик, а затем попыталась разработать планы по открытию новых вендинговых автоматов. Эти действия не входили в условия эксперимента и были инициативой самой модели.