ИИ должен защищать от хакеров, но теперь мешает даже специалистам по безопасности

© A. Krivonosov

Компании OpenAI и Anthropic продолжают усиливать защитные механизмы своих моделей, чтобы не допустить их использования для создания вредоносного программного обеспечения и проведения кибератак. Однако представители сообщества специалистов по информационной безопасности считают, что такие меры начинают мешать их повседневой работе.

По словам исследователей, современные языковые модели стали важным инструментом при анализе уязвимостей, аудите безопасности и моделировании действий злоумышленников. Но из-за ужесточения встроенных ограничений получить помощь от ИИ в ряде случаев становится все сложнее.

Проверка защиты становится сложнее

Собеседники издания рассказали, что нередко сталкиваются с отказами моделей выполнять запросы, связанные с анализом эксплойтов, изучением вредоносного кода или тестированием защищенности систем. При этом подобные задачи выполняются в рамках легальных исследований и предназначены для поиска и устранения уязвимостей, а не для проведения атак.

Исследователи отмечают, что модели зачастую не различают законную работу специалистов по кибербезопасности и потенциально опасные действия злоумышленников, поэтому блокируют ответы даже при добросовестном использовании.

Компании делают ставку на безопасность

OpenAI и Anthropic объясняют усиление ограничений стремлением снизить риск злоупотребления своими разработками. По мнению компаний, современные ИИ-модели обладают настолько широкими возможностями, что способны помочь не только защитникам, но и преступникам, поэтому встроенные механизмы безопасности становятся необходимой частью их развития.

При этом представители индустрии признают, что поиск баланса между безопасностью и полезностью остается непростой задачей. С одной стороны, модели не должны помогать создавать инструменты для атак, с другой — они должны оставаться эффективными помощниками для специалистов, которые занимаются защитой цифровой инфраструктуры.

Эксперты предлагают гибкий подход

Некоторые специалисты считают, что проблему можно решить за счет более точной настройки доступа. По их мнению, проверенные исследователи и сотрудники компаний могли бы получать расширенные возможности работы с ИИ при сохранении общего уровня защиты для остальных пользователей.

Пока же, как отмечают эксперты TechCrunch, дискуссия продолжается. Разработчикам предстоит найти компромисс между необходимостью предотвращать злоупотребления и сохранением возможностей для профессионального сообщества, которое использует искусственный интеллект для повышения уровня кибербезопасности.