Полицейских заменят алгоритмы? Как ИИ меняет работу полиции и почему это тревожит экспертов
ИИ всё глубже внедряется в работу полиции США, вызывая вопросы у экспертов
© A. Krivonosov
Американские правоохранительные органы всё активнее внедряют технологии искусственного интеллекта. На конференции International Association of Chiefs of Police (IACP), прошедшей в Форт-Уэрте (штат Техас), компании представили решения, которые должны автоматизировать многие повседневные задачи сотрудников полиции. Среди них — системы распознавания лиц, беспилотники, программы для составления служебных отчётов и центры анализа данных в режиме реального времени.
Разработчики утверждают, что такие инструменты помогут избавить полицейских от рутинной работы и позволят сосредоточиться на более важных задачах. Однако специалисты напоминают, что даже оформление протоколов или анализ материалов дела напрямую влияют на дальнейшие судебные процессы, поэтому ошибки автоматизированных систем могут иметь серьёзные последствия.
Крупные компании борются за рынок
Сегодня ведущими игроками на рынке полицейских технологий остаются Axon и Motorola Solutions. Они развивают собственные платформы, объединяющие средства видеонаблюдения, базы данных, камеры, программное обеспечение и аналитические комплексы. При этом на рынок активно выходят новые стартапы, рассчитывающие занять свою нишу.
По словам экспертов, между компаниями развернулась настоящая борьба за право стать основной цифровой платформой для американских правоохранительных органов. Интерес к этой сфере проявляют и инвестиционные фонды, рассматривающие технологии для полиции как перспективное направление для вложений.
Данные вместо интуиции
Сторонники новых технологий считают, что искусственный интеллект способен помочь полицейским работать эффективнее благодаря обработке огромных массивов информации. Такие системы анализируют поступающие сведения и помогают быстрее оценивать обстановку.
Однако исследователи, занимающиеся вопросами права и общественного неравенства, напоминают, что полиция уже использовала алгоритмические системы задолго до нынешнего бума генеративного ИИ. По их мнению, тогда подобные инструменты не смогли предотвратить громкие случаи применения силы и не решили проблему доверия общества к правоохранительным органам.
Старые ошибки могут повториться
Особое беспокойство вызывают алгоритмы, обученные на исторических данных о преступности. Эксперты отмечают, что такие модели способны воспроизводить прежние перекосы и ошибки, поскольку используют информацию, уже содержащую существующие предубеждения.
Именно поэтому концепция «предиктивной полиции», активно продвигавшаяся в США в прошлом десятилетии, сегодня практически исчезла из публичной риторики технологических компаний. Специалисты считают этот опыт примером того, как статистические модели могут ошибочно восприниматься как полностью объективные.
Автоматические отчёты вызывают новые вопросы
Отдельной темой стали системы генерации полицейских рапортов с помощью искусственного интеллекта. Журналисты напомнили о случае, когда подобный сервис допустил абсурдную ошибку, фактически превратив полицейского в «лягушку» в автоматически подготовленном документе. Несмотря на курьёзность ситуации, специалисты предупреждают, что подобные ошибки в официальных материалах способны привести к гораздо более серьёзным последствиям.
Кроме того, экспертов беспокоит непрозрачность подобных решений. Если человек составляет отчёт самостоятельно, его можно подробно опросить в суде о причинах тех или иных формулировок. В случае работы генеративного ИИ установить, почему алгоритм сделал определённые выводы, значительно сложнее.
Вопросов пока больше, чем ответов
По мнению специалистов, развитие искусственного интеллекта в правоохранительной сфере происходит быстрее, чем появляются единые правила его использования. На федеральном уровне США до сих пор отсутствует комплексное регулирование подобных технологий, поэтому каждое ведомство фактически самостоятельно определяет порядок их внедрения.
Эксперты предупреждают, что по мере расширения объёмов собираемых данных и роста роли алгоритмов увеличиваются риски для прозрачности работы полиции, защиты персональной информации и доверия общества к правоохранительной системе. При этом сами представители полиции признают, что адаптация к новым технологиям займёт время, а процесс их внедрения ещё долго будет сопровождаться дискуссиями.