EU AI Act: как новое регулирование искусственного интеллекта изменит бизнес

С 2 февраля 2025 года в Европейском Союзе вступили в силу первые требования EU AI Act (European Union Artificial Intelligence Act/ Закон ЕС об искусственном интеллекте) – одного из ключевого в мире закона, регулирующего применение искусственного интеллекта. Этот нормативный акт вводит строгие правила, направленные на обеспечение безопасности, прозрачности и контролируемости AI-систем. Один из главных принципов гласит:

«Во избежание опасных последствий, контроль над системами искусственного интеллекта должны осуществлять люди, а не автоматизированные системы».

Если ваша компания разрабатывает или использует системы искусственного интеллекта, например, чат-боты или генераторы изображений, вам придётся адаптировать технологии и процессы. Разберёмся, как закон устроен, какие технологии он запрещает и что бизнесу стоит делать уже сейчас.

Как работает EU AI Act?

Закон основывается на подходе, ориентированном на уровень риска. Это означает, что AI-системы классифицируются по степени их потенциальной угрозы для общества. В зависимости от категории, на бизнес накладываются разные обязательства.

Определены четыре уровня риска:

Минимальный риск — такие системы не подлежат регулированию. К ним относятся, например, спам-фильтры, рекомендательные алгоритмы в интернет-магазинах или AI для автоматизации внутренних процессов.

Ограниченный риск — сюда попадают AI-решения, которые могут влиять на пользователей, но при этом не несут серьёзной угрозы. Например, чат-боты клиентской поддержки или генеративные модели, создающие текст или изображения. Их использование требует соблюдения требований прозрачности: компании должны уведомлять пользователей о взаимодействии с AI.

Высокий риск — это AI-системы, работающие в критически важных сферах: здравоохранение, транспорт, финансы, образование, государственное управление. Они подлежат строгому регулированию, включающему обязательную сертификацию перед выходом на рынок и постоянный контроль в течение всего жизненного цикла.

Неприемлемый риск — технологии, представляющие угрозу правам и свободам человека, запрещены полностью.

Какие AI-системы запрещены?

Под запрет в ЕС попадают:

Системы социального рейтингования — любые AI-модели, оценивающие людей по их поведению, социально-экономическому статусу или личностным характеристикам.

AI для манипулирования поведением — например, голосовые помощники в детских игрушках, способные убеждать ребёнка в определённых действиях, которые могут быть опасными.

AI, использующий уязвимости людей — например, алгоритмы, эксплуатирующие слабые стороны определённых возрастных групп или социально незащищённых категорий граждан.

AI для прогнозирования преступлений — модели, которые оценивают вероятность совершения преступления исключительно на основе профиля или внешности человека.

 Системы биометрической идентификации в реальном времени — запрет распространяется на автоматическое распознавание лиц в общественных местах, за исключением случаев, когда это делается для правоохранительных целей (и только с одобрения властей).

AI для анализа эмоций на рабочем месте или в школах — если только он не используется в медицинских или безопасностных целях.

Базы данных распознавания лиц, созданные на основе интернет-изображений — такой подход больше не может применяться для обучения нейросетей без явного согласия людей.

EU AI Act: ответственность бизнеса?

EU AI Act затрагивает всех участников AI-рынка — от разработчиков и поставщиков технологий до компаний, которые внедряют искусственный интеллект в своих продуктах и услугах.

Компании, использующие запрещённые технологии, могут получить штраф до 35 млн евро или 7% от годового оборота – в зависимости от того, какая сумма больше.

Особенно жёсткие требования применяются к разработчикам AI-систем высокого риска – они должны проходить сертификацию перед выпуском на рынок, обеспечивать постоянный мониторинг работы AI и предоставлять органам надзора документацию о функционировании алгоритмов.

Что бизнесу делать сейчас?

Несмотря на то, что основные положения AI-акта вступят в силу в 2026 году, компании должны начать подготовку уже сейчас.

1. Оценить уровень риска своих AI-решений

• Проверьте, подпадают ли ваши технологии под категорию высокого или неприемлемого риска.
• Если ваш AI-алгоритм работает в сфере здравоохранения, финансов или управления персоналом – готовьтесь к строгим требованиям.

2. Обеспечить прозрачность AI-систем

• Если ваш бизнес использует чат-ботов, генеративные модели или AI для автоматизации клиентских процессов, убедитесь, что пользователи информированы об этом.

3. Пересмотреть стратегии работы с данными

• AI-акт накладывает строгие ограничения на сбор и обработку биометрических данных, а также требует соблюдения GDPR и других регламентов ЕС.

4. Следить за развитием законодательства

• В 2025 году ЕС выпустит дополнительные разъясненияпо применению закона. Компании должны быть готовы к новым требованиям и адаптировать свои процессы.

Будущее регулирования AI: угрозы или возможности?

Мнения о влиянии EU AI Act на рынок разделились. Одни эксперты считают, что жёсткое регулирование может замедлить развитие AI-индустрии в Европе, снижая привлекательность ЕС для инновационных стартапов.

С другой стороны, сторонники закона уверены, что прозрачность и безопасность AI дадут бизнесу конкурентное преимущество, особенно на фоне растущего внимания к этике AI в США и Китае.

Что делать прямо сейчас?
Провести аудит AI-решений в компании.
Убедиться, что технологии соответствуют требованиям прозрачности.
Следить за развитием закона и готовиться к новым регуляторным нормам.

Ключевая задача для компаний – найти баланс между инновациями и соблюдением требований. Те, кто подготовится заранее, смогут не только избежать штрафов, но и укрепить свои позиции на европейском рынке.

Если у вас остались вопросы — юридическая компания «Экономические споры» всегда готова помочь вам разобраться в нюансах законодательства, провести консультацию и разработать стратегию защиты бизнеса от возможных рисков!