Принято положение ЕС об искусственном интеллекте: что запрещено ИИ?

Положение об искусственном интеллекте (Artificial Intelligence Act) было принято 13 марта 2024 года. Новые правила позволяют создать правовую среду, которая, с одной стороны, как считают авторы закона, обеспечит развитие искусственного интеллекта, а с другой стороны, гарантирует уважение прав человека и минимизирует дискриминацию.

Что именно содержит данный акт, и как регламент об искусственном интеллекте повлияет на повседневную жизнь, читайте в данном материале «Польского консультанта».

Скрыть содержание

• Цель регламента об ИИ
• Основные положения закона
Запрещение распознавания эмоций на работе     Системы биометрической идентификации    
• Когда правила вступят в силу?

Цель регламента об ИИ

«Это важная веха для дел, касающихся искусственного интеллекта. Ставки были высоки — никому еще не удавалось разработать столь всеобъемлющий закон в области искусственного интеллекта. Сегодня это достигнуто, и мы сталкиваемся с новой правовой реальностью», — заявил заместитель министра цифровизации Польши Dariusz Standerski, представляя новый закон.

Новое положение предполагает создание Европейского совета по искусственному интеллекту, а также его национальных подразделений в отдельных государствах-членах. Их задачей будет обеспечение эффективного соблюдения новых правил на национальном уровне.

Реализация Закона об искусственном интеллекте требует создания или выбора учреждений из числа существующих, которые будут осуществлять надзор и регулирование рынка ИИ.

Основные положения закона

Среди основных положений регламента стоит выделить:

• Безопасность искусственного интеллекта общего назначения.
• Введение категорий запрещенных практик в сфере искусственного интеллекта. К ним относятся, среди прочего:
• использование решений, основанных на подсознательных методах или тех, которые дискриминируют определенные группы людей;
• использование систем искусственного интеллекта для так называемой оценке граждан (социальный скоринг) – ИИ запрещено использовать для отслеживания образа жизни граждан, в том числе для манипулирования пользователями и эксплуатации их слабостей.
• Ограничения на использование систем биометрической идентификации для правоохранительных органов. Системы биометрической категоризации используют чувствительные функции и нецелевую загрузку изображений лиц из интернета или записей с камер видеонаблюдения для создания баз данных распознавания лиц.
• Операторам ИИ необходимо будет, среди прочего, выполнять модельные оценки, выявлять и снижать системные риски и сообщать об инцидентах.
• Устанавливается право потребителей подавать жалобы и получать объяснения по существу.
• Обязательства в отношении искусственного интеллекта, основанные на его потенциальных рисках и потенциальных воздействиях.

Это далеко не полный список, но, на наш взгляд, наиболее интересные положения. Некоторые частные случаи для примера рассмотрим более подробно.

Запрещение распознавания эмоций на работе

Крайне странная тема, но на практике действительно встречаются случаи, когда человека увольняли за то, что он «все время с хмурым лицом» или «выражает постоянное недовольство коллегами». Такой анализ с помощью ИИ теперь под запретом. Искусственный интеллект не может ни отслеживать эмоции, ни принимать на этой основе каких-либо решений.

В целом, согласно новым положениям, будут запрещены:

• распознавание эмоций на рабочих местах и ​​в учебных заведениях;
• балльная классификация граждан;
• прогнозирование преступности исключительно на основе профилирования человека или оценки его характеристик.

Искусственный интеллект, манипулирующий поведением людей или эксплуатирующий их слабости, категорически запрещен.

Системы биометрической идентификации

Работа ИИ в этой сфере возможна только в качестве исключения для действий правоохранительных органов. По умолчанию и им запрещено использовать системы биометрической идентификации, однако есть некоторые исключения, которые узко определены в закрытом списке.

Использование исключений возможно лишь в определенное время и в определенном месте. При этом правоохранители должны иметь специальное судебное или административное разрешение на этот счет. С их помощью они смогут найти пропавшего человека или предотвратить теракт.

Существуют также так называемые системы удаленной биометрической идентификации постфактум. Их использование сопряжено с высоким риском и требует разрешения суда, поскольку такие системы используются для поиска преступников.

Когда правила вступят в силу?

Постановление еще предстоит окончательно выверить юристам-лингвистам, после чего оно должно быть одобрено Евросоветом. Регламент вступит в силу через двадцать дней после его публикации, но станет полностью применимым через 24 месяца после вступления в силу.

Исключениями являются:

• запреты на определенные действия (будут применяться через шесть месяцев после вступления постановления в силу);
• кодексы поведения (через девять месяцев после вступления в силу);
• общие правила использования искусственного интеллекта, в том числе касающиеся управления (12 месяцев после вступления в силу);
• обязательства в отношении систем высокого риска (36 месяцев после вступления в силу).

Новое положение предполагает назначение Европейского совета по искусственному интеллекту и выбор национальных органов власти в отдельных государствах-членах. Их задачей будет обеспечение эффективного соблюдения новых правил на национальном уровне.

Желающие ознакомиться с полным текстом, могут сделать это на официальной странице акта.