Европейский Союз достигает временного соглашения по основному содержанию законодательства в области искусственного интеллекта — IT Pro — Новости

Европейский парламент и Совет Европейского Союза достигли временного соглашения о реализации закона об искусственном интеллекте. Это устанавливает ряд правил, которых должны придерживаться активные системы искусственного интеллекта в Европе. Некоторые приложения также полностью заблокированы.

Полное соглашение еще не опубликовано, но оно существует. пресс-релиз Выпущено содержит определенные правила и запрещенные способы использования. Последняя категория включает ИИ, используемый для достижения социальных результатов, и ИИ, «используемый для использования уязвимостей людей из-за их возраста, инвалидности, социального или экономического статуса». Сюда также входят приложения для распознавания эмоций на рабочих местах и ​​в учебных заведениях.

Системы распознавания лиц, которые «используют чувствительные характеристики», такие как политические или религиозные убеждения, происхождение и сексуальная ориентация, также будут запрещены, как и системы, которые «нецеленаправленно» фиксируют лица из Интернета или камер видеонаблюдения для создания баз данных распознавания лиц. . Европейский Союз перечисляет некоторые исключения для систем биометрической идентификации для сотрудников правоохранительных органов, которым разрешено использовать эти системы при «строгих условиях».

Более того, системы, считающиеся «высокорисковыми», должны соответствовать определенным условиям. По мнению Европейского Союза, эти системы потенциально могут нанести «значительный вред здоровью, безопасности, основным правам, окружающей среде, демократии и верховенству закона». Сюда входят, например, системы, которые можно использовать для воздействия на избирателей и результаты выборов. Такие запросы должны, среди прочего, подлежать обязательной оценке воздействия, хотя другие обязательства в пресс-релизе не упоминаются. В нем говорится, что пользователи имеют право подавать жалобы на эти системы и «получать разъяснения по поводу выбора в отношении систем искусственного интеллекта высокого риска, которые влияют на их права».

Наконец, для этой цели также были созданы правила. Общая цель-Модели искусственного интеллекта, такие как GPT-4, и системы, использующие эти модели. Они должны соответствовать требованиям прозрачности в соответствии с Законом об искусственном интеллекте. Например, компании, стоящие за этими моделями, должны предоставлять подробные описания контента, используемого для обучения, гарантировать, что закон об авторском праве не нарушается, делиться «технической документацией» и обеспечивать меры защиты от создания незаконного контента.

Если GPAI, по мнению ЕС, представляет «системный риск», он должен соответствовать более строгим требованиям. Затем необходимо провести модельные оценки, а выявленные системные риски протестировать и смягчить. Кроме того, форма должна быть враждебный Они проходят испытания, должна быть обеспечена кибербезопасность, а производители должны раскрывать информацию о энергопотреблении. В случае «серьезных инцидентов» необходимо проинформировать Европейскую комиссию. Критерии, которым должны соответствовать системы, чтобы считаться «системным риском», не упоминаются.

Если компании, занимающиеся искусственным интеллектом, нарушат одно из правил, им грозит штраф в размере 35 миллионов евро, или максимум 7% от их глобального дохода, но не более 7,5 миллионов евро. Закон об искусственном интеллекте еще должен быть официально одобрен Советом и Парламентом. Ожидается, что это будет сделано до конца года. Закон вступит в силу не ранее 2025 года. Вероятно, это будет первый всеобъемлющий закон об искусственном интеллекте в мире.