ЕС может частично запретить использование искусственного интеллекта: какие сферы под угрозой

По мнению экспертов, некоторые пункты документа нуждаются в доработке

Евросоюз может частично запретить использование AI. Фото: pixabay.com

Европейский союз рассматривает возможность о запрете использования искусственного интеллекта для ряда сфер, включая массовое наблюдение и социальные кредитные рейтинги. Об этом сообщает The Verge со ссылкой на издание Politico, которое получило доступ к разработанному документу.

Если проект предложения будет принят, это приведет к тому, что ЕС займет твердую позицию в отношении определенных направлений ИИ. В частности, некоторые варианты использования технологии будут контролироваться аналогично Общему регламенту по защите данных (GDPR).

Государства-члены, например, должны будут создать оценочные комиссии для тестирования и проверки систем искусственного интеллекта с высоким риском. А компании, которые разрабатывают или продают запрещенное в ЕС программное обеспечение, в том числе базирующиеся в других странах мира, могут быть оштрафованы до 4% от общего дохода.

Согласно копии черновика, с которой ознакомился портал The Verge, проект правил включает:

Запрет на ИИ для «неизбирательного наблюдения», включая системы, которые напрямую отслеживают людей в физической среде или собирают данные из других источников.

Запрет на ИИ, которые создают социальные кредитные рейтинги, для оценки чьей-либо благонадежности на основе социального поведения и личностных качеств.

Специальное разрешение на использование «удаленных систем биометрической идентификации», таких как распознавание лиц в общественных местах.

Уведомления о взаимодействии человека с ИИ, если это не «очевидно из обстоятельств и контекста использования».

Надзор за «высокорисковыми» ИИ, которые представляют прямую угрозу безопасности. Речь идет о беспилотных автомобилях, и системах, которые могут повлиять на чьи-то средства существования, например, для найма на работу и судебных решений.

Оценка контролирующими органами систем с высоким уровнем риска до их ввода в эксплуатацию. Обучение таких ИИ должно будет проходить на проверенных «высококачественных» наборах данных.

Создание Европейского совета по искусственному интеллекту, состоящего из представителей всех стран ЕС.

По мнению экспертов, некоторые пункты документа нуждаются в доработке.

«Описания запрещенных систем искусственного интеллекта расплывчаты и содержат нечеткие формулировки, которые могут создать лазейки в их трактовании», — заявил аналитик европейской политики Access Now Дэниел Леуфер.

В частности, он отметил, что раздел о запрете использования ИИ для массовое наблюдение и социальных кредитных рейтингов «далек от идеала».

СПРАВКА PAYSPACE MAGAZINE

Ранее мы писали, что Кабинет министров поддержал разработанную Министерством цифровой трансформации концепцию развития сферы искусственного интеллекта в Украине. По словам главы Минцифры Михаила Федорова, это будет способствовать интеграции инновационных технологий в экономически важные секторы государства.

Источник