Закон об искусственном интеллекте в ЕС

Искусственный интеллект уже используется в различных сферах, включая управление камерами, обработку голосовых команд в цифровых услугах и анализ финансовых данных. С 1 августа Европейский Союз начинает поэтапное внедрение первого Закона об искусственном интеллекте, который будет регулировать эти технологии. Вот основные положения нового законодательства, которые следует знать.

Основные положения нового закона

1. Ограничения на использование искусственного интеллекта

   • В ЕС будет запрещено использовать искусственный интеллект для разделения людей по таким критериям, как религиозные или политические взгляды, цвет кожи или сексуальная ориентация.
   • Искусственный интеллект не будет разрешено использовать для создания систем социального кредита, подобных тем, что применяются в Синьцзянском регионе Китая. Эти системы насильно «обучают» граждан соответствовать установленным стандартам поведения и поддерживать политическую лояльность через массовое наблюдение.

2. Ограничения на понимание эмоций

   • Закон запрещает использование искусственного интеллекта для анализа эмоционального состояния людей, включая учеников и сотрудников, в образовательных и трудовых учреждениях.

3. Запрет на манипуляцию желаниями

   • Технологии искусственного интеллекта не будут допускаться для манипуляции желаниями людей или влияния на их предпочтения.

4. Защита личных данных

   • Возраст, инвалидности или финансовое положение граждан не могут быть использованы в ущерб им с помощью искусственного интеллекта.

Правила использования технологий распознавания лиц

1. Полиция и безопасность

   • Полиция и службы безопасности смогут использовать технологии распознавания лиц в общественных местах только по решению суда. В настоящее время такие технологии тестируются на железнодорожном вокзале Зюдкройц в Берлине.

2. Ограничения на использование изображений

   • Использование изображений, полученных с помощью программ распознавания лиц, будет разрешено только для поимки лиц с судимостями или тех, кто разыскивается по подозрению в совершении серьезных преступлений.
   • В случае поиска жертв торговли людьми или сексуального насилия, полиция сможет использовать распознавание лиц для идентификации жертв при их наблюдении вживую.

3. Террористическая угроза

   • Программы искусственного интеллекта и распознавания лиц могут быть применены в ситуациях конкретной и непосредственной террористической угрозы.

Какие приложения относятся к категории «высокого риска»?

Законодательство считает использование искусственного интеллекта правоохранительными органами сферой «высокого риска», если существует вероятность нарушения фундаментальных прав человека. Считается, что такой же высокий риск может возникнуть при использовании технологий ИИ для управления персоналом. Еще одной областью с высоким риском являются системы, которые могут влиять на политические выборы.

В таких случаях контроль за использованием искусственного интеллекта должен осуществляться человеком. Закон требует не только правового регулирования, но и надлежащего управления технической документацией и рисками. Также лица, считающие себя пострадавшими от ИИ, смогут подавать жалобы в соответствующие государственные органы.

Комиссия ЕС создаст Европейское бюро искусственного интеллекта, в котором будут работать эксперты из стран-членов. Этот офис займется этическими вопросами и оценкой устойчивых технологий ИИ в Европе.

Как определяется качество систем?

Новый закон обязывает разработчиков приложений ИИ указывать, что тексты, изображения и видео были созданы с использованием этих технологий. Национальные органы власти, ответственные за платформы социальных сетей, такие как Facebook, Instagram или X, также будут обязаны контролировать их. Однако эксперты считают, что проверка в этой сфере представляет собой значительную трудность.

Как частные лица будут использовать искусственный интеллект?

Согласно информации Комиссии ЕС, частные пользователи исключены из сферы действия Закона об искусственном интеллекте. Таким образом, пользователи социальных сетей смогут продолжать делиться текстами или изображениями, созданными с помощью ИИ, манипулируя и изменяя свои фотографии.

Тем не менее отдельные пользователи по-прежнему обязаны соблюдать правила ЕС. Например, Регламент ЕС о цифровых услугах, вступающий в силу с февраля, обязывает онлайн-платформы немедленно удалять ложную информацию, призывы к ненависти или сообщения, содержащие сексуальное насилие. Эти требования также касаются частных пользователей.