Европейский парламент утвердил первый в мире проект закона об искусственном интеллекте

Распознавание лиц, «дипфейки», ChatGPT... Европейский союз создаёт первую в мире правовую базу для защиты граждан от злоупотреблений искусственным интеллектом (ИИ). На пленарном заседании в Страсбурге в среду, 14 июня, Европейский парламент принял проект «Закона об искусственном интеллекте». Подготовка документа шла два года.

Изображение, генерированное ИИ. Иллюстрация с сайта Европарламента о проекте закона об ИИ. © europarl.europa.eu

Первоначальный проект «Закона об искусственном интеллекте» был представлен Европейской комиссией в апреле 2021 года. Работу над первым в мире документом для защиты прав населения в условиях стремительного развития новейших технологий, координирует еврокомиссар Тьерри Бретон. В интервью телеканалу LCI 5 июня он уточнил, что  комиссия «консультировалась со всеми в течение 18 месяцев: с илонами масками, Соединенными штатами, учеными, Нобелевскими лауреатами...»

На новом этапе утвержденные Европарламентом принципы должны быть доработаны в контакте с юристами и другими экспертами. Тьерри Бретон призвал завершить редакционный процесс в «ближайшие месяцы». Он подчеркнул в среду, что «ИИ поднимает много социальных, этических и экономических вопросов. (...) Речь идет о том, чтобы действовать быстро и ответственно».

VIDÉO - "Il y a des domaines dans lesquels l'IA doit être interdite", estime Thierry Breton sur LCI https://t.co/WXNPmDA4Z7

— TempsInfo (@TempsInfo) June 5, 2023

Известие о принятии проекта закона об ИИ вызвало многочисленные реакции. В соцсетях появились утверждения, что закон лишит Евросоюз должных условий для развития ИИ и обречет его на технологическое отставание. Однако, Европарламент относится к вопросу развития новейших технологий крайне внимательно.

Обеспечить лучшие условия для развития технологий ИИ

В публикации Европарламента о законе ИИ говорится: «В рамках своей цифровой стратегии ЕС хочет регулировать искусственный интеллект (ИИ), чтобы обеспечить лучшие условия для разработки и использования этой инновационной технологии. ИИ может принести много преимуществ, таких как лучшее здравоохранение, более безопасный и чистый транспорт, более эффективное производство, а также более дешевая и устойчивая энергетика».

Европарламент определил принципы, которые гарантируют благоприятный для общества контекст развития ИИ. Системы искусственного интеллекта, используемые в ЕС, должны быть «безопасными, прозрачными, отслеживаемыми, недискриминационными и экологически безопасными». И особенно подчеркивается: «Во избежание неблагоприятных последствий системы ИИ должны контролироваться людьми, а не автоматическими системами».

Классификация систем — три уровня «риска»

Европарламент предлагает классифицировать системы искусственного интеллекта по уровню их потенциальной «опасности» для граждан: неприемлемый риск, высокий риск, ограниченный риск.

Например, к категории неприемлемо опасных причислены дистанционные биометрические системы распознавания лиц в реальном времени, либо классификация людей на основе сбора оцифрованных данных об их поведении (примеряется сегодня в Китае — прим.ред.). Такая практика будет запрещена. Исключением станет анализ данных дистанционного биометрического наблюдения постфактум в отношении совершивших тяжкие преступления и при условии наличия следственного мандата. Закон запретит также «подсознательные манипуляции» (например, ультразвуковое воздействие), которые могут вызывать опасные для человека физические или психологические состояния

Риск высокого уровня может представлять применение ИИ в чувствительных областях, таких как управление и эксплуатация критически важных инфраструктур, образование и т. д. Предусмотренный для этих случаев депутатами «принцип прозрачности» должен гарантировать, что граждане будут уведомляться о том, что имеют дело с ИИ.

Для областей, представляющих минимальный риск, в частности при использовании систем с ИИ в повседневной жизни, текст не предусматривает «никаких конкретных рамок». К этой категории относится подключенная бытовая аппаратура, такие как стиральные машины, холодильники, а также подключенные часы.

ChatGPT и т. д. и т. п.

Проект закона уделяет особое внимание так называемым «контент-генерирующим» ИИ. Системы, подобные ChatGPT или Midjourney, должны давать два уровня информации человеку: информировать пользователя, что он контактирует с машиной и указывать, что контент (изображение, звук, текст) был создан ИИ. Законодатели хотят обязать фирмы-разработчики исключить риск создания контента, запрещенного законом. Их обяжут также публиковать данные о защищенных авторскими правами материалах (научных или литературных текстов, музыки, фотографий и т. д.), которые были использованы программами для создания нового контента.

Еврокомиссар Тьерри Бретон сообщил, что «Закон об искусственном интеллекте» вступит в силу к середине второго полугодия (в третьем триместре).