Согласно проекту будущего свода правил, имеющемуся в распоряжении издания Politico, Европейская Комиссия полностью запретит использование «систем искусственного интеллекта высокого риска» и ограничит на территории блока работу технологий ИИ, которые не соответствуют евростандартам.
Правила станут первым в своём роде документом, регулирующим искусственный интеллект, и ЕС стремится подчеркнуть свой уникальный подход. С одной стороны, Евросоюз «не хочет идти по пути США, оставляя мощные технологические компании наедине с собственными устройствами». С другой, не намерен «идти дорогой Китая, используя технологии для создания государства тотальной слежки за гражданами», комментирует инициативу европейского руководства Politico. Альянс «рассчитывает создать ориентированный на человека подход, который способствует развитию технологий, но вместе с тем не позволяет этим технологиям угрожать тайне личной жизни граждан».
По мнению СМИ, «в Европе будут приветствоваться системы ИИ, которые оптимизируют производство, моделируют изменение климата или делают энергосистему более эффективной». При этом «многие технологии, которые в настоящее время используются в Европе – алгоритмы, применяемые для сканирования резюме, оценки кредитоспособности, выдачи пособий по социальному обеспечению, ответа на заявления о предоставлении убежища/визы или даже для помощи футбольным судьям в принятии решений (VAR) – будут отмечены как высокорисковые и подлежащие дополнительной проверке».
Предполагается запретить такие системы искусственного интеллекта, которые причиняют вред людям (манипулируя их поведением, мнениями или решениями), позволяют пользоваться уязвимостью той или иной личности. Авторы проекта считают, что надо отказаться и от систем массового наблюдения за людьми.
Технология распознавания лиц будет запрещена. Но в исключительных случаях – при борьбе с массовыми беспорядками, расследовании серьёзных преступлений, например, терактов – пользоваться ею будет можно. Однако следует при этом оговорить время действия этого «режима исключения» и границы места, на которое он распространяется.
Предполагается, что правила будут общими и едиными для всех стран ЕС, и вводить какие-то послабления или ужесточения на основе «национальных особенностей» отдельные государства не смогут.
В проекте также предлагается создать Европейский совет по искусственному интеллекту, в состав которого войдут по одному представителю от каждой страны ЕС, органа Евросоюза по защите данных и Европейской комиссии. Совет будет контролировать применение закона и делиться передовым опытом.
Промышленность, вероятно, будет возражать против столь строгих правил, которые могут сделать рынок ЕС менее привлекательным для международных технологических корпораций и побудят новаторов искать приложение своих сил в других местах.
Комиссия представит свой окончательный вариант проекта на обсуждение 21 апреля.
