Блокування наготи: Боротьба ЄС за більшу безпеку в Інтернеті

Європейський Союз застосовує серйозні заходи через широке обурення використанням штучного інтелекту (ШІ), що порушує приватність і гідність людей. Незважаючи на введення важливого законодавства для контролю цифрового простору, існуючі інструменти ЄС не справляються з швидко змінюваними викликами, які ставить ШІ, і бездіяльністю технологічних гігантів у питанні регулювання.

Зараз Брюссель розглядає можливість класифікації створення сексуальних дипфейків як заборонену практику в рамках Закону про штучний інтелект після обурення, спричиненого сексуалізованими зображеннями, створеними штучним інтелектом Grok, чат-ботом, інтегрованим у платформу Ілона Маска X.

Обурення через Grok

Компанія Маска xAI після тривалого міжнародного обурення в середині січня запровадила обмеження на сексуально запропоновані зображення, створені штучним інтелектом у Grok. Цей крок був зроблений після критики, що Grok дозволяє користувачам цифрово змінювати одяг жінок на бікіні, а в деяких випадках створювати сексуалізовані зображення неповнолітніх.

Перші зображення, на яких людей "роздягають" без згоди ("нудифікація"), почали циркулювати незабаром після запуску цієї функції, але значно зросли навколо Нового року. За інформацією телеканалу CNN, між 5 і 6 січня лише Grok створив понад 6,700 сексуальних зображень, часто за участю жінок або неповнолітніх.

"Grok тепер пропонує 'пекельний режим', що показує явний сексуальний контент, деякі результати створюються із зображеннями, що виглядають як дитячі. Це не пекельний режим, це незаконно. Це огидно", — заявив представник ЄС з цифрових питань Томас Реньєр під час зустрічі з журналістами.

Європейська комісія, яка виступає в ролі цифрового наглядача ЄС, заявила, що перегляне нові заходи, вжиті платформою X. Вони попередили, що якщо ці кроки виявляться недостатніми, ЄС розгляне використання повного спектра можливостей Закону про цифрові послуги (DSA).

Пропозиція про заборону

Заступник президента Європейської комісії Хенна Вірккюнен зазначила, що комісія розглядає можливість заборонити такі типи сексуальних зображень, створених ШІ, відповідно до Закону про штучний інтелект, класифікуючи їх як неприйнятні ризики.

Вірккюнен також заявила, що DSA зменшує ризик розповсюдження онлайн-матеріалів сексуального характеру без згоди. Вона також повідомила, що комісія надіслала запит інформації до X щодо Grok у рамках розслідування платформою згідно з DSA.

Платформу попросили зберігати всі внутрішні документи та відповідні дані до кінця року. "Ми зараз перевіряємо, чи порушує X будь-яким чином вимоги DSA, і не вагатимемося вжити додаткових заходів, якщо докази вказуватимуть на порушення", — додала вона.

Фінансові санкції та тиск на X

Комісія раніше підвищила тиск на X, наклавши на платформу штраф у розмірі 120 мільйонів євро ($141 мільйон) через порушення вимог прозорості. ЄС наголосив на необхідності дотримання правил, незважаючи на можливий зворотний удар з боку адміністрації США.

"DSA дуже чіткий в Європі. Усі платформи повинні навести порядок у своїх справах, оскільки те, що вони генерують, є неприпустимим, і дотримання законів ЄС — це не варіант, це обов'язок", — зазначив Реньєр під час скандалу на початку січня.

Минулого тижня група з близько 50 європейських законодавців звернулася до комісії з проханням заборонити використання ШІ-додатків для створення оголених зображень в ЄС.

Використання X серед високопосадовців ЄС

Попри критику на адресу X, майже всі високопосадовці ЄС продовжують використовувати платформу замість європейських альтернатив, згідно з дослідженням dpa. Президент Європейської комісії Урсула фон дер Ляєн та інші високопосадовці не мають офіційних акаунтів у Mastodon — альтернативі з Німеччини. Вірккюнен відкрила офіційний акаунт у Mastodon у січні.

Політики високого рангу також активно користуються Bluesky — ще однією платформою США, що наразі набирає популярності.

Комісія виправдовує продовження використання X через його охоплення: Mastodon має близько 750 000 користувачів на місяць, порівняно з 100 мільйонами на X, за даними компаній.

Шлях ЄС до забезпечення безпеки в Інтернеті

Шлях ЄС до захисту неповнолітніх в Інтернеті був довгим і складним через конфлікти між питаннями приватності, бізнесу та захисту. Існує кілька взаємопов'язаних регламентів:

• Chat Control — Комісія в 2022 році запропонувала регулювання, що вимагає від платформ виявляти та повідомляти про зображення та відео з насильством (матеріали про сексуальне насильство над дітьми), а також про спроби хижаків зв'язатися з неповнолітніми.
• Цифровий закон про послуги (DSA) — Закон, що набув чинності в листопаді 2022 року, вимагає від платформ боротьби з незаконним контентом, захисту користувачів і підвищення прозорості. ЄС має можливість накладати штрафи на платформи та вимагати змін в їхній роботі.
• Закон про штучний інтелект — Закон, ухвалений у 2024 році, є першим у світі комплексним правовим актом щодо ШІ, який запроваджує систему регулювання на основі ризиків, гарантуючи безпеку та інноваційність, а також забороняючи деякі неприйнятні практики ШІ, такі як соціальний рейтинг і маніпулятивне використання ШІ, зокрема дипфейки, спрямовані на дітей.
• Заборона соціальних мереж — Франція розглядає можливість заборони соціальних мереж для дітей до 15 років та тестує додаток для перевірки віку, розроблений комісією.

Завдання з впровадження

Зусилля ЄС для забезпечення безпеки громадян в Інтернеті стикаються з низкою викликів у практиці, серед яких труднощі в забезпеченні виконання правил, алгоритмічне посилення шкоди, непослідовна реалізація на національному рівні та дебати про баланс між безпекою та приватністю.

Підписуйтесь на наш Телеграм канал

Підписуйтесь на наш канал і будьте в курсі всіх останніх подій України та Світу

Відкрити канал

Джерела:

• Nudification blocks: The EU's struggle for more safety online