Garante остановил генератор «раздевающих» дипфейков
У сервиса не было ни действенной проверки возраста, ни согласия изображённого человека, а водяной знак признан недостаточной мерой. GDPR применили к офшорному оператору по признаку нацеленности на итальянских пользователей.
Что произошло
ClothOff позволяет загрузить фотографию одетого человека и получить с помощью генеративного ИИ реалистичное изображение его обнажённого тела. Оператор AI/Robotics Venture Strategy 3 Ltd. зарегистрирован на Британских Виргинских островах, но сервис был доступен в Италии. Garante установил, что одних запретов в пользовательском соглашении недостаточно: сервис не проверял возраст пользователей, возраст изображённых людей и наличие их согласия.
1 октября 2025 года Garante признал обработку незаконной по статьям 5 и 25 GDPR и немедленно ограничил обработку данных итальянских пользователей до завершения расследования. Регулятор применил GDPR по статье 3(2)(a): компания предлагала сервис людям в ЕС. Слабый watermark со словом Fake также не прошёл проверку — его почти не было видно, а удалить его можно было простым кадрированием.
Предписание действует с момента получения оператором и может быть оспорено в итальянском суде. Оно не является окончательным штрафом: Garante продолжает расследование как ClothOff, так и других приложений для «раздевания» людей.
Почему это важно
- Регулятор оценил не только незаконный контент, но и архитектуру продукта: проверку возраста, подтверждение согласия и маркировку синтетического изображения.
- Офшорная регистрация не исключает GDPR, если сервис целенаправленно предлагается пользователям в ЕС.
- Провайдерам deepfake-сервисов недостаточно переложить ответственность на пользователя в правилах сервиса.
Первоисточники
Такой разбор — раз в неделю, почтой. Одно письмо, чтобы не следить за всем самому. Первый выпуск — к 1 сентября.
Получать