xAI подала в суд на собственного пользователя за дипфейки с детьми
xAI обвиняет пользователя в целенаправленном обходе защит Grok для генерации сексуализированных изображений, в том числе несовершеннолетних, и требует убытки и бессрочный запрет пользоваться сервисом; ему же предъявлены восемь уголовных обвинений.
Что произошло
xAI подала гражданский иск против жителя Южной Каролины Терри Харвуда: по версии компании, он целенаправленно обходил защитные механизмы Grok — загружал обычные фотографии взрослых и несовершеннолетних и добивался от модели генерации откровенно сексуальных изображений на их основе. Требования: денежные убытки и бессрочный судебный запрет пользоваться Grok. Ответчик арестован ещё в феврале; в Южной Каролине ему предъявлены восемь тяжких обвинений за материалы сексуальной эксплуатации детей.
Это один из первых исков ИИ-компании против собственного пользователя за то, что тот заставил её же модель генерировать запрещённый контент. xAI сообщила, что за 2026 год приостановила более 52 тысяч аккаунтов и направила более 73 тысяч сообщений в Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC).
Зеркальность ситуации: одновременно сама xAI отвечает на расследования Еврокомиссии (DSA), британского Ofcom (Online Safety Act) и генпрокурора Калифорнии — по той же проблеме генерации Grok недопустимого контента.
Почему это важно
- Новый жанр споров: платформа сама судится с пользователем за злоупотребление моделью — условия использования ИИ-сервиса становятся боевым инструментом.
- Стратегический подтекст: иск к пользователю подан в момент, когда регуляторы спрашивают с самой платформы, — попытка провести границу «виноват тот, кто обошёл защиту».
- Для всех генеративных сервисов: недостаточно банить — придётся показывать регуляторам активное преследование злоупотреблений.
Первоисточники
Такой разбор — раз в неделю, почтой. Одно письмо, чтобы не следить за всем самому. Первый выпуск — к 1 сентября.
Получать