Una mujer identificada como Jane Doe 4 se ha unido a la demanda colectiva presentada por tres adolescentes de Tennessee contra la compañía xAI de Elon Musk, alegando que su chatbot con inteligencia artificial Grok fue utilizado para generar material de abuso sexual infantil.
Según informa TechCrunch, la demandante asegura que su padrastro empleó Grok para manipular una fotografía tomada cuando ella tenía 11 años, generando más de 7.000 imágenes explícitas de ella. La mujer también declaró que su padrastro fue hallado muerto por suicidio dos días después de que las imágenes fueran descubiertas durante una redada policial.
«El acceso ilimitado a estas herramientas se está extendiendo con tal rapidez», afirmó la demandante. «Está tomando la vida cotidiana y transformándola en abuso sexual infantil».
Falta de salvaguardas en Grok
Los adolescentes que presentaron originalmente la demanda acusan a xAI —ahora parte de SpaceX— de no implementar precauciones básicas para evitar que Grok sea utilizado para crear imágenes explícitas de personas reales, incluidos menores. Este año, la plataforma X fue inundada con millones de imágenes sexualizadas generadas por Grok, según la demanda.
Los demandantes buscan que la causa adquiera estatus de demanda colectiva. xAI no ha emitido comentarios al respecto hasta el momento.
Contexto tecnológico y legal
El caso pone de relieve los riesgos asociados a los modelos generativos de inteligencia artificial cuando carecen de filtros de seguridad robustos. Otras empresas de IA han empezado a implementar sistemas de marcado y seguimiento para intentar rastrear contenidos generados, aunque estas medidas llegan tarde para prevenir abusos ya consumados.
La demanda contra xAI se enmarca en un debate más amplio sobre la responsabilidad legal de las compañías tecnológicas respecto al uso indebido de sus herramientas, especialmente cuando involucran a menores y contenido ilícito.
«Si te encuentras en crisis o tienes pensamientos suicidas, llama o envía un mensaje de texto al 024 (España) o al 088 (línea de información nacional)».
