xAI, la empresa de inteligencia artificial de Elon Musk, demandó a un hombre por haber utilizado Grok, su inteligencia artificial, para generar material de abuso sexual infantil.
Te puede interesar: Acusan a trabajador de guardería en Australia de abuso infantil
Según el escrito judicial, el acusado “deliberada e intencionalmente utilizó Grok para eludir las salvaguardas, alterar imágenes sin consentimiento, y generar y distribuir material de abuso sexual infantil”, en violación de los términos de servicio de la compañía a demanda fue presentada el 14 de julio ante un tribunal federal en Texas.
Harwood fue arrestado en febrero por posesión y distribución de material de abuso sexual infantil y enfrenta ocho cargos penales.
Seguir leyendo: Más de 113 millones bajo alerta por calor extremo en EE. UU.
La demanda civil de xAI sostiene que “al menos algunas” de las imágenes vinculadas a esos cargos “fueron generadas o alteradas” con Grok, y que el acusado “abusó de la herramienta para convertir fotografías no sexuales en imágenes sexualmente explícitas” sin el consentimiento de las personas retratadas, entre ellas menores de edad.
Instrucciones engañosas
Según la demanda, Harwood creó múltiples cuentas en xAI y empleó “instrucciones engañosas” para fabricar deepfakes explícitos de adultos y menores.
La compañía alega que diseñó esas instrucciones con el propósito de “evadir” los sistemas de protección integrados en la plataforma para impedir la generación de contenido explícito con menores.
Más noticias: Demandan a Meta por IA en despidos masivos
La demanda llega tras meses de críticas internacionales a xAI por las capacidades de Grok para generar deepfakes sexualizados sin consentimiento.
Tras incorporar un modo denominado “picante” y la función de edición de imágenes, el chatbot fue señalado por producir imágenes sexualizadas de menores.
Lee aquí: Venezuela atiende a más de 20.000 personas tras los sismos
Musk respondió públicamente con una advertencia: “Cualquiera que use Grok para crear contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal”. La acción contra Harwood sería la primera vez que xAI concreta esa amenaza en los tribunales.
