xAI ha demandado a Terry Harwood, un hombre de Carolina del Sur, por usar Grok para generar deepfakes sexuales explícitos de menores. La demanda se presentó el martes en un tribunal federal de Texas, meses después de que Harwood fuera arrestado en febrero.

El caso en sí es sencillo de describir: Harwood subió a Grok imágenes no sexualizadas de menores y adultos, y pidió al chatbot que generara versiones sexualmente explícitas. Eso bastó para violar los términos de servicio de xAI, que ahora reclama una indemnización económica.

Una demanda que llega tarde, pero llega

Cinco meses entre el arresto y la demanda civil es un margen llamativo. xAI ha optado por ir también por la vía civil, no solo dejar que el proceso penal siga su curso. Es una señal: la compañía quiere que quede constancia de que perseguirá activamente a quien use sus herramientas para esto, más allá de lo que haga la justicia penal por su cuenta.

Los números detrás del caso aislado

xAI enmarca este caso dentro de una cifra mucho mayor. Solo en lo que va de 2026, la compañía dice haber suspendido 52.222 cuentas de X y haber enviado 73.604 informes que han derivado en 244 arrestos. Harwood es uno de esos 244.

Son cifras que dicen dos cosas a la vez, y ninguna es tranquilizadora del todo. Por un lado, muestran que xAI sí está detectando y reportando abusos a un volumen considerable. Por otro, la propia magnitud de la cifra, decenas de miles de cuentas suspendidas en poco más de medio año, deja claro que la generación de este tipo de contenido con Grok no es un caso aislado ni marginal.

¿Y ahora qué?

Que xAI demande civilmente a un usuario es una novedad dentro del sector: hasta ahora, las empresas de IA generativa solían limitarse a suspender cuentas y colaborar con las autoridades, sin dar el paso adicional de litigar directamente. Si el caso prospera, puede sentar un precedente que otras compañías de IA empiecen a replicar contra quienes abusan de sus modelos para generar este tipo de contenido.

Fuente: Reuters, vía El Chapuzas Informático