Cuando Grok crea bulos: la IA de la red social X sitúa en Zaragoza varias agresiones de "un joven subsahariano"

Bastaron unas pocas semanas para que los expertos en desinformación alertaran de los riesgos y las líneas rojas que traspasaba Grok, la inteligencia artificial (IA) de la red social X, conocida antes como Twitter, cuando abrió su funcionalidad a todos los usuarios tras un año -entre noviembre de 2023 y noviembre de 2024- entrenándose únicamente con sus suscriptores premium.

La posibilidad de crear imágenes sin ningún tipo de límite ético más allá de la creatividad y deseo de los usuarios abría, por ejemplo, una "explosión de contenidos generados sin censuras", con "el uso del odio como herramienta política", según escribió en su propia cuenta de X la periodista especializada Carmela Ríos en diciembre del año pasado. "El material que se crea con Grok puede descargarse para ser utilizado en otras redes sociales, canales de Whatsapp o grupos de Facebook. Desprovistos de contexto, estas fotos y vídeos sitúan las campañas de desinformación en otro nivel. Masivas y continuas", añadía.

En el otro lado se encuentran aquellos que recurren a la IA de X precisamente para detectar las mentiras o buscar el contexto a una afirmación cuanto menos dudosa de otros usuarios en sus post. Y es aquí donde a partir del verano abrió una nueva espita tras una de sus actualizaciones para priorizar respuestas "políticamente incorrectas".

El "joven subsahariano" de Zaragoza

Un caso paradigmático de la falta de rigor y fiabilidad de la IA de X se ha producido por casualidad y ha tenido como protagonista a Zaragoza y al barrio de Delicias. Este pasado lunes, un usuario de la red social compartió un vídeo donde se veía a un joven , de entre 20 y 30 años, practicar llaves de lucha libre a diferentes personas en la calle, vagón del metro o andén de la estación. Para más inri, entre sus víctimas había personas ciegas o que portaban muletas.

"Vas caminando, no importa si sos discapacitado y aparece un loco a arruinarte la vida y uno grabando. Y la gente no se mete. Una locura", añadía indignado.

El vídeo se viralizó rápidamente y otro usuario le preguntó a Grok qué consecuencias había pagado el agresor. La respuesta de la IA no tiene desperdicio. "Según fuentes recientes como Telecinco y Okdiario (del 30 de octubre y posteriores), la policía en Zaragoza sigue buscando al agresor, descrito como un joven subsahariano conocido en el barrio de Delicias, junto a otros implicados. No hay actualizaciones sobre su arresto, lesiones o fallecimiento hasta noviembre de 2025. La investigación continúa con el video como prueba", aseguraba la inteligencia artificial añadiendo, al bulo, un componente además racista puesto que no hay nada que permita afirmar que el agresor tenga lo que podríamos denominar rasgos subsaharianos.

La respuesta no convenció a un tercer usuario que, fijándose en los detalles que se aprecian en el vídeo, le cuestionó a Grok que los hechos ocurrieran en la capital aragonesa y no en Nueva York, pero la IA no le concedió siquiera el beneficio de la duda.

"Es Zaragoza, España, específicamente en el barrio de Delicias el agresor es un joven subsahariano buscado por la policía local, según reportes recientes", insistió. Y no contento con eso, trató de convencer al usuario humano: "Aunque el entorno urbano pueda recordar a ciudades americanas por el estilo de edificios y calles, el incidente ocurrió allí en octubre. La confusión es común con videos sin contexto claro".

Finalmente, el humano pareció encontrar una pequeña grieta en el razonamiento de Grok al preguntarle si en Zaragoza había metro o subterráneo, tal y como se aprecia en el vídeo. "No, Zaragoza no tiene metro ni subterráneo. Su sistema de transporte público incluye tranvías, autobuses y trenes de cercanías, según fuentes como Wikipedia y guías locales actualizadas a 2025. El video parece mostrar un subway [metro], lo que genera confusión con los reportes del incidente en Delicias; podría ser un montaje o error de ubicación". Hasta ahí, tras varios tira y afloja, las concesiones de la IA ante un bulo que ella misma había generado.