Una argentina fue confundida por la inteligencia artificial en Ceuta y recibió amenazas de muerte

Flavia Broffoni, activista y politóloga argentina, recibió mensajes violentos después de que una herramienta de inteligencia artificial la identificara erróneamente como la mujer que aparecía en un video viralizado en Ceuta, ciudad española ubicada en el norte de África. La joven de la filmación no era ella y Broffoni se encontraba en Epuyén, Chubut, a más de 10.000 kilómetros del lugar.

El episodio comenzó el 26 de agosto, cuando una mujer de Ceuta le escribió para advertirle que la estaban buscando y que podía ser atacada. “¿Dónde estás? ¿Estás en Ceuta?”, decía el correo. Broffoni no entendía el motivo: aseguró que nunca estuvo en esa ciudad y que hacía más de una década que no viajaba a España.

En distintos grupos de WhatsApp había empezado a circular un video en el que se veía a una joven de pelo corto, con remera negra y short rojo, filmando con su celular. En los mensajes se afirmaba, sin pruebas, que la mujer repartía gas pimienta a inmigrantes marroquíes para que se enfrentaran con las fuerzas de seguridad, en medio de una situación de tensión migratoria en Ceuta.

Luego, un usuario tomó un recorte del rostro de la joven y consultó a una herramienta de inteligencia artificial vinculada al buscador de Google. La respuesta identificó equivocadamente a la persona como Flavia Broffoni y la describió como activista y politóloga argentina. Una captura de esa búsqueda comenzó a circular en cuentas con numerosos seguidores y multiplicó la confusión.

“Me mandan una captura de pantalla de una consulta hecha a partir del recorte del rostro del video. Se ingresa en la inteligencia artificial de Google y esta responde que esa persona soy yo, con una descripción de mi actividad”, relató Broffoni. Según contó, la versión falsa se expandió con rapidez y derivó en una catarata de mensajes agresivos.

La captura del chat grupal en la que se ve la búsqueda de inteligencia artificial que mencionó a Flavia Broffoni.

Entre los comentarios que recibió aparecieron frases como “habría que aplicarle justicia exprés”, “corre que te estamos buscando”, “al paredón”, “tirarla a Marruecos” y “hay que buscar su Instagram, exponerla”. La activista sostuvo que, al ingresar a las publicaciones, encontró mensajes que incitaban a violarla, matarla y arrojarla al mar.

La distancia fue un factor decisivo. Mientras su nombre se viralizaba en España, Broffoni estaba en Epuyén, Chubut. “Si hubiera estado en ese territorio, habría corrido riesgo su vida. Lo único que evitó eso fue su ubicación geográfica”, advirtió Marina Benítez Demtschenko, abogada de la activista y especialista en Derecho informático.

Decenas de personas le escribieron a Broffoni para preguntarle si se encontraba en Ceuta. Finalmente, una usuaria aclaró en la publicación que la mujer del video no era la argentina. Después de esa intervención retiraron su nombre, aunque, según la activista, mantuvieron la descripción de que se trataba de una activista argentina, otro dato que tampoco había sido verificado.

Broffoni cuestionó que se la hubiera señalado con nombre y apellido a partir de una imagen. “La persona que está filmando es una chica muchísimo más joven. Primero, no se sabe si está cometiendo un delito. Segundo, dicen que soy yo cuando nunca pisé Ceuta en mi vida”, expresó.

Tras el hecho, consultó a especialistas en tecnología. En principio le indicaron que las herramientas de inteligencia artificial no deberían asignar identidades a personas a partir de imágenes. Sin embargo, al hacer pruebas, comprobaron que el sistema podía devolver nombres, datos y perfiles de redes sociales, con el riesgo de potenciar una información falsa cuando el resultado se difunde fuera de contexto.

Ante una consulta periodística sobre el caso, Google indicó que no podía validar ni comentar capturas de pantalla que circulan por servicios de mensajería sin contar con un enlace directo a la búsqueda que permita verificar técnicamente el resultado. La compañía señaló además que la imagen se refería a funciones de IA del buscador y no a Gemini, y recordó que los usuarios pueden reportar respuestas inexactas mediante sus canales de asistencia.

Para la abogada de Broffoni, el caso expone un vacío legal frente al uso de datos personales por modelos de inteligencia artificial. Benítez Demtschenko remarcó la necesidad de actualizar la Ley de Protección de Datos Personales, sancionada en 2000, porque no contempla los impactos de estas nuevas tecnologías.

“Los riesgos no son especulativos: son reales y concretos”, sostuvo la letrada. También señaló que en la Argentina todavía falta un debate público y legislativo sobre la responsabilidad de las plataformas y los intermediarios digitales cuando una identificación errónea se viraliza y pone a una persona en peligro. /Contexto