Una herramienta de inteligencia artificial cometió una identificación errónea que terminó en amenazas de muerte contra una mujer argentina. Flavia Broffoni, politóloga y escritora, fue vinculada por el sistema a un video grabado en Ceuta, España, desencadenando una ola de mensajes amenazantes dirigidos en su contra.

La confusión tecnológica generó que Broffoni recibiera emails y comunicaciones con contenido de alto riesgo, incluyendo amenazas de violación, homicidio y otros ataques de carácter grave. El hecho pone en evidencia los límites y riesgos asociados con los sistemas de reconocimiento de imágenes y análisis automático de contenido.

La situación ilustra una problemática creciente en el uso de inteligencia artificial: los errores en la identificación de personas pueden amplificarse rápidamente a través de internet, generando situaciones de acoso y peligro para quienes son identificados incorrectamente. En este caso, la vinculación falsa entre Broffoni y una activista de Ceuta resultó en consecuencias graves y directas para la escritora argentina.

El caso de Broffoni refleja cómo las herramientas automáticas, pese a su sofisticación, pueden cometer equivocaciones con repercusiones tangibles en la vida de las personas. Las amenazas que recibió no fueron mensajes aislados, sino parte de una «catarata» de contactos malintencionados, según lo reportado.

Este episodio plantea interrogantes sobre la responsabilidad de las plataformas que utilizan inteligencia artificial, la necesidad de sistemas de verificación adicionales antes de difundir identificaciones, y la protección de personas que resultan víctimas de estos errores tecnológicos. La experiencia de Broffoni subraya la importancia de implementar salvaguardas y mecanismos de corrección ante fallos en estos sistemas cada vez más omnipresentes en la identificación automática de individuos.

Con informacion de La Pampa 24