Ciudad de México.- Hace un año, el primer ministro sueco, Ulf Kristersson, fue criticado después de reconocer que utilizaba con frecuencia herramientas de inteligencia artificial para tomar decisiones. Las críticas se centraron en dos cuestiones: la seguridad de la información que compartía con empresas privadas y los errores y sesgos de estos sistemas.
En aquel momento no le di demasiada importancia. Pensaba que consultar a una IA no hacía que una decisión dejara de ser humana. Además, aunque no soy precisamente un entusiasta de la inteligencia artificial, la utilizo en el trabajo y asumo que ha llegado para quedarse.
Sin embargo, sigo echando de menos una crítica más razonable a su expansión. Ni entusiasmo ciego ni rechazo automático: necesitamos algo de matiz.
Un artículo publicado este julio en la Revista Española de Ciencia Política, firmado por Joan Subirats, Marta Cruells y Jaume Blasco, plantea precisamente algunos de esos límites. Los autores advierten de que la IA puede transformar la manera en que toman decisiones las administraciones públicas y afectar a la legitimidad democrática.
El problema aparece especialmente cuando los algoritmos dejan de ser una herramienta de apoyo y empiezan a influir directamente en decisiones como la concesión de ayudas o pensiones. Los sistemas pueden reproducir sesgos, y la persona afectada puede ni siquiera saber por qué ha recibido una decisión determinada o ante quién reclamar.
Pero hay una cuestión todavía más interesante: nuestra capacidad para imaginar futuros diferentes.
La IA aprende del pasado. Analiza datos y patrones existentes para ofrecer predicciones y respuestas. Eso puede hacerla muy eficaz, pero también puede convertir el presente en una especie de destino estadístico. Y la política debería servir precisamente para lo contrario: cuestionar lo que existe, imaginar alternativas y decidir que el futuro no tiene por qué parecerse al pasado.
Por eso quizá el límite más importante de la inteligencia artificial no sea que pueda equivocarse.
Es que la IA puede encontrar respuestas nuevas a partir de lo que ya conoce, pero todavía no sabe imaginar qué futuro queremos construir.
Información de La Jornada
iZN