La IA alucina, pero no imagina

 ace un año, el primer
ministro sueco, Ulf
Kristersson, recibió
contundentes críticas
tras reconocer que
utilizaba “con bastante frecuencia”
herramientas de inteligencia artificial
(IA) a la hora de tomar decisiones.
Las principales críticas, al margen de
la publicidad gratuita ofrecida a algu-
nas plataformas, fueron dos. La pri-
mera tenía que ver con la seguridad.
¿Qué clase de información estaba
compartiendo el dirigente conserva-
dor con una empresa privada como
ChatGPT? En la medida en que la IA
aprende con nuestras propias pre-
guntas, ¿incorporaría la información
de Kristersson en respuestas futuras
a otros usuarios? La segunda tenía
que ver con los errores y los sesgos
asociados a la inteligencia artificial.
No es una máquina neutral ni infali-
ble, hay aspectos en los que falla más
que una escopeta de feria, por lo que
supeditar decisiones gubernamenta-
les a sus respuestas tiene sus peligros.
En agosto de 2025 ignoré cons-
ciente y activamente la polémica. En
parte por una pereza innata hacia
todo lo que tiene que ver con la IA, y
en parte porque las críticas no me pa-
recieron excesivamente trabajadas.
Si EU tuvo pinchado durante años
el teléfono de la canciller alemana
Angela Merkel, y el rey de Marruecos
tuvo acceso, como parece, al del pre-
sidente del gobierno español, Pedro
Sánchez, no creo que las consultas
que un mandatario haga a la IA cons-
tituyan semejante peligro. Y sobre los
errores de la inteligencia artificial, el
trabajo del gobernante es, a menudo,
decidir entre diferentes opciones pre-
sentadas por sus colaboradores. Con
consulta a la IA o sin ella, la decisión
seguía siendo humana, pensé.
Así, de entrada, no me gusta la in-
teligencia artificial. La uso en el tra-
bajo, como si de un buscador avan-
zado se tratara, pero le sigo pidiendo
las cosas “por favor”, lo cual a estas
alturas creo que es más signo de es-
tupidez que de educación. Se me cae
el alma a los pies cada vez que me to-
ca editar un artículo manifiestamen-
te creado con IA; son textos-barbie,
perfectos por fuera, huecos por
dentro. Con lo bonito y útil que es el
error. Sé que ha venido para quedar-
se y que va a cambiar muchas cosas,
algunas de ellas para bien. Hacerle
frente con las armas del ludismo me
parece la mejor forma de comprar
billetes para el fracaso, pero echo de
menos críticas constructivas y com-
prensibles a la irrupción de la IA.
Entre el optimismo ciego y la crítica
a cualquier precio debería haber al-
gún punto medio. Un poco de finura
entre tanta brocha gorda.
La he encontrado, en el ámbito de
las políticas públicas, en un artículo
académico publicado este mes de ju-
lio en la Revista Española de Ciencia
Política. Se llama ‘‘La irrupción de la
inteligencia artificial en la decisión
pública’’ y está firmado por el cate-
drático y ex ministro de Universida-
des Joan Subirats, por Marta Cruells
y por Jaume Blasco.
En el texto, los autores consideran
que la entrada de sistemas avanza-
dos de IA en ámbitos gubernamen-
tales y administrativos está empe-
zando a reorganizar “la naturaleza
misma de la decisión pública”, y no
en la mejor de las direcciones, ya que
puede comprometer la legitimidad
democrática de un sistema y los
derechos de la ciudadanía. ¿Cómo?
Básicamente de dos maneras. Por un
lado, afectando a la evidencia cientí-
fica que sirve para tomar decisiones
políticas, reforzando la engañosa
idea tecnocrática de un gobierno de
expertos –¿qué sería entonces de
la política que tanto nos entretie-
ne?–. Por otro, asumiendo el papel
de decisor en una administración,
por ejemplo a la hora de adjudicar
ayudas o pensiones, un ámbito en el
que el diseño –opaco y con sesgos–
de la IA condiciona el resultado, sin
que los afectados puedan acudir a
alguna ventanilla a protestar. “La
discrecionalidad no desaparece con
la automatización, sino que migra, a
menudo, fuera del alcance de los me-
canismos de control democrático”,
dicen en el artículo.
“La doble presencia de la IA,
como productor de conocimiento y
como apoyo o sustituto del decisor,
multiplica las preguntas democrá-
ticas sobre legitimidad y responsa-
bilidad”, añaden los autores, que no
obstante reconocen que “la IA ofre-
ce también oportunidades reales pa-
ra mejorar la decisión pública”. Pero
subrayan que su incorporación a una
administración “requiere garantías
sustantivamente más robustas que
las disponibles hoy”.
El artículo es de acceso libre para
todo aquel que quiera algo de finura
en la crítica a la IA. A mí me ha ser-
vido para ordenar ideas y confirmar
académicamente algunas prevencio-
nes hacia estos algoritmos predicti-
vos. El principal tiene que ver quizá
con nuestra capacidad de innovar
políticamente, de imaginar y dispu-
tar futuros mejores. Helga Nowotny
ha estudiado esto. La IA aprende
del pasado, por lo que a la hora de
tomar decisiones, siempre parte de
los patrones que han dado forma al
presente, cayendo en una forma de
determinismo políticamente nefas-
to. Nos interesa la política exacta-
mente para lo contrario. La IA, por
lo tanto, tiene respuestas viejas para
preguntas nuevas, cuando a veces,
lo que necesitamos son respuestas
nuevas a preguntas viejas.