Google vs el Papa

 OCTAVIO ISLAS, 31 de mayo de 2026, Proceso (Resumen)
stamos en los umbrales de la singularidad. No es ciencia ficción,
sino el diagnóstico de quienes hoy encabezan la inteligencia artifi-
cial (IA): un cambio en un plazo sorprendentemente corto.
1. Las advertencias desde Google. – Durante
la conferencia de desarrolladores de Google, Demis
Hassabis, director de DeepMind y Premio Nobel de
Química 2024, afirmó que la Inteligencia Artificial
General (AGI) podría alcanzarse hacia 2029.
En el acto celebrado los días 19 y 20 de mayo en
California, sentenció: el cambio tecnológico no sólo
será profundo, sino extraordinariamente veloz.
2. El contrapunto ético del Vaticano. - Frente al
desbordado entusiasmo por una tecnología a una ve-
locidad “diez veces superior” a la de la Revolución
Industrial, emerge una objeción de fondo. En su
encíclica Magnifica Humanitas (2026), el papa León XIV hace una
pregunta que los algoritmos no pueden responder: ¿construimos una her-
ramienta para ampliar la plenitud humana o nuestra obsolescencia moral?
3. ¿Qué es la AGI? - Según Google, la AGI es capaz de comprender,
aprender y ejecutar cualquier tarea intelectual del ser humano. Aspira a
reproducir con amplitud y flexibilidad las capacidades cognitivas humanas,
y no sólo a resolver tareas específicas:
• Capacidad de generalización: permite transferir conocimientos y
habilidades a otro ámbito, y adaptarse a situaciones nuevas o imprevistas.
• Conocimiento del sentido común: incorpora nociones básicas so-
bre el mundo —hechos, relaciones y normas sociales— que le permiten
razonar y tomar decisiones con mayor contexto.
La AGI exige una colaboración interdisciplinaria entre la informática, la
neurociencia y la psicología cognitiva.
4. La visión de Hassabis: conocimiento, velocidad y disrupción
Hassabis fue categórico: la AGI debe entenderse como un sistema ca-
paz de realizar cualquier tarea cognitiva humana y, sobre todo, de generar
nuevo conocimiento científico de manera autónoma.
Para ilustrarlo, propuso una especie de “test de Einstein”: si a una IA
se le entregara el conocimiento físico disponible en 1911, ¿sería capaz de
deducir por sí sola la Teoría de la Relatividad formulada en 1915?
Ese descubrimiento autónomo sustenta promesas ambiciosas: curar
enfermedades hoy incurables, afrontar la crisis climática mediante nuevos
materiales y optimizar de manera radical el uso de la energía.
“La sociedad tiene pocos años para prepararse”, advirtió. El desafío no
es sólo la potencia de estos sistemas, sino la mejora acelerada en el que
sus propios creadores dejen de comprender plenamente sus procesos.
5. La advertencia del Papa: el desarme del algoritmo. - El Papa no
rechaza la tecnología per se ni desconoce su potencial para el bien, pero
advierte los riesgos del “paradigma tecnocrático”: una lógica que subor-
dina la vida humana a los criterios de eficiencia, control y optimización.
Sostiene que la IA podría ser una herramienta para concentrar poder
en unos pocos, transformando a la persona en objeto de manipulación o
en simple recurso a ser gestionado y
optimizado.
Sobre la “algorética”, subraya que
una IA sin límites éticos no es
verdadero progreso, sino deshumani-
zación sistémica. Advierte sobre dos
costos ocultos: el “trabajo invisible” de
millones en condiciones precarias —
como etiquetadores de datos y mod-
eradores de contenido— y el impacto
ecológico de los centros de datos.
De ahí su afirmación tajante: “No
todo lo que es tecnológicamente posi-
ble es éticamente aceptable”. No pro-
pone prohibir la IA, sino despojarla de
toda capacidad para discriminar, vigi-
lar o erosionar la dignidad humana.
6. La nueva guerra de los mun-
dos. - Las diferencias en Hassabis y
León XIV sintetizan uno de los
grandes dilemas del siglo XXI. Por un
lado, la visión utilitaria: la AGI como el
máximo multiplicador de produc-
tividad, eficiencia y bienestar material.
Y la visión humanista: una amenaza a
la soberanía del espíritu, la justicia so-
cial y la dignidad humana.
Hassabis imagina una era de abun-
dancia. Pero el Papa recuerda que la
inteligencia artificial ha concentrado la
riqueza. Si la AGI llega en 2029,
¿quién controlará ese “Einstein digi-
tal”: una corporación, un Estado o la
humanidad entera?
El riesgo no es sólo técnico, sino
moral y político: que la AGI termine en
una “estructura de pecado” capaz de
tomar decisiones de vida o muerte —
en medicina, en la guerra o en la
economía— guiado por cálculos de
rentabilidad e indiferente a los pobres.
¿Hacia dónde caminamos? - Si
vamos a convivir con inteligencias su-
periores, nuestra defensa es fortalecer
lo que nos hace irreemplazables: com-
pasión, justicia y amor. La AGI podría
pensar como Einstein, pero no sentirá
el dolor del prójimo como un humano.
La verdadera carrera no es ver
quién llega primero a la singularidad,
sino quién llega con su humanidad in-
tacta.