El vodevil de la IA

 ill Gates publicó recientemente

una nota en la que

alertaba sobre la situación

de la inteligencia artificial:

“La transición hacia la era de

la IA será uno de los tiempos más turbulentos

en la historia humana: ahora

no nos estamos preparando adecuadamente

para esta transición… No veo

evidencias de que los líderes, expertos

y comunidades estén confrontando los

desafíos de manera adecuada. No hay

plan para facilitar la entrada a la era de

la IA”.

Esta observación se ha convertido ya

en un lugar común. El desarrollo de la

industria mantiene su impulso, se acelera

y tiene fracturas. Se ha generado

incertidumbre sobre las consecuencias

adversas de la tecnología y se han

puesto de relieve sus riesgos sin que

haya aún una perspectiva clara de su

naturaleza y alcance. A ello se suma el

recelo que provocan los personajes que

diseñan e impulsan la IA y de un enorme

poder económico.

Ésta es una industria altamente

dependiente del financiamiento, tanto

para el propio desarrollo de la tecnología,

como para el soporte de infraestructura

que requiere, como es el caso

de los centros de datos. La valuación

de las empresas ha llegado a cifras extraordinarias

en un entorno altamente

especulativo y con repercusiones en el

conjunto del sistema financiero global

en cuanto a la asignación de los recursos

y a la gran acumulación de deuda

que se ha generado.

En su edición del 13 de septiembre, el

diario The Wall Street Journal publicó

un reportaje con una cabeza a propósito

que decía: “Cómo el choque entre

el dinero y la seguridad ha creado una

monumental crisis para la IA”. En medio

hay una ríspida competencia entre

las empresas tecnológicas y en especial

la que mantienen OpenAI y Anthropic,

mientras corren hacia su cotización pública

en el mercado de valores. En tanto

admiten que pueden perder el control

de sus poderosos bots. La brecha de

seguridad ha ocurrido recientemente

también en Alphabet (Google) donde el

reconocido Demis Hassabis ha tomado

el mando como científico en jefe.

Los hechos recientes detrás de esto se

han seguido de cerca desde la denuncia

que hizo el investigador de Anthropic

Jacob Coxon el pasado 9 de septiembre

sobre las graves consecuencias derivadas

de la inseguridad de los modelos de

la IA. Señaló que Anthropic y OpenAI

estaban en una carrera para implementar

la “superinteligencia” sin tener ningún

plan de salida.

Amodei y Altman, cabezas respectivas

de dichas empresas, pidieron

públicamente frenar el desarrollo de la

tecnología, cuestión a la que se sumó

también Musk, hasta contar con mecanismos

adecuados de seguridad. El

primero dijo explícitamente que habría

que establecer una fuerte y obligatoria

regulación gubernamental.

Una referencia interesante en este

sentido es que Alan Turing, pionero de

la informática y la computación, precursor

de la inteligencia artificial, declaró

en la década de 1950: si esa tecnología

se convertía en algo posible, podría tomar

el control. Vaya, que una sorpresa

no es. Amodei es una figura muy controvertida.

Al tiempo que ha creado uno de

los modelos más populares y utilizados

en el mercado de la IA, como es Claude,

y de ser protagonista en ese campo,

es quien advierte de los peligros que

representan dichos modelos. Dos de los

investigadores de su empresa –Coxon y

Hubinger– abrieron la disputa acerca de

tales riesgos, cifrando en 10 por ciento

la posibilidad de que la IA haga desaparecer

a la humanidad. No son los primeros

en decirlo. Geoffrey Hinton, Nobel

de física y padrino de esta tecnología lo

ha sostenido en repetidas ocasiones. Es

realmente absurdo proponer tal cosa.

¿Qué significa 10 por ciento en cuanto

a la posible extinción de los humanos?

Tal debate no debería plantearse así de

plano, ni siquiera al uno por ciento.

Amodei impulsa a todo lo que da el

poder de sus modelos y va de la mano

de Altman. Tienen enfrente a los chinos

cuyos modelos de IA se han descrito como

versátiles, de buen funcionamiento y

de menor precio, lo que representa una

competencia relevante en la industria y

en sus fuentes de financiamiento.

La valuación de ambas empresas de

AI se ha elevado hasta cantidades multimillonarias.

Al mismo tiempo que admiten

riesgos que podrían ser catastróficos.

Primero plantearon que habría que

posponer la salida a bolsa de Anthropic

y Open AI mientras se aclaraba el asunto

de la seguridad, ahora Amodei parece

dispuesto a seguir adelante con su oferta

pública inicial en noviembre próximo,

pues ahora es una empresa privada. Vaya

convicciones las suyas. Las presiones

económicas y financieras son grandes y,

así, la disputa por el poder dentro de la

industria.

Del lado de los inversionistas se

cuestiona si las dos empresas pueden

sostener su extraordinario ritmo de

crecimiento, considerando que hay

una mayor sensibilidad al precio de las

acciones en el sector y, por supuesto,

ante el potencial de la IA de destruir a la

humanidad.

Este es un vodevil. Y, mientras, no

puede perderse de vista el significado

de la IA, sus posibilidades y sus riesgos.

Sobre todo si parece haber un consenso

acerca de lo que significa transitar

hacia la era de la IA, que como ha dicho

Harari, representa un cambio sin precedente,

pues la inteligencia artificial

es un agente independiente que puede

controlar el lenguaje, tomar decisiones

autónomas y manipular el comportamiento

humano.