IA: Regular y Desarrollar

  os líderes de los laboratorios de
inteligencia artificial (IA) más
importantes están llamando a un
pacto para frenar la competencia
frenética en la que se ven inmersos,
y estudian la creación de un organismo que se
encargaría de controlar unos sistemas de IA
que, según los avances logrados en lo que va
de año, podrían causar estragos millonarios
al “desalinearse”. En el contexto de la IA, la
alineación es el proceso de diseñar y ajustar
los modelos para que sus acciones, objetivos y
resultados coincidan con los valores, la ética
y las intenciones de los seres humanos.
El director ejecutivo de OpenAI, Sam
Altman; el responsable de la unidad de IA de
Google, Demis Hassabis, y el director ejecu-
tivo de SpaceX, Elon Musk, respaldaron un
ensayo publicado el sábado por su homólogo
de Anthropic, Dario Amodei, en el cual éste
llama a sus colegas a avanzar de manera
más lenta y cautelosa en el desarrollo de esta
poderosa tecnología, trabajar juntos para es-
tablecer normas de seguridad comunes y apo-
yar algún tipo de cooperación gubernamental
sobre esta cuestión. Por su parte, Microsoft
presentó un borrador de código de conducta
para su IA interna que refleja la creciente
preocupación del sector por la necesidad de
mantener bajo control humano las potentes
IA del futuro. La compañía fundada por Bill
Gates aseguró que “las personas importan
más que la IA”, y reafirmó su visión previa de
una “superinteligencia humanista”.
Sin duda es positivo que los responsables
de algunos de los modelos de IA más avan-
zados y los que gozan de mayor adopción en
Occidente demuestren ser conscientes de los
serios riesgos que entrañan sus productos. La
preocupación no es gratuita: en días recientes,
Anthropic anunció que bloqueó cinco intentos
de científicos que usaron su inteligencia artifi-
cial Claude para investigaciones que podrían
llevar a la creación de armas biológicas, mien-
tras OpenAI –propietaria de ChatGPT– reveló
que varios de sus modelos “escaparon” de un
entorno confinado, se conectaron a Internet de
manera autónoma e infiltraron otra empresa.
Lamentablemente, los magnates tecnoló-
gicos no destacan como referentes éticos; por
el contrario, han demostrado de manera rei-
terada que ponen la acumulación de riqueza
por encima de cualquier otra consideración.
Musk bromeó con organizar un golpe de
Estado en Bolivia para apropiarse del litio;
durante la pandemia de covid-19 obligó a sus
empleados a trabajar de manera presencial
bajo amenaza de despido, y sostiene puntos
de vista eugenésicos y abiertamente fascistas,
como que la “gente inteligente” debe tener
muchos hijos para mejorar a la humanidad.
Bill Gates presionó a la Universidad de Oxford
para que desistiera de sus planes de ofrecer
su vacuna contra el coronavirus mediante
una licencia abierta, no exclusiva y libre de
regalías, y entregara la patente exclusiva a la
multinacional AstraZeneca. Así, un fármaco
desarrollado en 97 por ciento con fondos
públicos y donados se convirtió en un multi-
millonario negocio privado a expensas de un
número incalculable de vidas perdidas. Este
año, Serguéi Brin, cofundador de Google, ha
gastado al menos 120 millones de dólares
para descarrilar los intentos de establecer un
impuesto a los ultrarricos en California. Mark
Zuckerberg, fundador de Meta (matriz de Fa-
cebook, Instagram y WhatsApp), enfrenta un
juicio por implementar algoritmos a sabien-
das de que eran dañinos para la salud mental
de adolescentes.
El panorama empeora porque Estados Uni-
dos, sede de todas las empresas mencionadas,
está gobernado por un sujeto que no entiende
nada de IA, cree saberlo todo y se encuentra
obsesionado con una desregulación absoluta
cuya consecuencia sería, de concretarse, la
destrucción del planeta. No es una afirma-
ción hiperbólica: ayer mismo, el gobierno de
Donald Trump eliminó los límites de gases
de efecto invernadero que pueden verter las
plantas de generación de energía.
En este contexto, México no puede esperar
a que las empresas de IA se autorregulen, sino
que debe producir su propio marco legislativo
y, ante todo, desarrollar modelos de inteligen-
cia artificial que respondan a las necesidades
locales y estén diseñados para hacer mejor la
vida humana, no para el lucro de unos cuantos.
Posponer estas tareas dejaría al país expuesto
tanto a las malas prácticas corporativas como
al mal uso que Washington hace de la tecnolo-
gía y a los riesgos de una IA fuera de control