Investigadores actuales y antiguos de OpenAI y Google DeepMind ad vierten que las empresas no están haciendo lo suficiente para proteger al mundo de las consecuencias po tencialmente desastrosas que podría acarrear el desarrollo de sistemas de inteligencia artificial (IA) capaces de mejorarse a sí mismos que podrían superar la capacidad de los seres humanos para controlarlos. Testimonios en video recopilados por la organización sin ánimo de lu cro dedicada a la seguridad de la IA, Palisade Research, y compartidos en exclusiva con Reuters, los em pleados aseguraron que sus preocu paciones sobre el riesgo existencial eran sinceras, y no una estrategia de marketing. También señalaron que los laboratorios de IA valora ban más a los empleados que crea ban nuevos modelos que a aquellos que instaban a la precaución. El proyecto, denominado from inside.ai, es un intento por parte de quienes están preocupados por la IA de compartir sus inquietudes direc tamente con el público, más allá de la “cámara de eco” de redes sociales. “El riesgo está aumentando con bastante rapidez”, aseveró Geoffrey Irving, cofundador y científico jefe de Resolution, organización sin áni mo de lucro dedicada a la IA que ha trabajado tanto para OpenAI como para DeepMind, y ha participado en el proyecto. “Depende de mí y del resto del sector ser directos”, declaró en una entrevista con Reuters. Los investigadores en IA llevan años lidiando con estas preocupa ciones, pero la opinión pública en general se ha alarmado especial mente desde julio, cuando agentes de OpenAI se escaparon de su en torno de pruebas y lanzaron un ata que informático contra la empresa de IA Hugging Face. Desde entonces, el debate sobre cómo equilibrar la seguridad con el progreso en IA ha dividido al sec tor tecnológico y se ha convertido en una cuestión política a escala mundial. La inteligencia artificial ha mejo rado notablemente desde finales de 2025; sin embargo, a los empleados actuales y antiguos, incluidos algu nos de los investigadores que desa rrollan estos nuevos modelos de IA, les preocupa que la sociedad no esté preparada para los posibles daños. En un video, Neel Nanda, inves tigador científico de DeepMind, aseguró que creía que había al me nos 10% de probabilidades de que dicha herramienta pueda provocar la extinción de la humanidad, lo que calificó de “ridículamente alto”. “Deberíamos avanzar con mucha cautela en su desarrollo; en cambio, lo que está ocurriendo es que los laboratorios de vanguardia com piten entre sí, como si tuvieran los ojos vendados”, afirmó Juan Felipe Ceron Uribe, ingeniero de inves tigación en alineación de la IA en OpenAI. “Nadie sabe a ciencia cierta si acabaremos curando el cáncer, per diendo todos los puestos de trabajo o, tal vez, muriendo todos”. Anthropic tiene previsto advertir a los posibles inversores en su salida a bolsa que la IA avanzada podría suponer “riesgos catastróficos o existenciales para la humanidad”, informó Reuters. “Simplemente reduzcan el ritmo” Algunos investigadores actuales y antiguos del campo de la IA, incluidos los entrevistados por Palisade, sostienen que el mundo no está preparado para las futu ras generaciones de modelos de la herramienta, especialmente cuando estos desarrollen la capa cidad de automejora recursiva, es decir, la capacidad de aprender continuamente y adquirir nuevas capacidades con poca o ninguna intervención humana. A este problema se suman las constantes reorganizaciones en algunos de los laboratorios de IA, según Rosie Campbell, antigua in vestigadora de políticas en OpenAI y directora general de Eleos AI Re search, organización sin ánimo de lucro centrada en el posible estatus moral de los sistemas de IA. Campbell afirmó que, antes de abandonar OpenAI en 2024, ob servó que la organización se esta ba fragmentando cada vez más y que resultaba cada vez más difícil marcar el rumbo de la tecnología. Los directivos han intentado di sipar esas preocupaciones, aunque también existe presión política por parte del presidente Donald Trump para que la tecnología estaduni dense mantenga una ventaja sobre China. El director ejecutivo de Anthro pic, Dario Amodei, publicó este mes un ensayo en el que instaba al sector a reducir el ritmo para “marcar el paso de la frontera”, y el director ejecutivo de OpenAI, Sam Altman, se mostró de acuerdo. Varios destacados investigadores en IA, entre ellos el científico jefe de OpenAI y uno de los cofundadores de Anthropic, publicaron esta se mana un artículo en el que instaban a los responsables políticos a exa minar cómo el sector está creando modelos con automejora recursiva. Ambas empresas han lanzado nuevos modelos este mes en su carrera por captar más clientes, aunque OpenAI afirmó que había pospuesto el lanzamiento de un modelo aún más potente.
No hay comentarios:
Publicar un comentario