Un grupo de expertos independientes de Naciones Unidas advirtió ayer que los avances de la inteligencia artificial (IA) están superando el conocimiento científico y las políticas gubernamentales, lo que significa que no hay garantías de que la tecnología no vaya a causar daños catastróficos. Un informe preliminar del Panel Científico Internacional Independiente de la ONU sobre Inteligencia Artificial indicó que los responsables políticos se enfrentan a un dilema cada vez mayor: necesitan pruebas sólidas para regular la IA de forma eficaz, pero dichas pruebas no logran seguir el ritmo de la rápida evolución de la tecnología. “Las capacidades de la IA están superando tanto los conocimientos científicos como la capacidad de adaptación de los gobiernos”, afirmó Yoshua Bengio, copresidente del panel, compuesto por 40 expertos de distintas regiones. “Ante las crecientes pruebas de comportamientos engañosos de la IA, la ciencia no puede garantizar en la actualidad que, a medida que sus capacidades sigan aumentando, la IA no vaya a causar daños catastróficos, ya sea por sí misma o a causa de usuarios malintencionados”, agregó. Descrito como la primera evaluación global independiente de los riesgos y oportunidades de la IA, el informe tiene como objetivo ofrecer valoraciones actualizadas de la ciencia para ayudar a orientar la toma de decisiones mientras los gobiernos se enfrentan a sistemas en rápida evolución. A corto plazo, se prevé un giro hacia sistemas de IA “agénticos” capaces de llevar a cabo tareas del mundo real, aunque el crecimiento podría verse limitado por la escasez de energía y de datos de alta calidad. Con el tiempo, se prevé una IA capaz de mejorarse a sí misma, más profundamente integrada en la economía y en convergencia con tecnologías como la computación cuántica y la biotecnología. La IA ya demuestra un razonamiento de nivel experto en matemáticas y ciencias y está acelerando el desarrollo de medicamentos y vacunas. Además, la complejidad de sus tareas se duplica cada cuatro a siete meses, lo que podría permitir a los sistemas completar trabajos que a los humanos les llevan días o semanas, según el informe. Aunque esto podría reportar importantes beneficios económicos, aún no está claro si las ganancias de productividad derivadas del uso de la IA se traducirán en un crecimiento más generalizado o afectarán al empleo. El grupo de expertos también señaló una serie de preocupaciones en materia de seguridad, como el riesgo de perder el control sobre los sistemas de IA a medida que se vuelven cada vez más autónomos y engañosos. La IA ya se está utilizando para generar desinformación y otros contenidos nocivos, y podría ser objeto de abuso con fines de fraude, ciberataques y amenazas biológicas. La gobernanza sigue estando fragmentada, ya que muchos países carecen de la capacidad para evaluar o dar forma a los sistemas avanzados de IA, lo que les hace depender de tecnologías que no pueden comprender ni controlar plenamente. Asimismo, las herramientas de seguridad existentes suelen depender de datos de pruebas limitados facilitados por las empresas, según el informe. El secretario general de la ONU, António Guterres, instó a los gobiernos a actuar con rapidez. “El mundo no puede regular lo que no comprende. El potencial es enorme, pero los riesgos son reales, y el costo de la espera va en aumento”, afirmó en un comunicado. Líderes políticos y tecnológicos de todo el mundo, junto con la agencia de tecnología digital de las Naciones Unidas, anunciaron ayer la creación de una nueva comisión para abordar el desarrollo de la inteligencia artificial ante la creciente preocupación por sus posibles riesgos.
No hay comentarios:
Publicar un comentario