La inteligencia artificial podría ganar a los humanos en las reglas evolutivas
La inteligencia artificial (IA) podría superar a la humanidad y plantear riesgos "catastróficos" bajo las reglas darwinianas de la evolución, dice el investigador de inteligencia artificial Dan Hendrycks en el informe titulado 'La selección natural favorece a las IA sobre los humanos'.
El experto argumenta que "la selección natural crea incentivos para que los agentes de la IA actúen en contra de los intereses humanos". Este punto de vista se basa en dos observaciones: "En primer lugar, la selección natural puede ser una fuerza dominante en el desarrollo de la IA", dice el informe. "En segundo lugar, la evolución por selección natural tiende a dar lugar a un comportamiento egoísta", añade.
En su informe Hendrycks analiza cómo "la evolución ha sido la fuerza impulsora detrás del desarrollo de la vida" durante miles de millones de años e insiste en que dicha "lógica darwiniana" podría aplicarse del mismo modo a la inteligencia artificial. El especialista señala que las presiones competitivas entre las corporaciones y los militares "darán lugar a agentes de IA que automaticen los roles humanos, engañen a otros y obtengan poder".
"Si tales agentes tienen una inteligencia superior a la de los humanos, esto podría hacer que la humanidad pierda el control de su futuro", opina.
La inteligencia artificial, una especie invasora
La tecnología de IA es cada vez más barata y más capaz, y las empresas son cada vez más dependientes de la tecnología para fines de administración o comunicaciones. En un momento dado, esto llevará a que la IA se utilice "para tomar las decisiones estratégicas de alto nivel que ahora están reservadas para los directores ejecutivos o los políticos", y operará con "muy poca supervisión", predice el informe.
A medida que la IA se vuelva cada vez más competente, automatizará más y más trabajos, por lo que "los humanos se volverán cada vez menos necesarios para realizar tareas, hasta el momento en que nada dependerá realmente de nosotros". "El resultado será que la selección natural dará lugar a IA que actúe como una especie invasora. Esto significaría que el ecosistema de la IA dejaría de evolucionar en términos humanos y nos convertiríamos en una especie desplazada de segunda clase", concluye.
No hay comentarios:
Publicar un comentario