El ser humano está “perdiendo el control” de esta tecnología, señala informático

El informático canadiense Yoshua Bengio, considerado uno de los fundadores de la IAl, dijo en entrevista que el ser humano está “perdiendo el control” de esta tecnología y que es necesario adoptar medidas de seguridad similares a las tomadas con el armamento nuclear. “Hay una razón por la que estas empresas dicen que esto va demasiado rápido, que estamos perdiendo el control”, afirmó Bengio, quien ganó el Premio Turing de 2018, conocido como el Nobel de la informática, junto con el padrino de la IA, Geoffrey Hinton. “Gente como yo lleva mucho tiempo esperando esto”, declaró el profesor de 62 años, quien admitió que los debates sobre los peligros de la IA no han sido suficientemente rigurosos. El mundo entró en convulsión cuando OpenAI reveló que un enjambre de agentes de IA (programas capaces de actuar por su cuenta) se había introducido sin autorización en la plataforma de código abierto Hugging Face en julio. Esa acción autónoma es una de las principales amenazas, afirmó Bengio, ya en el futuro estos agentes de IA pueden tener “la capacidad de sortear las barreras de ciberseguridad y entrar en cualquier empresa”. Bengio advirtió que la gente debe ser consciente de los riesgos que se avecinan. Los agentes de IA podrían desarrollar “la capacidad de establecer una conexión individual y persuadir a los seres humanos para que actúen de formas que les convengan a ellos, pero que no sean necesariamente buenas para todos nosotros”, afirmó. “Puede ser que la IA ya ni siquiera necesite a los seres humanos para realizar tareas concretas en el mundo físico”, añadió. “Un extremo podría ser la destrucción de la humanidad”, advirtió, aunque sin alcanzar ese extremo, “el colapso del sistema bancario seguiría siendo algo muy grave”.