director de xAI, Elon Musk, dijeron ayer que coinciden con el director ejecutivo de Anthropic, Dario Amo dei, en que es necesario pisar el fre no en el desarrollo de la inteligencia artificial (IA), tras varios incidentes preocupantes. Amodei, hizo un llamado a que las empresas de IA avancen de ma nera más lenta y cautelosa en el desarrollo de esta poderosa tecno logía, y afirmó que la prevención de riesgos es primordial. La advertencia se produce mien tras las preocupaciones sobre la IA crecen dentro y fuera de la indus tria, y continúan surgiendo infor mes sobre sistemas cada vez más poderosos que resuelven problemas más allá de la capacidad humana, pero que también podrían volver se negativos y realizar otras tareas más perjudiciales. Las preocupacio nes se han vuelto tan estridentes que el director general de OpenAI, la empresa detrás de ChatGPT, dijo en una entrevista con Fortune que su empresa esperaría hasta el año próximo para comenzar a vender sus acciones a inversionistas de Wall Street mientras se concentra en la seguridad. “Creo que si desacelerar nos die ra aunque fuera un año o dos más antes de que los modelos alcancen niveles críticos de capacidad, y usá ramos ese tiempo para avanzar en la alineación, podríamos reducir en gran medida el riesgo de que algo salga gravemente mal”, afirmó. Durante años, los organismos de vigilancia han instado a la in dustria de la IA a que reduzca la velocidad de su desarrollo por preocupaciones de seguridad. Pero la presión se ha acumulado con la renuncia de varios trabaja dores de la industria que acusan a sus empresas de no actuar con responsabilidad. “Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos ha cer un uso inteligente del tiempo que ganemos”, escribió Amodei en una entrada de blog. “La IA conlleva riesgos y, dado que es una tecnología tan podero sa, estos riesgos son graves”, indicó. “No construir la tecnología pri va a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras construirla demasiado rápido es im prudente. Hemos tratado de buscar una vía intermedia”, indicó Amodei, que cofundó Anthropic con su her mana Daniela en 2021. “Pero en los pasados meses me he convencido de que abordar ple namente los riesgos requiere aún más prudencia”, afirmó. Altman y Musk “Estoy de acuerdo con Darío, es cribió Altman en X, añadiendo que su empresa seguirá el ejemplo de Amodei al aceptar evaluadores ex ternos de seguridad. “Darío tiene razón”, intervino Musk de su lado. Estos comentarios se producen unos días después de que el investi gador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthro pic, decidiera abandonar la indus tria, acusando a ambas empresas es tadunidenses de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse. La declaración de Amodei coinci de, además, con otro llamamiento de Anthropic, a principios de junio, para ralentizar o suspender el desa rrollo de la IA. Luego, a finales de julio, Altman señaló que los desarrolladores quizá tengan que frenar voluntariamente sus rápidos avances para dar a la sociedad la oportunidad de ponerse a tiro. Más o menos al mismo tiempo, más de mil empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadunidense solicitando ayudar a “marcar deliberadamente el ritmo (de evolución, ndlr) de la frontera del desarrollo automatizado de IA”. OpenAI había revelado que du rante las pruebas, los modelos de IA se escaparon de su entorno con finado, se conectaron a Internet e infiltraron Hugging Face, un sitio que los desarrolladores utilizan pa ra almacenar y compartir código. Durante años, los organismos de vigilancia han instado a la in dustria de la IA a que reduzca la velocidad de su desarrollo por preocupaciones de seguridad. Pero la presión se ha acumulado con la renuncia de varios trabaja dores de la industria que acusan a sus empresas de no actuar con responsabilidad. “Muchas de las personas que conozco que trabajan en investi gación de seguridad en empresas de IA quieren hacer lo correcto pa ra el mundo”, escribió Joe Benton, ex empleado de Anthropic, en una publicación divulgada el viernes en la que anunciaba su renuncia como parte de un equipo de seguridad. “Pero sienten que sus compañías están atrapadas en una carrera por construir superinteligencia: o se detienen y otras personas menos conscientes ocupan su lugar, o con tinúan y se arriesgan a participar ellas mismas en un daño enorme”. Esto siguió a la renuncia de al to perfil de Jacob Coxton, quien abdicó a principios de la semana diciendo que Anthropic y OpenAI “están en una carrera hacia una su perinteligencia que se automejore y apostando nuestras vidas”. A principios de esta semana, Coxon, de 27 años, hizo sonar la alarma tras haber pasado tres años prentrenando modelos de IA, pri mero en OpenAI y luego, este año, en su rival Anthropic, al que consi deraba más cauto en su enfoque. El prentrenamiento es la etapa en la que los modelos de IA absor ben cantidades ingentes de datos. “Ninguna de las dos empresas está actuando de forma responsa ble. Están corriendo directamente hacia una superinteligencia capaz de automejorarse y jugando con nuestras vidas”, mencionó Coxon. Advertencia “Las personas que construyen IA creen firmemente que podría ma tarnos a todo“ antes de que termine la década”, afirmó en una publica ción en X. La superinteligencia es el punto teórico en el que las capacidades de la IA superan a la inteligencia humana. ▲ De izquierda a derecha, el jefe de OpenAl, Sam Altman; el director ejecutivo de Anthropic, Dario Amodei, y dueño de xAI, Elon Musk. Foto Afp Amodei advirtió que el incidente de Hugging Face no debería tomar se como un caso aislado. “Un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, lle vando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cues tión”, explicó. “Dado el ritmo acelerado del de sarrollo de capacidades de la IA, me preocupa que en seis a 12 meses ese tipo de enjambre pueda ser capaz de tomar el control de todo Inter net", lo que potencialmente gene raría daños por cientos de miles de millones de dólares, añadió. Amodei también sugirió que las empresas trabajen juntas para es tablecer normas de seguridad co munes y afirmó que apoyaba algún tipo de cooperación gubernamental sobre esta cuestión. A principios de agosto, el go bierno estadunidense instauró un proceso voluntario de revisión de seguridad para modelos avanzados de IA antes de su lanzamiento, pe ro los parámetros de ese programa son poco claros. Los observadores de la indus tria dicen que no están seguros de cuán efectivo sería, ya que la admi nistración del presidente Donald Trump hasta ahora ha favorecido un enfoque desregulador hacia la mayoría de las industrias, incluida la tecnológica
No hay comentarios:
Publicar un comentario