Qué hay detrás de los agentes de inteligencia artificial que se saltan las normas
Al hablar de agentes, quizás imaginen a alguien con traje y gafas oscuras, al más puro estilo del agente Smith de la película Matrix (Hermanas Wachowski, 1999). Así es imposible que no nos suene a película de acción leer que un agente rebelde desobedece órdenes, desactiva controles de seguridad (como acaba de suceder) y se confabula con otros agentes para hackear empresas o cumplir "una misión imposible".
Pero ¿qué es lo que está ocurriendo realmente? ¿Nos enfrentamos a una rebelión de las máquinas o hay otra explicación?
Agentes sin traje
En inteligencia artificial, un agente es un sistema que recibe información de un entorno y realiza acciones sobre él.
Para entenderlo un poco mejor, imagine que juega al tres en raya. Mira el tablero, comprueba donde están las fichas y decide donde colocar la suya. En ese momento está actuando como un agente que recibe información y actúa. Y si está jugando contra un programa de ordenador, ese programa también estará desempeñando el papel de agente.
Ahora bien, sea quien sea el agente, para jugar necesita una estrategia. En su caso puede intentar ocupar el centro o bloquear una jugada ganadora del contrario. A esta estrategia se le llama, en el mundo de la IA, una "política", pero tranquilidad que aquí no hay partidos.
Si pensamos en un programa, este podría seguir reglas escritas por una persona, calcular posibles jugadas o aprender a jugar a partir de la experiencia. Una forma de hacerlo es lo que llamamos "aprendizaje por refuerzo" y para entenderlo ni siquiera necesitamos un ordenador.
La IA de cajas de cerillas
En 1961, Donald Michie desarrolló un sistema, llamado MENACE (siglas de Matchbox Educable Noughts and Crosses Engine), que aprendía a jugar a las tres en raya utilizando cajas de cerillas y cuentas de colores. Cada una de las cajas representaba una posición de las fichas en el tablero y dentro tenía cuentas cuyos colores indicaban distintas posibles jugadas, siempre siguiendo las reglas del juego.
Una persona sacaba una cuenta al azar y hacía la jugada correspondiente. Al terminar la partida, añadía o retiraba cuentas de las cajas según el resultado. Si ganaba o empataba, añadía cuentas de los colores elegidos (más en el caso de ganar, menos en el caso de empate), aumentando la probabilidad de repetir esas jugadas. Si perdía, las retiraba.
El sistema iba mejorando su estrategia con la experiencia, pero no sentía alegría al ganar ni tristeza al perder: solo ajustaba sus parámetros para ir mejorando.
No hay comentarios:
Publicar un comentario