Un agente autónomo (en inglés, autonomous agent) es un sistema informático capaz de tomar decisiones y realizar tareas por sí mismo para cumplir unos objetivos generales fijados por su propietario, sin que este tenga que supervisar cada paso. Lo que lo distingue de un programa informático corriente es que no sigue una secuencia de instrucciones fija: observa su entorno, decide qué hacer a continuación según lo que observa y repite el ciclo hasta alcanzar el objetivo o darse por vencido.
La idea viene de la inteligencia artificial clásica. El manual más usado de la disciplina, el de Stuart Russell y Peter Norvig, define un agente (agent) como cualquier cosa que percibe su entorno mediante sensores y actúa sobre él mediante actuadores, y lo llama racional si elige en cada momento la acción que mejor sirve a su objetivo con la información que tiene. Según esa definición son agentes un termostato, un robot aspirador que decide por dónde pasar, un programa que compra y vende acciones o un personaje de un videojuego. Los autómatas computacionales son su versión más formal y sencilla.
Desde 2023, el término se aplica sobre todo a los sistemas construidos sobre grandes modelos de lenguaje, que reciben una tarea escrita en lenguaje natural y la resuelven usando herramientas (tools): buscan en Internet, leen y escriben ficheros, consultan bases de datos, ejecutan código o manejan un navegador. Un agente de este tipo puede, por ejemplo, recibir el encargo de corregir un error en un programa, leer el código, hacer cambios, ejecutar las pruebas y repetir hasta que pasen. Cada paso lo decide el modelo a la vista del resultado del anterior.
La autonomía es a la vez su utilidad y su riesgo. Un agente que actúa sin supervisión puede equivocarse de forma encadenada, gastar recursos, borrar lo que no debía o interpretar el objetivo de una manera que su propietario no pretendía, el problema que estudia la alineación de la inteligencia artificial. Por eso los sistemas reales limitan lo que el agente puede hacer, piden confirmación antes de las acciones irreversibles y registran cada paso, y por eso medir su fiabilidad exige métodos propios, los de la evaluación de agentes.
Depuración de código (depuración de programas, depuración de software) – El bucle ReAct