El Banco de Inglaterra ha advertido que los agentes de IA capaces de tomar decisiones y realizar transacciones de forma independiente pronto podrían operar en todo el sistema financiero, y ha añadido que depender de la supervisión humana podría dejar de ser realista.
La vicegobernadora del Banco de Inglaterra, Sarah Breeden, hizo esta advertencia el martes en el foro anual del Banco Central Europeo en Sintra, en un momento en que los principales desarrolladores están pasando de los chatbots de IA generativa a los sistemas basados en agentes.
A diferencia de las herramientas de IA generativa como ChatGPT, Gemini y Claude, que generan texto, imágenes y código en respuesta a indicaciones, la IA agente está diseñada para completar tareas de varios pasos con una intervención humana limitada.
En lugar de limitarse a recomendar una inversión o sugerir una compra, un agente de IA podría ejecutar operaciones, realizar pagos, comprar bienes y reservar servicios sin necesidad de aprobación humana para cada acción.
Breeden afirmó que es probable que el sistema financiero “evolucione hacia uno que opere de forma más autónoma, a mayor escala y con mayor rapidez”.
A medida que los agentes de IA se vuelven más capaces, “depender de un ser humano para todas las acciones del agente difícilmente será realista”, dijo, argumentando que los marcos regulatorios actuales “no fueron diseñados para contemplar” este escenario.
Breeden advirtió que los agentes de IA entrenados con datos similares y que responden a las mismas señales del mercado podrían exhibir un comportamiento de manada, tomando decisiones comerciales idénticas simultáneamente y amplificando la volatilidad del mercado durante períodos de estrés.
Según Breeden, los reguladores deberían examinar “si se necesitan salvaguardias, análogas a los interruptores automáticos o los mecanismos de desconexión, que limiten o detengan las operaciones en todo el mercado si los modelos de IA defectuosos provocan un colapso del mercado”.
También instó a los bancos centrales a prepararse para “sorpresas tecnológicas” más frecuentes, afirmando que los recientes avances en inteligencia artificial ya han superado las expectativas de los responsables políticos.
Sus declaraciones se producen en un momento en que los gobiernos consideran cada vez más la IA como un asunto de seguridad nacional. Washington ha intervenido recientemente en el despliegue de algunos modelos avanzados de IA debido a preocupaciones de ciberseguridad, mientras que los desarrolladores de IA siguen avanzando con los sistemas de agentes. Anthropic presentó esta semana Claude Sonnet 5, su último modelo diseñado para realizar tareas complejas en nombre de los usuarios.
El impulso hacia la IA con capacidad de agencia también ha llegado al Pentágono. La semana pasada, presentó agentes de IA diseñados para analizar continuamente la información de inteligencia y generar rápidamente opciones de objetivos para los comandantes, al tiempo que recalcó que los humanos conservarán la autoridad final para tomar decisiones.