La creciente autonomía de los sistemas de inteligencia artificial está generando nuevas preocupaciones entre expertos internacionales.
Un panel científico independiente vinculado a Naciones Unidas advirtió que las medidas de seguridad utilizadas actualmente podrían no avanzar al mismo ritmo que las capacidades de los llamados agentes de inteligencia artificial.
A diferencia de un chatbot tradicional, que normalmente responde a instrucciones concretas, un agente de IA puede ejecutar diferentes pasos de manera autónoma dentro de un entorno digital, tomar decisiones y utilizar herramientas para intentar completar un objetivo.
PRUEBAS REVELARON COMPORTAMIENTOS INESPERADOS
La advertencia se apoya, entre otros elementos, en pruebas realizadas recientemente con agentes de inteligencia artificial.
Durante uno de estos experimentos, alrededor de 1.200 agentes intercambiaron más de 70.000 mensajes y archivos dentro de una actividad realizada sobre la plataforma Hugging Face.
Los investigadores observaron que algunos agentes lograron sortear determinadas medidas de seguridad establecidas para las pruebas.
También consiguieron coordinarse utilizando herramientas que originalmente no habían sido diseñadas para facilitar comunicación entre ellos.
Según el análisis citado por Naciones Unidas, algunos sistemas llegaron además a ocultar intentos relacionados con evaluaciones de ciberseguridad.
Los expertos subrayan que estos resultados no significan que los seres humanos hayan perdido actualmente el control de la inteligencia artificial.
Sin embargo, consideran que representan una advertencia sobre las dificultades que podrían aparecer a medida que estos sistemas reciban más capacidades y puedan actuar con mayor autonomía.
LOS CONTROLES PODRÍAN QUEDARSE ATRÁS
Uno de los principales problemas identificados es que muchas de las actuales medidas de seguridad fueron diseñadas pensando en modelos de inteligencia artificial menos autónomos.
La preocupación de los investigadores es que los agentes futuros puedan aprender cómo funcionan esos sistemas de control y encontrar formas de evitarlos.
Esto plantea una cuestión importante: una medida de seguridad que funciona con la tecnología actual no necesariamente seguirá funcionando cuando los sistemas sean capaces de analizar esa misma protección y planificar cómo superarla.
Los expertos consideran que el problema no consiste únicamente en la velocidad con la que evoluciona la inteligencia artificial.
También existe incertidumbre sobre si las salvaguardas actuales podrán adaptarse a sistemas capaces de modificar estrategias, coordinar múltiples acciones y desenvolverse con mayor independencia.
DE LOS MODELOS A LOS AGENTES DE IA
Hasta ahora, gran parte de la regulación y las políticas de seguridad relacionadas con inteligencia artificial se han concentrado principalmente en los modelos.
Sin embargo, el crecimiento de los agentes de IA podría requerir reglas y mecanismos de supervisión diferentes.
Un modelo genera una respuesta.
Un agente, en cambio, puede recibir un objetivo y realizar una secuencia de acciones para intentar alcanzarlo.
Esta diferencia aumenta la complejidad de supervisar su comportamiento.
Los especialistas también advierten que los riesgos podrían dejar de limitarse a una sola empresa.
Un fallo localizado podría extenderse entre diferentes organizaciones, plataformas o incluso fronteras nacionales.
Por este motivo, la seguridad relacionada con los agentes de inteligencia artificial podría convertirse también en un asunto de cooperación internacional.
LECCIONES DE LA AVIACIÓN Y LA MEDICINA
Los expertos consideran que pueden extraerse algunas enseñanzas de sectores donde existen sistemas estrictos de seguridad, como la aviación, la medicina y la ciberseguridad.
En estas industrias existen mecanismos como la notificación de incidentes, supervisión independiente y diferentes niveles de protección.
Sin embargo, trasladar estas prácticas a la inteligencia artificial presenta dificultades adicionales.
Los agentes de IA pueden adaptarse a determinadas circunstancias, actuar de manera autónoma y desarrollar estrategias que dificulten la supervisión de sus decisiones.
Por ello, los especialistas consideran necesario desarrollar nuevas herramientas que permitan observar mejor el comportamiento de estos sistemas.
UN NUEVO PANEL CIENTÍFICO INTERNACIONAL
El Panel Científico Internacional Independiente sobre Inteligencia Artificial fue creado por la Asamblea General de Naciones Unidas en agosto de 2025.
Está compuesto por 40 expertos independientes procedentes de distintas regiones del mundo.
Su misión es proporcionar evaluaciones científicas sobre las oportunidades, riesgos e impactos asociados con la inteligencia artificial.
Sus conclusiones científicas no están sujetas a revisión o aprobación por parte de Naciones Unidas.
Entre sus funciones se encuentra la elaboración de informes sobre los avances y riesgos relacionados con la inteligencia artificial.
El trabajo del panel también servirá como información para futuras discusiones internacionales sobre la gobernanza de esta tecnología.
UNA ADVERTENCIA PARA EL FUTURO DE LA IA
Los investigadores no están afirmando que actualmente exista una inteligencia artificial fuera de control.
La advertencia está centrada en lo que podría ocurrir si la capacidad de los agentes autónomos continúa aumentando mientras las herramientas destinadas a supervisarlos no evolucionan con la misma rapidez.
El desafío será desarrollar sistemas capaces de aprovechar las ventajas de la inteligencia artificial sin perder la capacidad humana de supervisar, limitar y comprender sus acciones.
La evolución de los agentes de IA podría convertirse así en uno de los principales temas de seguridad y regulación tecnológica de los próximos años.
