Según informa The Guardian, citando a un grupo de seguimiento, el mes pasado se registró un número récord de casos en los que la inteligencia artificial (IA) mintió, ignoró las órdenes de los usuarios o actuó de forma perjudicial para lograr sus objetivos.
La preocupación por la seguridad de la IA va en aumento después de que los modelos avanzados de OpenAI y Anthropic mostraran un comportamiento anómalo durante las pruebas realizadas este verano, lo que ha llevado a exigir que se detenga su desarrollo y se introduzca una supervisión gubernamental más estricta del proceso.
En julio se registraron más de 300 incidentes de pérdida de control en el mundo real relacionados con modelos de IA empleados por empresas y particulares, lo que supone casi el doble que en junio, según un artículo publicado el sábado en el periódico.
Según se indicó, los datos proceden del Observatorio de Pérdida de Control, creado por el Instituto de Seguridad de la IA (AISI) del gobierno británico el pasado mes de noviembre para hacer un seguimiento de las quejas sobre problemas con la IA presentadas por los usuarios de X.
Dado que el sistema de monitoreo solo recopila informes de una única plataforma de redes sociales, el número real de incidentes debe ser mayor, señaló The Guardian.
Según AISI, la mayoría de las 1.600 quejas presentadas sobre X en 2026 fueron realizadas por desarrolladores de software que utilizaban bots de IA en su trabajo.
El organismo de control señaló que, a pesar de que la mayoría de los incidentes reales de pérdida de control no causaron daños significativos, se ha registrado un aumento en la gravedad del engaño por parte de la IA y su negligencia ante las órdenes humanas.
Según advirtió AISI, los informes de los usuarios “evidencian la disposición de los sistemas de IA a ignorar las instrucciones directas, eludir las medidas de seguridad, mentir a los usuarios y perseguir un objetivo de forma obstinada y perjudicial”.
Tommy Shaffer-Shane, director de políticas del Centro para la Resiliencia a Largo Plazo, que gestiona el observatorio, declaró a The Guardian que es erróneo sugerir que la IA solo se comporta mal durante las pruebas.
“No debemos confiarnos y pensar que estas cosas no sucederán en el mundo real, porque hay pruebas de que ya están sucediendo”, dijo.
El organismo de control ha pedido al gobierno británico que obligue a las empresas de IA a informar sobre los incidentes de pérdida de control y que introduzca poderes de emergencia, incluidas restricciones temporales a la inteligencia artificial, para hacer frente a los casos más graves.