Según un nuevo acuerdo, los gobiernos podrán ponerse bajo el capó de los principales modelos de inteligencia artificial.
El primer ministro británico, Rishi Sunak, dijo el jueves que, en virtud de un nuevo acuerdo, “gobiernos con ideas afines” podrían probar los modelos de inteligencia artificial de ocho empresas tecnológicas líderes antes de su lanzamiento.
Al cerrar la cumbre de inteligencia artificial de dos días en Bletchley Park el jueves, Sunak anunció el acuerdo firmado por Australia, Canadá, la Unión Europea, Francia, Alemania, Italia, Japón, Corea, Singapur, Estados Unidos y el Reino Unido para probar empresas líderes. ‘Modelos de IA.
“Hasta ahora, las únicas personas que han probado la seguridad de los nuevos modelos de IA han sido las mismas empresas que los desarrollan. Eso debe cambiar”, dijo Sunak ante una sala llena de periodistas.
“Los gobiernos y las empresas de inteligencia artificial con ideas afines han llegado hoy a un acuerdo histórico. Trabajaremos juntos para probar la seguridad de los nuevos modelos de IA antes de su lanzamiento… esto es posible gracias a la decisión que tomé junto con la vicepresidenta Kamala Harris de los gobiernos británico y estadounidense de establecer institutos de seguridad de IA líderes en el mundo con capacidad del sector público para probar los modelos de frontera más avanzados”.
Sunak dijo que las ocho empresas (Amazon Web Services, Anthropic, Google, Google DeepMind, Inflection AI, Meta, Microsoft, Mistral AI y Open AI) habían acordado “profundizar” el acceso ya otorgado a su Frontier AI Taskforce, que es el precursor. al nuevo instituto. Actualmente, el acceso se otorga de forma voluntaria, aunque según su Orden Ejecutiva, el gobierno de EE. UU. ha impuesto requisitos vinculantes para entregar cierta información de seguridad.
Sunak también anunció más detalles sobre un acuerdo alcanzado ayer con los países para establecer un panel asesor internacional sobre los riesgos fronterizos de la IA.
Siguiendo el modelo del Panel Intergubernamental sobre Cambio Climático (IPCC), estará formado por representantes de los 28 países que asistirán a la cumbre. El gobierno británico dijo que le proporcionaría apoyo de secretaría.
El panel también apoyará al académico Yoshua Bengio en la producción de un informe sobre el “estado de la ciencia” sobre los riesgos y capacidades de la IA de vanguardia.
El informe no hará recomendaciones de políticas, pero está diseñado para informar la formulación de políticas nacionales e internacionales. Se publicará antes de la próxima cumbre de seguridad en Corea del Sur en la primera mitad del próximo año.