El pontífice reconoció haber sido personalmente víctima de engaños generados por IA.
El Papa Francisco ha emitido una advertencia sobre los peligros potenciales que plantea la inteligencia artificial, diciendo que la tecnología que avanza rápidamente podría conducir a la “distorsión de la realidad” sin una “regulación ética”.
En un extenso mensaje publicado el miércoles, Francisco dijo que los recientes avances en IA eran “emocionantes y desorientadores”, pero también planteaban preguntas más profundas sobre la relación de la humanidad con la tecnología. “¿Cómo podemos seguir siendo plenamente humanos y guiar esta transformación cultural para que sirva a un buen propósito?” el escribio.
“Los sistemas de inteligencia artificial pueden ayudar a superar la ignorancia y facilitar el intercambio de información entre diferentes pueblos y generaciones”, escribió el Papa. “Sin embargo, al mismo tiempo, pueden ser una fuente de ‘contaminación cognitiva’, una distorsión de la realidad mediante narrativas parcial o completamente falsas, creídas y difundidas como si fueran verdaderas”.
El Papa continuó citando el “problema de larga data de la desinformación en forma de noticias falsas”, y señaló que él mismo había sido víctima de ‘deepfakes’: imágenes o audio muy convincentes generados por IA, que normalmente se utilizan para hacerse pasar por figuras públicas.
“La tecnología de simulación detrás de estos programas puede ser útil en ciertos campos específicos, pero se vuelve perversa cuando distorsiona nuestra relación con los demás y con la realidad dijo el papa.
La revolución digital puede traernos mayor libertad, pero no si nos aprisiona en modelos que hoy en día se llaman ‘cámaras de eco’.
El líder de la iglesia apareció en una imagen inventada el año pasado, mostrándolo vistiendo una elegante chaqueta acolchada hasta los tobillos . Según los informes, la falsificación se generó utilizando Midjourney, una herramienta artística basada en inteligencia artificial, según su creador autoidentificado. La imagen se volvió viral en las redes sociales engañando a muchos usuarios.
Si bien la gente debería “dejar de lado las predicciones catastróficas” sobre el futuro de la IA, Francisco argumentó que la tecnología podría “terminar creando nuevas castas basadas en el acceso a la información” y dar lugar a “nuevas formas de explotación y desigualdad”. Para evitar los peores resultados, destacó la necesidad de “comprender, apreciar y regular los instrumentos que, en las manos equivocadas, podrían conducir a escenarios inquietantes”.
“Como cualquier otro producto de la inteligencia y la habilidad humana, los algoritmos no son neutrales. Por este motivo, es necesario actuar preventivamente, proponiendo modelos de regulación ética, para prevenir los efectos nocivos, discriminatorios y socialmente injustos del uso de sistemas de inteligencia artificial y combatir su mal uso”, afirmó, pidiendo una ” tratado internacional vinculante” que rige el uso y desarrollo de la IA.