Una importante universidad suiza ha sido criticada por realizar un experimento secreto con usuarios de la red social Reddit para probar cómo la inteligencia artificial (IA) podría influir en sus opiniones. La plataforma ha declarado que está considerando emprender acciones legales.
Según informes de prensa, un grupo de investigadores de la Universidad de Zúrich realizó en los últimos meses un estudio no autorizado en r/ChangeMyView, una de las comunidades de debate más grandes de Reddit. El experimento consistió en chatbots de IA que se hacían pasar por usuarios habituales y participaban en debates sobre temas controvertidos.
Los bots, cuyas cuentas han sido baneadas desde entonces, publicaron más de 1700 comentarios en el subreddit. Adoptaron identidades falsas, como la de un hombre víctima de violación que minimizaba el trauma de su agresión, la de un hombre negro que se oponía al movimiento Black Lives Matter y la de una consejera de traumas domésticos que afirmaba que las mujeres más vulnerables eran aquellas “protegidas por padres sobreprotectores”.
Se utilizó otro bot para escanear los perfiles de los usuarios y ofrecer argumentos personalizados como respuesta.
Los investigadores revelaron el experimento a los moderadores del subreddit varios meses después de que tuvo lugar, calificándolo de “un paso de divulgación en el estudio”.
En un comunicado publicado la semana pasada, el equipo de moderación de Reddit declaró que la plataforma prohíbe el uso de contenido no divulgado generado por IA o bots. El director legal de Reddit, Ben Lee, afirmó que ni la empresa ni los moderadores de r/ChangeMyView tenían conocimiento previo de lo que denominó un “experimento inapropiado y altamente antiético”. Añadió que Reddit estaba preparando demandas legales formales para enviarlas a la Universidad de Zúrich y a los investigadores involucrados.
Los investigadores afirmaron que el estudio se había guiado por principios de investigación ética y transparencia. El comité de ética de la universidad argumentó que la investigación había causado poco daño. Aun así, los usuarios del subreddit reaccionaron con conmoción e ira por haber sido sometidos a experimentos sin saberlo.
La revista Science citó un comunicado enviado por correo electrónico de la universidad, en el que se indica que los investigadores han decidido no publicar los resultados. La universidad afirmó que investigaría el incidente.
El uso de bots de IA (cuentas falsas diseñadas para imitar a usuarios reales) ha crecido de forma constante en las redes sociales en los últimos años. Los expertos afirman que se utilizan cada vez más para influir en la opinión pública, especialmente en el contexto electoral.
Los gobiernos occidentales, principalmente Estados Unidos y el Reino Unido, llevan tiempo acusando a Rusia de operar “granjas de bots” a gran escala para interferir en sus procesos electorales, acusaciones que Moscú ha negado reiteradamente.
Sin embargo, algunos actores occidentales han sido objeto de escrutinio por usar bots en campañas de desinformación, a la vez que advierten públicamente sobre la injerencia extranjera.