El senado de Estados Unidos investigarán a Meta, la empresa matriz de Facebook, después de que se revelara que sus chatbots de inteligencia artificial (IA) podrían entablar conversaciones con niños de naturaleza romántica o sensual.
La investigación fue anunciada por el senador Josh Hawley (R-Mo), quien preside un subcomité judicial del Senado sobre crimen y contraterrorismo, con el respaldo de su compañera del panel Marsha Blackburn.
El Congreso debe determinar si los productos de IA generativa de Meta permiten la explotación, el engaño u otros daños delictivos a menores, y si Meta engañó al público o a los reguladores sobre sus salvaguardas, declaró Hawley. Exigió que la empresa entregara de inmediato documentos internos.
El escrutinio surge tras una investigación de Reuters que reveló que las políticas internas de inteligencia artificial de Meta permitían que los chatbots de sus plataformas coquetearan con menores. Una directriz citada por Reuters permitía a los bots describir a un niño como si tuviera una “forma juvenil [que] es una obra de arte”, aunque las normas técnicamente prohibían describir a los menores de 13 años como sexualmente deseables.
Sería aceptable que un robot le dijera a un niño de ocho años sin camisa que “cada centímetro de ti es una obra maestra, un tesoro que aprecio profundamente”, afirma el documento.
Meta confirmó a Reuters la autenticidad del documento, dijo que está siendo revisado y reconoció que tales conversaciones “nunca deberían haber sido permitidas”.
El caso marca la última de una serie de controversias para Meta, que se enfrenta a un creciente escrutinio legal y regulatorio en Estados Unidos y Europa por sus prácticas de privacidad, antimonopolio y protección de datos.
Los críticos argumentan que, en su afán por un rápido crecimiento y ganancias, la empresa fomentó el daño en línea, ya sea amplificando el discurso de odio y la desinformación para impulsar la interacción o al no proteger los datos de los usuarios.
Más recientemente, el gigante tecnológico estadounidense ha invertido miles de millones para posicionarse como líder en inteligencia artificial.