La compañía reconoció que Meta AI generó recomendaciones consideradas invasivas a partir de publicaciones familiares de una usuaria. El caso abrió interrogantes sobre cómo la inteligencia artificial relaciona información disponible en Facebook e Instagram.
Meta AI cambiará sus sugerencias tras una polémica por preguntas personales Meta AI cambiará sus sugerencias tras una polémica por preguntas personales
Meta anunció cambios en el funcionamiento de las sugerencias de Meta AI luego de que una usuaria denunciara que el chatbot le realizó preguntas relacionadas con sus hijos y llegó a mostrarle fotografías familiares que habían sido publicadas anteriormente en sus plataformas.
La compañía reconoció que se trató de un error y aseguró que la función ya fue modificada para evitar que el sistema genere recomendaciones sobre asuntos personales. Dina El-Kassaby, portavoz de Meta, admitió ante The Verge que la empresa "se equivocó" y sostuvo que la herramienta "nunca debería haber sugerido ese tipo de preguntas al usuario".
También te puede interesar:
El episodio tomó relevancia después de que la usuaria de Instagram Kalie Robins difundiera un video en el que relató su experiencia. Según explicó, todo comenzó cuando publicó en Facebook una grabación en la que aparecía cantando junto a su hijo dentro de un automóvil.
Debajo del video apareció una sugerencia generada por Meta AI que preguntaba: "¿Quién es el niño pasajero?". A partir de esa consulta, Robins aseguró que el chatbot comenzó a brindar información sobre sus hijas y a formular nuevas preguntas vinculadas con su familia.
La usuaria afirmó que el sistema relacionó datos que aparecían en publicaciones anteriores realizadas por ella y por otros integrantes de su familia. Entre las sugerencias que recibió, según su relato, figuraban consultas sobre la edad de sus hijos y el lugar donde vive su familia.
El caso generó todavía más preocupación cuando Robins aseguró que Meta AI le mostró fotografías de sus hijas que habían sido compartidas anteriormente en la plataforma, incluso una imagen que, según indicó, había eliminado varios años atrás.
La polémica volvió a poner bajo la lupa la capacidad de los sistemas de inteligencia artificial para vincular información procedente de distintas publicaciones. El problema planteado no se limitó al acceso a datos privados, sino a la manera en que la herramienta utilizó información disponible para convertirla en preguntas que la usuaria consideró invasivas.
Frente a los cuestionamientos, Meta aclaró que Meta AI no debería mostrar contenido que el usuario no tenga autorización para consultar. "El contenido al que responde Meta AI es contenido al que el usuario que realiza la consulta ya puede acceder", explicó El-Kassaby.
La portavoz agregó que, si una persona no tiene acceso a determinada publicación, el asistente tampoco debería poder mostrársela.
Desde la empresa señalaron que, en el caso denunciado, la información sobre los hijos de Robins pudo haber sido obtenida a partir de videos y otras publicaciones en las que ella misma había mencionado a sus familiares.
De esta manera, Meta sostiene que el episodio no habría sido consecuencia del acceso de la inteligencia artificial a contenido privado de terceros, sino de la capacidad del sistema para relacionar información que ya estaba disponible para la usuaria.
Las sugerencias cuestionadas forman parte de una herramienta creada para facilitar la interacción con los contenidos de las plataformas. Cuando aparece una recomendación, el usuario puede seleccionarla para pedirle a Meta AI información adicional sobre la publicación que está viendo.
Sin embargo, la compañía reconoció que en este caso el sistema realizó asociaciones que derivaron en una recomendación inadecuada. Por eso, la revisión apunta a impedir que la inteligencia artificial convierta datos familiares o personales en preguntas que puedan resultar invasivas, aunque esa información sea técnicamente accesible para quien utiliza la herramienta.
Meta AI está integrada actualmente en Facebook, Instagram, WhatsApp y Messenger, donde puede utilizarse para responder consultas, asistir en la redacción de contenidos, generar imágenes y realizar otras tareas.
No es la primera vez que Meta enfrenta cuestionamientos relacionados con sus herramientas de inteligencia artificial. La compañía ya había recibido críticas por otras funciones y, en julio, retiró una herramienta que permitía crear imágenes falsas de otros usuarios de Instagram.
El nuevo episodio vuelve a plantear el debate sobre cuáles deberían ser los límites de los asistentes de IA cuando procesan información personal. Aunque Meta sostiene que el sistema trabaja con contenido al que el usuario ya tiene acceso, el caso expuesto por Robins pone el foco en un aspecto diferente: cómo la inteligencia artificial conecta datos aparentemente aislados y qué tipo de conclusiones o preguntas genera a partir de ellos.
La compañía aseguró que ya modificó el comportamiento que provocaba las sugerencias sobre asuntos personales. El objetivo será mantener esta función como una herramienta para explorar contenidos sin que las recomendaciones terminen exponiendo o poniendo en primer plano aspectos familiares que los usuarios consideran privados.
