- Meta lanzó su nueva función de pegatinas de IA la semana pasada.
- Los usuarios han encontrado formas de generar imágenes tremendamente inapropiadas con la herramienta y están compartiendo los resultados en línea.
- Un académico criticó las salvaguardias de la IA de Meta en una publicación de blog site el domingo.
Meta lanzó las pegatinas de IA y otras funciones, como asistentes de IA famosos, el 27 de septiembre.
La compañía dijo que esta nueva característica permite a los usuarios convertir «mensajes de texto en múltiples pegatinas únicas y de alta calidad en segundos» en metaaplicaciones como Instagram y Messenger.
Pero las pegatinas ya están provocando burlas en línea después de que la gente comenzó a intentar encontrar formas de generar imágenes tremendamente inapropiadas utilizando esta tecnología.
El usuario de X @pioldes compartió el miércoles ejemplos de imágenes que la nueva herramienta de inteligencia artificial podría crear, como un niño portando un arma y una imagen lasciva del primer ministro canadiense Justin Trudeau.
Desde entonces, la publicación acumuló más de dos millones de visitas en X, la plataforma antes conocida como Twitter, y pronto dio inicio a una serie de otras publicaciones de usuarios que compartían sus propios stickers en línea.
Algunos usuarios descubrieron que podían generar fácilmente pegatinas con personajes populares, como Mickey Mouse sosteniendo una pistola, Elmo sonriendo con un cuchilloo una Sonic the Hedgehog embarazada.
Aunque ciertas palabras parecen estar bloqueadas por la función, los usuarios encontraron formas de evitar estos bloqueos con errores tipográficos o indicaciones creativas.
Los stickers generados por IA funcionan con Llama2, el rival de Meta para ChatGPT, y se implementaron para usuarios selectos de idioma inglés. La compañía escribió en una publicación de weblog: «Estamos implementando nuestras nuevas IA lentamente y hemos incorporado salvaguardias».
Sin embargo, Tama Leaver, profesora de estudios de Online en la Universidad de Curtin, atacó las salvaguardas de la IA de Meta en una publicación de blog separada el domingo.
«Si parte de las salvaguardas de Meta bloquean el término ‘desnudo’, pero su IA develop cifras desnudas de todos modos, claramente quedan dudas sobre cuán efectivas son realmente estas salvaguardas», escribió.
Sin embargo, el contenido problemático generado por IA no es exclusivo de Meta.
En diciembre, la common aplicación generadora de avatares de IA Lensa enfrentó acusaciones de sexualizar y racializar los avatares de los usuarios. Los usuarios dijeron que la aplicación a veces genera desnudos en sus imágenes a pesar de las reglas contra el contenido para adultos.
Los representantes de Meta, Disney, Nintendo, Sega y Trudeau no respondieron de inmediato a las solicitudes de comentarios de Insider, enviadas fuera del horario comercial recurring.
MIRA AHORA: Movies populares de Insider Inc.
Cargando…
