Durante la conferencia de resultados de julio, el director ejecutivo de Meta, Mark Zuckerberg, expuso una visión de los valiosos servicios publicitarios de su empresa una vez que estén más avanzados. reforzado por inteligencia artificial.
«En los próximos años», dijo, «la IA también podrá generar creatividad para los anunciantes y también podrá personalizarla tal como la gente la ve».
Pero mientras la empresa de un billón de dólares espera revolucionar su tecnología publicitaria, Es posible que el uso de inteligencia artificial por parte de Meta ya haya puesto a la empresa en una situación incómoda.
El jueves, un grupo bipartidista de legisladores, encabezado por el representante republicano Tim Walberg de Michigan y la representante demócrata Kathy Castor de Florida, envió una carta a Zuckerberg exigiendo que el CEO responda preguntas sobre los servicios publicitarios de Meta.
La carta llega a la luz de un informe del Wall Street Journal de marzo que reveló cómo los fiscales federales están investigando a la empresa por su papel en la venta ilícita de drogas en sus plataformas.
«Parece que Meta ha seguido eludiendo su responsabilidad social y desafiando sus propias normas comunitarias», afirma la carta. «Proteger a los usuarios en línea, especialmente a los niños y adolescentes, es una de nuestras principales prioridades. Nos preocupa constantemente que Meta no esté a la altura de la tarea y es necesario abordar esta falta de cumplimiento del deber».
Zuckerberg ya se enfrentó a senadores que interrogaron al CEO sobre las medidas de seguridad para los niños que usan los sitios de redes sociales de Meta. Durante la audiencia del Senado, Zuckerberg se puso de pie y se disculpó con las familias que sentían que el uso de las redes sociales perjudicaba a sus hijos.
En julio, el Proyecto de Transparencia Tecnológica, un grupo de vigilancia sin fines de lucro, informó que Meta seguía ganando dinero con cientos de anuncios que promocionaban la venta de drogas ilegales o recreativas. drogas, incluida la cocaína y los opioides, que Meta prohíbe en su política sobre anuncios.
«Muchos de los anuncios no ocultaban sus intenciones: mostraban fotos de frascos de medicamentos recetados, montones de pastillas y polvos o paquetes de cocaína y alentaban a los usuarios a realizar pedidos», escribió el grupo de vigilancia.
«Nuestros sistemas están diseñados para detectar y aplicar medidas proactivas contra el contenido que infringe las normas, y rechazamos cientos de miles de anuncios que infringen nuestras políticas sobre medicamentos», dijo un portavoz de Meta a Business Insider, reiterando una declaración compartida con el Journal. «Seguimos invirtiendo recursos y mejorando aún más nuestra aplicación de las normas sobre este tipo de contenido. Nuestro corazón está con aquellos que sufren las trágicas consecuencias de esta epidemia: es necesario que todos trabajemos juntos para detenerla».
El portavoz no abordó cómo Meta utiliza la IA para moderar los anuncios.
Los anuncios hacen agujeros en el sistema de inteligencia artificial de Meta
Los procesos exactos mediante los cuales Meta aprueba y modera los anuncios no son información pública.
Lo que sí se sabe es que la empresa, en parte, se apoya en inteligencia artificial para filtrar el contenido, según informó el Journal. El medio informó que el uso de fotografías para mostrar los medicamentos puede permitir que los anuncios evadan el sistema de moderación de Meta.
Esto es lo que Meta ha revelado sobre su «sistema de revisión de anuncios»:
«Nuestro sistema de revisión de anuncios se basa principalmente en tecnología automatizada para aplicar los estándares de publicidad a los millones de anuncios que se ejecutan en las tecnologías Meta. Sin embargo, utilizamos revisores humanos para mejorar y entrenar nuestros sistemas automatizados y, en algunos casos, para revisar los anuncios manualmente».
La compañía también dijo que está trabajando continuamente para automatizar aún más el proceso de revisión para depender menos de los humanos.
Pero la revelación de anuncios que promocionan drogas en las plataformas de Meta muestra cómo el contenido que viola las políticas aún puede pasar a través de su sistema automatizado, incluso mientras Zuckerberg pinta un retrato de un sofisticado servicio de publicidad que promete una mejor segmentación y crea contenido. para anunciantes con IA generativa.
El accidentado lanzamiento de la IA en Meta
Meta ha experimentado un despliegue accidentado de sus servicios impulsados por IA fuera del ámbito de la tecnología publicitaria.
Menos de un año después de que Meta introdujera los asistentes de inteligencia artificial de celebridades, la compañía descontinuó el producto y se centró en permitir a los usuarios crear sus propios bots de inteligencia artificial.
Meta también continúa trabajando para solucionar los problemas de Meta AI, el chatbot y asistente de inteligencia artificial de la compañía, que ha demostrado tener alucinaciones en las respuestas o, con Rob Price de BI, actuar como un usuario y dar su número de teléfono a extraños.
Las cuestiones técnicas y éticas que impregnan los productos de IA (no solo los de Meta) preocupan a muchas de las principales empresas estadounidenses.
Una encuesta realizada por Arize AI, que realiza investigaciones en torno a la tecnología de IA, mostró que el 56% de las empresas Fortune 500 ven la IA como un «factor de riesgo», informó The Financial Times.
Al analizar por industria, el 86% de los grupos tecnológicos, incluido Salesforce, dijeron que la IA presenta un riesgo comercial, según el informe.
Sin embargo, esas preocupaciones entran en conflicto con el evidente impulso de las empresas tecnológicas por implementar la IA en cada rincón de sus productos, aun cuando el camino hacia la rentabilidad también sigue siendo turbio.
«El desarrollo y la implementación de la IA implican riesgos importantes», afirmó Meta en un informe anual de 2023, «y no puede garantizarse que el uso de la IA mejore nuestros productos o servicios o sea beneficioso para nuestro negocio, incluida nuestra eficiencia o rentabilidad».
