El portal de subastas online eBay está repleto de pornografía generada por la inteligencia artificial (IA) y retocada con Photoshop de al menos 40 celebridades, incluidas Margot Robbie, Selena Gómez y Jenna Ortega. Después de que Forbes notificara a eBay, el gigante del comercio electrónico eliminó cientos de fotografías y suspendió cuentas de vendedores.
La tienda de un vendedor de toda la vida con más de 400 artículos incluía fotos retocadas de desnudos de Taylor Swift, Selena Gómez, Katy Perry, Ariana Grande y Alexandria Ocasio-Cortez, entre otras. Otro vendedor vendió cientos de imágenes de desnudos generadas por IA, incluidas las de Jenna Ortega, Margot Robbie y Gal Gaddot, por 6.39 dólares.
La plataforma también alberga imágenes sexualmente sugerentes de figuras públicas generadas por IA. Al menos cinco imágenes de este tipo de Taylor Swift, como una que muestra a la estrella del pop con un revelador bikini con la bandera estadounidense, están siendo vendidas por 5.60 dólares por un “vendedor mejor calificado” en eBay que ha vendido más de 14,000 artículos, y es uno de los vendedores en línea.
Los vendedores mejor calificados reciben beneficios adicionales de eBay, como una clasificación más alta en los resultados de búsqueda y beneficios financieros, según las pautas del programa.
El algoritmo de recomendación de eBay también dirige a los compradores interesados a “artículos patrocinados similares” de vendedores que pagan a la plataforma un porcentaje de sus ventas si un comprador hace clic en el artículo y lo compra.
Otro vendedor de primer nivel ha vendido más de 2,000 artículos en eBay, incluidas imágenes pornográficas falsas de personalidades como Jennifer Lawrence y Jennifer Anniston. En el caso de algunas imágenes falsas, no está claro si han sido manipuladas con inteligencia artificial u otro tipo de software.
“No se trata solo de los vendedores. Empresas como eBay también se están beneficiando del abuso sexual basado en imágenes”, dijo Lina Nealon, ejecutiva del Centro Nacional sobre Explotación Sexual. “Están mercantilizando los cuerpos de las mujeres y es atroz porque lo hacen sin el consentimiento y el conocimiento de quienes están siendo representados”.
Si bien eBay permite a los vendedores publicar imágenes que muestren desnudez (siempre que figuren en las categorías de arte y coleccionables), así como imágenes de desnudos de personas falsas generadas por IA, “imágenes de figuras públicas desnudas o sexualmente sugerentes generadas por IA o retocadas con Photoshop” son prohibidas, según su política de artículos para adultos; sin embargo, la plataforma está repleta de ellos.
La vicepresidenta del Centro Nacional sobre Explotación Sexual señaló que si bien la compañía ha retirado del sitio cientos de fotos editadas de celebridades desnudas y prohibido la venta, mantiene fotos sexualmente sugerentes de Taylor Swift generadas por IA que parecen violar su política.
La compañía confirmó que “está en el proceso de actualizar activamente las políticas con respecto a los deepfakes sin desnudez”, para que quede explícitamente claro para los vendedores qué está permitido y qué no en eBay.
Además, la portavoz Trina Somera comentó que la plataforma utiliza una combinación de “tecnología de inteligencia artificial, investigadores de eBay capacitados profesionalmente y barridos del mercado” para identificar y eliminar listados que violan la política de artículos prohibidos de eBay.
“Los anuncios con imágenes adultas de celebridades generadas por IA o retocadas con Photoshop que infrinjan las políticas de eBay serán bloqueados o eliminados. Los usuarios que sean sorprendidos intentando enumerar artículos prohibidos pueden enfrentar consecuencias que pueden incluir una suspensión permanente”, dijo Somera.
Desnudos generados con IA en otras plataformas
eBay no es la única plataforma donde proliferan las imágenes pornográficas generadas por IA. La red social X, Reddit, e incluso Etsy, como informó Forbes por primera vez, están lidiando de manera similar con una avalancha de imágenes sexualmente explícitas generadas por IA.
A finales de enero, las fotos de Taylor Swift desnuda generadas por IA se volvieron virales en X y fueron vistas millones de veces en la red social.
Poco después, legisladores, incluida la congresista Alexandria Ocasio-Cortez, introdujeron la ley para interrumpir imágenes falsificadas explícitas y ediciones no consensuales, que proporciona a las víctimas de pornografía deepfake no consensuada recursos para tomar medidas contra los creadores y distribuidores del contenido.
“Las víctimas de deepfakes pornográficos no consentidos han esperado demasiado para que la legislación federal responsabilice a los perpetradores. El Congreso de EU debe actuar para mostrarles a las víctimas que no se quedarán atrás”, afirmó Ocasio-Cortez en un comunicado de prensa.
Te recomendamos: X, antes Twitter, bloquea las búsquedas sobre Taylor Swift tras difusión de imágenes creadas con IA
Si bien no existen leyes federales para proteger a las víctimas de pornografía deepfake, se han presentado otros tres proyectos de ley en el Congreso para abordar estas preocupaciones, aseguró Nealon. Este martes, el Congreso celebró una audiencia sobre cómo el aumento de los deepfakes pornográficos no consensuales afecta a las mujeres y los niños y qué medidas se pueden tomar para reducir el daño.
“Realmente necesitamos leyes federales y las necesitamos rápidamente porque, como suele ser el caso, la tecnología avanza a un ritmo más rápido que nuestros legisladores, y estamos viendo este aumento exponencial con la inteligencia artificial y la proliferación de deepfake“, declaró.
Una búsqueda en eBay de “celebridad” arroja más de 2.3 millones de anuncios, muchos de los cuales son sexualmente sugerentes y pornográficos.
Además de albergar miles de fotografías de desnudos de personas famosas toscamente retocadas con Photoshop, eBay alberga docenas de imágenes “mejoradas por IA” de figuras públicas que están estampadas con sus firmas y se venden por una tarifa más alta de 10.95 dólares.
“Disfruta de la extraordinaria claridad y los impresionantes detalles de esta fotografía mejorada por IA”, se lee en la descripción de una imagen desnuda de Jennifer López que parece incluir su firma. “Cada expresión cautivadora, cada mirada magnética se conserva impecablemente, dando vida al incomparable encanto y talento de Jennifer López con exquisito detalle”.
Ahora, con fácil acceso a aplicaciones de inteligencia artificial y software de código abierto que pueden “desnudar” a cualquiera, la pornografía generada por IA se ha extendido rápidamente, dijo Nealon.
“La tienda de aplicaciones de Apple en realidad alberga varias aplicaciones de “nudificación. Encontré uno la semana pasada clasificado para mayores de 4 años”, señaló.
“Mientras tanto, tienes Microsoft GitHub, que alberga algunas de las tecnologías de materiales sexualmente explícitos sintéticos y deepfake más notorias”, agregó.
Fundada en 1995, eBay registró 10,100 millones de dólares en ingresos en 2023 y tiene una capitalización de mercado de alrededor de 26,000 millones de dólares. El mercado en línea alberga 132 millones de compradores activos y 2,000 millones de listados de productos, desde zapatos y videojuegos hasta suplementos vitamínicos y mesas de café.
En septiembre de 2023, el gigante de comercio electrónico lanzó sus propias herramientas de IA generativa que pueden crear títulos y descripciones de productos después de que los vendedores cargan una imagen del artículo que desean vender. Las herramientas se crearon utilizando modelos de código abierto y modelos de lenguaje grandes de Microsoft Azure OpenAI. El mercado online también despidió a 1,000 trabajadores, el 9% de su plantilla, en enero de 2024.
Sophie Maddocks, investigadora del Centro para Medios en Riesgo de la Universidad de Pensilvania, declaró que no le sorprende que se haya vuelto común encontrar imágenes pornográficas generadas por IA en Internet.
“Si nos alejamos y miramos la historia más larga de Internet, sabemos que el sexo vende y las imágenes sexualizadas venden. Por eso no creo que sea una coincidencia que plataformas como eBay alojen dicho contenido”, expresó Maddocks.
“Hay un contexto más amplio que juega con esta idea de que si eres una mujer famosa, te pueden desnudar sin tu consentimiento y alguien más puede sacar provecho de tu imagen. Y eso llega a todos”, añadió.
Este artículo fue publicado originalmente en Forbes US
¿Te gusta informarte por Google News? Sigue nuestro Showcase para tener las mejores historias
