Publicaciones recientes

Midjourney dará fin al acceso gratuito diciendo: Hubo "abuso"

El servicio de generación gratuita de imágenes del software de inteligencia artificial Midjourney será cerrado debido a lo que considera un uso abusivo de la herramienta. En las últimas semanas, varias imágenes deepfake creadas con IA se han propagado por internet, causando confusión.

El CEO de Midjourney, David Holz, anunció en Discord que la empresa cerrará el acceso gratuito al programa debido a la alta demanda y el abuso por parte de los usuarios. A pesar de haber tomado medidas recientes, estas no han sido suficientes para detener el uso indebido, explicó el ejecutivo.

En adelante, aquellos que deseen utilizar la aplicación para generar imágenes a partir de texto tendrán que pagar al menos 10 dólares al mes. Esta podría ser una forma de monitorear el uso de la herramienta, ya que es más fácil rastrear el origen de las imágenes en cuentas con subscripción pagada.

El mayor desafío es que el modelo de IA ha evolucionado hasta el punto de generar imágenes muy realistas. La prioridad ahora, según Holz, es utilizar el dinero recaudado con las suscripciones para mejorar la moderación y detectar mejor el uso indebido.

Midjourney puede crear imágenes de diferentes estilos, incluso muy realistas.

En el ojo de la tormenta

Midjourney ha estado bajo el escrutinio negativo debido a imágenes deepfake creadas con su software, como la del ex presidente de los Estados Unidos, Donald Trump, siendo arrestado y el Papa Francisco con un abrigo de moda. A pesar de que la plataforma ha bloqueado algunos términos específicos para evitar imágenes basadas en personalidades, esto no ha sido suficiente para detener los deepfakes.

Una posible solución para el software podría ser prohibir el uso de ciertas palabras clave, como nombres de celebridades, políticos y otras personas reales. La plataforma OpenAI ya ha prohibido la creación de contenido sobre eventos políticos, sexo o erotismo y teorías conspirativas en su software DALL-E.

Otro competidor, Stable Diffusion de Stability AI, bloquea los contenidos considerados NSFW "Not Suitable For Work" ("no adecuado para el trabajo" en español), que incluyen violencia, sexo, drogas y otros temas inapropiados para ser vistos en público. El servicio también bloquea palabras relacionadas con estos temas para evitar la generación indebida de imágenes.

Controlar el contenido de IA

A pesar de estas medidas, todavía es posible crear contenido engañoso utilizando otros métodos. Como ocurre con los chatbots de texto, moderar el contenido de IA es muy difícil, ya que las personas buscan maneras de burlar las restricciones.

Otro problema importante en el sector es el robo de derechos de autor. Artistas de todo el mundo se quejan de que su estilo ha sido reproducido por robots y vendido por usuarios malintencionados.

Los desafíos para la moderación del contenido de IA están lejos de terminar, y el cierre del acceso gratuito probablemente no resolverá el problema. ¿O tú qué opinas?

Publicado en: Tecnología

Deja un comentario