Alibaba lanza una IA de vídeo de código abierto: en pocas horas se convierte en una máquina de hacer pornografía

El pasado martes, Alibaba presentó su nuevo modelo de generación de video con inteligencia artificial, llamado Wan 2.1.

Este modelo, que fue compartido en GitHub, permite a cualquier usuario con los conocimientos técnicos y el hardware adecuado utilizarlo y modificarlo libremente. Sin embargo, en menos de 24 horas, la herramienta fue adoptada por comunidades que generan contenido para adultos, dando lugar a una oleada de videos pornográficos creados con IA.

Además, en foros donde se comparten contenidos íntimos generados sin consentimiento, los usuarios han mostrado un gran entusiasmo por las capacidades avanzadas del modelo. E

sta situación evidencia el dilema de los modelos de IA abiertos: por un lado, democratizan el acceso a la tecnología, pero también pueden ser empleados para fines problemáticos.

Uno de los primeros videos producidos con Wan 2.1 fue publicado en Civitai, una plataforma para compartir modelos de IA modificados. Esta web ha sido señalada en varias ocasiones por permitir la distribución de modelos que generan contenido de personas reales sin su consentimiento. En cuestión de horas, los modelos derivados de Wan 2.1 ya habían sido descargados cientos de veces.

Civitai permite a los usuarios compartir modelos de IA modificados tanto para generar contenido basado en personas reales como para la creación de pornografía. Aunque en su normativa prohíbe la distribución de material explícito no consensuado, la plataforma no impide que los usuarios descarguen estos modelos y los utilicen fuera del sitio para propósitos cuestionables.

El caso de Wan 2.1 no es aislado. Cada vez que una empresa tecnológica lanza un modelo de IA de código abierto, se presenta la misma problemática: aunque esto permite un acceso más amplio a herramientas avanzadas, también facilita su uso para fines no regulados. Lo mismo ocurrió con Hunyuan, el generador de videos de Tencent, que se volvió popular en comunidades dedicadas a la generación de contenido no consensuado.

Hasta el momento, Alibaba no ha emitido comentarios sobre la utilización de Wan 2.1 en la creación de contenido para adultos. Sin embargo, este caso plantea interrogantes sobre la responsabilidad de las empresas tecnológicas en el desarrollo y la distribución de modelos de inteligencia artificial.