YouTuber pone coto al uso de IA generativa en los vídeos
YouTube está dando un paso importante hacia la transparencia al requerir que los creadores revelen si un video fue creado con inteligencia artificial generativa (IA).
El gigante del streaming de video anunció esta medida, junto con otras actualizaciones, con el objetivo de mitigar los efectos engañosos o perjudiciales de la IA generativa.
Jennifer Flannery O’Connor y Emily Moxley, vicepresidentas de gestión de productos de YouTube, declararon:
Cuando los creadores carguen contenido, tendrán nuevas opciones para seleccionar e indicar que contiene material alterado o sintético de manera realista.
Los creadores que no cumplan consistentemente con esto podrían enfrentar sanciones, como la eliminación de contenido o la suspensión del Programa de Socios de YouTube. Además, los artistas y creadores podrán solicitar la eliminación de contenido (incluyendo música) que utilice su imagen sin su consentimiento.
Cuando un creador cargue un video, se le dará la opción de indicar si «contiene material alterado o sintético de manera realista», según el comunicado. «Por ejemplo, esto podría ser un video generado por IA que representa de manera realista un evento que nunca ocurrió, o contenido que muestra a alguien diciendo o haciendo algo que en realidad no hizo».
Las etiquetas que informan a los espectadores que un video tiene contenido alterado o generado por IA se agregarán al panel de descripción. Una «etiqueta más prominente» se añadirá a contenido que involucre temas sensibles. Incluso si el contenido generado por IA está etiquetado correctamente, si viola las pautas comunitarias de YouTube, será retirado.
¿Cómo se aplicará esta moderación de contenido? Con IA, por supuesto. Además de crear contenido falso que parece convincentemente real, la IA generativa también puede identificar y capturar contenido que viola las políticas de contenido.
YouTube implementará la tecnología de IA generativa para contextualizar y comprender las amenazas a gran escala. Este enfoque demuestra un compromiso con la seguridad y la autenticidad en la plataforma, dando a los usuarios una experiencia más confiable y transparente.
