Nuestro enfoque respecto a la IA

¿Cómo aborda YouTube la IA generativa con responsabilidad?

La IA generativa ya comenzó a transformar la forma de expresarse de los creadores. Por ejemplo, les permite crear guiones gráficos con sus ideas o experimentar con herramientas musicales. Nos entusiasma estar a la vanguardia de la ampliación del acceso a estas funciones para ayudar a todos a hacer realidad sus ideas. En YouTube, la innovación y la responsabilidad van de la mano y, aunque ansiamos ver cómo los creadores siguen aprovechando la IA en nuestra plataforma, la responsabilidad sigue siendo fundamental en todo lo que hacemos.

Nuestros Lineamientos de la Comunidad seguirán determinando las reglas de uso de todo el contenido de la plataforma. Quitamos el contenido sintético o alterado que infringe cualquiera de nuestros Lineamientos de la Comunidad, como los que prohíben la incitación al odio o a la violencia, el contenido violento o gráfico y el hostigamiento, y lo seguiremos haciendo.

Creemos que todos debemos encargarnos de mantener un ecosistema saludable de información en YouTube. Es por eso que lanzamos políticas y experiencias de producto nuevas para cumplir nuestro compromiso de adoptar la IA de forma firme y responsable.

Esto incluye los siguientes aspectos:

• Herramientas de transparencia para el contenido alterado o sintético: Desarrollamos una herramienta en Creator Studio para que los creadores puedan informar si su contenido está significativamente alterado o es sintético y parece real, como cuando se usa IA generativa. Los creadores están obligados a divulgar esta información cuando el contenido sea realista, es decir, cuando un usuario pueda confundir fácilmente lo que se muestra con una persona, un lugar o un acontecimiento reales. De acuerdo a la información divulgada por el creador, aparecerán etiquetas en la descripción del video y, si el contenido está relacionado con temas sensibles, como salud, noticias, elecciones o finanzas, también mostraremos una etiqueta en la ventana del reproductor de video.

Aunque esperamos que los creadores divulguen si usaron contenido alterado o sintético en sus videos, también podemos aplicar una etiqueta a algunos videos si no se divulgó esta información, en especial cuando el contenido trate los temas sensibles mencionados anteriormente.

• Implementación de la tecnología de IA generativa para la moderación de contenido: La IA generativa ya nos está ayudando a ampliar rápidamente el conjunto de información con el que se entrenan nuestros clasificadores de IA, lo que nos permite identificar y detectar más rápidamente el contenido abusivo. Las mejoras en la velocidad y la precisión de nuestros sistemas también nos permiten disminuir la cantidad de contenido dañino al que se exponen los revisores manuales.

Estos son solo algunos de los primeros pasos que estamos dando en un proceso que seguirá evolucionando y perfeccionándose a medida que avancemos. Nuestro objetivo consiste en equilibrar, en este momento crucial, los grandes beneficios que ofrece esta tecnología con la seguridad permanente de la comunidad.