A medida que más creadores recurren a la inteligencia artificial para la expresión artística, también hay un impulso más amplio por la transparencia en la participación de la inteligencia artificial en la creación de contenidos. Para resolver este problema, TikTok anunció hoy que lanzará una nueva herramienta que permitirá a los creadores anotar contenido generado por IA y comenzará a probar otros métodos para anotar automáticamente contenido generado por IA.
La compañía dijo que creía que la introducción de etiquetas de IA era necesaria porque el contenido de IA podría confundir o engañar a los espectadores. Por supuesto, TikTok ha actualizado su política sobre medios sintéticos, exigiendo que las personas etiqueten el contenido de inteligencia artificial que contenga imágenes, audio o videos realistas (como deep fakes) para ayudar a los espectadores a aclarar los entresijos del video y evitar la difusión de información engañosa. Las políticas de TikTok le permiten eliminar imágenes no divulgadas de inteligencia artificial realista.
Sin embargo, aparte de los casos extremos en los que la IA se utiliza para engañar intencionalmente a los usuarios, algunos contenidos generados por IA pueden oscilar entre parecer auténtico o falso. En esta área gris, los usuarios finales generalmente apreciarán una mayor transparencia para poder saber si el contenido que están viendo ha sido muy editado o creado con inteligencia artificial.
TikTok ahora está lanzando una nueva herramienta que no solo facilitará a los creadores el cumplimiento de las políticas existentes sobre medios sintéticos, sino que también marcará cualquier otro contenido que se genere íntegramente con IA o que haya sido muy editado por IA. Los creadores pueden usar la herramienta cuando suben un video y TikTok no quiere que los creadores regresen y vuelvan a etiquetar sus videos anteriores.
Cuando un creador usa la nueva herramienta, TikTok mostrará un mensaje debajo del nombre de usuario del video indicando que el creador marcó el video como generado por IA. Sin embargo, TikTok no penalizará a los creadores por no etiquetar contenido de inteligencia artificial que no se ajuste a las políticas de medios sintéticos existentes.
Además, TikTok también dijo que está desarrollando un método para detectar y etiquetar automáticamente contenido de inteligencia artificial. Esta semana, TikTok comenzará a probar una etiqueta "generada por IA" que eventualmente se aplicará a cualquier contenido que se detecte como editado o creado con IA.
La compañía se negó a revelar detalles específicos sobre cómo su tecnología buscará posible contenido de IA, y señaló que compartir esos detalles podría permitir a los malos actores eludir sus capacidades de detección. TikTok dijo, sin embargo, que probaría diferentes modelos de detección de IA y que estaba "evaluando" una asociación de procedencia destinada a ayudar a la plataforma a detectar mejor la IA mediante la incorporación de etiquetas de IA en el contenido mismo.
En los últimos meses, tanto OpenAI como Google han anunciado sus propias capacidades de detección de IA, y etiquetar la IA se está convirtiendo en una práctica común entre las grandes plataformas. Instagram también parece estar trabajando en una función para resaltar contenido creado o editado mediante inteligencia artificial. La Unión Europea está presionando para que las plataformas etiqueten los contenidos de inteligencia artificial como regla general para combatir la desinformación.
Para aumentar la transparencia, TikTok ahora también cambiará el nombre de todos los efectos especiales que utilizan inteligencia artificial para indicar claramente "IA" en el nombre. Esto es algo que anteriormente se había negado a revelar. De hecho, cuando el filtro "BoldGlamour" de TikTok se hizo popular por su excelente tecnología para cambiar las caras de los usuarios, algunas personas sospecharon que el filtro no utilizaba AR (tecnología de realidad aumentada), sino IA. Sin embargo, TikTok se negó a responder a las preguntas de los medios en ese momento sobre si el producto era inteligencia artificial.
Con el nuevo cambio de etiqueta, los usuarios ahora pueden determinar de un vistazo qué filtros de TikTok usan IA. La compañía dijo que sus Directrices actualizadas para creadores de Effect House les exigirán que hagan lo mismo.
TikTok señaló que al desarrollar nuevas etiquetas de IA, consultó con su consejo asesor de seguridad y con expertos de la industria, incluido el Dr. David G. Rand del Instituto de Tecnología de Massachusetts, cuya investigación examinó las reacciones de los usuarios a diferentes tipos de etiquetas de IA. Con este fin, TikTok espera que diferentes grupos de personas puedan entender ampliamente el término "generación de inteligencia artificial".
En las próximas semanas, TikTok también lanzará videos educativos y otros recursos de alfabetización mediática para ayudar a los usuarios a comprender mejor la inteligencia artificial.
Estas actualizaciones siguen a otras iniciativas de TikTok en torno a la inteligencia artificial en los medios, incluido el compromiso de febrero de unirse a la Asociación sobre Prácticas Responsables de IA para Medios Sintéticos, un código de mejores prácticas de la industria para la transparencia y la innovación responsable en inteligencia artificial. En agosto de este año, la compañía también se asoció con la organización sin fines de lucro Digital Moment para organizar una mesa redonda con jóvenes para comprender sus puntos de vista sobre el desarrollo en línea de la inteligencia artificial.
Las etiquetas de IA se implementarán a partir de hoy, pero es posible que no las vea de inmediato hasta que se complete el lanzamiento.