Resumen:
Apple anunció recientemente que ha actualizado sus pautas de revisión de la App Store y tomará medidas de gestión más estrictas contra las imágenes privadas involuntarias generadas por inteligencia artificial. Anteriormente, las reglas de la plataforma habían prohibido el contenido sexualmente explícito, y las regulaciones más recientes exigen además que los desarrolladores prevengan, monitoreen y eliminen de manera proactiva ese contenido falso generado por la IA. Si los desarrolladores no toman medidas efectivas, las aplicaciones relevantes pueden ser eliminadas de la App Store.
En la cláusula 1.2 actualizada, Apple nombra claramente las categorías de aplicaciones que involucran la generación de contenido de IA por primera vez. Se cree que esta medida está relacionada con algunos productos de IA generativa, incluidos los servicios de chatbot que han causado controversia por generar desnudez y contenido deepfake sexualizado. Anteriormente, Apple había advertido a los desarrolladores relevantes que si las aplicaciones relevantes continuaban permitiendo la generación de imágenes de desnudos falsos, correrían el riesgo de ser eliminadas de la App Store. Posteriormente, la empresa añadió los mecanismos de protección de seguridad correspondientes y obtuvo la aprobación de Apple para lanzar una versión actualizada.
Al mismo tiempo, Apple ha agregado una nueva guía de revisión numerada 2.5.19 para enfatizar que los desarrolladores no pueden agregar nuevas funciones que no se hayan revelado durante la etapa de revisión después de que la aplicación haya pasado la revisión. Apple mencionó específicamente las llamadas "Aplicaciones de nudificación", que son aplicaciones que utilizan inteligencia artificial para falsificar fotos de personas reales y convertirlas en imágenes de desnudos o pornográficas. Apple cree que algunos desarrolladores pueden ocultar el verdadero propósito de sus aplicaciones durante el período de revisión y esperar hasta que la aplicación sea aprobada para conectarse antes de habilitar funciones relacionadas.
Según las nuevas regulaciones, cualquier aplicación que contenga funciones ocultas o no divulgadas será prohibida en los estantes, incluidas las aplicaciones que oculten deliberadamente su propósito durante la etapa de revisión y luego abran capacidades dañinas después de la aprobación. Apple señaló que este tipo de práctica es un comportamiento típico de "cebo y cambio", y la función de "desvestirse" es un caso representativo de este tipo de infracción.
Además de las regulaciones sobre contenido generado por IA, Apple también revisó la Parte 5 de las pautas de revisión para extender la prohibición original de aplicaciones sobre trata de personas y explotación infantil a canales de distribución de aplicaciones alternativos. Esto significa que las aplicaciones están sujetas a los mismos requisitos de seguridad de contenido ya sea que estén disponibles a través de la App Store oficial u otros métodos de distribución permitidos.
En su anuncio a los desarrolladores, Apple enfatizó que la compañía no dudará en tomar medidas punitivas como retirar aplicaciones de los estantes y cancelar las calificaciones de desarrollador para aplicaciones y desarrolladores que violen estas regulaciones.
Esta actualización de reglas muestra que a medida que las herramientas de inteligencia artificial generativa se vuelven cada vez más populares, Apple está fortaleciendo aún más su supervisión de las falsificaciones profundas, la generación de imágenes privadas no consensuadas y los abusos relacionados para reducir el riesgo de que la tecnología de inteligencia artificial se utilice para acosar, explotar o invadir la privacidad.
Lea el texto completo de las bases:
https://developer.apple.com/app-store/review/guidelines/
Comentarios