Las últimas investigaciones australianas muestran que a la gente corriente le resulta difícil distinguir de forma fiable los rostros generados por inteligencia artificial de los rostros reales. Incluso para un pequeño número de personas conocidas como "superreconocedores", la ventaja no es obvia. Los investigadores advierten que rostros sintéticos tan realistas podrían plantear serios desafíos para la autorización de seguridad y la verificación de identidad, ya que las personas a menudo confían demasiado en su capacidad para identificarlas.
La investigación fue realizada conjuntamente por equipos de psicología de la Universidad de Nueva Gales del Sur (UNSW Sydney) y la Universidad Nacional de Australia (ANU), y el artículo se publicó en el British Journal of Psychology. El equipo de investigación señaló que los "rostros sintéticos de IA" actuales pueden ser incluso más "reales" en la percepción subjetiva que los retratos fotográficos reales, y los datos experimentales relevantes respaldan esta opinión.
James Dunn, investigador de la Facultad de Psicología de la UNSW, dijo que la gente ha creído durante mucho tiempo que podían reconocer de un vistazo rostros falsos generados por IA. Los primeros sistemas de IA a menudo generaban imágenes distorsionadas, deformadas e imperfectas, pero con el rápido desarrollo de los modelos generativos, se ha vuelto extremadamente fácil crear una cara extremadamente realista.
En el experimento específico, las dos universidades reclutaron un total de 125 participantes, incluidos 36 sujetos identificados como "superreconocedores" y 89 participantes normales como grupo de control. Todos completaron la misma prueba en línea: caras reales y caras generadas por IA se presentaron aleatoriamente en la pantalla, y se pidió a los sujetos que juzgaran si cada una era "real" o "sintética".
Los resultados mostraron que el desempeño del juicio de la gente común era sólo ligeramente mejor que el nivel aleatorio de las personas "ciegas", mientras que los "súper reconocedores" tenían puntuaciones generales más altas, pero sus ventajas eran muy limitadas. Lo que es aún más irónico es que, independientemente de su capacidad de reconocimiento, todos los participantes tenían la misma confianza en su "capacidad de ver a través de caras falsas de IA", lo que indica un exceso de confianza significativo.
Las investigaciones señalan que los rostros modernos generados por IA ya no están tan llenos de defectos obvios como en los primeros días. Los típicos "rastros de algoritmos", como fondos borrosos, órganos faltantes y proporciones extrañas de los rasgos faciales, aparecen cada vez menos. Posteriormente, los riesgos potenciales de estas caras falsas extremadamente confusas se están acumulando rápidamente en escenarios como el fraude en línea, la suplantación de identidad y los ataques de ingeniería social, y como resultado tanto individuos como instituciones pueden resultar perjudicados.
Amy Dawel, profesora asociada de la ANU, señala que las caras falsas de la IA actual "no se revelan porque algo esté terriblemente mal, sino porque son demasiado buenas". En lugar de decir que son anormales, es mejor decir que son "demasiado normales": la cara es muy simétrica, los rasgos faciales están bien proporcionados y las características generales están en el "promedio" en un sentido estadístico. Se ven agradables y "agradables a la vista". Hizo hincapié en que este tipo de características de apariencia "anormalmente perfectas" y "demasiado normales" pueden considerarse en sí mismas como una señal de peligro potencial generada por la IA, y las personas con capacidades súper de reconocimiento facial pueden ser más capaces de capturar estos patrones sutiles.
El próximo plan del equipo de investigación es analizar más a fondo en qué señales de percepción se basan estos "superdetectores de rostros falsos de IA", para promover la mejora de las herramientas técnicas de detección automática y las estrategias de reconocimiento masivo. Actualmente, la UNSW ha lanzado la prueba en línea “UNSW Face Test” en su sitio web oficial, que incluye una versión de demostración gratuita de las capacidades de reconocimiento facial falso de IA. Los usuarios comunes también pueden evaluar su propio nivel de reconocimiento.
Después de participar personalmente en la prueba, el autor del artículo descubrió que identificó correctamente dos veces 12 caras falsas de IA de 20 caras. Según las instrucciones oficiales, se espera que este resultado se clasifique como "superreconocedor", mientras que la puntuación media de los participantes ordinarios es de aproximadamente 11/20. A medida que las imágenes generadas por IA continúan mejorando, una ventaja tan leve es suficiente para resaltar la creciente brecha entre la tecnología y la percepción humana.