Resumen:
Una fotografía de un cocodrilo generada por inteligencia artificial desencadenó recientemente una persecución en la vida real en Singapur. Debido a que la foto se confundió con una toma real, la dirección local suspendió temporalmente las actividades en la popular zona acuática y movilizó recursos para iniciar una persecución. El hombre que produjo y difundió la fotografía se enfrenta ahora a consecuencias legales de hasta diez años de prisión.
Según la información del caso, Ye Lin, de 30 años, utilizó Google Gemini para generar una imagen de cocodrilos de agua salada que aparecieron en el embalse de Pandan en agosto de este año y se la envió a un colega. Se informa que el acto pudo haber comenzado como una broma, pero la foto posteriormente circuló más y finalmente condujo a que se informara sobre el avistamiento del cocodrilo a la agencia nacional de agua de Singapur, PUB.
Pandan Reservoir es un popular lugar local para practicar kayak y practicar deportes acuáticos. Después de recibir la notificación, PUB y el Servicio de Parques Nacionales tomaron medidas rápidas, no solo emitiendo una advertencia al público, sino también suspendiendo todas las actividades acuáticas en el área y organizando personal para realizar operaciones de búsqueda y captura de cocodrilos.
Después de la investigación, los departamentos pertinentes confirmaron al día siguiente que la llamada foto del cocodrilo era en realidad una imagen falsa generada por IA. Posteriormente, PUB denunció el caso a la policía y el caso entró oficialmente en proceso de investigación penal.
La investigación policial encontró que Ye Lin borró imágenes relevantes y la aplicación Gemini de su teléfono móvil después del incidente. Las autoridades encargadas de hacer cumplir la ley consideraron que esta medida pretendía encubrir pruebas y obstruir los procedimientos judiciales. Por tanto, además de enfrentarse al cargo de "difusión de información falsa", también fue acusado de "obstrucción a la justicia".
Según la ley de Singapur, la difusión de información falsa se castiga con hasta tres años de prisión, una multa de hasta 10.000 dólares singapurenses, o ambas; La obstrucción de la justicia se castiga con hasta siete años de prisión. Si es declarado culpable de ambos cargos, se enfrenta a una pena máxima de diez años.
El caso también desencadenó debates sobre los riesgos del uso indebido de la inteligencia artificial generativa. Este incidente no sólo provocó un error de juicio público, sino que también provocó que múltiples agencias gubernamentales dedicaran mano de obra y recursos para hacer frente a un incidente de seguridad inexistente. Los funcionarios señalaron que la información falsa y el contenido editado, manipulado o generado por IA pueden causar pánico público y desperdiciar valiosos recursos públicos, por lo que los comportamientos relevantes se abordarán con seriedad.
Se entiende que Ye Lin ha declarado que planea declararse culpable y no contratará a un abogado para su defensa. Se espera que el caso se vuelva a escuchar en noviembre de este año.
Este incidente se considera un caso representativo en la era de la inteligencia artificial generativa. A medida que la tecnología de generación de imágenes de IA se vuelve cada vez más realista, cómo distinguir el contenido real del contenido artificial y cómo evitar que se abuse de las tecnologías relacionadas se están convirtiendo en nuevos desafíos que enfrentan las agencias reguladoras y el público en varios países.
Comentarios