El huracán Helene tocó tierra en los Estados Unidos desde Florida el 26 de septiembre y azotó muchos estados y lugares del sur de los Estados Unidos. Hasta ahora ha matado a más de 230 personas. Helene se ha convertido en el huracán con mayor número de muertos en Estados Unidos desde el huracán Katrina en 2005. Al mismo tiempo, una fotografía generada por IA también causó revuelo en las redes sociales, provocando incluso un "enfrentamiento rojo-azul" entre los dos partidos antes de las elecciones del próximo mes.


¿Qué panorama podría ser más grave que el impacto de un huracán? Amy Kremer, miembro del Comité Nacional Republicano para el Rescate de Huracanes o Buitre Africano y cofundadora de Mujeres por Trump, tuiteó en


Las fotografías que se centran en una sola víctima, en las que una niña inocente tiene que escapar de un desastre, son muy fáciles de despertar la simpatía de la gente, como el "Sudán hambriento", donde la niña delgada es respaldada por un buitre que la mira fijamente, la "Chica del Napalm" que evadió las bombas incendiarias durante la guerra de Vietnam, despertó los sentimientos pacifistas de innumerables jóvenes, y la "niña de ojos grandes" que estudia también hizo que el Proyecto Esperanza se arraigara profundamente en los corazones del pueblo. Por eso, esta foto de "niña abrazando a un cachorro durante el huracán" ha sido ampliamente compartida en las redes sociales.

Pero después de observar cuidadosamente la emoción, los brazos y piernas de la niña eran extremadamente suaves e inconsistentes con el color de su piel. Su cabello también tenía una textura muy extraña y las articulaciones de sus pulgares también tenían extraños bultos. Sí, esta foto es una imagen generada por IA.


Este rastro de IA es más grueso, pero no impide que obtenga millones de visitas ｜ Fuente de la imagen: X

Después de que alguien lo señalara como una "imagen falsa" en el área de comentarios, Kremer publicó directamente un mensaje que decía: "Sí, no sé de dónde viene esta foto. Para ser honesto, no importa de dónde viene. Se ha grabado en mi mente para siempre. Algunas personas tienen más experiencia de lo que muestra esta foto". "Es un símbolo del trauma y el dolor que la gente está atravesando en este momento". En otras palabras, sabía que la imagen era falsa, pero no le importaba porque su propósito no era simpatizar con la "chica AI", sino atacar la falta de respuesta del partido gobernante al huracán Helene. Porque la política de extrema derecha Laura Loomer, los KOL republicanos y los partidarios de Trump, Buzz Patterson y Juanita Broaddrick, también han enviado fotos similares de IA, con las leyendas "Nuestro gobierno nos ha fallado otra vez" o "Los gobernantes los han abandonado". Cada uno de estos tweets se ha compartido por millones.


Difundir es solo para eludir la responsabilidad ｜ Fuente de la imagen: X

Las imágenes falsas de IA se han convertido en una herramienta política para la moderación mutua entre los partidos. Junto con esta foto, se difundieron varias teorías de conspiración y noticias falsas, como "La Agencia Federal para el Manejo de Emergencias se está preparando para confiscar las propiedades de las víctimas del desastre" y "Las autoridades están controlando el clima en los estados que apoyan a los republicanos (los estados azotados por huracanes son en su mayoría partidarios de los republicanos (estados rojos)). En consecuencia, también circuló en Facebook una imagen de Trump desafiando las inundaciones para ayudar a los residentes, que por supuesto también fue sintetizada por AI. La publicación fue compartida más de 160.000 veces en dos días.


Fuente de la imagen: PolitiFact

El propio Trump también publicó recientemente "SwiftiesforTrump" (fanáticos de Taylor que apoyan a Trump) en su X después de que Taylor Swift expresara públicamente su apoyo al candidato presidencial demócrata Harris. Las imágenes adjuntas eran todas imágenes falsas generadas por IA.


Fuente de la imagen:X

Esta no es la primera vez que Trump publica imágenes falsas de IA. Como candidato apoyado por Musk, es imposible que Trump no tenga la capacidad de distinguir el contenido de IA. Después de todo, no hace mucho también publicó un vídeo sintético de DeepFakeAI de él y Musk bailando juntos. Sin embargo, en las fragmentadas plataformas de redes sociales, a los políticos no les importa si la información es verdadera o falsa. Ya sea una foto real o una foto generada por IA, siempre que tenga un efecto de difusión, generar impulso es el objetivo principal de la propaganda política en las plataformas sociales. Las impresiones perceptuales reemplazan a los hechos objetivos. El principio de comunicación de "difundir rumores sólo abre la boca y refutarlos te romperá las piernas" está resonando con más violencia en la era de la IA. ¿Quién está creando basura de IA? Pero, si nos remontamos a la fuente, ¿quién generó este contenido falso de IA y cómo se puede difundir ampliamente en varias redes sociales y cómo se puede engañar uno por uno? Esta imagen con el texto "Hecho a mano, gracias a todos por dar me gusta" recibió 870.000 me gusta y 35.000 comentarios en Facebook. Sin embargo, es una imagen falsa generada por IA. La imagen original enviada a la IA era de un artista tallado en madera, Michael Jones, y su perro tallado en madera real. La publicación original de Jones solo recibió 1.063 me gusta y 110 comentarios, lo que estuvo lejos de ser la publicación falsa de AI.


Al mismo tiempo, en Facebook también circulan imágenes similares de diferentes razas, géneros y razas de perros. Todos provienen de la imagen de Jones. Esto significa que cualquiera puede utilizar la IA para crear cientos de imágenes reales y falsas cada hora y luego publicarlas inmediatamente en las plataformas sociales. Siempre hay algunos que pueden obtener buen tráfico y exposición. Entre ellos, Facebook es el área más afectada.

A finales del año pasado, un reportero del sitio web de tecnología 404Media descubrió que la cantidad de publicaciones en el Facebook de Meta que obviamente eran contenido generado por IA había aumentado y también se había extendido a los Threads de Meta.


Los datos de imágenes "falsas a primera vista" de Facebook son sorprendentemente buenos ｜ Fuente de la imagen: Facebook

¿Por qué Facebook es el más afectado? La razón es simple: la algoritmización de la plataforma se ha puesto al día con el envejecimiento de los usuarios. En una reciente llamada sobre resultados, el CEO de Meta, Zuckerberg, dijo a los analistas que para mantenerse al día con los cambios en plataformas como TikTok, Facebook ha duplicado el número de publicaciones recomendadas a los algoritmos de los usuarios, y las publicaciones recomendadas ahora representan alrededor del 30% de las páginas de inicio de los usuarios. Sin embargo, según datos de la agencia de encuestas OBERLO, los usuarios de Facebook mayores de 25 años representan el 77,4%, de los cuales los usuarios mayores de 35 años representan el 46,6%. Para un gran número de personas de mediana edad y mayores que nacieron en la era anterior a Internet y que quizás recién comiencen a usar las redes sociales y los teléfonos inteligentes en la mediana edad, es difícil entender qué es la IA, y mucho menos identificar su contenido.


El artículo "Cómo el spam y los estafadores utilizan imágenes generadas por IA para aumentar la audiencia en Facebook" publicado por el Laboratorio de Internet de Stanford en agosto también encontró en pruebas que las imágenes que generaron con IA recibieron cientos de millones de impresiones en total. Las publicaciones gráficas generadas por IA suelen ser imágenes llamativas y que acaparan los titulares. Por ejemplo, un niño con una pierna rota y sosteniendo un cartel que diga "Feliz cumpleaños a mí" puede recibir 70.000 me gusta y 3.000 comentarios. Los comentarios de los usuarios también pueden mostrar que no sabían que la imagen fue generada por IA.

Además, la recomendación de algoritmos es como una espiral ascendente. Los investigadores han descubierto que después de hacer clic en algunas publicaciones de contenido generado por IA, incluso si no hay seguidores ni me gusta, se enviarán cada vez más publicaciones de IA a su página de inicio en el futuro. Algunos usuarios en vivo han comentado en Reddit que "Facebook se ha convertido en un muro interminable de fotografías de MidjourneyAI".


Un vistazo a la IA puede generar mucho tráfico｜Fuente de la imagen: 404

Además de engañar al tráfico, las imágenes falsas de IA también quieren defraudar dinero. Por ejemplo, al igual que el perro tallado en madera que se muestra arriba, la publicación puede incluir un enlace para "comprar el mismo tipo de productos de madera". De hecho, estos productos no existen, o la audiencia puede ser dirigida a otros sitios web publicitarios, como la publicación de perros tallada en madera más popular mencionada anteriormente. Al hacer clic en el área de comentarios, encontrará un enlace de ventas de artículos para mascotas fijado en la parte superior. Lo que es aún más paradójico es que es posible que muchas fotografías se hayan generado utilizando MetaAI. Uno de los propósitos de MetaAI es hacer que las fotos parezcan reales. Sin embargo, estas fotografías engañaron a sus usuarios y la contradicción se convirtió en un ciclo de tráfico. El contenido spam generado por IA afecta no sólo al "envejecido" Facebook, sino que incluso Quora, la "versión americana de Zhihu" que alguna vez fue famosa por su contenido de texto de alta calidad, tiene que enfrentar la situación actual en la que el contenido generado por IA diluye la calidad del contenido de la comunidad. Lo que es aún peor es que muchas imágenes generadas por IA ahora están firmemente ligadas a la realidad. Por ejemplo, el huracán Helene aún no ha amainado, pero después de que se descubran las imágenes falsas de IA, cada usuario cuestionará la autenticidad de cada foto, incluso si es una foto real basada en la realidad. Después de verse diluidos por una gran cantidad de contenido falso, se enfrentarán al dilema del "Rey Mono real y falso" demostrando su inocencia. El conflicto palestino-israelí, las elecciones estadounidenses, las inundaciones en Brasil, el huracán Helene... son verdaderos desastres naturales y provocados por el hombre que ocurrieron en la vida real. En una comunidad de contenido fragmentada, breve, gráfica y basada en texto, y que se centra en la puntualidad, es posible que las imágenes reales de los reporteros de guerra no reciban tantas vistas como las imágenes falsas generadas por la IA. Estos contenidos suelen estar dirigidos a personas mayores desprevenidas, que aportan sus propios me gusta y retuits por compasión, pero sin saberlo se convierten en cómplices del algoritmo. El alimento de estas IA se basa en artistas originales pero invisibles. Como plataforma social con responsabilidades importantes, como Meta, está atrapada en la guerra contradictoria de la IA: los usuarios usan las herramientas de IA de Meta para producir información falsa e información spam y publicarla en la plataforma Meta, mientras que el equipo de IA de Meta necesita usar tecnología para identificar qué imágenes son reales y cuáles son generadas por IA. La ironía es intrigante: cuanto más avanzado sea el equipo de tecnología de generación de IA, más difícil será para el equipo de revisión e identificación. En un momento en el que el spam ha inundado Internet, el nacimiento de herramientas de generación de IA sin duda ha acelerado una vez más el progreso del spam en Internet. Si este desafío no se puede resolver, no serán sólo los usuarios y las plataformas, sino todos los que quedarán "atrapados en el sistema".