¿Quién escribió el prospecto de Anthropic? La herramienta de detección de IA da resultados inesperados

Resumen:

Según Business Insider, la empresa de inteligencia artificial Anthropic envió una

335 páginas

Los resultados de la detección de Pangram muestran que se determinó que el 92 % de este documento de aproximadamente 259 000 palabras estaba escrito por humanos, y algunas oraciones y párrafos se marcaron con confianza "alta" por contener rastros de uso de IA.

Sin embargo, este resultado es solo el juicio de la herramienta de detección y no puede probar qué contenido fue escrito por humanos o IA, ni puede confirmar si Anthropic usó su propio asistente de IA, Claude.

Los periodistas de Business Insider inicialmente intentaron inspeccionar el documento completo ellos mismos, pero encontraron dificultades debido al tamaño del archivo. Posteriormente, el cofundador y director ejecutivo de Pangram, Max Spero, lo ayudó a completar la detección de texto completo.

Spero dijo que su interpretación de este resultado es que el documento puede haber sido ligeramente editado o haber utilizado IA a nivel de oración, pero no parece haber una gran sección del contenido que haya sido generada completamente por IA.

Las frases marcadas por Pangram como posibles usos de la IA incluyen una descripción del desarrollo de la industria, en el sentido de que la IA se está desarrollando a un ritmo extremadamente rápido, y los intervalos entre las iteraciones del modelo de nueva versión a menudo se miden en meses en lugar de años.

Business Insider también señaló que las herramientas de detección de escritura mediante IA no son 100 % precisas. La forma en que las personas usan la IA para editar, corregir o revisar la redacción puede afectar los resultados de la detección.

Anteriormente, un periodista de Business Insider ingresaba sus publicaciones en LinkedIn y publicaba artículos en Pangram. La herramienta marcó una de las frases como escrita por IA. Después de revisar el proceso de escritura, descubrió que originalmente escribió esta oración y luego aceptó las sugerencias de reescritura de ChatGPT.

Anthropic no respondió a la solicitud de Business Insider de comentar sobre los resultados de la prueba. Los medios afirmaron que el propio sistema de marcas de agua de IA de Anthropic aún no se ha abierto a los usuarios comunes y, por lo tanto, no se utilizó para esta detección.

La escritora de Business Insider, Katie Notopoulos, cree que este resultado plantea una pregunta interesante. Como empresa de inteligencia artificial, ¿por qué Anthropic no utiliza más productos propios para redactar folletos? Pero también señaló que el prospecto debe ser revisado por la Comisión de Bolsa y Valores de EE. UU., y cada oración del documento puede recibir atención, y es razonable que los seres humanos participen en su redacción.