Resumen:
Según informes publicados por 404 Media, hay un proyecto llamado Proyecto Lily en funcionamiento dentro de OpenAI: OpenAI contrata cientos de revisores de palabras rápidas subcontratados para leer manualmente las conversaciones entre usuarios reales y ChatGPT para mejorar la calidad de las respuestas.
Existe un filtro de privacidad pero no es lo suficientemente exhaustivo:
En circunstancias normales, el revisor de palabras emergentes no puede ver el nombre de usuario y la conversación primero se filtrará a través del filtro de privacidad para eliminar información personal. Sin embargo, OpenAI también admite que el mecanismo de filtrado puede pasar por alto información personal y que las conversaciones breves son particularmente propensas a tener problemas.
La interfaz de revisión generalmente también viene con un resumen de la memoria del usuario. El resumen de la memoria resumirá las preguntas, intereses y situaciones anteriores del usuario, etc. A veces incluso puede inferir la ubicación del usuario a través de la memoria. Los auditores suelen ver la conversación completa en contexto.
El revisor puntúa principalmente las respuestas:
El trabajo fue descrito como mecánico y repetitivo, y se informó que los salarios por hora superaban los 50 dólares. El trabajo principal del revisor es calificar las respuestas en lugar de verificar los hechos. Por ejemplo, el revisor debe juzgar si la respuesta dada por el modelo es relevante, si tiene un sabor obvio de IA, si hay comportamiento de predicación, si hay abuso de expresiones, si hay comportamiento de adulación y si el modelo escribirá el modelo como una persona con experiencia de vida.
En cuanto a si las respuestas dadas por el modelo contienen errores fácticos, este no es trabajo del auditor. Después de todo, los auditores no son enciclopedias y no pueden conocer la verdad completa de todos los eventos, por lo que es normal que los usuarios vean respuestas dadas por el modelo que contienen errores fácticos.
El modelo mejorado habilitado de forma predeterminada es la clave para compartir datos:
Las versiones gratuita, Plus y Pro de ChatGPT permiten el uso del chat para mejorar los productos de forma predeterminada. Cuando esta función está habilitada, el contenido del chat del usuario estará autorizado a OpenAI para mejorar el producto. Los auditores subcontratados en el Plan Lily para comprobar el contenido de la conversación son sólo uno de los usos de los datos. Naturalmente, los datos se utilizarán para otros fines, como continuar entrenando el modelo.
Muchos usuarios utilizan ChatGPT como confidente temporal, hablando de familia, salud e incluso asuntos más privados. Algunos críticos dijeron que es posible que muchos usuarios no sepan que sus conversaciones pueden ser leídas por personas reales, así que piense si esto es algo aterrador.
Comentarios