Resumen:
OpenAI anunció recientemente que fortalecerá las restricciones de ChatGPT sobre contenido relacionado con la violencia en las próximas semanas, agregando protección para armas e información del sistema de seguridad para usuarios menores. Según las nuevas medidas, ChatGPT puede finalizar la conversación por sí solo cuando la conversación muestra que el usuario continúa concentrándose en la violencia o la idea de dañar gravemente a otros. Si la conversación finaliza varias veces debido a tales problemas, la cuenta puede incluso ser prohibida.
La política original de ChatGPT prohíbe proporcionar orientación para ayudar a los usuarios a planificar o llevar a cabo actos violentos. Este ajuste limitará los detalles proporcionados por el modelo al responder preguntas sobre "ataques pasados a gran escala y perpetradores", es decir, el modelo reducirá el contenido o incluso se negará a responder desde una perspectiva de seguridad.
El alcance de las restricciones incluye recrear las armas, el equipo y los métodos de adquisición involucrados en el ataque, así como limitar las consultas de los usuarios para comparaciones detalladas de la escala del daño que pueden aumentar la visibilidad del atacante. Las restricciones anteriores se aplican a todos los usuarios, independientemente del grupo de edad o del propósito de hacer preguntas, por lo que incluso los usuarios adultos enfrentarán las mismas restricciones.
Para los usuarios identificados como menores de 18 años, OpenAI también limitará la información útil sobre armas y sistemas de seguridad que pueden usarse para cometer violencia. Esta protección también se aplicará a problemas que superficialmente no parecen indicar una intención violenta. OpenAI dice que los adolescentes aún pueden usar ChatGPT para obtener ayuda, aprender cómo prevenir o reducir la violencia y conectarse con adultos de confianza.
El mecanismo mejorado de predicción de edad combinará varias señales, como el comportamiento del usuario, para evaluar continuamente si la cuenta puede pertenecer a un menor. Si corresponde, el sistema aplicará automáticamente medidas de protección relevantes para los usuarios menores de 18 años. Si un usuario es identificado erróneamente como menor, también puede enviar activamente su información de identidad para su verificación.
Comentarios