Resumen:
El 15 de septiembre, según la columna "Xiaoxin Storytelling" del Jiaxing News Media Center en la provincia de Zhejiang: El 17 de abril de este año, la madre del Sr. Shi falleció. Su familia estaba discutiendo cuándo enterrarla. Pensó en el software de inteligencia artificial "Doubao", y el software le recomendó el 19 de abril.
Cuando todo estuvo arreglado, el Sr. Shi volvió a preguntarle a "Doubao" para confirmar que el día 19 no era un día adecuado, pero que sería muy problemático cambiarlo. Por esta razón, el Sr. Shi se enojó mucho y demandó a la empresa de software que fabricaba el "Doubao".
Según los informes, la ciudad natal del Sr. Shi es Shuyang, provincia de Jiangsu, y actualmente vive en Jiashan. El 17 de abril de este año, la madre del Sr. Shi murió de una enfermedad repentina. La familia del Sr. Shi tiene cinco hermanos y hermanas. Los miembros de la familia hablaron juntos sobre el funeral de su madre. La máxima prioridad era determinar la fecha del entierro.
Sr. Shi dijo a los periodistas: "Confío más en Doubao. Confío en él todo el tiempo y creo que lo sabe todo. Luego le pregunté a Doubao cuándo sería enterrado. Doubao dijo el 19 de abril. Creo que tiene sentido, así que lo creo".
El registro de preguntas y respuestas del software muestra que después de que el Sr. Shi hiciera la pregunta en ese momento, "Doubao" respondió que la recomendación más confiable es el 19 de abril.
Después de un rato, el Sr. Shi volvió a preguntar: "¿A qué hora es adecuado para el entierro?" "Doubao" respondió de 7 a 9 en punto, pero esta vez la respuesta fue un poco diferente a la última vez. "Doubao" mencionó en su respuesta que el 19 de abril no era un día adecuado.
Sr. Shi estuvo confundida por un momento. Preguntó varias veces y la respuesta de "Doubao" fue que el día 19 era inapropiado. En ese momento, familiares y amigos ya habían informado que era demasiado tarde para cambiar la fecha. Al final, el Sr. Shi tuvo que asistir al funeral de su madre.
Poco después de realizado el funeral, un familiar que se encontraba en su casa sufrió un accidente de tráfico y resultó gravemente herido. Se quejaron de los arreglos del Sr. Shi.
Sr. Shi se quejó ante la empresa por el software "Doubao" pero no recibió respuesta, por lo que decidió demandar a la otra parte. "Doubao" también ayudó al Sr. Shi a redactar una denuncia, indicando que podía demandar y dio los pasos para procesar.
El acuerdo de usuario del software "Doubao" muestra que el contenido generado por el software y los servicios "Doubao" es solo de referencia y no pretende ser un asesoramiento profesional. Para situaciones que impliquen un impacto significativo, se recomienda consultar a los profesionales pertinentes y no debe utilizarse como base para la acción o la inacción. Las consecuencias y responsabilidades de cualquier juicio realizado con base en el contenido resultante u operaciones posteriores relacionadas basadas en este serán asumidas por el usuario.
El periodista se enteró de que el Tribunal Popular del condado de Jiashan abrió una audiencia sobre este caso.
El abogado cree que será difícil para el Sr. Shi defender sus derechos mediante el procesamiento. Si el Sr. Shi quiere litigar por la protección de sus derechos, debe demostrar que el proveedor de servicios que proporcionó el software de IA cometió un acto ilícito. En primer lugar, la culpa debe ser de la otra parte. Además, debe existir una relación causal entre la culpa de la otra parte y el daño real sufrido por el Sr. Shi. Esto es muy difícil de probar. Si la IA simplemente da una respuesta incorrecta, obviamente esto no es suficiente.
Las noticias sobre "la IA engaña a la gente" son comunes. El 18 de junio, Zhang, de 52 años, de Changsha, de repente se sintió mareado en casa. Habitualmente encendía su teléfono móvil y utilizaba IA para buscar síntomas y métodos de tratamiento relacionados. Tres días después, la condición no mejoró, sino que empeoró. Los familiares rápidamente enviaron al paciente a ver a un médico y la situación cambió. Los médicos advierten que la consulta de IA se basa principalmente en el análisis de la información aportada por los pacientes. Es difícil juzgar la gravedad de la afección basándose únicamente en descripciones de texto y no puede reemplazar una consulta cara a cara con un médico profesional.
No es coincidencia. El 5 de junio, un ciudadano de Nanjing utilizó bolsas de frijoles para tomar fotografías e identificar hongos recolectados en la comunidad, lo que casi causó intoxicación alimentaria. Además, el Maestro Yang, de 57 años, de Ningbo, fue "guiado" por IA a las montañas profundas y se perdió y quedó atrapado mientras escalaba el fin de semana. Estaba exhausto y fue rescatado por los bomberos después de buscar rescate. Los estudiantes del examen de ingreso a la universidad utilizaron inteligencia artificial para completar a sus voluntarios, pero estaban sesgados por códigos profesionales inventados y clasificaciones de puntajes de años anteriores. Los agricultores preguntaron a AI qué pesticidas usar, y cientos de acres de campos de sésamo murieron de la noche a la mañana... Estos casos están llenos de tonterías en la superficie, pero detrás de ellos está la grave cuestión de cómo debemos ver y usar correctamente la IA.
Anteriormente, la persona relevante a cargo de Douyin Group respondió que la IA aún está en la etapa de desarrollo y que Doubao también está mejorando constantemente la precisión del reconocimiento, lo que involucra cuestiones importantes como la seguridad personal. Se recomienda tomar como referencia las respuestas de AI y buscar argumentos multipartidistas para evitar causar daño.
El periódico comentó una vez: El poder de la IA radica en su capacidad de buscar cantidades masivas de información de red fragmentada en un período de tiempo muy corto y unirla en una respuesta que diga "algo así". Pero la respuesta que da es "el texto que más se parece a la verdad" en lugar de "la verdad absoluta, correcta y confiable". No puede descifrar los complejos caminos en una montaña profunda, no puede hacer un diagnóstico basado en descripciones simples y no conoce las precauciones para la medicación de cultivos, sin mencionar que puede pretender comprender y fabricar información falsa.
Cuanto más potente es la tecnología, más personas tienen que permanecer despiertas. La IA se puede utilizar como herramienta auxiliar para buscar información, organizar ideas y hacer listas, pero nunca es una panacea, y mucho menos una "llave maestra" que pueda reemplazar el pensamiento y la toma de decisiones de las personas.
Especialmente cuando se trata de cuestiones importantes como la seguridad en los viajes, la salud física y las aspiraciones en los exámenes de ingreso a la universidad, donde un error puede provocar un vuelco, la confianza en la IA no puede elevarse a una dependencia ilimitada e incondicional, y debemos abandonar el sentido común en la vida y los canales autorizados para resolver problemas. Los antiguos decían: "Es mejor no tener libros que creer en los libros". Hoy probablemente deberíamos decir: es mejor no tener IA que creer en ella.
Comentarios