Recientemente, el equipo del profesor Zhang Yue de la Universidad de West Lake desarrolló un sistema científico de inteligencia artificial, DeepScientist, que atrajo la atención de muchos internautas. Según los informes,DeepScientist es el primer sistema científico de IA con capacidades completas de investigación científica que demuestra una iteración continua y orientada a objetivos y supera progresivamente los resultados de investigación más avanzados de investigadores humanos sin intervención humana.
Sin embargo, a muchos internautas les preocupa que un sistema de inteligencia artificial que no requiera intervención humana corra el riesgo de descontrolar la dirección de la investigación o ser engañado.
Al respecto, Zhang Yue dijo: "Las cuestiones de seguridad de la IA siempre han sido un tema al que damos gran importancia, por lo que DeepScientist lo hizo público y también adoptamos una estrategia prudente".
En su opinión, la investigación sobre la IA en sí y la investigación sobre su seguridad deben ir de la mano, y Zhang Yue cree firmemente que la IA es controlable.
También dijo: “Como estudioso de los modelos de lenguaje de IA, tenemos una comprensión relativamente buena del mecanismo de funcionamiento de los modelos de lenguaje, por lo que tengo una actitud relativamente positiva hacia la controlabilidad de la IA.También recomiendo encarecidamente a los estudiantes que utilicen herramientas de inteligencia artificial lo antes posible y más. Después de todo, las personas del futuro deberán trabajar juntas con la IA. "
