Resumen:
Yao Shunyu, científico jefe de inteligencia artificial de Tencent y ex investigador de OpenAI, asistió recientemente a un seminario científico en Hong Kong y dijo que los modelos de inteligencia artificial de vanguardia se están moviendo rápidamente hacia el campo de la biología y que sus capacidades pronto alcanzarán un punto crítico que puede causar daños en la vida real. Aunque se espera que este cambio promueva la investigación y el desarrollo de nuevos fármacos y la innovación médica, también puede traer nuevos desafíos de seguridad y generar preocupaciones en la industria sobre los riesgos de bioseguridad.
Yao Shunyu dijo que la inteligencia artificial ha demostrado capacidades suficientes para tener un impacto real en el campo de la seguridad de la red, y las capacidades biológicas se están acercando a niveles similares. Advirtió que el desarrollo futuro de la IA en el campo de la biología puede ser más difícil de gestionar que en el campo de la ciberseguridad, por lo que tanto las empresas chinas como otras empresas que adopten la ruta del modelo abierto deben tomar en serio las cuestiones de seguridad relevantes.
En los últimos años, se han comenzado a aplicar cada vez más sistemas de inteligencia artificial de vanguardia a las ciencias biológicas, la investigación médica y el desarrollo de fármacos. En general, en la industria se cree que se espera que la IA acorte significativamente el ciclo de investigación y desarrollo de fármacos y acelere el descubrimiento de opciones de tratamiento. Sin embargo, los expertos también señalaron que estas capacidades tienen características de "doble uso". Si bien promueven el progreso de la investigación científica, también pueden ser objeto de abuso por parte de delincuentes, lo que genera nuevos riesgos de bioseguridad.
El discurso de Yao Shunyu llega en un momento en que Tencent está acelerando su estrategia de IA. Tencent lanzó oficialmente el modelo insignia de nueva generación Hy4 el 4 de noviembre y lo posicionó como uno de los modelos básicos más importantes de la compañía. Según datos de Artificial Analysis, una agencia de evaluación de inteligencia artificial, Hy4 está actualmente clasificado como uno de los modelos de IA de mayor rendimiento en China.
Al hablar sobre futuras direcciones de desarrollo, Yao Shunyu reveló que Tencent está explorando la posibilidad de construir un "laboratorio científico autónomo" y espera utilizar sistemas de inteligencia artificial para completar de forma independiente procesos complejos de investigación científica, incluidas algunas tareas de investigación biológica. Él cree que desde una perspectiva técnica, la mayoría de los problemas eventualmente podrán resolverse. Los desafíos realmente mayores residen en la gobernanza social, la coordinación organizacional y la construcción de sistemas de supervisión de la seguridad.
Para reducir los riesgos potenciales, Tencent ha adoptado una serie de medidas de seguridad durante el proceso de formación de Hy4. La compañía dijo que eliminó deliberadamente los datos relacionados con la explotación de vulnerabilidades de software y el comportamiento de ataque, reteniendo solo el conocimiento de seguridad de la red defensiva, con la esperanza de reducir las capacidades de ataque y al mismo tiempo conservar las capacidades de protección. En cuanto al campo de la biología, la evaluación interna de Tencent cree que, aunque Hy4 tiene un sólido conocimiento biológico básico, todavía existe una clara brecha entre poder formular procedimientos experimentales de forma independiente y formar capacidades de alto riesgo.
Yao Shunyu enfatizó particularmente que, en comparación con el campo de la seguridad de redes, a menudo es más difícil distinguir claramente entre "capacidades ofensivas" y "capacidades defensivas" en el campo de la biología. Esto significa que los investigadores enfrentarán situaciones más complejas al evaluar los riesgos de los modelos, por lo que los modelos deben someterse a pruebas y validaciones más rigurosas antes de su lanzamiento. Actualmente, Tencent está cooperando con el principal laboratorio de seguridad de la compañía para realizar una evaluación sistemática de las capacidades relevantes.
En cuanto al controvertido debate de los últimos años sobre "código abierto versus código cerrado", Yao Shunyu dijo que empresas estadounidenses como Anthropic abogan por mantener cerrados los modelos más avanzados para reducir los posibles riesgos sociales. Esta visión tiene cierta racionalidad. Pero también cree que los modelos abiertos también pueden ayudar a los defensores a mejorar sus capacidades, por lo que en el futuro la industria puede necesitar buscar un equilibrio entre apertura y cierre, en lugar de depender enteramente de una única ruta.
A medida que la inteligencia artificial se expande gradualmente desde la programación, las matemáticas y la generación de contenidos al campo de las ciencias biológicas, la biología se considera una de las fronteras más importantes de la IA en la siguiente etapa. Los analistas señalaron que una vez que la IA realmente tenga la capacidad de comprender y aplicar profundamente el conocimiento biológico, las tecnologías relacionadas no solo pueden cambiar la investigación y el desarrollo de medicamentos y la industria médica, sino que también impulsarán a las agencias reguladoras globales a reexaminar el marco de gobernanza de la inteligencia artificial para hacer frente a los nuevos desafíos de seguridad posteriores.
Comentarios