Investigadores de la Universidad Johns Hopkins, la Universidad de Oxford, la Universidad de Stanford, la Universidad de Columbia y la Universidad de Nueva York están pidiendo salvaguardias contra ciertos conjuntos de datos de enfermedades infecciosas que podrían permitir a la inteligencia artificial diseñar virus mortales. La advertencia resalta una falla de seguridad que se pasa por alto seriamente en el desarrollo de la inteligencia artificial.
Los investigadores señalan que una vez que los datos biológicos de alto riesgo se difunden en la red abierta, ya no se pueden recuperar. Esto significa que incluso si en el futuro se introducen regulaciones relevantes, si el conocimiento peligroso en sí se ha difundido ampliamente, cualquier medida regulatoria será ineficaz. Esta irreversibilidad hace que la gestión y el control de los datos de bioseguridad sean particularmente urgentes y complejos.
Actualmente, con el rápido desarrollo de la tecnología de inteligencia artificial, especialmente su aplicación cada vez más profunda en el campo biomédico, la capacidad de los sistemas de IA para adquirir y procesar datos biológicos de alto riesgo también aumenta constantemente. A los investigadores les preocupa que si no se toman las restricciones de acceso y las medidas de seguridad adecuadas a estos conjuntos de datos confidenciales, los actores malintencionados puedan utilizar la tecnología de inteligencia artificial para diseñar o modificar patógenos para crear amenazas biológicas altamente contagiosas o letales.
La convocatoria refleja profundas preocupaciones académicas sobre los riesgos de la IA de doble uso. Si bien el intercambio abierto de datos científicos es fundamental para avanzar en la investigación médica y la salud pública, cierta información biológica potencialmente peligrosa puede tener consecuencias catastróficas si cae en las manos equivocadas. Por lo tanto, cómo encontrar un equilibrio entre promover el progreso científico y garantizar la seguridad biológica se ha convertido en una cuestión clave que debe resolverse en el campo de la gobernanza de la IA.