Resumen:
La startup de inteligencia artificial Anthropic anunció que su recién construido Laboratorio de Física y Biología de IA (Wet Lab) en el Área de la Bahía de San Francisco ha logrado "progresos significativos". Sin embargo, a nivel de operación experimental, los investigadores humanos todavía tienen control absoluto y no han permitido directamente que su modelo de IA Claude funcione de forma autónoma sin supervisión.
Se informa que el laboratorio se dedica principalmente a la investigación biológica básica y la verificación física, con el objetivo de cerrar la brecha entre las simulaciones puras por computadora y los experimentos biológicos reales. Aunque los ejecutivos de Anthropic han emitido advertencias muchas veces antes, enfatizando que los modelos potentes de IA pueden traer riesgos de bioseguridad extremadamente graves e incluso destrucción humana, la compañía también está acelerando la aplicación de la IA en el campo de las ciencias de la vida. Eric Kauderer-Abrams, director del negocio de ciencias de la vida, señaló que "la verificación física en laboratorios reales seguirá siendo insustituible durante mucho tiempo", que es también la principal intención original de la empresa al crear el laboratorio.
El informe enfatiza que, aunque Anthropic afirmó que el laboratorio había logrado resultados preliminares impresionantes, el detalle más sorprendente es que la compañía no decidió dejar que la IA "se dejara llevar". Todos los procedimientos de experimentos físicos, operaciones de reactivos y revisión de datos todavía están bajo un estricto "control de circuito cerrado" (Humanos en el circuito) por parte de investigadores humanos.
Los analistas señalaron que Anthropic mantiene un alto grado de cautela al promover la innovación biológica, lo que refleja el doble dilema que enfrentan los gigantes tecnológicos de hoy cuando buscan avances en investigación comercial y científica: por un lado, necesitan utilizar laboratorios físicos para proporcionar capacidades de verificación a los socios farmacéuticos y acelerar la lucha contra las enfermedades raras; por otro lado, deben hacer frente a las enormes preocupaciones de todos los ámbitos de la vida de que se pueda abusar de la IA para crear nuevas amenazas biológicas. Al insistir en mantener la posición dominante de los humanos en el circuito experimental, Anthropic está tratando de establecer una línea roja de cumplimiento que tenga en cuenta tanto la innovación como la seguridad para su investigación biológica de IA.
Comentarios