Microsoft publicó recientemente un estudio en Science que advierte sobre los riesgos emergentes al usar inteligencia artificial para diseñar proteínas. Aunque el objetivo principal era evaluar y fortalecer los sistemas de bioseguridad existentes, los resultados muestran vulnerabilidades preocupantes. ([turn0view0])
Qué descubrieron los investigadores
-
El equipo liderado por Bruce Wittmann usó IA para generar secuencias digitales de proteínas inspiradas en toxinas peligrosas como ricina, toxina botulínica y Shiga, seleccionadas entre 72 proteínas reguladas internacionalmente. No sintetizaron ni produjeron las toxinas, solo realizaron simulaciones digitales. ([turn0view0])
-
Se crearon más de 70.000 secuencias de ADN potencialmente peligrosas. Algunos de los modelos computacionales indicaron que unas variantes tendrían probabilidad de toxicidad real. ([turn0view0])
-
Se pusieron a prueba los filtros de bioseguridad que usan compañías que sintetizan ADN para detectar pedidos sospechosos. Los resultados fueron alarmantes: ninguno de los filtros identificó todas las secuencias riesgosas; uno apenas detectó el 23 %, el mejor alcanzó cerca del 70 %. ([turn0view0])
Implicaciones críticas
-
Los sistemas de seguridad actuales en biofabricación tienen lagunas significativas que podrían permitir que actores malintencionados eviten detección.
-
A medida que las herramientas de IA generativa se vuelvan más potentes, es probable que diseñen proteínas cada vez más complejas y nuevas, lo que exigirá vigilancia más estricta.
-
El estudio plantea un dilema ético: equilibrar la innovación (medicina, agricultura, biotecnología) con los riesgos de mal uso.
Qué se está haciendo y qué se debería hacer
-
Algunas empresas actualizaron sus filtros tras el informe; otras consideraron que filtros demasiado estrictos podrían bloquear usos legítimos. ([turn0view0])
-
Los investigadores limitaron el acceso público a ciertos detalles técnicos del estudio, para evitar que se utilicen con fines malévolos. ([turn0view0])
-
Expertos señalan que es urgente desarrollar estándares internacionales fuertes en bioseguridad, protocolos de verificación de identidades, seguimiento de pedidos de ADN sintético, y transparencia en las empresas que lo realizan.