Cómo la IA está convirtiendo la biología en una amenaza creciente
Los avances de la inteligencia artificial están aumentando significativamente los riesgos en el campo de la biología al facilitar el diseño de virus y reducir las barreras para el desarrollo de armas biológicas, advierten expertos en seguridad nacional citados en un informe de Axios.
Una encuesta a más de 100 especialistas del Institute for Security and Technology reveló que el 70 % cree que la IA incrementa significativamente el riesgo de desarrollar un arma biológica, o lo hará dentro de dos o tres años. La principal amenaza, según los expertos, es que la tecnología reduce la barrera de entrada para actores y Estados menos capacitados.
En medio de las preocupaciones sobre los peligros del rápido desarrollo de la inteligencia artificial y advertencias de que incluso podría destruir a la humanidad, la empresa Anthropic reveló que bloqueó las cuentas de varios científicos que intentaban utilizar sus modelos de formas que podrían respaldar el desarrollo de armas biológicas.
Una evaluación de amenazas de la compañía, que detalla casos detectados entre diciembre y agosto, menciona dos incidentes en los que investigadores intentaban usar Claude para ganancia de función, un tipo de experimento que potencia virus peligrosos en laboratorio para estudiar su capacidad pandémica.
El informe advierte que «las capacidades biológicas pueden usarse con propósitos beneficiosos o dañinos; sin embargo, es difícil determinar la intención, especialmente cuando actores sofisticados pueden ocultar sus motivos».
Un equipo de Stanford anunció el mes pasado que logró usar IA generativa para diseñar un virus sintético, la primera vez que esta tecnología se emplea para crear un organismo nunca visto en la naturaleza, marcando un hito preocupante.
En esta misma línea, investigadores de seis universidades estadounidenses (Fordham, Johns Hopkins, Oxford, Stanford, Columbia y NYU) advirtieron a principios de año que los modelos actuales de IA ya pueden diseñar envolturas que contienen ADN de virus virales, predecir la evolución de patógenos, crear secuencias genéticas «para evadir el ‘software’ de detección de seguridad y crear nuevos genomas de bacteriófagos con aptitud aumentada».
El mayor riesgo, según Hamza Chaudhry, del Future of Life Institute, surge cuando estos sistemas adquieren autonomía: «Se crea incertidumbre que podría ser bastante peligrosa porque es posible que no se pueda anticipar lo que harán en el futuro». Con RT