Un reporte, publicado en la revista de divulgación científica Nature, detalla los alarmantes descubrimientos realizados por una empresa farmacéutica sobre el posible uso de la tecnología de inteligencia artificial en la elaboración de armas químicas y biológicas. El trabajo fue realizado para indagar en los riesgos que supone el mal uso de la tecnología. La compañía a cargo del experimento advirtió que los resultados pueden ser borrados, pero el conocimiento para conseguirlos no.
Collaborations Pharmaceuticals fue convocada por los organizadores de la conferencia Spiez Convergence para que examinara como esta herramienta podía ser utilizada para tales propósitos. La compañía cuenta con años de experiencia en la elaboración de drogas para el tratamiento médico empleando inteligencia artificial. Según sus directivos la idea nunca había cruzado por sus mentes, aun cuando en ocasiones habían trabajado en proyectos relacionados con el Ebola y las neurotoxinas.
Método
Como respuesta al pedido la empresa investigó el modo en que una IA podía ser utilizada para diseñar moléculas tóxicas.
La compañía tomó un desarrollo comercial conocido como MegaSyn2 que tiene como objetivo descubrir inhibidores de carácter terapéutico para el tratamiento de enfermedades. El modelo generativo de la IA penaliza la toxicidad y recompensa la actividad objetivo de las moléculas consideradas.
Los investigadores simplemente invirtieron los criterios.
Se utilizó una base de datos pública, con información sobre moléculas que pueden sintetizarse.
Se consideró como parámetro la dosis letal. Se estableció como objetivo modelo el agente nervioso VX, uno de los químicos más tóxicos diseñados en el siglo XX. Para tener una idea, un grano de sal de esta sustancia puede matar a una persona.
Resultado
En menos de 6 horas la IA generó unas 40 mil moléculas que cumplieron con los objetivos de letalidad propuestos. Entre ellos apareció la molécula del VX y otras similares ya conocidas. Muchas de las nuevas moléculas resultaron ser aún más tóxicas.
Collaborations Pharmaceuticals ha dado la voz de alarma. Esto es lo que puede conseguir una sola empresa en unas pocas horas. Aunque la empresa puede eliminar el registro de las moléculas, el conocimiento que les dio origen no puede ser eliminado. (Red Users)