San Francisco. OpenAI anunció ayer que invertirá en una empresa emergente dedicada a impedir que agentes malintencionados creen armas biológicas potenciadas por inteligencia artificial.

OpenAI es el principal inversor en una ronda de financiamiento inicial de 15 millones de dólares en Red Queen Bio, que está tratando de asegurarse de que las defensas de la industria de la IA están creciendo al menos tan rápido como los que tratan de explotar modelos para dañar a los seres humanos, dijo el cofundador de la empresa emergente Hannu Rajaniemi.

La inversión forma parte de un esfuerzo más amplio de OpenAI por invertir en empresas emergentes que tratan de contener los riesgos que plantea la IA. El mes pasado, la compañía respaldó a Valthos, una firma de software de bioseguridad con sede en Nueva York. El director de Estrategia de OpenAI, Jason Kwon, señaló que considerarían invertir en otros negocios emergentes centrados en problemas similares.

“Queremos aumentar la resiliencia general de todo el ecosistema”, afirmó Kwon en una entrevista. “Una de las mejores maneras de abordar la mitigación del riesgo es más tecnología”.

Nuevas vacunas

Investigadores y defensores de la seguridad afirman que la tecnología de IA podría acelerar pronto el desarrollo de fármacos o diseñar nuevas vacunas. Pero esas mismas capacidades podrían facilitar a los malos actores el desarrollo de nuevas y potentes armas biológicas.

Red Queen Bio se creó a partir de Helix Nano, una empresa terapéutica de ARNm en fase clínica que ha utilizado más la IA en el diseño de fármacos. Helix Nano también ha colaborado con OpenAI en la creación de pruebas para determinar los biorriesgos de la IA, según Kwon.

El presidente ejecutivo de OpenAI, Sam Altman, y la consejera Nicole Seligman, que habían invertido anteriormente en Helix Nano, recibirán acciones de Red Queen Bio como parte de la transacción. Kwon era inversor indirecto a través de Y Combinator, una incubadora de empresas de Silicon Valley.