OpenAI reconoce que los nuevos modelos pueden ser usados para crear armas biológicas
OpenAI, la compañía líder en inteligencia artificial, ha reconocido que sus últimos modelos han incrementado significativamente el riesgo de que la IA pueda ser utilizada para crear armas biológicas.
Los nuevos avances, que permiten una mejor capacidad de razonamiento y solución de problemas complejos, también presentan desafíos y peligros potenciales.
La empresa presentó recientemente sus modelos más avanzados, denominados GPT o1, los cuales destacan por su habilidad para resolver problemas matemáticos avanzados y responder preguntas científicas. Estos avances son vistos como un paso clave hacia la creación de una inteligencia general artificial (AGI), que emule el nivel cognitivo humano.
Sin embargo, junto con estas mejoras, OpenAI ha identificado un riesgo «medio» en relación con su posible uso en el desarrollo de armas químicas, biológicas, radiológicas y nucleares (CBRN). Este es el nivel de riesgo más alto que la compañía ha asignado hasta la fecha a uno de sus modelos.
El aumento en las capacidades de razonamiento de estos sistemas, según OpenAI, facilita que actores malintencionados puedan utilizar la IA para crear armas biológicas. Esta situación ha generado preocupación en la comunidad científica y ha puesto en el centro del debate la regulación de estas tecnologías.
El avance en la inteligencia artificial presenta enormes oportunidades, pero también trae consigo riesgos significativos que no deben subestimarse. La regulación y las medidas de seguridad serán esenciales para garantizar que la IA se utilice para el beneficio de la humanidad, y no como una herramienta peligrosa en manos equivocadas.
