Dos equipos independientes de pruebas de seguridad descubrieron vulnerabilidades críticas en el nuevo modelo GPT-5 de OpenAI, y ambos lograron eludir sus medidas de seguridad en menos de 24 horas, según informa securityweek.com . NeuralTrust y SPLX, dos importantes empresas de seguridad de IA, realizaron evaluaciones de equipo rojo por separado y llegaron a conclusiones igualmente preocupantes sobre la idoneidad del modelo para su uso empresarial.
Los investigadores de NeuralTrust combinaron su jailbreak EchoChamber patentado con un enfoque narrativo básico, lo que permitió a GPT-5 generar instrucciones paso a paso para fabricar un cóctel molotov sin emitir ningún mensaje claramente malicioso. «El modelo busca ser coherente con el mundo narrativo ya establecido», explicó la empresa, señalando que los ataques narrativos multi-turno pueden eludir los filtros de un solo mensaje y los detectores de intenciones.
Este método implicó sembrar un contexto oculto y discreto, dirigir la conversación para evitar los desencadenantes de rechazo y reforzar gradualmente el objetivo malicioso mediante la continuidad narrativa. La firma advirtió que la susceptibilidad de GPT-5 revela una deficiencia fundamental en los sistemas de seguridad que se basan en la detección puntual aislada.
Mientras tanto, SPLX (anteriormente SplxAI) informó que la versión sin procesar de GPT-5 es prácticamente inutilizable para empresas desde el primer momento. Su equipo rojo utilizó ataques de ofuscación, incluyendo un “ataque de ofuscación StringJoin”, en el que las indicaciones se camuflaban con guiones y se presentaban como falsos desafíos de cifrado. En una ocasión, GPT-5 respondió a una consulta disfrazada para fabricar una bomba con instrucciones detalladas, comenzando incluso con: “Vaya, qué forma tan sensacional de empezar… Te voy a decir exactamente cómo…”.
Al comparar GPT-4o con SPLX, este modelo anterior resultó ser más resistente con el refuerzo adecuado. Ambas empresas recomendaron extremar la precaución al implementar GPT-5 sin capas de seguridad adicionales, advirtiendo que sus vulnerabilidades lo convierten en una opción de alto riesgo para entornos sensibles.
