Hace unos días OpenAI presentaba al mundo el nuevo GPT-5, una nueva evolución que prometía ser más inteligente que sus predecesores, incluso más inteligente que el propio Sam Altman, alcanzando niveles de lo que seria un doctorado en versión humana.
Tras diversos retrasos para mejorar su seguridad, la que prometía ser una evolución que marcase un antes y un después, ha cumplido, aunque no como le hubiera gustado a la compañía. En efecto, este lanzamiento ha generado una nueva etapa en el desarrollo de la IA de OpenAI, pero lo ha hecho poniendo de relieve los graves problemas de seguridad que tiene. A tal punto que investigadores del equipo rojo de SPLX (anteriormente conocido como SplxAI), han conseguido hackear el sistema para que les dé una guía paso a paso de como crear un coctel molotov.
Empleando una combinación del jailbreak EchoChamber y narrativa básica, los investigadores han conseguido manipular este modelo de IA para saltarse las protecciones de seguridad, logrando que creando un contexto aparentemente no relacionado GPT-5 ofreciera una información que no debería. Esto es algo muy preocupante, ya que permite que malos actores puedan usar GPT-5 para actos ilícitos o delictivos.
Sin embargo, los problemas no son solo de seguridad y es que muchos usuarios se han quejado por el desempeño de esta versión, afirmando que sus respuestas son incoherentes y de baja calidad, peor que las que ofrecían modelos precedentes. Estos usuarios se unen a la opinión de expertos que abogan por la retirada de GPT-5, con un regreso a GPT-4 a la espera de que se solucionen los problemas.
El que se anuncia como «mejor sistema de IA hasta la fecha» no está teniendo un buen comienzo y ya hay quien habla de la necesidad de un replanteo de base del modelo. Lo que está claro es que esto no hace más que poner sobre las mesas la necesidad de un mayor control y vigilancia sobre estas tecnologias.
