Investigadores descubren vulnerabilidad en OpenAI utilizando Claude de Anthropic

Hallazgo de vulnerabilidad en programa autorizado

De acuerdo con información publicada por The Wall Street Journal, el equipo de Hacktron AI participaba en un programa autorizado de búsqueda de vulnerabilidades de OpenAI y comunicó sus hallazgos a la empresa, quien pagó una recompensa de USD 6.500 por el descubrimiento.

OpenAI expresó su agradecimiento a los investigadores: "Agradecemos a los investigadores que se pusieran en contacto con nosotros y compartieran sus hallazgos", según la declaración recogida por el periódico.

Proceso de investigación y hallazgos técnicos

La investigación comenzó el 23 de julio, cuando el equipo encontró un fallo en el procesamiento de determinados archivos de imagen por parte de la plataforma Discourse.

Los especialistas tenían acceso a una versión de Claude Opus 4.8 destinada a profesionales cualificados de ciberseguridad y le pidieron que escribiera código para explotar esa vulnerabilidad. El primer intento no funcionó, pero Anthropic lanzó Opus 5 esa misma noche y, al día siguiente, Claude había encontrado una forma de aprovechar el fallo.

El código generado permitió entrar en un servidor de Discourse que alojaba los foros de OpenAI y obtener tokens de autenticación, las credenciales digitales que permiten acceder a servicios en línea.

Alcance del descubrimiento

Los investigadores descubrieron que estos tokens también eran válidos en ChatGPT y que algunos pertenecían a empleados de OpenAI. Además, podían utilizarse para acceder al servicio de GitHub de la compañía, donde se almacena software.

Medidas de seguridad implementadas

Tras este episodio y otros eventos relacionados con seguridad, OpenAI realizó una auditoría de seguridad. Su presidente y cofundador, Greg Brockman, explicó que destinó el 25% de sus ingenieros de producción a tareas de defensa y que la revisión permitió encontrar y corregir varios problemas graves.