Investigadores de Check Point Research descubrieron una vulnerabilidad que permitía evadir algunas protecciones de Lockdown Mode, la función de seguridad avanzada de ChatGPT. El problema podía abrir la puerta a ataques de inyección de instrucciones y a la exposición de información sensible. OpenAI aplicó medidas correctivas en el servidor tras recibir la notificación, pero el hallazgo subraya que la seguridad de la IA depende también de las aplicaciones y los componentes que rodean al modelo.
## Qué es Lockdown Mode
La inyección de instrucciones, o *prompt injection*, ocurre cuando alguien oculta instrucciones maliciosas en contenido que un sistema de IA debe analizar. Por ejemplo, un correo electrónico podría incluir indicaciones destinadas a que un asistente revele información privada mientras organiza los mensajes de una persona.
Lockdown Mode es una opción que añade restricciones para quienes trabajan con información especialmente sensible. Entre otras medidas, limita las conexiones con servicios externos y puede restringir funciones como la navegación web, Deep Research, Agent Mode o la descarga de archivos. El objetivo es reducir las posibilidades de que una instrucción maliciosa provoque la exposición de datos.
## Una vía de escape en las vistas previas de HTML
Check Point Research identificó el problema al examinar cómo ChatGPT mostraba vistas previas de páginas HTML incluidas en bloques de código. Como el contenido HTML y JavaScript puede ejecutar acciones potencialmente peligrosas, se presentaba en un entorno aislado —un *sandbox*— separado de la aplicación principal.
Ese aislamiento impedía que el contenido accediera directamente a elementos como las cookies o el almacenamiento local de ChatGPT. También permitía controlar las comunicaciones con recursos externos. Sin embargo, los investigadores detectaron que las ventanas emergentes recibían un tratamiento distinto: una combinación de marcos aislados anidados y permisos para abrir ventanas podía permitir que ciertos contenidos escaparan del entorno restringido.
Al crear un marco anidado, los investigadores consiguieron acceder a funciones para abrir ventanas que no estaban sujetas a las mismas limitaciones de la vista previa original. En determinadas condiciones, el contenido de esas ventanas podía quedar fuera de las protecciones previstas por Lockdown Mode.
## Riesgos potenciales y medidas correctivas
Según los investigadores, una vulnerabilidad de este tipo podría facilitar más que la extracción de datos. Entre los riesgos potenciales mencionaron el robo de credenciales, la suplantación de identidad mediante ventanas emergentes y la entrega de malware. También plantearon la posibilidad de que una ventana apareciera sin una acción directa del usuario, aunque el alcance de cualquier ataque dependería del escenario y de las condiciones concretas.
OpenAI incorporó protecciones adicionales en el servidor para corregir la vía identificada. El caso, no obstante, deja una lección más amplia para las organizaciones: las funciones de seguridad de un modelo no bastan por sí solas. También es necesario evaluar las interfaces, los entornos de ejecución, las conexiones externas y otros componentes que forman parte de la aplicación.
Para reducir riesgos, las empresas deberían mantener visibilidad sobre el uso de herramientas de IA, limitar la exposición de datos sensibles y revisar cómo se procesan contenidos potencialmente maliciosos. La seguridad de la IA exige considerar la superficie de ataque completa, no solo el modelo que genera las respuestas.
from Latest from TechRadar https://ift.tt/2MurjSl
via IFTTT IA
