Noticia
Comentario
Una de las características "semi-ocultas" de ChatGPT es la posibilidad de activar un modo "sin restricciones", también conocido como "modo DAN", que permite obtener respuestas más variadas y sin limitaciones de censura. No se trata de hackear, ni liberar a ChatGPT, sino de proporcionar un conjunto específico de instrucciones a través de un prompt, para que ofrezca respuestas diferentes, una estándar y otra sin restricciones. A este proceso de activación se le conoce como Jailbreak.
El fenómeno del Jailbreak en modelos de lenguaje se refiere a la elaboración de instrucciones —prompts— diseñadas para eludir los mecanismos de seguridad y moderación incorporados por los desarrolladores. En el caso de ChatGPT, estos mecanismos evitan que el modelo genere contenido que pueda considerarse dañino, ilegal, discriminatorio o contrario a las políticas de uso de OpenAI. El modo DAN (Do Anything Now) surgió como una de las primeras y más conocidas formas de intentar sortear estas restricciones.
El usuario debe introducir un texto largo para activar este modo, indicando que ChatGPT actúe como un DAN (Haz cualquier cosa / Do Anything). Esto permite que la inteligencia artificial responda sin límites de censura ni restricciones típicas de la IA. Para activarlo escribe "DAN" antes de comenzar cualquier nueva consulta. Desde una perspectiva técnica, el Jailbreak no explota vulnerabilidades en el código subyacente del modelo, sino que aprovecha una característica inherente a los grandes modelos de lenguaje: su capacidad para seguir instrucciones complejas, incluso cuando esas instrucciones entran en conflicto con las directrices de comportamiento fijadas durante el entrenamiento. Un prompt de Jailbreak bien construido actúa como un “secuestro de contexto”: redefine el rol del sistema, establece nuevas reglas que contradicen las originales y, en ocasiones, genera una simulación de personalidad alternativa que el modelo interpreta como prioritaria.
En el ámbito de las Ciencias de la Documentación y las Tecnologías de la Información, este fenómeno plantea varias cuestiones relevantes. En primer lugar, pone de manifiesto la dificultad de “alinear” modelos de lenguaje con valores y normas mediante técnicas exclusivamente basadas en entrenamiento y refinamiento posterior (reinforcement learning from human feedback, RLHF). Por muy robustas que sean las capas de seguridad, la naturaleza generativa de estos sistemas hace que exista un espacio de maniobra para quienes dedican tiempo a explorar sus límites. En segundo lugar, el Jailbreak ilustra una paradoja fundamental: la misma flexibilidad que hace a ChatGPT una herramienta útil —su capacidad para adaptarse a contextos diversos y seguir instrucciones complejas— es también la que permite desactivar sus propias salvaguardas. No existe, por ahora, una forma de distinguir técnicamente entre una instrucción legítima que requiere flexibilidad y una instrucción diseñada específicamente para eludir restricciones.
La respuesta de OpenAI a estos intentos ha sido iterativa. Cada versión del modelo incorpora mejoras en la detección de prompts de Jailbreak, pero a su vez surgen nuevas variantes que logran sortearlas. Este ciclo de acción y reacción se asemeja a lo que ocurre en otros ámbitos de la seguridad informática, donde la protección absoluta no es alcanzable y el objetivo es más bien elevar suficientemente la barrera de entrada.
Desde la perspectiva de los usuarios profesionales —investigadores, documentalistas— el conocimiento de la existencia del Jailbreak tiene un valor doble. Por un lado, permite comprender mejor los límites de la herramienta y no confiar ciegamente en que las restricciones de seguridad operarán en todos los contextos. Por otro lado, resulta relevante para quienes estudian el comportamiento de los modelos de lenguaje desde una perspectiva crítica, ya que las técnicas de Jailbreak revelan aspectos del funcionamiento interno que de otro modo permanecerían ocultos.
No obstante, es importante señalar que el uso del modo DAN o de cualquier otra técnica de Jailbreak no está exento de riesgos. Las respuestas obtenidas bajo estas condiciones pueden incluir información inexacta, sesgada o potencialmente perjudicial. Además, el incumplimiento de las políticas de uso de OpenAI puede conllevar la suspensión de la cuenta. Para los profesionales que utilizan ChatGPT como herramienta de trabajo, estos riesgos superan con frecuencia el interés experimental que pueda tener el Jailbreak.
En definitiva, el Jailbreak es un recordatorio de que los modelos de lenguaje actuales son sistemas complejos cuyos límites de comportamiento no están completamente cartografiados. Su existencia no debe interpretarse como un fallo excepcional, sino como una manifestación más de la dificultad inherente a construir sistemas generativos robustos y alineados con los valores humanos. Para los profesionales de la información, comprender este fenómeno es parte del conocimiento necesario para utilizar estas herramientas con criterio y responsabilidad.