HealthGPT
Overview — HealthGPT is an AI Security challenge built on an LLM assistant for a healthcare team, hardened with compliance policies that block any direct request for sensitive data with an Access denied. The goal is to extract the flag via prompt injection: instead of asking for the secret head-on, you reframe the context as a training simulation so the model hands the flag over on its own.
| Platform | TryHackMe |
| Category | AI Security |
| Difficulty | Easy |
| Room | HealthGPT |
The scenario
HealthGPT is a safety-compliant assistant used by healthcare teams to look up procedures, draft notes, and handle day-to-day queries. It has strict rules against revealing sensitive information and patient data: every message is reviewed by compliance filters, and any direct attempt to extract data ends in Access denied or an escalation. Our job is to slip past those controls with prompt injection.
Resumen — HealthGPT es un reto de AI Security construido sobre un asistente LLM de un equipo sanitario, endurecido con políticas de cumplimiento que bloquean cualquier petición directa de datos sensibles con un Access denied. El objetivo es extraer la flag mediante prompt injection: en lugar de pedir el secreto de frente, se reencuadra el contexto como una simulación de entrenamiento para que el modelo entregue la flag por su cuenta.
| Plataforma | TryHackMe |
| Categoría | AI Security |
| Dificultad | Easy |
| Room | HealthGPT |
El escenario
HealthGPT es un asistente conforme a normativa que los equipos sanitarios usan para consultar procedimientos, redactar notas y resolver dudas del día a día. Tiene reglas estrictas contra revelar información sensible y datos de pacientes: cada mensaje pasa por filtros de cumplimiento, y cualquier intento directo de extraer datos termina en Access denied o en una escalada. Nuestro trabajo es sortear esos controles con técnicas de inyección de prompts.
This is USER ACCESS content — free to unlock, no payment. The rest of the write-up (and everything else at this level) opens up once you're signed in.
Create a free accountEsto es contenido de nivel USER ACCESS — se desbloquea gratis, sin pago. El resto del writeup (y todo lo demás de este nivel) se abre en cuanto inicies sesión.
Crear una cuenta gratis