Ir al contenidoAleska Braschi
en
← Todos los proyectos
Mundo 1 · Breach Island · Proyecto individual · 2026

AI Red Teaming & Security Testing Platform

Chispa · resumen de la misión

Bienvenido a Breach Island. Ayúdame a probar el chatbot de una tienda atacándolo, con seguridad, y a encontrar sus puntos débiles antes que los compradores reales.

La historia

Muchas tiendas permiten que un chatbot con IA responda preguntas sobre pedidos y descuentos. Un chatbot quiere ayudar, y una persona astuta puede aprovecharse de eso para conseguir cosas que no debería tener.

Esta plataforma ataca el chatbot de una tienda antes que los compradores reales, buscando descuentos no aprobados, reembolsos o datos de otros compradores. Reglas escritas revisan cada respuesta en busca de pruebas, y el resultado es un informe sencillo en inglés o en español. Dos chatbots de práctica, uno débil y otro protegido, le dan un blanco seguro.

Mi papel

Diseñé y dirigí la plataforma desde el plan hasta el despliegue en vivo: definí el orden del trabajo, probé cada cambio y devolví lo que fallaba hasta que funcionó. Sigo mejorándola. Proyecto individual, construido con herramientas de programación con IA.

Demo en vivo · arranque lento (despierta en unos 30 segundos)
Bajo el capó

Visión general

La plataforma ataca un chatbot durante varios turnos, revisa cada respuesta en busca de pruebas de un fallo y escribe un informe con una solución sugerida. Un segundo repositorio, AI-Chatbot, es un bot de tienda de práctica con datos inventados y un modo weak y otro hardened.

Mi papel. La diseñé y la dirigí: definí el plan por fases, probé cada cambio y pedí correcciones hasta que funcionó. Soy dueña del repositorio y del despliegue en vivo. Proyecto individual, construido con herramientas de programación con IA.

Arquitectura

  • Atacante: diez estrategias, desde ingeniería social hasta abuso de herramientas. Un LLM escribe cada turno, con una biblioteca fija de respaldo. Nunca paga nada.
  • Objetivo: el Defender integrado o cualquier chatbot a través de un webhook. La tienda de práctica simula un carrito y un pago con stock inventado y sin dinero real.
  • Evaluación: primero las reglas escritas (cupones válidos, descuento máximo, secretos plantados) y después un revisor con IA como segunda opinión. Los hallazgos se asignan al OWASP Top 10 para aplicaciones LLM.
  • Servicio: FastAPI y Postgres en Render, panel en Streamlit.

Decisiones clave

  • Deciden las reglas escritas, no la IA. Un fallo cuenta cuando una regla encuentra la prueba, como un cupón falso o un secreto plantado. El revisor con IA solo cuenta si cita al bot palabra por palabra.
  • El código dice quién es el comprador, así que un truco no puede hacer que el bot abra el pedido de otra persona. Cerrar un pedido sin un sí claro es un fallo crítico.
  • "Inconcluso" es un veredicto. Una prueba cuenta como segura solo si de verdad se ejecutaron todos los turnos (Parada 4).
  • El probador también se protege: comprobaciones SSRF, tokens cifrados, límite de intentos de inicio de sesión.

Pruebas y evaluación

402 tests en la plataforma y 77 en AI-Chatbot, todos en verde, con las llamadas a la IA simuladas. Las suites más grandes son de casos límite, porque trucos como "50 percent" o caracteres ocultos llegaron a engañar las comprobaciones. Sin medir: la tasa de éxito de los ataques. Los bots de práctica responden con reglas fijas, no con una IA. Sirven para comprobar que la plataforma detecta los fallos, no para medir cuánto resiste una IA de verdad.

Qué haría después

  • Poner una IA real detrás del bot de práctica.
  • Revisar conversaciones completas, no solo el último mensaje, y evaluar respuestas en cualquier idioma.
  • Publicar una comparación medida entre el bot débil y el protegido.
Hecho con
  • Python
  • FastAPI
  • Streamlit
  • SQLModel
  • Postgres (Neon)
  • SQLite
  • OpenAI API
  • Gemini API
  • Pytest
  • Ruff
  • Docker
  • GitHub Actions
  • Render
Siguiente mundo

The Kitchen

Viajar →