KI-Chatbot-Sicherheitsscanner
Ein Open-Source-Assistent, der Website-Chatbots mit NVIDIA garak auf Prompt Injection, Jailbreaks und Datenlecks prüft und jeden erfolgreichen Angriff mit vollständigem Prompt und Antwort dokumentiert.
Quellcode-Repositories
Projektübersicht
Viele Unternehmen setzen LLM-Chatbots auf ihrer Website ein, ohne zu testen, ob Besucher sie dazu bringen können, Anweisungen preiszugeben, Regeln zu ignorieren oder Daten offenzulegen. Dieser Scanner verpackt NVIDIA garak in einen geführten Terminal-Assistenten: Endpunkt aus dem Browser einfügen, Verbindung testen, Angriffe mit verständlichen Erklärungen auswählen, Scan starten und einen HTML-Bericht erhalten.
Was ich gebaut habe
- 01
Ein Installer richtet garak mit einem Befehl in einer isolierten Python-3.12-Umgebung ein.
- 02
Der Assistent übernimmt den Chatbot-Endpunkt aus dem Netzwerk-Tab des Browsers, prüft die Verbindung und erklärt jede Angriffsart vor dem Start.
- 03
Der HTML-Bericht zeigt jeden erfolgreichen Angriff mit vollständigem Prompt und Antwort, damit jeder Befund nachvollziehbar und behebbar ist.
- 04
Adapter decken Chatbots ab, deren Endpunkt sich nicht direkt kopieren lässt; ein Terminal-Viewer zeigt die Trefferprotokolle.
Technische Umsetzung
Scans senden Tausende feindlicher Anfragen; das Tool ist ausdrücklich nur für autorisierte Tests gedacht.
Es ist das Werkzeug hinter meinen KI-Sicherheitsprüfungen für kundenorientierte Chatbots.
Technologie-Stack
- Python
- NVIDIA garak
- uv
- Bash
AI Security & LLM Red Teaming
Want your chatbot tested properly? I run authorised red-team assessments and deliver a report of what got through and how to fix it.
See the serviceWeitere Open-Source-Projekte
Sie benötigen ein ähnliches Produkt?
Lassen Sie uns über den Workflow, die Website oder die Anwendung sprechen, die Sie veröffentlichen möchten.