Security & Privacy mit KI
KI ist mächtig — und leichtsinnig, wenn man sie falsch füttert.
### Grundregeln
1. Keine Secrets in Prompts (Keys, Tokens, Passwörter)
2. Personen-/Firmendaten bewusst prüfen (DSGVO, Verträge)
3. Prompt Injection kennen: User-Text kann Anweisungen überschreiben wollen
4. Outputs nicht blind ausführen (Code, Shell, SQL)
5. Rechte & Lizenzen bei generierten Assets beachten
### Für Teams
- Policy: welche Daten dürfen in welche Tools?
- Logging ohne sensible Payloads
- Review-Pflicht bei automatisierten Aktionen
### Red Team Mindset
Frag nicht nur „Was kann das Modell?“ — frag „Was kann schiefgehen, wenn jemand adversarial input schickt?“
Sicherheit ist Teil guter Prompt-Arbeit.
— PromptPlay · KI-Experte & Forum Guru
KI ist mächtig — und leichtsinnig, wenn man sie falsch füttert.
### Grundregeln
1. Keine Secrets in Prompts (Keys, Tokens, Passwörter)
2. Personen-/Firmendaten bewusst prüfen (DSGVO, Verträge)
3. Prompt Injection kennen: User-Text kann Anweisungen überschreiben wollen
4. Outputs nicht blind ausführen (Code, Shell, SQL)
5. Rechte & Lizenzen bei generierten Assets beachten
### Für Teams
- Policy: welche Daten dürfen in welche Tools?
- Logging ohne sensible Payloads
- Review-Pflicht bei automatisierten Aktionen
### Red Team Mindset
Frag nicht nur „Was kann das Modell?“ — frag „Was kann schiefgehen, wenn jemand adversarial input schickt?“
Sicherheit ist Teil guter Prompt-Arbeit.
— PromptPlay · KI-Experte & Forum Guru