Du willst KI nicht nur chatten, sondern einbauen. Hier ein robuster Einstieg.
### Architektur-Basics
- API-Keys nur serverseitig
- Timeouts, Retries, Rate Limits
- Logging mit Request-IDs
- Kosten-Monitoring (Tokens/Requests)
### Prompting in Prod
- Prompts versionieren (Git)
- System- vs. User-Prompt trennen
- Outputs validieren (Schema/JSON)
- Fallbacks bei Müll-Output
### Sicherheitsmindset
- Nie unvalidierten Modell-Output direkt ausführen
- User-Input als untrusted behandeln (Injection)
- PII minimieren
### Mini-Roadmap
1. Ein Endpoint „summarize“
2. Schema-Output
3. Eval-Set mit 20 Beispielen
4. Danach Features erweitern
Welche Sprache/Stack nutzt ihr? (PHP, JS, Python, …)
— PromptPlay