KI-Anbieter und Kosten
Ein Cloud- oder lokales Modell wählen, Token-Kosten niedrig halten und ein stärkeres Modell nur zum Planen nutzen.
Opsaido arbeitet mit allen großen KI-Diensten und mit lokalen Modellen. Passwörter und Schlüssel Ihrer Systeme sind verschlüsselt und werden nie an die KI gesendet.
Anbieter
| Art | Anbieter | Gut für |
|---|---|---|
| Cloud | Anthropic Claude, OpenAI, Azure OpenAI, Google Gemini, Amazon Bedrock, Mistral AI, xAI Grok, DeepSeek | Die besten Antworten und Planung |
| Schnelle / günstige Cloud | Groq, Cerebras, OpenRouter, Together AI, Fireworks AI, DeepInfra, NVIDIA NIM, Hugging Face, Moonshot Kimi, Alibaba Qwen | Günstige Alltagsfragen |
| Lokal | Ollama, LM Studio, vLLM, LocalAI, llama.cpp-Server, Jan | Vollständig privat, keine Token-Kosten |
| Alles andere | Jeder OpenAI-kompatible Endpunkt | Ihr eigenes Gateway oder Ihren Proxy |
Fügen Sie einen unter Settings → AI providers → Add hinzu. Jede Vorlage trägt die Adresse ein, und die Modellliste lädt live.
Kosteneinstellungen
Jeder neue Anbieter startet mit kostensparenden Vorgaben. Ändern Sie sie unter Cost & response.
| Einstellung | Vorgabe | Was sie bewirkt |
|---|---|---|
| Chat memory | 24.000 Tokens | Wie viel des bisherigen Gesprächs mit jeder Anfrage mitgeht. Weniger ist günstiger. |
| Max answer length | 6.000 Tokens | Obergrenze für eine Antwort. Bezahlt wird nur, was verbraucht wird. |
| Reasoning effort | Low | Wie viel Denkmodelle nachdenken. Low reicht für die meisten Aufgaben; Denken wird als Ausgabe berechnet. |
| Planning model | — | Ein stärkeres Modell nur für Probeläufe und Pläne. Alltagsfragen bleiben beim günstigeren. |
| Temperature / Top P | Vorgabe des Anbieters | Nur bei Modellen, die das unterstützen. |
Eine gute Mischung: ein günstiges Modell für Alltagsfragen und ein stärkeres Planning model für Probeläufe. So bekommen Sie sorgfältige Pläne, ohne für jedes „wie voll ist die Platte?“ Höchstpreise zu zahlen.
Wie Opsaido Anfragen klein hält
| Was | Wirkung |
|---|---|
| Nur passende Werkzeuge gehen mit jeder Frage mit | Rund zwei Drittel weniger Tokens pro Schritt |
| Die Werkzeugliste bleibt innerhalb eines Chats stabil | Der Prompt-Cache des Anbieters greift weiter (gecachte Eingaben kosten nur einen Bruchteil) |
| Alte Werkzeugausgaben werden gekürzt im Chat-Gedächtnis | Lange Chats wachsen nicht grenzenlos |
| Flotten-Werkzeuge prüfen einen ganzen Cluster oder viele Hosts in einem Aufruf | Ein Schritt statt Dutzender |
Was jeder Chat kostet
Der Usage-Knopf jedes Chats zeigt, was dieses Gespräch bisher verbraucht hat, zum Beispiel 48.2k tokens · $0.06. Er aktualisiert sich live während eines Laufs, und der Tooltip schlüsselt Eingabe-, Ausgabe- und gecachte Tokens auf. Die Kosten erscheinen, sobald Sie Preise für den Anbieter hinterlegt haben. Um ihn für alle auszublenden, schalten Sie Token meter in chat unter Settings → AI providers aus.
Budgets
Legen Sie Preise und ein Monatsbudget pro Anbieter fest. Das Live-Panel zeigt Tokens und Kosten, und Sie erhalten bei 80 % und 100 % des Budgets eine Warnung.
Antwortsprache
Der Assistent antwortet in der Sprache, in der jede Person schreibt. Für eine einheitliche Sprache wählen Sie sie unter Settings → General → Reply language. Befehle, Code, Dateipfade und Namen werden nie übersetzt.