LLM Preise nach Verbrauch
Modell-Leistung und Preise
Hinweis
Alle Preise sind in USD pro 1.000 Token. MMLU-Werte zeigen die Modellleistung im Massive Multitask Language Understanding Benchmark.
Hochleistungsmodelle
| Modell | Input | Output | MMLU | Details |
|---|---|---|---|---|
| llama3-swiss 🇨🇭 | $0.015 | $0.045 | 85.2% | Advanced, Effizient, Empfohlen MMLU ist Schätzung |
| gpt-4o | $0.045 | $0.09 | 92.3% | Führende Leistung |
| claude-sonnet | $0.005 | $0.02 | 88.7% | Mehrsprachig, Schreiben, Code |
Ausgewogene Modelle
| Modell | Input | Output | MMLU | Details |
|---|---|---|---|---|
| llama-swiss-medium 🇨🇭 | $0.005 | $0.01 | 79.2% | Stark für die Größe |
| mixtral-swiss-big 🇨🇭 | $0.01 | $0.02 | N/A | Fortgeschrittene Mehrsprachigkeit |
| mistral-medium | $0.00375 | $0.01125 | 77.3% | Effizient, Mehrsprachig |
| mixtral-swiss-medium 🇨🇭 | $0.003 | $0.01 | 77.3% | Effizient, Mehrsprachig |
| gpt-4 | $0.045 | $0.09 | 86.5% | Konsistent |
| claude-opus | $0.022 | $0.10 | 86.8% | Starkes Reasoning |
Effiziente Modelle
| Modell | Input | Output | MMLU | Details |
|---|---|---|---|---|
| gpt-3.5-turbo-1106 | $0.0015 | $0.003 | ~70% | Legacy |
| mistral-tiny | $0.00042 | $0.00126 | 60.1% | Kompakt, Schnell, Kostengünstig |
| mistral-small | $0.0012 | $0.0036 | 70.6% | Ausgewogene Geschwindigkeit/Qualität |
Leistungshinweise
- MMLU-Werte mit (1) zeigen Single-Shot-Performance
- Werte mit (5-shot) nutzen Few-Shot-Learning
- N/A bedeutet ausstehende Benchmark-Daten
MMLU-Werte
Während MMLU-Werte einen nützlichen Maßstab für den Vergleich der Fähigkeiten von Sprachmodellen bieten, stellen sie nur eine Dimension der Leistung dar. Diese Werte messen hauptsächlich, wie gut Modelle mit standardisierten Aufgaben umgehen können, erfassen aber nicht vollständig weitere Fähigkeiten wie mehrsprachiges Verständnis, Informationsspeicherung, domänenspezifische Nutzung, Programmierkenntnisse oder komplexe Argumentationsfähigkeiten. In der Praxis stellen verschiedene Aufgaben unterschiedliche Anforderungen an die zugrundeliegende Architektur und Trainingsdaten eines Modells, wodurch die Leistung in diesen Bereichen erheblich variieren kann. Daher sollte MMLU als hilfreicher Indikator und nicht als endgültiges Maß für die Gesamtqualität oder Eignung eines Modells für eine bestimmte Anwendung gesehen werden. Quelle: Llm Leaderboard
Rate Limiting
Alle Endpunkte haben ein kombiniertes Limit von CHF 50 pro Monat. Wenn Sie es erhöhen möchten, kontaktieren Sie bitte den Support mit Ihrem geschätzten Verbrauch und Anwendungsfall.