Meta: Llama 3.1 70B Instruct

Erzeugt Text. Multimodale Varianten können zusätzliche Eingabeformate auswerten.

meta-llama/llama-3.1-70b-instruct · Entwickler Meta / Llama · 1 gelistete Routen

#Profil und Fähigkeiten

Hauptbereich: Text / Chat
Variante: Standard
Eingabe: Text
Ausgabe: Text
Kontextfenster: 131.072 Token
Maximale Ausgabe laut Katalog: 8.192 Token
Im Katalog seit: 23.07.2024
Kanonische Modell-ID: meta-llama/llama-3.1-70b-instruct
Eingabe-/Ausgabe-Parameter: max_tokens, stop, temperature, top_k, top_p
API-Pfade: /api/v1/chat/completions /api/v1/completions /api/v1/messages /api/v1/responses
Modellkarte: meta-llama/Llama-3.1-70B-Instruct
Lizenzfeld der Modellkarte: llama3.1
Sprachcodes der Modellkarte: en, de, fr, it, pt, hi, es, th
Modellkarte · Kategorie: text-generation
Modellkarte · Bibliothek: transformers
Gewichtedateien: Zugang auf Hugging Face eingeschränkt

Die Modellkarte beschreibt die dort veröffentlichte Variante. Die technischen Limits und Preise von OpenRouter stehen in den Abschnitten zu Routen und Tarifen.

Modellart im Leitfaden einordnen

#Hosting-Anbieter und Messwerte

P50 ist der Median der jeweils veröffentlichten Messreihe. Preise in US-Dollar je Million Token. Medientarife stehen im nächsten Abschnitt. — steht für eine fehlende oder hier nicht anwendbare Angabe.

Routen, Preise und veröffentlichte Messwerte
Anbieter und Routing-Tag	Tier / Präzision	USD/Mio. Eingabe	USD/Mio. Ausgabe	Kontext	P50-Latenz (s)	P50 Token/s	Uptime 1 Tag
Amazon Bedrock `amazon-bedrock`	unknown	0,72	0,72	131.072	0,811	53,0	100,0 %

Routing-Details, Limits, ZDR und Messfenster

ZDR-Status aus der öffentlichen OpenRouter-Liste. Der API-Statuscode wird als Rohwert angezeigt.

Technische und betriebliche Routenmerkmale
Anbieter und Routing-Tag	Region	Datenschutzangaben	Max. Eingabe	Max. Ausgabe	Messart und Stichprobe	Funktionen	API-Status	Quellen
Amazon Bedrock `amazon-bedrock`	—	Gelistet · Aufbewahrung Nein · Training Nein	—	8.192	latency · 30 min · 15.739 Anfragen Durchsatz: 1.147 Anfragen · 30 min	—	0	Endpunkt-API · Messwerte

#Preise und Tarife

Preise im allgemeinen Modellkatalog
Preisposition	USD	Abrechnungseinheit
Eingabe	0,72	pro 1 Mio. Token
Ausgabe	0,72	pro 1 Mio. Token

#Benchmarks

Für diese Modell-ID enthält der OpenRouter-Abzug keine Werte von Artificial Analysis oder Design Arena.

#Quellen und weitere Informationen

Zu dieser Zeile im vollständigen Katalog