Meta: Llama 3.3 70B Instruct

Erzeugt Text. Multimodale Varianten können zusätzliche Eingabeformate auswerten.

meta-llama/llama-3.3-70b-instruct · Entwickler Meta / Llama · 9 gelistete Routen

#Profil und Fähigkeiten

Hauptbereich: Text / Chat
Variante: Standard
Eingabe: Text
Ausgabe: Text
Kontextfenster: 131.072 Token
Maximale Ausgabe laut Katalog: 32.768 Token
Werkzeuge: Ja
Strukturiertes JSON: Ja
Einsatzfelder aus Katalogangaben: Mehrsprachig
Im Katalog seit: 06.12.2024
Kanonische Modell-ID: meta-llama/llama-3.3-70b-instruct
Eingabe-/Ausgabe-Parameter: frequency_penalty, logit_bias, logprobs, max_tokens, min_p, presence_penalty, repetition_penalty, response_format, seed, stop, structured_outputs, temperature, tool_choice, tools, top_k, top_logprobs, top_p
API-Pfade: /api/v1/chat/completions /api/v1/completions /api/v1/messages /api/v1/responses
Modellkarte: meta-llama/Llama-3.3-70B-Instruct
Lizenzfeld der Modellkarte: llama3.3
Sprachcodes der Modellkarte: en, fr, it, pt, hi, es, th, de
Modellkarte · Kategorie: text-generation
Modellkarte · Bibliothek: transformers
Gewichtedateien: Zugang auf Hugging Face eingeschränkt

Die Modellkarte beschreibt die dort veröffentlichte Variante. Die technischen Limits und Preise von OpenRouter stehen in den Abschnitten zu Routen und Tarifen.

Modellart im Leitfaden einordnen

#Hosting-Anbieter und Messwerte

P50 ist der Median der jeweils veröffentlichten Messreihe. Preise in US-Dollar je Million Token. Medientarife stehen im nächsten Abschnitt. — steht für eine fehlende oder hier nicht anwendbare Angabe.

Routen, Preise und veröffentlichte Messwerte
Anbieter und Routing-Tag	Tier / Präzision	USD/Mio. Eingabe	USD/Mio. Ausgabe	Kontext	P50-Latenz (s)	P50 Token/s	Uptime 1 Tag
DeepInfra `deepinfra/turbo`	fp8	0,10	0,32	131.072	0,573	16,0	98,45 %
AkashML `akashml/fp8`	fp8	0,20	0,52	131.072	0,514	40,0	100,0 %
Parasail `parasail/fp8`	fp8	0,22	0,50	131.072	0,532	49,0	100,0 %
Cloudflare `cloudflare/fp8`	fp8	0,293	2,253	24.000	0,823	42,0	100,0 %
Groq `groq`	unknown	0,59	0,79	131.072	0,447	234,0	100,0 %
SambaNova `sambanova-turbo`	unknown	0,60	1,20	131.072	0,518	112,0	100,0 %
CoreWeave `coreweave/fp16`	fp16	0,71	0,71	128.000	0,185	84,0	100,0 %
Google `google-vertex/us-central1`	unknown	0,72	0,72	128.000	—	—	—
Google `google-vertex`	unknown	0,72	0,72	128.000	—	—	—

Routing-Details, Limits, ZDR und Messfenster

ZDR-Status aus der öffentlichen OpenRouter-Liste. Der API-Statuscode wird als Rohwert angezeigt.

Technische und betriebliche Routenmerkmale
Anbieter und Routing-Tag	Region	Datenschutzangaben	Max. Eingabe	Max. Ausgabe	Messart und Stichprobe	Funktionen	Quellen
DeepInfra `deepinfra/turbo`	us	Gelistet · Aufbewahrung Nein · Training Nein	—	16.384	latency · 30 min · 7.195 Anfragen Durchsatz: 1.076 Anfragen · 30 min	Werkzeuge · Strukturiertes JSON	Endpunkt-API · Messwerte
AkashML `akashml/fp8`	—	Gelistet · Aufbewahrung Nein · Training Nein	—	128.000	latency · 30 min · 33.993 Anfragen Durchsatz: 3.889 Anfragen · 30 min	Impliziter Cache · Werkzeuge · Strukturiertes JSON	Endpunkt-API · Messwerte
Parasail `parasail/fp8`	—	Gelistet · Aufbewahrung Nein · Training Nein	—	16.384	latency · 30 min · 17.465 Anfragen Durchsatz: 2.173 Anfragen · 30 min	Impliziter Cache · Strukturiertes JSON	Endpunkt-API · Messwerte
Cloudflare `cloudflare/fp8`	—	Gelistet · Aufbewahrung Nein · Training Nein	—	21.600	latency · 30 min · 491 Anfragen Durchsatz: 1.121 Anfragen · 1.440 min	—	Endpunkt-API · Messwerte
Groq `groq`	—	Gelistet · Aufbewahrung Nein · Training Nein	—	32.768	latency · 30 min · 7.628 Anfragen Durchsatz: 6.551 Anfragen · 30 min	Impliziter Cache · Werkzeuge	Endpunkt-API · Messwerte
SambaNova `sambanova-turbo`	—	Gelistet · Aufbewahrung Nein · Training Nein	—	3.072	latency · 30 min · 11.773 Anfragen Durchsatz: 624 Anfragen · 30 min	Strukturiertes JSON	Endpunkt-API · Messwerte
CoreWeave `coreweave/fp16`	—	Gelistet · Aufbewahrung Nein · Training Nein	—	115.200	latency · 30 min · 25.874 Anfragen Durchsatz: 7.078 Anfragen · 30 min	Impliziter Cache · Werkzeuge · Strukturiertes JSON	Endpunkt-API · Messwerte
Google `google-vertex/us-central1`	us-central1	Gelistet · Aufbewahrung Nein · Training Nein	—	8.192	—	Nur BYOK · Werkzeuge · Strukturiertes JSON	Endpunkt-API · Messwerte
Google `google-vertex`	—	Gelistet · Aufbewahrung Nein · Training Nein	—	115.200	—	Nur BYOK	Endpunkt-API · Messwerte

#Preise und Tarife

Preise im allgemeinen Modellkatalog
Preisposition	USD	Abrechnungseinheit
Eingabe	0,59	pro 1 Mio. Token
Ausgabe	0,79	pro 1 Mio. Token
Cache-Lesen	0,295	pro 1 Mio. Token

Eine Tarifposition kann in mehreren Quellen auftauchen. Abrechnungseinheit, Bedingung und Routing-Tag bestimmen, welcher Tarif gilt.

Spezialpreise, Zusatzleistungen und Kontextstaffeln
Geltungsbereich	Preisposition	Stufe / Bedingung	USD	Einheit	Quelle
Katalogweit	Cache-Lesen	—	0,295	pro 1 Mio. Token	Modellkatalog (Zusatztarife)
AkashML `akashml/fp8`	Cache-Lesen	—	0,10	pro 1 Mio. Token	Endpunkt-API (Zusatztarife)
Parasail `parasail/fp8`	Cache-Lesen	—	0,11	pro 1 Mio. Token	Endpunkt-API (Zusatztarife)
Groq `groq`	Cache-Lesen	—	0,295	pro 1 Mio. Token	Endpunkt-API (Zusatztarife)
CoreWeave `coreweave/fp16`	Cache-Lesen	—	0,71	pro 1 Mio. Token	Endpunkt-API (Zusatztarife)

#Benchmarks

Veröffentlichte Benchmark-Indizes
Artificial Analysis	Index
Coding Index	11,9

Methodik von Artificial Analysis

#Quellen und weitere Informationen

Zu dieser Zeile im vollständigen Katalog