<?xml version="1.0" encoding="UTF-8"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:dc="http://purl.org/dc/elements/1.1/">
  <channel>
    <title>DEV Community: ENTRONYX CLOUD</title>
    <description>The latest articles on DEV Community by ENTRONYX CLOUD (@entronyx).</description>
    <link>https://dev.to/entronyx</link>
    <image>
      <url>https://media2.dev.to/dynamic/image/width=90,height=90,fit=cover,gravity=auto,format=auto/https:%2F%2Fdev-to-uploads.s3.us-east-2.amazonaws.com%2Fuploads%2Fuser%2Fprofile_image%2F4250591%2F18f111fc-d1c9-495a-a140-ab54c79e4d45.png</url>
      <title>DEV Community: ENTRONYX CLOUD</title>
      <link>https://dev.to/entronyx</link>
    </image>
    <atom:link rel="self" type="application/rss+xml" href="https://dev.to/feed/entronyx"/>
    <language>en</language>
    <item>
      <title>LLM selbst hosten oder per Token abrechnen? Ein Rechenweg für Teams in der EU</title>
      <dc:creator>ENTRONYX CLOUD</dc:creator>
      <pubDate>Tue, 17 Nov 2026 21:26:24 +0000</pubDate>
      <link>https://dev.to/entronyx/llm-selbst-hosten-oder-per-token-abrechnen-ein-rechenweg-fur-teams-in-der-eu-4o2p</link>
      <guid>https://dev.to/entronyx/llm-selbst-hosten-oder-per-token-abrechnen-ein-rechenweg-fur-teams-in-der-eu-4o2p</guid>
      <description>&lt;p&gt;&lt;strong&gt;Teaser:&lt;/strong&gt; Ein eigener GPU-Server wirkt nach Kontrolle. Eine Token-API wirkt bequem. Welche Variante günstiger ist, hängt fast nur an einer Zahl: an der Auslastung. Dieser Beitrag zeigt, wie man sie vor der Bestellung abschätzt.&lt;/p&gt;

&lt;p&gt;&lt;strong&gt;Kurz definiert:&lt;/strong&gt; &lt;em&gt;LLM-Hosting&lt;/em&gt; heißt, ein großes Sprachmodell (Large Language Model) so zu betreiben, dass eine Anwendung es über eine Schnittstelle aufrufen kann. Es gibt zwei Grundformen. Beim &lt;strong&gt;Self-Hosting&lt;/strong&gt; mietet man eine Grafikkarte und betreibt Modell, Inferenz-Server und Skalierung selbst. Bei der &lt;strong&gt;Token-Abrechnung&lt;/strong&gt; ruft man ein fertig betriebenes Modell auf und zahlt je verarbeiteter Texteinheit (Token).&lt;/p&gt;

&lt;h2&gt;
  
  
  Warum die Frage gerade jetzt gestellt wird
&lt;/h2&gt;

&lt;p&gt;Modelle mit offenen Gewichten wie Mixtral, Mistral Small oder Llama 3.3 sind so gut geworden, dass viele Teams sie für interne Assistenten, Klassifikation oder Code-Hilfe einsetzen. Mit Blick auf die DSGVO wollen viele dieser Teams nicht, dass Eingaben die EU verlassen. Damit fällt die Wahl oft nicht mehr zwischen „eigenes Modell“ und „US-API“, sondern zwischen zwei Betriebsformen beim selben europäischen Anbieter. Dort wird die Rechnung interessant.&lt;/p&gt;

&lt;h2&gt;
  
  
  Schritt 1: Den Bedarf in Token ausdrücken
&lt;/h2&gt;

&lt;p&gt;Bevor man über Karten spricht, braucht man drei Werte aus der eigenen Anwendung:&lt;/p&gt;

&lt;ol&gt;
&lt;li&gt;
&lt;strong&gt;Anfragen pro Tag&lt;/strong&gt;, realistisch gemessen und nicht geschätzt. Logs eines Prototyps reichen.&lt;/li&gt;
&lt;li&gt;
&lt;strong&gt;Eingabe-Token je Anfrage&lt;/strong&gt;, also System-Prompt, Kontext und Frage. Bei Retrieval-Anwendungen ist das meist der größte Posten.&lt;/li&gt;
&lt;li&gt;
&lt;strong&gt;Ausgabe-Token je Anfrage&lt;/strong&gt;, also die Länge der Antwort.&lt;/li&gt;
&lt;/ol&gt;

&lt;p&gt;Ein Beispiel, mit dem wir weiterrechnen: Ein interner Support-Assistent bekommt 50.000 Anfragen am Tag. Jede Anfrage bringt im Mittel 800 Eingabe-Token und erzeugt 300 Ausgabe-Token.&lt;/p&gt;

&lt;p&gt;Das ergibt pro Monat (30 Tage):&lt;/p&gt;

&lt;ul&gt;
&lt;li&gt;Eingabe: 50.000 × 800 × 30 = &lt;strong&gt;1,2 Milliarden Token&lt;/strong&gt;
&lt;/li&gt;
&lt;li&gt;Ausgabe: 50.000 × 300 × 30 = &lt;strong&gt;450 Millionen Token&lt;/strong&gt;
&lt;/li&gt;
&lt;/ul&gt;

&lt;h2&gt;
  
  
  Schritt 2: Die Token-Variante rechnen
&lt;/h2&gt;

&lt;p&gt;Als Preisbeispiel dient der öffentliche Katalog von ENTRONYX CLOUD, einem Cloud-Anbieter mit Rechenzentren in Frankfurt am Main, Düsseldorf und Helsinki. Für Mixtral 8×7B Instruct nennt die Seite der &lt;a href="https://entronyx.cloud/ki" rel="noopener noreferrer"&gt;KI-Plattform&lt;/a&gt; 0,0313 € netto je Million Eingabe-Token und 0,1251 € netto je Million Ausgabe-Token (Stand November 2026).&lt;/p&gt;

&lt;ul&gt;
&lt;li&gt;Eingabe: 1.200 × 0,0313 € = 37,56 €&lt;/li&gt;
&lt;li&gt;Ausgabe: 450 × 0,1251 € = 56,30 €&lt;/li&gt;
&lt;li&gt;&lt;strong&gt;Summe: rund 93,86 € netto im Monat&lt;/strong&gt;&lt;/li&gt;
&lt;/ul&gt;

&lt;p&gt;Fehlgeschlagene Anfragen werden laut Anbieter nicht berechnet. Für Aufgaben ohne Antwortzeitzusage gibt es eine Stapelverarbeitung, die laut Seite 47 % weniger kostet. Für nächtliche Klassifikationsläufe kann das die Rechnung noch einmal deutlich senken.&lt;/p&gt;

&lt;h2&gt;
  
  
  Schritt 3: Die Self-Hosting-Variante rechnen
&lt;/h2&gt;

&lt;p&gt;Für Mixtral 8×7B mit 8-Bit-Gewichten nennt derselbe Katalog als passende Karte eine RTX PRO 6000 Blackwell Max-Q mit 96 GB Grafikspeicher. Als &lt;a href="https://entronyx.cloud/gpu" rel="noopener noreferrer"&gt;GPU-Instanz&lt;/a&gt; (NG-RTX6000) kostet sie 1,6425 € je Stunde. Abgerechnet wird sekundengenau, und mehr als 1.199,00 € im Monat werden nicht berechnet.&lt;/p&gt;

&lt;p&gt;Läuft die Karte durch, kostet sie also &lt;strong&gt;1.199,00 € netto im Monat&lt;/strong&gt;. Das ist rund das Dreizehnfache der Token-Variante aus Schritt 2.&lt;/p&gt;

&lt;p&gt;Dazu kommen Kosten, die in keiner Preistabelle stehen:&lt;/p&gt;

&lt;ul&gt;
&lt;li&gt;Betrieb des Inferenz-Servers (zum Beispiel vLLM oder TGI), Updates, Monitoring&lt;/li&gt;
&lt;li&gt;Kapazitätsplanung für Lastspitzen&lt;/li&gt;
&lt;li&gt;Bereitschaft, wenn der Dienst nachts ausfällt&lt;/li&gt;
&lt;/ul&gt;

&lt;h2&gt;
  
  
  Schritt 4: Den Break-even über die Auslastung finden
&lt;/h2&gt;

&lt;p&gt;Die entscheidende Frage lautet: Ab wie vielen Token ist die eigene Karte günstiger?&lt;/p&gt;

&lt;p&gt;Der Katalog nennt für Mixtral auf NG-RTX6000 einen Durchsatz von 4.560 Token pro Sekunde. Unter Volllast schafft eine Karte damit im Monat:&lt;/p&gt;

&lt;p&gt;4.560 Token/s × 3.600 s × 730 h ≈ &lt;strong&gt;11,98 Milliarden Token&lt;/strong&gt;&lt;/p&gt;

&lt;p&gt;Bei 0,1251 € je Million Ausgabe-Token entspricht der Monatspreis der Karte (1.199 €) etwa &lt;strong&gt;9,58 Milliarden Ausgabe-Token&lt;/strong&gt;. Das sind rund &lt;strong&gt;80 % der theoretischen Volllast&lt;/strong&gt;, und zwar rund um die Uhr, jeden Tag.&lt;/p&gt;

&lt;p&gt;Die Faustregel daraus: &lt;strong&gt;Solange die eigene Karte nicht dauerhaft zu deutlich mehr als drei Vierteln ausgelastet ist, ist die Token-Abrechnung bei diesem Modell günstiger.&lt;/strong&gt; Die meisten Unternehmensanwendungen haben eine Tageskurve mit ruhigen Nächten und Wochenenden. Sie erreichen diese Auslastung nicht.&lt;/p&gt;

&lt;p&gt;Die Rechnung vereinfacht an zwei Stellen. Eingabe-Token belegen die Karte ebenfalls, und der reale Durchsatz hängt von Batch-Größe und Kontextlänge ab. Beides spricht eher noch mehr für die Token-Variante.&lt;/p&gt;

&lt;h2&gt;
  
  
  Der Mittelweg: Endpunkt mit Skalierung auf null
&lt;/h2&gt;

&lt;p&gt;Zwischen „Karte mieten“ und „Token kaufen“ gibt es eine dritte Form. Man betreibt ein &lt;strong&gt;eigenes Modell als Endpunkt&lt;/strong&gt;, etwa ein feinabgestimmtes Modell, und zahlt nur, solange ein Replikat läuft. Kommen keine Anfragen, laufen auch keine Replikate. Der Preis dafür: Nach einer Ruhephase braucht die erste Antwort einige Sekunden länger.&lt;/p&gt;

&lt;p&gt;Laut KI-Seite kostet ein Replikat auf einer L4-Karte (0,7397 € je Stunde), das an 30 Tagen je 8 Stunden aktiv ist, 67 % weniger als dieselbe Klasse im Dauerbetrieb. Zur Kontrolle: 240 h × 0,7397 € = 177,53 € statt 540,00 €.&lt;/p&gt;

&lt;p&gt;Diese Variante passt, wenn&lt;/p&gt;

&lt;ul&gt;
&lt;li&gt;ein eigenes, angepasstes Modell gebraucht wird, das der Katalog nicht führt,&lt;/li&gt;
&lt;li&gt;die Nutzung an Bürozeiten hängt,&lt;/li&gt;
&lt;li&gt;ein Kaltstart von einigen Sekunden für die erste Anfrage akzeptabel ist.&lt;/li&gt;
&lt;/ul&gt;

&lt;h2&gt;
  
  
  Wann sich Self-Hosting trotzdem lohnt
&lt;/h2&gt;

&lt;p&gt;Es gibt gute Gründe für die eigene Karte, die nichts mit dem Preis je Token zu tun haben:&lt;/p&gt;

&lt;ul&gt;
&lt;li&gt;
&lt;strong&gt;Durchgehende Hochlast&lt;/strong&gt;, etwa Batch-Embedding großer Dokumentbestände über Wochen.&lt;/li&gt;
&lt;li&gt;
&lt;strong&gt;Eigene Gewichte&lt;/strong&gt; oder Adapter (LoRA), die nicht als Endpunkt laufen sollen.&lt;/li&gt;
&lt;li&gt;
&lt;strong&gt;Volle Kontrolle über den Stack&lt;/strong&gt;, zum Beispiel ein bestimmter Inferenz-Server, Quantisierung oder spekulatives Decoding.&lt;/li&gt;
&lt;li&gt;
&lt;strong&gt;Training und Feinabstimmung.&lt;/strong&gt; Dafür braucht man ohnehin Karten-Stunden. Volles Training benötigt laut GPU-Seite rund 16 Byte Grafikspeicher je Parameter.&lt;/li&gt;
&lt;/ul&gt;

&lt;p&gt;Wer diesen Weg geht, sollte die Kartengröße vorher rechnen. Einen ausführlichen Rechenweg für Gewichte, KV-Cache und Zuschlag gibt es im Fachbeitrag &lt;a href="https://entronyx.cloud/unternehmen/blog/grafikspeicher-fuer-sprachmodelle" rel="noopener noreferrer"&gt;„Grafikspeicher für Sprachmodelle abschätzen“&lt;/a&gt;.&lt;/p&gt;

&lt;h2&gt;
  
  
  Checkliste vor der Entscheidung
&lt;/h2&gt;

&lt;ul&gt;
&lt;li&gt;[ ] Token-Bedarf pro Monat aus echten Logs gemessen (Eingabe und Ausgabe getrennt)&lt;/li&gt;
&lt;li&gt;[ ] Tageskurve angesehen: Wie viele Stunden ist wirklich Last?&lt;/li&gt;
&lt;li&gt;[ ] Break-even-Auslastung für das gewünschte Modell berechnet&lt;/li&gt;
&lt;li&gt;[ ] Datenschutz geklärt: Wo werden Eingaben verarbeitet, wird auf Kundendaten trainiert?&lt;/li&gt;
&lt;li&gt;[ ] Betriebsaufwand für Self-Hosting ehrlich in Personentagen geschätzt&lt;/li&gt;
&lt;li&gt;[ ] Ausstieg bedacht: Lassen sich Prompts und Anwendung ohne Umbau auf ein anderes Modell umstellen?&lt;/li&gt;
&lt;/ul&gt;

&lt;h2&gt;
  
  
  Fazit
&lt;/h2&gt;

&lt;p&gt;Für die meisten Anwendungen in Unternehmen ist die Token-Abrechnung eines Modells mit offenen Gewichten die wirtschaftlichere Wahl. Das gilt, solange die Last schwankt. Die eigene GPU lohnt sich bei Dauerlast, bei eigenen Gewichten und beim Training. Dazwischen liegt der Endpunkt mit Skalierung auf null. Wer zuerst die Token zählt und dann über Hardware spricht, vermeidet die teuerste Fehlentscheidung: eine Karte, die zwei Drittel des Monats wartet.&lt;/p&gt;




&lt;p&gt;&lt;strong&gt;Über den Autor:&lt;/strong&gt; Dieser Beitrag stammt von ENTRONYX CLOUD. Das ist die Cloud- und Hosting-Marke der ENTRONYX Deutschland GmbH mit Sitz in Köln (HRB 98908, Amtsgericht Köln), gegründet 2019. Die Plattform läuft in Rechenzentren in Frankfurt am Main, Düsseldorf und Helsinki. Das Angebot umfasst GPU-Instanzen, eine KI-Plattform mit Modellen mit offenen Gewichten, Public und Private Cloud, Dedicated Server und Webhosting. Alle Preise in diesem Beitrag sind Nettopreise laut öffentlichem Katalog, Stand November 2026. Website: &lt;a href="https://entronyx.cloud" rel="noopener noreferrer"&gt;https://entronyx.cloud&lt;/a&gt;&lt;/p&gt;

</description>
      <category>llm</category>
      <category>gpu</category>
      <category>machinelearning</category>
      <category>german</category>
    </item>
  </channel>
</rss>
