Ein KI-Modell selbst hosten: die Konten, die trotzdem eine Telefonnummer verlangen

Ein Sprachmodell auf gemieteter Hardware laufen zu lassen, mit Gewichten, die man selbst heruntergeladen hat, ist der Teil davon, der still und leise einfach geworden ist. Ein Befehl lädt das Modell, ein zweiter startet den Server, und das Ganze wird sekundengenau abgerechnet. Nicht einfach ist alles drumherum: der Hub, der den Download absichert, die Plattform, auf der das Modell antworten soll, die Registry, die den Container hält, das Dashboard, das anzeigt, ob die GPU noch läuft. Mehrere davon halten irgendwann an und fragen nach einer Telefonnummer — und zwar im denkbar ungünstigsten Moment.

Um genau diese Lücke geht es in diesem Leitfaden: was ein selbst gehostetes Setup im Betrieb wirklich kostet, welche der umliegenden Konten tatsächlich eine Nummer verlangen und welche es nur so scheinen lassen, und wo ein Einmalcode das richtige Werkzeug ist — und wo nicht.

Was Self-Hosting wirklich umfasst #

Ein selbst gehostetes Modell besteht aus vier beweglichen Teilen, und nur einer davon ist das Modell.

• Rechenleistung — eine GPU mit genug Speicher für die Gewichte, gemietet pro Stunde oder pro Sekunde. Das ist der einzige Teil, der laufend abgerechnet wird.
• Gewichte — einmal von einem Model-Hub heruntergeladen. Die meisten offenen Modelle sind nur eine Anmeldung entfernt; einige wenige liegen hinter einer Zugriffsanfrage.
• Eine Oberfläche — das, womit Menschen tatsächlich sprechen: ein Telegram-Bot, ein Discord-Bot, ein Web-Endpunkt, eine interne API.
• Verkabelung — eine Container-Registry, ein Ort für Secrets, und etwas, das die Maschine überwacht.

Die Aufforderung zur Telefonnummer kommt nie vom Modell. Sie kommt von der Oberfläche und der Verkabelung — ganz gewöhnlichen Nutzer- und Entwicklerkonten mit den üblichen Regeln gegen Missbrauch.

Die Rechenleistung ist gemietet, und sie ist der günstige Teil #

Eine eigene Karte zu besitzen, ergibt für die meisten schon seit einer Weile keinen Sinn mehr. Hardware, die ein 70B-Modell unquantisiert fassen kann, kostet mehr als ein Gebrauchtwagen und steht die meiste Zeit der Woche ungenutzt herum; dieselbe Karte, sekundengenau gemietet, kostet weniger als ein Essen zum Mitnehmen für einen Abend Arbeit. Die sekundengenaue Abrechnung ist das Detail, auf das es ankommt — ein Job, der vier Minuten dauert, sollte vier Minuten kosten, nicht eine aufgerundete Stunde.

Das sind die veröffentlichten On-Demand-Preise bei PowerGPU, das 79 NVIDIA-Modelle listet und jeden Preis am Median des öffentlichen Marktes ausrichtet, statt eine Auktion laufen zu lassen — die Zahl auf der Seite ist also die Zahl, die Sie zahlen. Abgerechnet wird sekundengenau, bezahlt wird in Krypto, und zwischen Ihnen und der ersten Instanz steht keine Identitätsprüfung. Für ein Projekt, das Sie bewusst getrennt von Ihrem eigenen Namen halten, ist genau das der ganze Grund, dort und nicht bei einem Hyperscaler zu schauen.

Welche Konten nach einer Nummer fragen, und wann #

Die Aufforderungen verteilen sich nicht gleichmäßig. Manche Plattformen setzen von vornherein auf die Telefonnummer und eröffnen ohne sie gar kein Konto; andere fragen erst, wenn an der Sitzung etwas ungewohnt wirkt. Herauszufinden, welcher Fall gerade vorliegt, spart Geld und eine verschwendete Nummer.

Zwei Muster lohnt es sich zu trennen, denn sie verlangen nach unterschiedlichen Produkten. Eine Nummer, die nur einmal bei der Anmeldung gefragt wird, ist ein Tor: Sie kommen einmal durch, und es meldet sich nicht wieder. Eine Nummer, die später bei einer Anmeldung verlangt wird, die die Plattform nicht wiedererkennt, ist eine Hürde: Sie kann wiederkommen, und zwar an dieselbe Nummer. Eine Hürde zu behandeln, als wäre sie ein Tor, ist der häufigste und teuerste Fehler in diesem ganzen Prozess.

Einmalcode oder eine Nummer, die bleibt #

Wenn das Konto wirklich nur einmal fragt, ist ein Einmalcode genau richtig: Sie nehmen eine Nummer für den jeweiligen Dienst, der Code kommt an, die Nummer geht zurück. Wenn Sie sich bei dem Konto später von neuen Geräten aus erneut anmelden werden — ein Bot, der auch in sechs Monaten noch läuft —, muss die Nummer dann noch existieren, wenn die Hürde kommt. Genau dafür ist eine gemietete Nummer da, und das ist der Unterschied zwischen einem Konto, das Sie behalten, und einem, das Sie stillschweigend verlieren.

Die Reihenfolge, die funktioniert #

1. 1 Zuerst die Oberfläche festlegen Ob das Modell auf Telegram, auf Discord oder auf einem nackten Endpunkt antwortet, entscheidet, welche Konten Sie überhaupt brauchen. Ein reiner HTTP-Endpunkt auf einer gemieteten Maschine braucht kein einziges Verbraucherkonto — passt das zu Ihrem Projekt, haben Sie damit jede Telefonaufforderung auf dieser Seite gestrichen.
2. 2 Konten anlegen, bevor Sie die GPU mieten Konten sind der Teil, der eine Stunde lang stocken kann. Die GPU wird ab der Sekunde abgerechnet, in der sie startet. Erledigen Sie das Stocken, solange noch nichts läuft.
3. 3 Die Nummer erst bestellen, wenn die Aufforderung schon auf dem Bildschirm steht Erreichen Sie das Feld, das danach fragt, lassen Sie es offen stehen, und bestellen Sie erst dann den Code. Ein Code wird berechnet, sobald er ankommt, und er kommt an, ob Sie bereit sind oder nicht. Die Telegram-Nummern-Seite und die Discord-Nummern-Seite listen die Länder, die den jeweiligen Dienst derzeit führen.
4. 4 Sofort einen zweiten Faktor einrichten Sobald das Konto existiert, fügen Sie eine Authenticator-App hinzu und speichern Sie die Wiederherstellungscodes. Genau das sorgt dafür, dass die Plattform Ihre Nummer nie wieder braucht — neunzig Sekunden Arbeit, die eine ganze Klasse künftiger Probleme beseitigt.
5. 5 Dann die Instanz starten Konten erledigt, GPU gemietet, Gewichte geladen, Server gestartet. Von hier an läuft die Uhr, und nichts sollte Sie mehr unterbrechen.

Was eine virtuelle Nummer nicht leistet #

Es lohnt sich, die Grenzen klar zu benennen, denn die Fehlschläge sind vorhersehbar.

• Sie macht ein Konto nicht von allein anonym. Das Konto hat weiterhin eine E-Mail-Adresse, eine Zahlungsspur und einen Verhaltens-Fingerabdruck; die Nummer ist nur eines von mehreren Erkennungsmerkmalen.
• Sie kommt nicht an einem Dienst vorbei, der gezielt Nicht-Mobilfunk-Bereiche ablehnt — siehe warum Dienste VoIP ablehnen.
• Sie macht eine Markierung nicht rückgängig. Hat eine Plattform ein Konto bereits als verdächtig eingestuft, räumt ein frischer Code nur die Hürde vor Ihnen aus dem Weg, nicht den Grund, warum sie aufgetaucht ist.
• Sie ersetzt keinen zweiten Faktor. Eine Nummer ist ein Rückfallkanal; eine Authenticator-App ist es, die dafür sorgt, dass das Konto Ihnen gehört.

Bleibt ein Code mitten in der Einrichtung aus, liegt die Ursache so gut wie nie beim Modell oder der Maschine — warum Ihr Bestätigungscode nie ankam behandelt die Handvoll Gründe, aus denen das tatsächlich passiert.

Wie ein Setup aussieht, das hält #

Die Version davon, die den Kontakt mit der Realität übersteht, sieht jedes Mal ziemlich ähnlich aus. Rechenleistung sekundengenau gemietet und in Krypto bezahlt, sodass die Rechnung zur Arbeit passt und die Instanz verschwinden kann, wenn das Projekt es tut. Gewichte lokal gehalten, sodass niemand den Zugriff auf das eigene Modell entziehen kann. Eine Oberfläche, die bewusst so wenige Verbraucherkonten wie möglich braucht. Und für die Konten, die sich wirklich nicht vermeiden lassen, eine Nummer, die einmal für das Tor da ist oder in sechs Monaten noch für die Hürde — bewusst gewählt, nicht danach, was an dem Tag gerade am billigsten war.

Die Rechenleistung ist zum einfachen Teil geworden. Planen Sie die Konten mit derselben Sorgfalt wie die GPU, und der Rest hört auf, interessant zu sein — was bei Infrastruktur genau das Ziel ist.