LLM RouterNet-Bit IT & Network Solution
Lokale KI auf eigener Hardware · zwei Grafikkarten

Ein selbstgebauter KI-Router fuer Text, Bilder und Musik.

Diese Plattform laeuft komplett auf eigener Hardware. Eine kleine Klassifizier-KI entscheidet fuer jede Anfrage, welches Modell auf welcher Karte sie beantwortet, holt sich bei Bedarf aktuelles Wissen aus dem Netz, erzeugt Bilder und startet Musik- und Werkstatt-Programme, die frueher einzelne Projekte waren. Alles zusammen laeuft unter einer Oberflaeche mit Verlauf, Wissensspeicher, Statistiken und einer offenen, OpenAI-kompatiblen Schnittstelle fuer eigene Programme und Editoren.

Automatisches Routing Web-Chat mit Verlauf Bilder erzeugen Songs & Apps per Warteschlange Cache-Brain mit Websuche API-Keys fuer VS Code
🧭

Automatisches Routing

Jede Anfrage wird als chat, code, reason, longctx, vision oder web eingeordnet und dann an das passende Modell auf der starken oder der kleinen Karte geschickt.

💬

Chat mit Verlauf und Sprache

Markdown, Code mit Kopier- und Download-Knopf, Bilder, Statusmeldungen waehrend der Arbeit, Spracheingabe und jeder Gespraechsfaden einzeln speicherbar, ladbar und loeschbar.

🎨

Bilder erzeugen

Einfach schreiben, was aufs Bild soll – der Wunsch wird zuerst uebersetzt und dann ueber einen Bilddienst erzeugt. Das Ergebnis erscheint direkt im Chat und bleibt abrufbar.

🎵

Songs und Apps aus dem Cache-Brain

Erkannte Musik- und Werkstatt-Auftraege gehen an die passenden Programme (z. B. den Song-Generator). Sie laufen in einer Warteschlange, einer nach dem anderen – sichtbar mit Status und Fortschritt.

🧠

Cache-Brain und Websuche

Eigenes Wissen, Dokumente und Suchergebnisse liegen lokal als Wissensspeicher. Bei aktuellen Fragen holt der Router Treffer aus dem Netz und stellt sie als Kontext vor die Antwort.

🌐

Externe Anbieter nur wenn noetig

Reicht die eigene Hardware nicht (riesiger Kontext, Karte belegt, Qualitaet), kann der Router auf freie Kontingente externer Anbieter ausweichen. Eigene Schluessel, eigene Regeln, alles abschaltbar.

🔗

Offene Schnittstelle

Unter /v1/chat/completions sprechen eigene Tools, Skripte und Editoren mit dem Router – geschuetzt ueber API-Schluessel mit eigenem Limit.

🔋

Strom sparen

Modelle werden nach kurzer Ruhe automatisch aus dem Grafikspeicher entladen, damit die Karten nicht unnoetig Leistung ziehen.

🛠

Workspace

Eigener Arbeitsbereich auf dem Server: Dateien ablegen, Programme installieren und starten, Ordner als Webseite ausliefern – jeder Anwendung wird ein fester Port zugeordnet (Bereich 8200-8269) und kann durch den Router weitergeleitet werden.

© 2026 Benjamin Hamp · Net-Bit IT & Network Solution · Waldstr. 12, 29525 Uelzen
Alle Rechte vorbehalten (All rights reserved).
LLM RouterDashboard & Chat

Anmelden

Zugang zur Uebersicht, zum Chat und zu den Einstellungen.