JOURNAL KAUFLEITFADEN · · AKTUALISIERT
Selbst gehostete KI-Agenten: Wem gehört der Betrieb?
Die kurze AntwortVergleichen Sie Self-Hosting-KI und SaaS für eine Boutique-Beratung anhand von Arbeitslast, Datenweg, Modell, Wartung, Betrieb und Ausstieg.
Selbst gehostete KI passt nur, wenn eine klare Aufgabe einen festen Datenweg braucht. Zudem muss jemand den Betrieb übernehmen. Eine private Box kann den Workflow, das Modell oder beides ausführen. Bei SaaS betreibt der Anbieter mehr Teile. Keines der Modelle sichert mehr Schutz, Sicherheit, Ersparnis oder Tempo zu. Prüfen Sie einen echten Auftrag. Erstellen Sie etwa einen Entwurf aus freigegebenen Notizen und Vorlagen. Halten Sie den Weg jeder Datei und das genutzte Modell fest. Benennen Sie auch Freigabe, Wartung und Export beim Ausstieg.
Was gehört tatsächlich zu selbst gehosteten KI-Agenten?
Der Ausdruck kann ein Modell, eine KI-App oder einen Agenten-Workflow meinen. Benennen Sie zuerst die Schicht, die Ihnen gehören soll. Qualix nennt KI selbst gehostet, wenn Modelle, Apps oder Workflows auf der eigenen Technik laufen. Dann geht nicht jede Anfrage an die Cloud eines Dritten1. Budibase fasst den Begriff ähnlich weit. Er kann ein System mit LLM oder einen Teil des Stacks auf Technik unter Ihrer Hoheit meinen2.
Hinter dem Begriff stehen mehrere Aufgaben. Laut Northflank läuft beim Modell-Self-Hosting die KI auf eigenen Servern. Dazu gehören Download, Aufbau und Pflege des Modells3. USF Libraries nennt Laptops, PCs und sichere Server als Orte. Dort können eigene Modelle und Systeme laufen4.
Bei einem Agenten ist das Modell nur eine Grenze. Der Agent kann auch Dateien verwenden, Geschäftswerkzeuge aufrufen, Zugangsdaten verwahren und Aufzeichnungen anlegen. Deshalb trennt dieser Leitfaden die Modelllaufzeit vom Workflow. Nutzen Sie den Entscheidungsleitfaden für lokale KI-Agenten, wenn Sie entscheiden, welche Arbeitslasten auf kontrollierter Hardware bleiben müssen. Nutzen Sie den Leitfaden für private KI (auf Englisch), wenn die Datenschutzgrenze im Mittelpunkt steht.
Zeichnen Sie den Datenweg vor der Wahl auf. Halten Sie fest, wo Notizen eingehen. Notieren Sie den Ort für Dateien und Vorlagen. Erfassen Sie den Endpunkt für den Prompt. Tun Sie das auch für Entwurf und Logs. Prüfen Sie zuletzt, ob das freigegebene Dokument E-Mail oder CRM erreicht. Die Box ändert nur die Teile, die auf ihr laufen. Externe Modelle, Software-Konnektoren, Backups und Support bleiben eigene Grenzen.
Welche selbst gehostete KI-Konfiguration passt am besten zu einer Boutique-Beratung?
Beginnen Sie mit einer wichtigen Aufgabe. Erstellen Sie etwa ein Angebot aus freigegebenen Notizen. Sie können auch ein Dokument zur Prüfung kurz fassen. Eine Suche in der internen Bibliothek ist ein dritter Fall. Legen Sie Tests für Güte und Zeit fest. Prüfen Sie auch Nutzerzahl und Freigabe vor dem Versand. Wählen Sie das kleinste System, das den Test mit einem Betreiber besteht.
Trennen Sie Modell-Self-Hosting, ein selbst gehostetes Agenten-Cockpit und verwaltetes SaaS, bevor Sie Produkte vergleichen. Jede Wahl hat einen eigenen Betriebsumfang.
- Modell-Self-Hosting. Sie stellen das Modell, eine Inferenz-Engine und die ausführende Hardware bereit. Northflank nennt sie als Kernelemente eines selbst gehosteten Modell-Stacks3.
- Selbst gehostetes Agenten-Cockpit. Sie betreiben die KI-Anwendung oder den Workflow auf einer kontrollierten Infrastruktur. Qualix zählt KI-Anwendungen und Workflows ausdrücklich zu selbst gehosteter KI1.
- Verwaltetes SaaS. Sie nutzen das KI-System als Cloud-Dienst, statt es auf eigener Infrastruktur bereitzustellen. Qualix und Budibase verwenden beide diesen Gegensatz12.
Ein lokales Modell beantwortet nicht, wem der Workflow gehört. Ein selbst gehosteter Workflow beweist nicht, dass das Modell lokal läuft. Halten Sie beide Antworten getrennt fest. Das Entscheidungsblatt für On-Premise-KI-Plattformen hilft, lokale, Cloud- und hybride Arbeitslasten abzugrenzen.
Wem gehören Laufzeitumgebung, Dateien, Protokolle, Berechtigungen und Wiederherstellung?
Der sinnvolle Vergleich ist ein Verantwortungsnachweis und keine Liste von Produktfunktionen. Tragen Sie in jede Zeile einen Namen ein. Hat eine Zeile zwei Verantwortliche, halten Sie Übergabepunkt und Letztentscheidung fest.
| Entscheidungstest | Selbst gehostete Box | Verwaltetes SaaS | Nachweis vor der Wahl |
|---|---|---|---|
| Arbeitslast | Ihr Team dimensioniert und testet die Laufzeit für die gewählte Aufgabe. | Der Anbieter stellt die Laufzeit innerhalb seiner Dienstgrenzen. | Dieselbe Angebots- oder Dokumentaufgabe mit Abnahmekriterien ausführen. |
| Datenweg | Sie erfassen Speicher, Modell-Endpunkte, Konnektoren, Sicherungen und Fernsupport. | Sie prüfen den dokumentierten Verarbeitungs-, Speicher- und Konnektorweg. | Eine Kundendatei von Eingang bis Entwurf, Freigabe, Versand und Löschung verfolgen. |
| Betreiber | Sie benennen Verantwortliche für Zugriff, Fehler, Kapazität und Wiederherstellung. | Sie benennen Anbieteraufgaben und die Aufgaben Ihrer Beratung. | Jeder Betriebsaufgabe genau eine verantwortliche Stelle zuordnen. |
| Modellwahl | Sie können ein lokales Modell wählen oder ein externes Modell aufrufen. | Sie wählen aus den Modellen und Kontrollen des Dienstes. | Qualität, Kontext, Antwortzeit und Korrekturen an der Arbeitslast testen. |
| Wartung | Beratung oder Partner übernehmen Patches, Überwachung, Zugänge, Speicher und Wiederherstellungstests. | Der Anbieter wartet seinen Dienst; Regeln und verbundene Konten bleiben bei der Beratung. | Wartungsplan und Übergaben prüfen. |
| Ausstieg | Sie brauchen Dateien, Konfiguration, Zugänge und Wissen für eine andere Umgebung. | Sie sind auf den verfügbaren Export- und Löschprozess angewiesen. | Testexport durchführen und Wiederaufbau in einer sauberen Umgebung beschreiben. |
Die Tabelle schreibt keinen Eigentümer vor. Sie macht die Wahl prüfbar. Zeigen die Antworten auf Ihr Unternehmen, planen Sie die Arbeiten ein, die Northflank dem Self-Hoster zuweist: Download, Einrichtung und Verwaltung des Modell-Stacks3. Zeigen sie auf einen Anbieter, prüfen Sie dessen Zugangs- und Exportbedingungen. Bei geteilter Verantwortung bleibt die Aufteilung im selben Nachweis.
Wie vergleichen Sie selbst gehostete KI-Agenten mit SaaS?
Prüfen Sie die Betriebsgrenze in fester Folge. So legt nicht eine gute Demo den Aufbau fest. Nutzen Sie für jede Wahl dieselbe Aufgabe.
- Notieren Sie, was der Agent liest, schreibt und sendet.
- Markieren Sie, wo Modelllaufzeit und Agenten-Workflow laufen.
- Weisen Sie Dateien, Protokollen, Berechtigungen und Wiederherstellung je einen Verantwortlichen zu.
- Lassen Sie sich den Exportweg für Agentenkonfiguration und Aufzeichnungen zeigen.
- Halten Sie fest, was Ihr Unternehmen nach dem Kauf betreibt und was der Anbieter betreibt.
Bewahren Sie den ausgefüllten Verantwortungsnachweis zusammen mit der Kaufentscheidung auf. So prüfen Käufer, Betreiber und Anbieter später dieselbe schriftliche Grenze.
Vergleichen Sie anschließend Gleiches mit Gleichem. Ein Modell-Runner beantwortet, wie Inferenz läuft. Eine Agentenplattform beantwortet, wie Workflows und Werkzeugverbindungen laufen. Ein verwalteter Dienst beantwortet, welche Betriebsaufgaben der Anbieter übernimmt. Einen breiteren Vergleich bietet der Leitfaden für KI-Agentenplattformen.
Nutzen Sie bei jedem Kandidaten dieselbe saubere Kopie. Notieren Sie Modell, Kontext und gesendete Dateien. Messen Sie Zeit, Korrekturen und nötige Schritte des Betreibers. Der Test misst die Eignung für Ihre Arbeit. Er ist kein allgemeiner Test der Leistung.
Können Sie Agenten selbst hosten, ohne das Modell selbst zu hosten?
Ja. Die KI-App oder der Workflow kann auf Ihrer Technik laufen. Der Workflow kann dabei ein Modell bei einem fremden Dienst aufrufen. Qualix trennt Modelle, Apps und Workflows. Jeder Teil kann unter Self-Hosting fallen1.
Benennen Sie diese Wahl genau: selbst gehosteter Workflow-Betrieb mit externer Modellabhängigkeit. Beschreiben Sie sie nicht als vollständig lokales Modellhosting. Halten Sie fest, wer den Modellschlüssel besitzt, wo der Workflow Dateien und Protokolle speichert und wer ihn wiederherstellt. Der BYOK-Leitfaden (auf Englisch) behandelt den Schlüsselbesitz.
Auch die umgekehrte Aufteilung ist möglich. Sie können ein Modell auf dem eigenen Server ausführen, während eine externe Anwendung die Workflow-Schicht besitzt. Northflanks Definition deckt die Modellseite ab, weil dort Self-Hosting das Modell auf Ihrem Server meint3. Das ist Modell-Self-Hosting, aber kein Beweis für den Besitz des Agentenbetriebs.
Modell und Hosting sind zwei Wahlen. LocalAI beschreibt eine lokale Laufzeit mit fester API. Dahinter kann eine andere Modell-Engine laufen5. Der Wechsel ist möglich. Danach muss die Beratung den Test erneut machen. Ein anderes Modell kann Güte, Speicher, Kontext und Prüfaufwand ändern.
Wann lohnt es sich, einen eigenen KI-Agenten zu hosten?
Self-Hosting passt, wenn die Hoheit über diese Grenze wichtig ist. Ihre Firma muss dann die genannten Aufgaben tragen. USF Libraries nennt den Schutz und die Sicherheit der Daten. Hinzu kommen andere Kosten als bei laufender Cloud-Nutzung, Anpassung und Hoheit4. Northflank nennt Daten im eigenen Bereich und weniger Bindung an externe API-Firmen. Dabei bleibt die Pflege des Ablaufs Ihre Aufgabe3.
Diese Vorteile treffen die Entscheidung nicht für Sie. Prüfen Sie sie anhand der Tabelle. Wenn niemand im Unternehmen oder vertraglich Updates und Wiederherstellung übernimmt, bleibt eine Aufgabe unbesetzt. Wenn ein Anbieter jede Betriebszeile besitzt und den Export kontrolliert, ähnelt die Lösung eher verwaltetem SaaS, selbst wenn die Verkaufsseite sie als "privat" bezeichnet.
Ein Done-with-you-Cockpit teilt die Verantwortung. Bewerten Sie es anhand derselben Zeilen. Akzeptieren Sie "unterstützt" nicht als Namen eines Verantwortlichen. Halten Sie die genaue Arbeit Ihres Unternehmens und des Partners fest.
Erstellen Sie vor dem Start einen Plan. Benennen Sie die Person, die Fehlstarts prüft und Zugänge wechselt. Sie hält auch Host und Laufzeit aktuell. Zudem prüft sie Speicher und Wiederanlauf. Sie entscheidet über den Wechsel des Modells. Übernimmt ein Anbieter eine Aufgabe, halten Sie die Grenze fest. Notieren Sie auch die Aufgabe, die bei Ihrer Beratung bleibt.
Was müssen Sie vor Ausstieg oder Wiederherstellung bestätigen?
Ein Eigentumsanspruch ist nur nützlich, wenn Sie den Betrieb wiederherstellen oder an einen anderen Ort mitnehmen können. Prüfen Sie das erforderliche Material vor einem Ausfall oder Ausstieg, solange jede Partei den Speicherort noch zeigen kann.
- Bestätigen Sie, wie Sie Agentenanweisungen, Workflow-Konfiguration und Arbeitsdateien abrufen.
- Bestätigen Sie, welche Protokolle Sie exportieren können und welche beim Anbieter bleiben.
- Bestätigen Sie, wer Werkzeugzugänge und Administratorrechte widerrufen kann.
- Bestätigen Sie, wer die Laufzeit wiederherstellt, was wiederhergestellt wird und was dafür von der anderen Partei nötig ist.
- Bestätigen Sie, welche Teile beim Wechsel des Infrastrukturbetreibers neu aufgebaut werden müssen.
Diese letzte Prüfung macht aus "selbst gehostet" eine Betriebsentscheidung. Sie ermöglicht auch einen klaren Vergleich zwischen reiner Modellbox, eigenem Agenten-Cockpit und verwaltetem SaaS, ohne sie als dieselbe Aufgabe zu behandeln.
Führen Sie den Ausstiegstest wirklich durch. Exportieren Sie Regeln, Daten, Dateien und alle Logs. Sperren Sie einen Testzugang. Stellen Sie den Workflow in einer sauberen Umgebung wieder her. Falls das nicht geht, notieren Sie jeden Schritt zum Neubau. Halten Sie fest, was nicht umziehen kann. Notieren Sie auch den Ablauf für einen Ausfall.