Selbst hosten oder betreiben lassen?

Ein Serviceteam soll Wartungshandbücher schneller durchsuchen können. Darf sein Assistent nur aus freigegebenen Dokumenten antworten, oder auch Kundendaten lesen und Maschinensteuerungen verändern? Stellen wir uns einen Maschinenbauer vor, der nur die erste Aufgabe zulässt. Damit bekommt die Plattformwahl einen klaren Bezug. Schreiben Sie auf, welche Informationen der Assistent verwenden darf, wer seine Antworten liest und was eine falsche Antwort auslösen könnte.

Jetzt lässt sich unterscheiden, was Pflicht ist und was Ihnen die Arbeit erleichtert. Muss der gesamte Betrieb in einem abgeschotteten Netz stattfinden, scheidet ein Angebot ohne diesen Nachweis aus. Weniger Administrationsaufwand ist dagegen etwas, das Sie abwägen können. Lassen Sie die zuständige IT jede feste Vorgabe bestätigen. Solange ein Anbieter den verlangten Nachweis nicht liefert, bleibt der Punkt offen, auch nach einer überzeugenden Vorführung.

Dify Enterprise nennt eigenen Betrieb in einer VPC, vor Ort und im abgeschotteten Netz mit lokalen Modellen. Dify Cloud ist ein gehostetes Angebot. Bei Langdock gibt es sowohl eine betreute Einzelkunden-Umgebung als auch den Betrieb in der eigenen Cloud.^1,2,3,4,5

Bei LangSmith Deployment bedeutet „hybrid“: LangChain betreibt die Steuerung, der Kunde betreibt Agent Servers und deren Datenebene. Beim vollständigen Eigenbetrieb liegen auch die Steuerung und die Agent Servers beim Kunden.^6,7

Diese Varianten gehören getrennt ins Angebot. Machen Sie für alle Anbieter dieselbe Liste: Benutzeroberfläche, Ablaufsteuerung, Modelle, Dokumentenspeicher, Suchindex, Protokolle und Sicherungen. Schreiben Sie daneben, wer das jeweilige Teil betreibt, in welchem Konto und an welchem Standort. Zeichnen Sie auch Verbindungen nach außen ein. Im Handbuchbeispiel lautet die entscheidende Frage: Verlassen Textauszüge das eigene Netz, damit ein Modell sie verarbeitet? Dass die Anwendung auf einem eigenen Server läuft, beantwortet das noch nicht.^8,6

n8n weist beim Eigenbetrieb die Verschlüsselung gespeicherter Daten dem Betreiber zu. Dify verlangt, mitgelieferte Entwicklungszugänge zu ersetzen. Nexus beschreibt, wie ein Ingenieur den ersten Ablauf mit dem Kunden umsetzt und das Team danach weiter an Verbesserungen arbeitet.^9,10,11,12

Ein Preisvergleich braucht deshalb die ganze Aufgabenliste. Wer richtet die Anwendung ein, verbindet Modelle, legt Rechte fest und prüft die Antworten? Wer überwacht den Betrieb, installiert Updates, sichert Daten und bearbeitet Störungen? Ordnen Sie jeder Aufgabe eine verfügbare Person oder eine beauftragte Leistung zu. Verwenden Sie nur bestätigte Preise aus den Angeboten. Solange Personal und laufende Arbeit fehlen, vergleichen Sie mit dem Lizenzpreis noch keine vollständigen Kosten.^9,10,11

Geben Sie den Anbietern in der engeren Auswahl dieselben freigegebenen Handbücher und Nutzerrollen. Lassen Sie zeigen, was bei erlaubtem und verweigertem Zugriff, einer Korrektur im Handbuch und einem kontrollierten Wiederanlauf passiert. Schreiben Sie die erwarteten Ergebnisse vorher auf. So vergleichen Sie Antworten auf Ihre konkrete Aufgabe. Ein gelungener Versuch mit diesem Bestand ist allerdings kein allgemeiner Leistungsbeweis für die Plattform.

Schließen Sie das Entscheidungsblatt mit dem gewählten Betrieb, erfüllten Pflichtanforderungen und offenen Bedingungen ab. Nennen Sie die spätere Betreuung und den nächsten Freigabeschritt. Eine Bedingung könnte heißen: „Freigabe erst, wenn der Modellendpunkt belegt ist und ein entzogenes Zugriffsrecht wirksam wird.“ Bleibt ein zwingend vorgeschriebener Datenweg unklar, warten Sie mit der Freigabe. Ist die Architektur geklärt, aber niemand übernimmt den Betrieb, muss zunächst diese Zuständigkeit feststehen.