Ich habe neulich eine kleine Ankündigung zu einer Software-Veröffentlichung gesehen, die einen der größten Fehler, den Unternehmen beim Einsatz von KI machen, perfekt auf den Punkt bringt. Simon Willison hat ein Plugin für sein Daten-Tool Datasette namens datasette-llm veröffentlicht. Vereinfacht ausgedrückt ist es ein Werkzeug, das anderen Werkzeugen hilft, große Sprachmodelle (Large Language Models) zu nutzen.
Das Hauptmerkmal? Es ermöglicht, verschiedene KI-Modelle unterschiedlichen Aufgaben zuzuweisen. Sie können es beispielsweise so konfigurieren, dass ein kleines, schnelles Modell für die einfache Datenanreicherung verwendet wird, aber ein großes, leistungsstarkes Modell, das Ihnen beim Schreiben komplexer SQL-Abfragen hilft.
Das mag wie ein unbedeutendes technisches Detail klingen, ist aber eine gewaltige strategische Erkenntnis. So viele Unternehmen, mit denen ich spreche, sind darauf fixiert, das "eine beste KI-Modell" zu finden. Sie führen ein paar Tests durch, küren einen Gewinner wie GPT-4o oder Claude 3 Opus und versuchen dann, dieses Modell für alles zu verwenden. Das ist ein Rezept für Geldverschwendung, langsame Anwendungen und mittelmäßige Ergebnisse.
Warum ist die Strategie des "einen besten KI-Modells" so furchtbar?
Es ist eine furchtbare Strategie, weil kein einzelnes Modell in allem das Beste ist. Ein einziges Modell für jede Aufgabe zu erzwingen bedeutet, dass Sie für einfache Jobs zu viel bezahlen, langsame Antworten erhalten, wenn Sie Geschwindigkeit benötigen, und das falsche Werkzeug für spezialisierte Arbeiten verwenden. Das ist, als würde man einen Gehirnchirurgen engagieren, um ein Pflaster aufzukleben.
Der "Ein-Modell"-Ansatz führt zu drei klaren Problemen, die ich ständig bei Kunden sehe. Erstens: die Kosten. Ein leistungsstarkes Modell wie Claude 3 Opus kann für dieselbe Aufgabe 15-mal teurer sein als ein schlankes Modell wie Haiku. Ich habe Kunden erlebt, die ihre monatlichen API-Rechnungen um über 70 % gesenkt haben, indem sie einfache Klassifizierungs- und Extraktionsaufgaben an ein günstigeres, schnelleres Modell weitergeleitet haben.
Zweitens: die Geschwindigkeit. Die leistungsstärksten Modelle sind auch die langsamsten. Wenn Sie einen Echtzeit-Kundenservice-Chatbot entwickeln, ist eine Verzögerung von 5 Sekunden für eine Antwort eine Ewigkeit. Ein kleineres Modell kann oft in weniger als einer Sekunde eine vollkommen zufriedenstellende Antwort liefern, was für die Benutzererfahrung den entscheidenden Unterschied macht.
Und schließlich geht es darum, das richtige Werkzeug für die jeweilige Aufgabe auszuwählen. Ein Modell, das auf die Codegenerierung feinabgestimmt ist, wird ein allgemeines Modell beim Schreiben von Software immer übertreffen. Ein Modell, das sich durch kreative Marketingtexte auszeichnet, halluziniert möglicherweise komplett, wenn es darum gebeten wird, strukturierte Daten aus einer Rechnung zu extrahieren. Das "beste" Modell ist immer aufgabenabhängig.
Realitätscheck: Ihr Team sucht nicht nach dem "besten" KI-Modell. Es sucht nach dem richtigen Werkzeug für die Aufgabe. Sie zu zwingen, ein einziges teures, langsames Modell für alles zu verwenden, führt unweigerlich zu Frustration und Schatten-IT.
Wie entwickelt man eine Multi-Modell-KI-Strategie?
Bei der Entwicklung einer Multi-Modell-Strategie geht es nicht darum, Komplexität um ihrer selbst willen zu schaffen. Es geht darum, gezielt vorzugehen. Es läuft auf einen einfachen, vierstufigen Prozess hinaus, der Sie von einer vagen Idee des "KI-Einsatzes" zu einem intelligenten, effizienten System führt.
1. Katalogisieren Sie Ihre KI-Anwendungsfälle Zuerst müssen Sie konkret werden. Sagen Sie nicht einfach nur, dass Sie "KI für das Marketing einsetzen" wollen. Listen Sie die tatsächlichen Geschäftsaufgaben auf. Generieren Sie Beiträge für soziale Medien? Fassen Sie Kundenfeedback zusammen? Klassifizieren Sie eingehende Leads nach ihrer Absicht? Schreiben Sie jede einzelne Aufgabe auf, die eine KI übernehmen soll.
2. Definieren Sie die Anforderungen für jede Aufgabe Bewerten Sie als Nächstes jede Aufgabe anhand einiger Schlüsselkriterien. Sie benötigen keine komplexe Tabelle, nur ein grundlegendes Verständnis der Kompromisse.
- Kosten: Handelt es sich um eine Aufgabe mit hohem Volumen, bei der jeder Cent pro Anfrage zählt?
- Geschwindigkeit: Muss dies in Echtzeit für einen Benutzer geschehen oder kann es im Hintergrund laufen?
- Genauigkeit: Wie entscheidend ist es, dass das Ergebnis perfekt ist? Ist es für ein internes Brainstorming oder ein juristisches Dokument bestimmt?
- Schlussfolgerung: Erfordert die Aufgabe eine einfache Mustererkennung oder eine komplexe, mehrstufige Logik?
3. Ordnen Sie Modelle den Aufgaben zu Jetzt können Sie den Vermittler spielen. Weisen Sie auf der Grundlage Ihrer Anforderungen jeder Aufgabe eine Modellkategorie zu.
- Aufgabe: 10.000 Support-Tickets pro Tag klassifizieren. (Hohes Volumen, niedrige Kosten, hohe Geschwindigkeit). -> Modell: Ein schnelles, günstiges Modell wie Claude 3 Haiku oder Gemini Flash.
- Aufgabe: Einen detaillierten technischen Vorschlag entwerfen. (Geringes Volumen, hohe Schlussfolgerungsfähigkeit, Genauigkeit ist entscheidend). -> Modell: Ein leistungsstarkes Modell wie GPT-4o oder Claude 3 Opus.
- Aufgabe: Einzelposten aus einer PDF-Rechnung extrahieren. (Spezialisierte Aufgabe). -> Modell: Ein Modell mit starken visuellen Fähigkeiten und der Fähigkeit, strukturierte Daten zu verarbeiten.
4. Implementieren Sie eine Routing-Schicht Dies ist der technische Kitt, der alles zusammenhält. Sie benötigen einen einfachen "Verkehrspolizisten" in Ihrem System, der Anfragen an das richtige Modell weiterleitet. Wenn eine Aufgabe eingeht, prüft der Router ihren Zweck und sendet sie an die richtige API. Dies kann eine einfache Funktion in Ihrem Code, ein visueller Workflow in einem Tool wie n8n oder ein dedizierter Dienst sein. Der Punkt ist, eine zentrale Stelle zu haben, die die Entscheidung trifft.
alt text: Ein Diagramm, das einen zentralen "KI-Router" zeigt, der