← Alle Google Cloud Insights
[LABS] Google Cloud · Insights

Der Prototyp lief, die Produktion leider nie: Wie KI-Projekte mit Vertex AI den Sprung schaffen

// Google Cloud Platform · Vertex AI · Gemini Enterprise Platform · AI · Agents // Lesezeit ~ 8 min // prodct [LABS] · Google Cloud

Mehr als 80 Prozent aller KI-Projekte scheitern, doppelt so viele wie bei klassischen IT-Projekten. Das hat die RAND Corporation in Interviews mit Data Scientists und Engineers herausgearbeitet. Die Ursachen sind fast nie die Modelle. Es sind unklare Ziele, schwache Datenfundamente und der fehlende Weg vom Laptop in den Betrieb. Warum der Schritt vom Piloten zur Produktion die eigentliche Hürde ist und wie eine Plattform wie Vertex AI auf Google Cloud diesen Weg verkürzt.

Jedes Unternehmen hat inzwischen einen KI-Piloten. Kaum eines hat KI im Betrieb.

Die Demos sind beeindruckend. Ein Data Scientist zeigt im Meeting, wie das Modell Wartungsbedarf vorhersagt, Anfragen klassifiziert oder Texte zusammenfasst. Alle nicken, das Budget für die nächste Phase wird bewilligt. Und dann passiert etwas Merkwürdiges: nichts. Der Pilot bleibt ein Pilot. Ein Jahr später läuft er immer noch auf dem Laptop des Kollegen, der ihn gebaut hat, und wenn der Kollege kündigt, stirbt das Projekt.

Diese Geschichte ist keine Anekdote, sondern der statistische Normalfall. Die RAND Corporation hat auf Basis von Interviews mit 65 erfahrenen Data Scientists und Engineers ermittelt, dass mehr als 80 Prozent aller KI-Projekte scheitern. Das ist die doppelte Quote klassischer IT-Projekte. Und die Studie räumt mit einer bequemen Ausrede auf: Die Technologie steht in der Liste der Ursachen weit hinten. Vorne stehen unklar formulierte Probleme, schwache Datenfundamente und fehlende Unterstützung der Führung. KI-Projekte scheitern organisatorisch, nicht mathematisch.

Warum der Weg in die Produktion so viel schwerer ist als die Demo

Um zu verstehen, wo Piloten hängen bleiben, hilft ein Blick auf den Unterschied zwischen Demo und Betrieb. Eine Demo muss einmal funktionieren, vor Publikum, mit vorbereiteten Daten. Ein produktives System muss jeden Tag funktionieren, mit den echten Daten von heute, unter Last, nachvollziehbar und wartbar von Menschen, die es nicht selbst gebaut haben.

Dazwischen liegt eine lange Liste unspektakulärer Arbeit. Das Modell braucht eine Umgebung, in der es zuverlässig läuft und skaliert. Es braucht Pipelines, die frische Daten heranführen, und zwar automatisch, nicht per Handexport. Es braucht Monitoring, das erkennt, wenn die Vorhersagequalität abrutscht, denn Modelle altern mit ihren Daten. Es braucht Zugriffskontrollen und Nachvollziehbarkeit, spätestens wenn Compliance und Betriebsrat fragen, worauf die Entscheidungen des Systems beruhen. Und es braucht einen Prozess für neue Versionen, damit Verbesserungen den Weg in den Betrieb finden, ohne ihn zu gefährden.

Nichts davon ist Raketenwissenschaft. Aber alles davon ist Infrastruktur, und genau diese Infrastruktur haben die meisten Unternehmen für KI schlicht nicht. Der Pilot lief ja auch ohne. Der Betrieb läuft ohne sie nicht.

Was Vertex AI auf Google Cloud anders macht

An dieser Stelle kommt die Plattformfrage ins Spiel. Man kann die gesamte beschriebene Infrastruktur selbst bauen, aus Servern, Frameworks und Skripten. Manche Unternehmen tun das und beschäftigen anschließend ein Team damit, sie am Leben zu halten. Der andere Weg ist eine verwaltete Plattform. Vertex AI ist die KI-Plattform von Google Cloud und deckt genau die Strecke ab, an der Piloten scheitern: Training, Deployment, Pipelines, Monitoring und Modellverwaltung an einem Ort, dazu der Zugriff auf aktuelle Modelle wie Gemini für generative Anwendungsfälle.

Der praktische Unterschied zeigt sich an einer einfachen Frage: Was passiert, wenn das Modell in Produktion soll? Auf einer Plattform ist das ein definierter Schritt. Das Modell wird als Endpoint bereitgestellt, skaliert automatisch mit der Last und schreibt seine Metriken in ein Monitoring, das Alarm schlägt, wenn etwas driftet. Ohne Plattform ist derselbe Schritt ein Projekt, das Monate dauern kann und Spezialwissen bindet. Beides führt zum Ziel. Aber nur einer der beiden Wege ist kurz genug, um die Geduld des Managements zu überleben, das den Piloten bewilligt hat.

Für Google Cloud spricht dabei ein Umstand, den man nüchtern festhalten kann: Der Anbieter baut die gesamte Kette selbst, von den TPU-Chips über die Modelle bis zur Plattform. Die Nachfrage gibt dieser Strategie gerade recht, Google Cloud wächst schneller als jeder andere große Cloud-Anbieter, getrieben von KI-Workloads. Für Sie als Kunde heißt das vor allem: Die Plattform, auf die Sie setzen, ist das Kerngeschäft des Anbieters, nicht sein Nebenprojekt.

Das Datenfundament bleibt Ihre Aufgabe

So viel eine Plattform abnimmt, eines nimmt sie niemandem ab: die eigenen Daten. Gartner zufolge nennen 85 Prozent der gescheiterten KI-Projekte mangelnde Datenqualität als Ursache, und nur 12 Prozent der Unternehmen verfügen über Daten in ausreichender Qualität für KI-Anwendungen. Ein Modell, das auf lückenhaften oder widersprüchlichen Daten trainiert, wird auf der besten Plattform der Welt lückenhafte und widersprüchliche Ergebnisse liefern, nur eben schneller und in größerem Maßstab.

Deshalb gehört zu jedem ernsthaften KI-Vorhaben die Frage nach dem Datenfundament, und zwar vor der Modellfrage. Wo liegen die Daten, die der Use Case braucht? Wer verantwortet ihre Qualität? Fließen sie automatisch oder per Handarbeit? Diese Fragen haben wir in unserem Artikel über das Scheitern von KI-Initiativen ausführlich behandelt, und sie gelten auf der Infrastrukturebene unverändert. Die Plattform macht aus einem guten Datenfundament ein produktives System. Aus einem schlechten macht sie gar nichts.

Wie ein realistischer Weg aussieht

Die Projekte, die den Sprung in die Produktion schaffen, folgen nach unserer Erfahrung einem erkennbaren Muster, und es beginnt nicht mit der Technologie.

Es beginnt mit einem Use Case, der ein messbares Geschäftsproblem löst. Nicht mit der Frage, was man mit KI alles machen könnte, sondern mit der Frage, welcher Prozess heute nachweislich Geld oder Zeit kostet. Die RAND-Studie nennt das Fehlen genau dieser Klarheit als häufigste Todesursache von KI-Projekten. Ein gutes Kriterium: Wenn sich nicht in einem Satz sagen lässt, welche Kennzahl das Projekt verbessern soll, ist es noch nicht reif.

Dann folgt der Pilot, aber von Anfang an auf der Zielinfrastruktur. Das ist der Punkt, an dem sich der spätere Erfolg entscheidet. Ein Pilot, der auf Vertex AI läuft, statt auf einem Laptop, ist kein Wegwerfprodukt. Der Weg in die Produktion ist dann kein Neubau, sondern ein Ausbau. Die Mehrkosten am Anfang sind überschaubar, die Ersparnis am Übergang ist erheblich.

Und schließlich der Betrieb, mit klaren Verantwortlichkeiten. Ein produktives Modell braucht einen Eigentümer, der seine Qualität überwacht, genau wie jede andere geschäftskritische Anwendung. KI ist kein Projekt mit Enddatum, sondern eine Fähigkeit, die man aufbaut und pflegt.

Woran Sie erkennen, dass Ihr Pilot in der Falle steckt

Es gibt Warnsignale, die sich in fast allen steckengebliebenen KI-Projekten wiederholen. Das erste ist personell: Das gesamte Wissen über den Piloten steckt in einer einzigen Person. Wenn nur ein Mensch das System starten, füttern und deuten kann, ist es kein System, sondern ein Hobby mit Budget. Das zweite Signal ist der Datenweg: Die Daten kommen per Export und Handarbeit ins Modell. Was in der Demo eine Abkürzung war, wird im Betrieb zur Sollbruchstelle, denn niemand exportiert zuverlässig jeden Tag um sechs. Das dritte Signal ist die Erfolgsmessung: Der Pilot gilt als gelungen, weil die Demo beeindruckt hat, nicht weil eine vorher definierte Kennzahl erreicht wurde. Und das vierte Signal ist das leise Sterben: Es gibt keinen nächsten Meilenstein mit Datum. Der Pilot ist einfach da, unverbindlich und unbefristet, und genau so verschwindet er irgendwann auch.

Wer zwei oder mehr dieser Signale bei sich erkennt, muss das Projekt nicht beerdigen. Aber er sollte den nächsten Schritt nicht in noch mehr Modellarbeit stecken, sondern in Struktur: Zielkennzahl, Datenpipeline, Zielplattform, Verantwortlicher. Das ist weniger glamourös als ein neues Modell. Es ist aber der Unterschied zwischen einem Experiment und einem Vorhaben.

Was das Team dafür können muss

Zur Ehrlichkeit gehört auch die Personalfrage. Für den Weg in die Produktion braucht es drei Kompetenzen, und sie stecken selten in einer Person. Jemand muss das Geschäftsproblem besitzen, also den Use Case fachlich verantworten und entscheiden können, was gut genug ist. Jemand muss die Daten beherrschen, also Pipelines bauen und Qualität sichern. Und jemand muss den Betrieb können, also Deployment, Monitoring und Sicherheit auf der Plattform verantworten.

Die gute Nachricht: Eine verwaltete Plattform wie Vertex AI verschiebt den Aufwand deutlich in Richtung der ersten beiden Rollen, weil sie den Betriebsanteil drastisch verkleinert. Ein mittelständisches Unternehmen muss kein MLOps-Team aufbauen, um ein Modell zuverlässig zu betreiben. Es braucht klare Rollen, eine Plattform, die die schwere Infrastrukturarbeit übernimmt, und bei Bedarf einen Partner, der die Lücken schließt, bis das eigene Team sie füllen kann. Genau dieses Modell leben wir in unseren Projekten, mit dem erklärten Ziel, uns überflüssig zu machen.

Was Sie diese Woche prüfen können

Wenn in Ihrem Unternehmen gerade ein KI-Pilot läuft oder geplant ist, stellen Sie drei Fragen. Erstens: Welche Kennzahl soll er verbessern, und ist das schriftlich festgehalten? Zweitens: Auf welcher Infrastruktur läuft er, und ist das dieselbe, auf der er später produktiv laufen soll? Drittens: Wer betreibt ihn nach dem Go-live, und weiß diese Person davon?

Wenn eine dieser Fragen keine Antwort hat, wissen Sie, woran Sie arbeiten müssen, bevor Sie in weitere Modelle investieren. Genau bei dieser Arbeit unterstützen wir: vom Use-Case-Zuschnitt über das Datenfundament bis zur produktiven Plattform auf Google Cloud. Wir wissen, dass dieser Weg funktioniert, denn unsere eigenen Systeme laufen darauf, genauso wie die Systemlandschaften mehrerer unserer Kunden. Den Einstieg finden Sie auf unserer Google-Cloud-Seite. Alle Analysen finden Sie in unseren Google Cloud Insights.

← Alle Google Cloud Insights
// Weitere Insights