Building with AI
Wie Sie ein KI-Projekt strukturieren, sich in der Tool-Landschaft orientieren (RAG, Agents, Vektordatenbanken, APIs), einfachen Code schreiben und Outputs gegen Kosten und Latenz bewerten.
Alle reden davon, mit KI zu bauen. Die meisten bewundern noch die Demo. Dieser Block bringt Sie vom Zuschauer zum Builder, und zwar ohne die Behauptung, Sie bräuchten ein Informatikstudium, um im Raum eine Meinung zu haben, die zählt.
Sie beginnen dort, wo jedes ernsthafte Projekt beginnen sollte: vor der ersten Zeile Code. Das Problem sauber fassen. Entscheiden, ob Sie einen Prompt, ein RAG-Setup, ein Fine-Tuning oder einen Agent brauchen. Scope, Daten und Erfolgskriterien festlegen, damit Sie wissen, wie Erfolg aussieht. Diese Disziplin trennt echte Initiativen von teuren wissenschaftlichen Experimenten.
Dann geht es in die Maschinerie. Sie kartieren die Tool-Landschaft, von APIs über No-Code-Plattformen bis zu Vektordatenbanken. Sie lernen, wie Retrieval-augmented Generation Ihre eigenen Daten hinter das Modell stellt, damit es nicht mehr rät, sondern antwortet. Sie sehen, wie Agents handeln statt nur Text zu produzieren, und wo diese Macht gefährlich wird, wenn niemand den Scope sauber gesetzt hat.
Zum Schluss machen Sie sich die Hände schmutzig. Ihr erster API-Call in Python, damit Sie verstehen, was Ihre Teams tatsächlich tun. Echte Evaluation, denn ein System, das smart wirkt, und ein System, das funktioniert, sind zwei verschiedene Dinge. Und die Tradeoffs, die über Budgets entscheiden: Kosten, Latenz und Modellauswahl, die Entscheidungen, die Ihre Unit Economics leise tragen oder ruinieren.
Am Ende können Sie jedem technischen Team gegenübersitzen und das Gespräch auf Augenhöhe führen. Sie wissen, was leicht ist, was schwer ist, was ein Red Flag ist und was eine Ausrede. Das ist Hebel. Führungskräfte, die verstehen, wie KI gebaut wird, bekommen nichts mehr verkauft, sondern steuern die Arbeit.
Was Sie beherrschen werden
- Ein KI-Problem fassen, bevor jemand die Tastatur anfasst
- Sicher zwischen Prompting, RAG, Fine-Tuning und Agents wählen
- Ein Projekt mit klarem Datenbedarf und Erfolgskriterien scopen
- Ein RAG-System entwerfen, das Ihre eigenen Daten hinter das Modell stellt
- Outputs evaluieren, um zu belegen, dass ein System wirklich funktioniert
- Kosten, Latenz und Modell-Tradeoffs wie ein Operator abwägen
- Mit jedem technischen Team ein Gespräch auf Augenhöhe führen
Schlüsselbegriffe
Module
Wie Sie ein KI-Problem eingrenzen, einen Ansatz wählen und Scope, Daten sowie Erfolgskriterien definieren.
Ein Überblick über AI-Tooling sowie darüber, wie RAG und Agenten Modelle um Daten und Aktionen erweitern.
Der erste API-Call und die Bewertung der Outputs nach Qualität, Kosten und Latenz.
Häufige Fragen
Was braucht es konkret, um mit KI zu bauen, wenn ich kein Engineer bin?
Vor allem eine Methode, weniger Code. Sie rahmen das Problem, entscheiden zwischen Prompting, RAG, fine-tuning und Agents, legen Datenbedarf und Erfolgskriterien fest und bewerten die Outputs anschließend gegen Kosten und Latenz. Einen ersten API-Call in Python zu schreiben hilft Ihnen zu verstehen, was Ihre Teams tun. Die Entscheidungen, an denen ein KI-Projekt gelingt oder scheitert, fallen aber, bevor jemand einen Editor öffnet.
Was ist der Unterschied zwischen RAG und fine-tuning, und wann setze ich was ein?
Bei Retrieval-augmented Generation stehen Ihre eigenen Dokumente zum Zeitpunkt der Anfrage hinter dem Modell. Die Antwort stützt sich also auf Ihre Daten, ohne dass etwas neu trainiert wird. Fine-tuning verändert das Modell selbst, damit es ein Format, einen Ton oder ein spezielles Verhalten übernimmt. RAG ist die Standardwahl, wenn dem Modell Wissen fehlt. Fine-tuning betrifft, wie das Modell antwortet, nicht was es weiß.
Woran erkenne ich, ob ein KI-System wirklich funktioniert und nicht nur eine überzeugende Demo ist?
Sie legen vor dem Bauen Erfolgskriterien fest und bewerten die Outputs dann systematisch dagegen. Eine Demo zeigt das System an Fällen, die so ausgewählt sind, dass es gut aussieht. Eine Evaluation lässt es auf Fällen laufen, die die reale Nutzung abbilden, die unbequemen eingeschlossen. Ohne das messen Sie, wie klug sich das System anfühlt, und das ist etwas anderes als die Frage, ob es funktioniert.
Wann ist ein KI-Agent sinnvoller als ein einfacher Prompt?
Ein Agent ist sinnvoll, wenn die Aufgabe Aktionen über mehrere Schritte oder Tools hinweg erfordert und nicht nur Text erzeugt werden soll. Ein Prompt liefert eine Antwort. Ein Agent kann eine API aufrufen, ein System abfragen und Entscheidungen verketten. Genau dort konzentriert sich auch das Risiko. Deshalb müssen Scope und Berechtigungen vor dem Deployment definiert werden und nicht erst nach einem Vorfall.
Warum braucht mein KI-Projekt eine Vektordatenbank?
Eine Vektordatenbank speichert Embeddings, also die numerischen Repräsentationen Ihrer Dokumente, damit das System die Passagen findet, die für eine Frage am relevantesten sind. Sie ist die Retrieval-Hälfte eines RAG-Setups: Ohne sie kann das Modell Ihre Daten vor der Antwort nicht finden. Wenn Sie Antworten nicht auf Ihre eigenen Inhalte stützen, brauchen Sie wahrscheinlich keine.
Wie beeinflussen Kosten und Latenz die Wahl des Modells?
Meistens geben sie den Ausschlag. Ein größeres Modell liefert bessere Antworten, kostet aber mehr pro Call und antwortet langsamer. Das fällt bei hohem Volumen oder in einem nutzerseitigen Ablauf stark ins Gewicht. Praktisch gehen Sie so vor: Sie legen die Qualitätsschwelle fest, die Ihr Use Case tatsächlich braucht, und wählen dann das günstigste und schnellste Modell, das sie erreicht. Diese Abwägungen bestimmen im Hintergrund die Unit Economics des gesamten Projekts.