KI-Systeme
Ein LLM kann jetzt entscheiden, was bisher ein Mensch nach dem Lesen eines Dokuments entschieden hat. Wir bauen mit Ihnen das System drumherum, damit es im Betrieb läuft: Die Kosten sind gemessen, die Fehler werden abgefangen.
Fast jedes Unternehmen hat einen Prozess mit einem Menschen in der Mitte. Bestellungen, Schadensfälle oder Anfragen kommen als E-Mail oder PDF. Jemand liest sie, entscheidet, was sie bedeuten, und trägt das Ergebnis woanders ein. Diese Entscheidung kann jetzt ein LLM treffen. Kann die Software um das Modell herum auch danach handeln, nennt man das einen Agenten.
Der Haken: In der Demo läuft alles. Ein Modell gibt beim ersten Versuch auf fast alles eine plausible Antwort, und die Demo sieht aus wie das Produktivsystem. Der Unterschied steckt in allem um das Modell herum: wie Sie es testen, was passiert, wenn es auf halbem Weg scheitert, und was es pro Dokument kostet. Das ist gewöhnliche Ingenieursarbeit, und die machen wir.
- Claude
- Gemini
- Mistral
- RAG
- TypeScript
- Node.js
- OpenTelemetry
- SigNoz
- GitHub Actions
Etwas kommt rein
eine Bestellung, ein Schadensfall, eine Anfrage
Jemand entscheidet
der Schritt, der einen Menschen brauchte
Etwas wird erledigt
ein Datensatz geschrieben, ein Fall weitergeleitet
Die beiden Enden sind seit Jahrzehnten automatisiert. Die Mitte übernimmt jetzt ein LLM.
Ihre Situation, unsere Antwort
Sie wissen, dass KI etwas für Sie tun könnte, aber niemand weiß, was.
Bevor jemand Code schreibt, gehen wir Ihre Abläufe durch, mit Ihnen und mit den Leuten, die die Arbeit machen. Wir suchen die Schritte, in denen ein Mensch etwas liest und entscheidet. Dann klären wir, wo sich ein LLM lohnt und wo nicht. Am Ende haben Sie einen Plan: was zuerst gebaut wird und was es kostet.
Sie wissen nicht, welches Modell Sie nehmen sollen, oder was es kostet.
Extrahieren, Klassifizieren und Zusammenfassen brauchen verschieden viel Genauigkeit und kosten pro Token verschieden viel. Wir routen jede Aufgabe zu dem Modell, das zu ihr passt, und messen das Ergebnis. Ein günstiges Modell erledigt, was es kann. Das teure kommt nur dort dran, wo sich die Genauigkeit bezahlt macht.
Ihre Daten stecken in E-Mails, PDFs und Scans.
Das meiste, was sich extrahieren lohnt, wurde für Menschen geschrieben, nicht für Maschinen. Die richtige Antwort beginnt mit der richtigen Stelle im Dokument. Deshalb schneiden wir die Chunks entlang der Struktur, die das Dokument ohnehin hat. Und wir testen gegen Datensätze, bei denen Sie die Antwort schon kennen.
Sie müssen wissen, was das im Betrieb kostet.
Token-Kosten steigen und fallen mit dem Traffic, wie jede andere Kostenstelle. Also messen wir sie wie eine. Sie sehen die Kosten pro Dokument und pro Modell, daneben Latenz und Fehlerrate.
Sie wollen einen Agenten.
Ein Agent ist eine Schleife um ein paar Tools, und die Schleife ist die leichte Hälfte. Schwer sind die Fragen dahinter: Welche Tools darf er aufrufen? Was darf jedes davon tun? Was passiert, wenn ein Schritt auf halbem Weg scheitert? Wir bauen Agenten so, dass ein gescheiterter Lauf Ihr System genau dort lässt, wo es angefangen hat.
Erzählen Sie uns, was Sie bauen.
Unsere Kunden sitzen in der DACH-Region und in der EU. Mit allen arbeiten wir remote.