Handbücher
Die richtige Seite im Herstellerhandbuch
„Was bedeutet Fehlercode E14 an der Anlage?“ Der Assistent findet die Stelle in dreihundert Seiten PDF, statt dass der Monteur auf der Baustelle sucht oder im Büro anruft.
Wir bauen für Sie · KI-Projekt
Ihr eigenes RAG-System: eine KI, die in Ihren Unterlagen nachschlägt.
Handbücher, Preislisten, Verträge, das interne Wiki. Ein RAG-System sucht bei jeder Frage zuerst in Ihren Dokumenten und antwortet dann auf dieser Grundlage, mit Quellenangabe. Wir bauen es mit Claude über Amazon Bedrock, in Ihrem eigenen AWS-Konto.
So kann es aussehen
„Dürfen wir beim Auftrag für Huber einen Subunternehmer einsetzen?“
Nur mit schriftlicher Zustimmung von Huber. Das steht im Rahmenvertrag unter § 7. Eine solche Zustimmung finde ich in den Unterlagen nicht.
Quelle: Rahmenvertrag Huber, § 7Durchsucht: Korrespondenz Huber
Was ist ein RAG-System? Einfach erklärt.
RAG steht für Retrieval Augmented Generation, auf Deutsch etwa: durch Suche ergänzte Textgenerierung. Gemeint ist ein einfacher Gedanke. Die KI sucht zuerst in Ihren Dokumenten und antwortet dann auf dieser Grundlage. Ein normaler KI-Chat kennt Ihre Unterlagen nicht, man müsste sie jedes Mal hineinkopieren. Bei ein paar Seiten geht das, bei einem ganzen Ordnerschrank nicht.
- 01
Suchen
Zu Ihrer Frage sucht das System die passenden Stellen in Ihren Dokumenten. Auch dann, wenn die Frage andere Worte benutzt als das Dokument.
- 02
Lesen
Claude bekommt genau diese Stellen vorgelegt, nicht den ganzen Bestand. So stützt sich die Antwort auf Ihre Unterlagen statt auf allgemeines Wissen aus dem Training.
- 03
Antworten, mit Quelle
Die Antwort nennt Dokument und Stelle, damit Sie nachlesen können. Steht zur Frage nichts in den Unterlagen, soll das System das sagen, statt zu raten.
Nicht ins Modell eingelernt.
Ihre Dokumente werden nicht in die KI hineintrainiert. Sie bleiben Dokumente, die bei jeder Frage nachgelesen werden. Das hat zwei Vorteile: Eine neue Preisliste ist drin, sobald der Suchindex sie aufgenommen hat. Und ein Vertrag, den Sie entfernen, ist nach der nächsten Aktualisierung auch für die KI weg.
Wofür Betriebe ein RAG-System nutzen.
Überall dort, wo Wissen in Dokumenten steckt und die Antwort heute davon abhängt, wer weiß, wo was liegt. Eine KI-Wissensdatenbank, die man in normalen Sätzen fragen kann.
So kann es aussehen · Beispiele, keine Kundenprojekte
Preislisten
Konditionen aus der aktuellen Liste
„Welcher Staffelpreis gilt ab 50 Stück?“ Die Antwort kommt aus der gültigen Preisliste, und die Quelle zeigt, aus welcher. So rechnet niemand mit der vom letzten Jahr.
Leistungsverzeichnisse
Ausschreibungen schneller durchsehen
„Was verlangt das Leistungsverzeichnis zur Gewährleistung, und wo steht etwas Ungewöhnliches?“ Mit Positionsnummer, damit Sie die Stelle selbst lesen, bevor Sie anbieten.
Verträge
Fristen und Sonderabsprachen je Kunde
Zahlungsziele, Kündigungsfristen, was mit wem vereinbart ist. Der Assistent sagt, wo es steht. Die rechtliche Bewertung bleibt bei Ihnen oder Ihrem Anwalt.
Internes Wiki
„Wie machen wir das bei uns?“
Reklamationsablauf, Urlaubsantrag, wo die Vorlage liegt. Neue Kolleginnen und Kollegen fragen den Assistenten, statt jedes Mal jemanden aus der Arbeit zu holen.
Ihr Fall
Wo wird bei Ihnen am meisten gesucht?
Meist gibt es einen Ordner, nach dem alle fragen, und eine Person, die sich darin auskennt. Erzählen Sie uns davon, dann sagen wir, ob ein RAG-System das löst.
30 Minuten sprechen →RAG-System oder KI-Betriebssystem?
Beides sind KI-Assistenten mit Claude, sie schauen nur an verschiedenen Stellen nach. Die Frage ist, wo die Antworten bei Ihnen liegen.
KI-Betriebssystem
Antworten aus Ihren Programmen
Claude greift auf Warenwirtschaft, Buchhaltung, Mail und Kalender zu. Gut für Fragen nach Zahlen und Ständen: Welche Rechnungen sind offen, welche Angebote laufen ab, wer ist nächste Woche wo?
Zum KI-Betriebssystem →Eigenes RAG-System · diese Seite
Antworten aus Ihren Dokumenten
Claude sucht in einem großen Bestand an Unterlagen. Gut für Fragen nach Inhalten: Was steht im Vertrag, was sagt das Handbuch, wie ist der Ablauf bei uns geregelt?
Ein paar Preislisten und Handbücher kann Claude auch im KI-Betriebssystem direkt aus der Dateiablage lesen. Ein eigenes RAG-System lohnt sich, wenn der Bestand so groß ist, dass niemand mehr weiß, wo was steht, oder wenn verschiedene Leute verschiedene Dokumente sehen dürfen. Beides lässt sich auch verbinden.
Technik in Kürze: Claude, Amazon Bedrock und Ihr AWS-Konto.
Sie müssen das nicht im Detail verstehen. Wissen sollten Sie aber, wo Ihre Daten liegen. Kurz gesagt: alles in Ihrem eigenen AWS-Konto.
Ihr AWS-Konto
Ihre Dokumente
Amazon S3
- Word
- Excel
- Wiki-Export
von netstein eingerichtet
Suchindex mit Rechten
Oft „Vektordatenbank“ genannt. Findet die passenden Stellen, aber nur in dem, was die fragende Person sehen darf.
Modell
Claude
Über Amazon Bedrock. Antwortet aus den gefundenen Stellen und nennt dazu die Quelle.
mit Quellenangabekein Training mit Ihren Daten
Claude über Amazon Bedrock
Amazon Bedrock, oft „AWS Bedrock“ genannt, ist der KI-Dienst von AWS. Darüber nutzen wir Claude von Anthropic, abgerechnet über Ihr AWS-Konto. Laut AWS werden Ihre Fragen und die Antworten dort nicht zum Training der Modelle verwendet und nicht an den Modellanbieter weitergegeben.
Dokumente in Amazon S3
Ihre Dateien liegen im Dateispeicher von AWS, in einer Region, die Sie festlegen, zum Beispiel Frankfurt. Daraus entsteht der Suchindex. Wie neue Dokumente dorthin kommen, aus Ihrer Dateiablage oder per Upload, legen wir beim Aufbau fest.
Die Daten bleiben in Ihrem AWS-Konto
Das Konto gehört Ihnen, nicht uns. Dokumente und Suchindex liegen dort. Wir bekommen zum Einrichten einen Zugang, den Sie jederzeit entziehen können. Endet die Zusammenarbeit, bleibt alles bei Ihnen.
Wer welche Antworten sehen darf
Die Montage sieht die Handbücher, die Geschäftsführung auch Verträge und Konditionen. Das System sucht nur in den Dokumenten, die die fragende Person sehen darf. Was es dort nicht findet, kann es auch nicht weitererzählen.
Was wir mitbringen.
Bei einem RAG-System kommt es auf zwei Dinge an: KI, die jeden Tag im Betrieb läuft, und Rechte, die stimmen. Beides kennen wir aus eigenen Projekten.
KI im täglichen Betrieb
hayp.ai
Sascha ist CTO bei hayp.ai und entwickelt die KI-Software, über die diese Reservierungen laufen. Die KI schreibt dort jeden Tag Antwortentwürfe auf Gästenachrichten. Seine KI-Systeme baut er auf AWS.
Rechte und Rollen
CRM für Krebsforschung und Medizin
Ärztinnen, Ärzte und Beteiligte in Gruppen beliebiger Tiefe, mit Rollen je Standort. Wer was sehen darf, ist dort die Kernfrage, genau wie bei den Zugriffsrechten in einem RAG-System.
Beides sind keine RAG-Systeme, sondern die Erfahrung, auf der wir aufbauen. Technisch verantwortlich ist Sascha.
So läuft ein Projekt ab.
Wie beim KI-Betriebssystem: erst klären, ob es sich lohnt, dann der Festpreis, dann der Bau. Für das Erstgespräch zahlen Sie nichts.
- 01
Erstgespräch
Sie erzählen, welche Unterlagen bei Ihnen gesucht werden und von wem. Wir sagen, ob ein RAG-System passt oder ob etwas Kleineres reicht. Auch wenn die Antwort nein ist.
- 02
Discovery-Workshop
Wir sehen uns eine Auswahl Ihrer Dokumente an: Formate, Scans, wie aktuell sie sind, wer was sehen darf. Am Ende haben Sie eine Leistungsbeschreibung und den Festpreis, auch dann, wenn Sie mit jemand anderem weitermachen.
- 03
Aufbau in Ihrem AWS-Konto
Wir richten Bedrock und S3 ein, bereiten die Dokumente auf und legen die Rechte fest. Zuerst mit einem Teil der Unterlagen, an dem Ihr Team echte Fragen ausprobiert.
- 04
Übergabe und Nachschärfen
Ihr Team arbeitet damit. Wo Antworten danebenliegen, schärfen wir in den ersten Wochen nach der Übergabe mit Ihnen nach. Wer neue Dokumente einstellt und alte entfernt, legen wir vorher fest.
Was laufend dazukommt.
Ein RAG-System kostet nach dem Bau weiter, aber nicht an uns. Wie viel, hängt an der Menge Ihrer Dokumente und daran, wie oft gefragt wird. Eine seriöse Zahl gibt es deshalb erst, wenn wir Ihre Mengen kennen.
AWS
Speicher und Suchindex
Der Dateispeicher in S3 ist bei Büromengen ein kleiner Posten. Größer ist meist der Suchindex: Je nach Variante kostet er einen festen Grundbetrag im Monat, auch wenn gerade niemand fragt. Welche Variante zu Ihrer Menge passt, rechnen wir im Workshop vor.
Tokens
Jede Frage kostet ein wenig
Claude wird nach Tokens abgerechnet, grob gesagt nach Textmenge. Pro Frage zählen die gefundenen Textstellen, die Claude liest, und die Antwort. Viele Fragen, lange Auszüge und ein großes Modell kosten mehr. Wir wählen pro Aufgabe das kleinste Modell, das zuverlässig reicht.
Abrechnung
Die Rechnung kommt direkt von AWS
Über Ihr eigenes Konto, nicht über uns. Ein Claude-Abo brauchen Sie dafür nicht. Wir richten eine Budget-Warnung ein, damit Sie es merken, bevor es teurer wird als geplant.
Wo die Grenzen liegen.
Ein RAG-System ist nur so gut wie die Dokumente darin. Das sagen wir lieber vorher als nach dem Projekt.
Schlechte Scans
Was die Texterkennung nicht lesen kann, findet auch die Suche nicht. Schiefe Kopien, Handschrift, Tabellen als Bild. Im Workshop prüfen wir eine Stichprobe. Manches muss neu gescannt werden, bevor es etwas taugt.
Veraltete Dokumente
Das System antwortet aus dem, was drinliegt. Liegt die alte Preisliste neben der neuen, kann es die falsche zitieren. Deshalb gehören alte Fassungen raus oder klar gekennzeichnet, und jemand ist dafür zuständig.
Lücken in den Unterlagen
Was nirgends aufgeschrieben ist, kann niemand finden, auch keine KI. Wir richten das System darauf aus, dann „dazu finde ich nichts“ zu sagen, statt eine Antwort zu erfinden.
Die KI kann trotzdem irren
Auch mit der richtigen Quelle kann Claude einen Satz falsch verstehen oder zwei Stellen falsch zusammenziehen. Deshalb steht bei jeder Antwort die Quelle. Bei allem, was zählt, etwa einem Preis im Angebot oder einer Frist im Vertrag, lesen Sie die Stelle nach. Fehlerfreie Antworten verspricht niemand seriös, wir auch nicht.
Was wir kosten.
Projekte ab 4.999 €. Was Ihres kostet, hängt vor allem an Ihren Unterlagen. Ob sich das Projekt lohnt, sagen wir Ihnen im kostenlosen Erstgespräch. Den Festpreis bekommen Sie nach dem Discovery-Workshop, bevor wir anfangen.
Menge und Zustand der Dokumente
Hundert saubere PDFs sind etwas anderes als zwanzig Jahre gescannte Ordner.
Wie fein die Rechte sein müssen
„Alle sehen alles“ ist einfach. Rechte je Abteilung oder Kunde brauchen mehr Arbeit.
Wie neue Dokumente reinkommen
Von Hand hochladen oder automatisch aus Ihrer Dateiablage übernehmen.
Wo gefragt wird
Eine schlichte Chat-Oberfläche reicht oft. Eine eigene, die in Ihre Abläufe passt, ist mehr Arbeit.
Preis netto. Dazu kommen die laufenden Kosten für AWS und Claude, die AWS direkt mit Ihnen abrechnet.
Häufige Fragen zum RAG-System.
Was ist ein RAG-System?
RAG steht für Retrieval Augmented Generation. Ein RAG-System ist ein KI-Assistent, der bei jeder Frage zuerst in Ihren Dokumenten sucht und dann auf dieser Grundlage antwortet, mit Quellenangabe. Die Dokumente werden dafür nicht ins Modell eingelernt, sondern bei Bedarf nachgelesen.
Ist ein RAG-Chatbot dasselbe?
Meist ist genau das gemeint: ein Chatfenster, hinter dem ein RAG-System steckt. Wir bauen es in erster Linie für Ihr Team, also für den internen Gebrauch. Ein Chatbot für Kunden auf Ihrer Website geht auch, braucht aber strengere Regeln, welche Dokumente er verwenden und was er sagen darf.
Kann ich nicht einfach eine eigene KI mit meinen Daten trainieren?
Das ist aufwendig, und das Ergebnis nennt keine Quellen. Jede neue Preisliste hieße neu trainieren, und was einmal eingelernt ist, bekommt man schwer wieder heraus. Was die meisten Betriebe mit „eigene KI erstellen“ meinen, ist ein RAG-System: ein bestehendes Modell wie Claude, das in Ihren Unterlagen nachschlägt.
Werden meine Dokumente zum Training der KI verwendet?
Nein. Ihre Dokumente liegen in Amazon S3 in Ihrem eigenen AWS-Konto, Claude läuft über Amazon Bedrock. Laut AWS werden Fragen und Antworten dort weder zum Training der Modelle verwendet noch an den Modellanbieter weitergegeben. Ob Ihre Unterlagen personenbezogene Daten enthalten und was das für den Datenschutz heißt, besprechen wir im Workshop. Die rechtliche Bewertung bleibt bei Ihnen oder Ihrem Datenschutzbeauftragten.
Gibt das System immer richtige Antworten?
Nein, das kann niemand seriös versprechen. Claude kann eine Stelle falsch verstehen, und aus einem veralteten Dokument kommt eine veraltete Antwort. Deshalb steht bei jeder Antwort die Quelle, und bei allem, was zählt, sollten Sie dort nachlesen. Findet das System nichts Passendes, soll es das sagen, statt zu raten.
Welche Dateien kann das System lesen?
PDF, Word, Excel und Textdateien, dazu Exporte aus einem Wiki. Gescannte Dokumente gehen, wenn die Texterkennung sie lesen kann. Handschrift und Tabellen, die nur als Bild vorliegen, sind die üblichen Problemfälle. Im Workshop prüfen wir eine Stichprobe.
Was passiert, wenn sich eine Preisliste ändert?
Die neue Fassung kommt in den Dokumentenbestand, die alte raus. Sobald der Suchindex aktualisiert ist, antwortet das System aus der neuen. Ob das automatisch passiert oder per Knopfdruck und wer dafür zuständig ist, legen wir beim Aufbau fest.
Brauchen meine Mitarbeiter ein Claude-Abo?
Nein. Claude läuft über Amazon Bedrock und wird nach Verbrauch über Ihr AWS-Konto abgerechnet. Gefragt wird in der Chat-Oberfläche, die wir mitbauen.
Was kostet ein RAG-System?
Zwei Teile: der Aufbau durch uns, zum Festpreis nach dem Discovery-Workshop, und die laufenden Kosten bei AWS für Speicher, Suchindex und Tokens. Die laufenden Kosten hängen an der Menge der Dokumente und daran, wie oft gefragt wird. Wir schätzen sie im Workshop mit Ihren Zahlen.
Lohnt sich das für einen kleinen Betrieb?
Entscheidend ist nicht die Größe, sondern ob bei Ihnen regelmäßig Zeit mit Suchen in Unterlagen verloren geht und ob diese Unterlagen in brauchbarem Zustand sind. Fehlt eines davon, sagen wir Ihnen das im Erstgespräch, und Sie sparen sich den Workshop.
Wir bauen für Sie
Passt eher etwas anderes? Zwei weitere KI-Projekte.
Ein eigenes RAG-System ist eines von drei KI-Projekten, die wir für Betriebe bauen. Welches zu Ihnen passt, klären wir im Erstgespräch, manchmal ist es auch eine Kombination.
KI-Automatisierung
Mails, WhatsApp, Dokumente: Abläufe, die von selbst laufen, ohne dass jemand einen Chat öffnet. Oft der kleinere Einstieg, wenn es um einen einzelnen Arbeitsschritt geht.
Mehr zu KI-Automatisierung →KI-Betriebssystem
Claude mit Zugriff auf Warenwirtschaft, Buchhaltung, Mail und Kalender. Für Betriebe, die Antworten aus ihren Programmen wollen statt Exportdateien.
Mehr zu KI-Betriebssystem →Erzählen Sie uns, wo bei Ihnen gesucht wird.
30 Minuten, kostenlos. Sie sagen, welche Unterlagen es gibt und wer darin nach Antworten sucht. Wir sagen, ob ein RAG-System das löst und was es dafür braucht. Auch wenn die Antwort nein ist.
Technisch führt Sascha das Gespräch.