# Aktenrecherche mit KI: ohne Cloud > Wie eine Kanzlei ein Sprachmodell auf eigener Hardware nutzt, ohne dass Mandantendaten das Haus verlassen. - Veröffentlicht: 2026-09-18 - Aktualisiert: 2026-09-27 - Quelle: https://art-kon-tor-digital.de/referenzen/aktenrecherche-mit-ki-ohne-cloud/ --- ## AusgangslageStunden in Altakten, und ChatGPT ist tabu **Anwendungsfall, so gehen wir vor.** Diese Seite beschreibt, wie wir ein solches Projekt für eine Kanzlei anlegen und umsetzen. Wir nennen keinen Kundennamen und keine Kennzahlen; sobald ein Projekt zur Veröffentlichung freigegeben ist, wird daraus eine Case Study mit echten Werten. Eine Kanzlei sammelt über Jahre einen Aktenbestand: Schriftsätze, Urteile, Gutachten, Verträge, Korrespondenz mit Mandanten. Ein Teil liegt strukturiert in der Kanzleisoftware, ein Teil als gescannte PDFs, ein Teil in Ordnern auf dem Fileserver. Wer wissen will, wie ein ähnlicher Fall vor drei Jahren argumentiert wurde, sucht lange oder fragt den Kollegen, der damals dabei war. Öffentliche KI-Dienste kommen für diese Recherche nicht in Frage. Anwälte unterliegen der Verschwiegenheitspflicht, und Mandantendaten auf die Server eines Cloud-Anbieters zu laden, ist damit schwer vereinbar. Die Kanzlei will die Möglichkeiten eines Sprachmodells nutzen, ohne dass ein einziges Dokument das Haus verlässt. ### Die Aufgabe Den Aktenbestand per Frage durchsuchbar machen, mit Fundstelle statt frei erfundener Antwort, mit Zugriffsrechten je Mandat und vollständig auf eigener Hardware in der Kanzlei. ## LösungWas wir aufbauen ### Ein Server mit Grafikkarte im Haus Ein KI-Server in der Größe eines Desktop-PCs oder ein Gerät für den Technikraum, je nach Zahl der Nutzer. Er steht in der Kanzlei, hängt im eigenen Netz und hat keine Verbindung zu einem KI-Anbieter. ### Ein offenes Sprachmodell Ein frei verfügbares Modell, das lokal läuft. Im Testbetrieb prüfen wir mit anonymisierten Akten, ob die Antwortqualität für die typischen Fragen reicht. ### Anbindung an die Aktenablage Dokumente aus Kanzleisoftware, Scans und Fileserver werden indexiert. Neue Akten kommen automatisch dazu, gelöschte verschwinden auch aus dem Index. ### Rechtekonzept nach Mandaten Wer eine Akte nicht öffnen darf, bekommt auch keine Antwort daraus. Die Rechte folgen der Struktur, die in der Kanzlei ohnehin gilt. ### Antwort mit Fundstelle Jede Antwort verweist auf das Dokument und die Stelle, aus der sie stammt. Der Anwalt prüft, das Modell ersetzt keine Prüfung. ### Betrieb und Backup Updates, Monitoring und Sicherung übernehmen wir, wie bei jedem anderen Server auch. Ein Rechtsanwalt soll keine Modelle verwalten müssen. ## ErgebnisWas es bringt Recherchen in Altakten, die vorher Sucherei waren, werden zu einer Frage mit Antwort und Beleg. Wissen, das bisher an einzelne Personen gebunden war, wird für die ganze Kanzlei zugänglich, innerhalb der Rechte, die ohnehin gelten. Und die Frage, ob Mandantendaten in einer Cloud landen, stellt sich nicht, weil es keine Cloud gibt. Das gleiche Prinzip funktioniert für Steuerkanzleien, Gutachter und jedes Unternehmen mit einem Dokumentenbestand, der nicht nach draußen darf. ## AblaufSo gehen wir bei dir vor 1. 1 Gespräch Anwendungsfälle sammeln Welche Fragen stellt ihr an eure Akten, wie viele Dokumente sind es, wo liegen sie, wer darf was sehen. Daraus folgt die Hardware, nicht umgekehrt. 2. 2 bis 4 Wochen Testbetrieb Ein Modell auf Leihhardware oder in unserer Umgebung, gefüttert mit anonymisierten oder unkritischen Akten. Ihr prüft die Antworten, wir stellen ein. 3. 2 bis 3 Wochen Aufbau in der Kanzlei Server, Modell, Anbindung an die Ablage, Rechtekonzept, Oberfläche im Browser. Dazu eine kurze Einweisung für das Team. 4. laufend Betrieb Updates für Modell und System, Backup, Monitoring, Erweiterung um neue Quellen, wenn Bedarf entsteht. ## FAQFragen zu diesem Projekt Wie lange dauert die Einführung einer KI für die Aktenrecherche? Nach einem Gespräch zu den Anwendungsfällen folgt ein Testbetrieb von zwei bis vier Wochen, danach der Aufbau in der Kanzlei mit zwei bis drei Wochen. Den größten Einfluss haben Menge und Zustand der Akten, etwa wie viele Scans erst per Texterkennung lesbar gemacht werden müssen. Ist das mit der anwaltlichen Verschwiegenheit vereinbar? Technisch ist die Voraussetzung erfüllt: Server, Modell und Index stehen in der Kanzlei, kein Dokument geht an einen KI-Anbieter. Für den Betrieb durch uns gibt es einen Vertrag zur Auftragsverarbeitung mit Verschwiegenheitsverpflichtung. Die berufsrechtliche Bewertung bleibt bei der Kanzlei. Funktioniert das auch für Steuerberater oder andere Branchen? Ja. Das Prinzip passt für Steuerkanzleien, Gutachter, Praxen und jedes Unternehmen mit einem Dokumentenbestand, der das Haus nicht verlassen darf. Unterschiedlich sind die Quellen, die angebunden werden, und das Rechtekonzept. ## Passt dazuLeistungen zu diesem Anwendungsfall [IT & KI**Lokaler KI-Server**Hardware, Modelle und Betrieb für KI, die im Haus bleibt.](/ki/lokaler-ki-server/) [IT & KI**Wissensdatenbank**Fragen an die eigenen Dokumente, mit Quelle und Rechten.](/ki/wissensdatenbank/) [IT & KI**KI für Kanzleien**Was für Anwälte, Notare und Steuerberater anders ist.](/ki/ki-fuer-kanzleien/) [Ähnliches Projekt besprechen](#kontakt)