Lokale KI für Kanzleien und Steuerberater in Österreich

Mehr als zwei Drittel der Juristen im deutschsprachigen Raum nutzen bereits KI-gestützte Werkzeuge in ihrer täglichen Arbeit — so das Future-Law Legal Tech Barometer 2025. Die meisten tun das mit öffentlichen Tools wie ChatGPT oder Microsoft Copilot. Und viele wissen nicht, dass sie damit gerade eine Berufspflicht verletzen, die nichts mit Datenschutz zu tun hat.

Das eigentliche Problem: Berufsrecht, nicht nur DSGVO

Für österreichische Rechtsanwälte gilt § 9 der Rechtsanwaltsordnung (RAO). Für Steuerberater und Wirtschaftsprüfer gilt § 80 des Wirtschaftstreuhandberufsgesetzes (WTBG). Beide Vorschriften verpflichten zur strikten Verschwiegenheit in allen Angelegenheiten, die ihnen von Mandanten anvertraut wurden.

Der entscheidende Satz aus den Gesetzesmaterialien zum WTBG lautet: "Informationen des Klienten dürfen daher keinesfalls an Dritte gelangen." Der Mandant ist "Herr seiner Geheimnisse". Er allein entscheidet, wer von seinem Mandat wissen darf.

Wenn nun ein Anwalt oder Steuerberater Mandantendaten in ein öffentliches KI-Tool eingibt, gelangen diese Daten auf Server eines US-amerikanischen Unternehmens. Rechtlich handelt es sich dabei um eine Weitergabe an Dritte. Das ist ein Verstoß gegen die Verschwiegenheitspflicht, unabhängig davon ob man einen Auftragsverarbeitungsvertrag abgeschlossen hat oder nicht. Selbst die Tatsache, dass ein bestimmtes Unternehmen überhaupt Mandant einer Kanzlei ist, unterliegt der Verschwiegenheit.

Das bedeutet: Die Frage ist nicht nur "Ist das DSGVO-konform?", sondern "Verliere ich damit meine Berufskonzession?" Beides kann gleichzeitig zutreffen.

Für die Praxis heißt das: Jede Eingabe mit Mandantenbezug in ein externes System ist ohne ausdrückliche Entbindung durch den Mandanten problematisch. Anonymisierte Anfragen ohne Personenbezug sind hingegen meist unproblematisch. Die Berufsrechtsabteilung der deutschen Bundesrechtsanwaltskammer (BRAK) hat das in ihrem Leitfaden vom Januar 2025 so zusammengefasst: Eine Anfrage an ein KI-System ist idealerweise so zu stellen, dass nur ein anonymes Gerüst gefordert wird.

Was das für den Kanzleialltag bedeutet

Keine dieser Einschränkungen bedeutet, dass Kanzleien und Steuerberatungskanzleien auf KI verzichten müssen. Es bedeutet nur, dass die KI dort laufen muss, wo die Daten sind: im eigenen Netzwerk.

Ein lokales System hat dabei sogar einen praktischen Vorteil gegenüber Cloud-Lösungen: Es kann direkt auf die eigenen Mandantenakten, Vorlagen und internen Dokumente zugreifen, ohne dass irgendetwas hochgeladen oder übertragen werden muss. Das ist nicht nur sicherer, sondern im Ergebnis auch hilfreicher.

Was ein RAG-System ist und warum es für Kanzleien besonders gut passt

RAG steht für Retrieval Augmented Generation. Das Prinzip ist einfach: Anstatt ein Sprachmodell allein antworten zu lassen, sucht das System zuerst in einer eigenen Dokumentendatenbank nach relevanten Stellen und legt diese dem Modell als Kontext vor. Die Antwort basiert dann auf euren eigenen Dokumenten, nicht auf dem allgemeinen Trainingswissen des Modells.

Das ist für juristische Arbeit aus mehreren Gründen besonders geeignet. Erstens sind Gesetzestexte, Judikatur und Verträge strukturierte Texte, die sich sehr gut als Wissensbasis eignen. Zweitens sind die Antworten auf die tatsächlichen Quelldokumente zurückführbar: Das System zitiert die Paragraphen und Entscheidungen aus denen es schöpft, was menschliche Überprüfung einfach macht. Drittens reduziert RAG das Halluzinationsproblem erheblich. Eine Stanford-Studie von 2024 hat bei kommerziellen Legal-AI-Systemen ohne eigene Quelldatenbank Halluzinationsraten von 17 bis 33 Prozent gemessen. Mit einem RAG-System auf verifizierten eigenen Quellen liegen diese Raten laut Harvard Law Journal deutlich niedriger und auf einem Niveau, das mit menschlicher Arbeit ohne KI-Unterstützung vergleichbar ist.

Das österreichische RIS als Wissensbasis

Das Rechtsinformationssystem des Bundes (RIS) unter ris.bka.gv.at ist die offizielle, kostenlos zugängliche Rechtsdatenbank der Republik Österreich. Sie enthält das gesamte konsolidierte Bundesrecht, alle neun Landesrechte in großem Umfang, die Judikatur des Obersten Gerichtshofs, des Verwaltungsgerichtshofs und des Verfassungsgerichtshofs sowie Entscheidungen weiterer Behörden und Spruchkörper. Seit 2004 ist das Bundesgesetzblatt dort rechtlich verbindlich in elektronisch signierter Form kundgemacht.

Alle diese Texte lassen sich in maschinenlesbarer Form herunterladen und als Wissensbasis für ein lokales RAG-System aufbereiten. Das bedeutet: Wenn ein Mitarbeiter der Kanzlei fragt "Welche Fristen gelten bei der Anfechtung eines Hauptversammlungsbeschlusses nach dem AktG?", sucht das System im aufbereiteten Gesetzestext, findet den relevanten Paragraphen, und legt ihn dem Modell vor. Die Antwort kommt mit Quellenangabe, ist nachprüfbar und basiert auf dem aktuellen Rechtsstand.

Dazu kommen kanzleispezifische Dokumente: eigene Vertragsvorlagen, Schriftsatzmuster, interne Leitfäden, Arbeitshilfen und auch abgeschlossene Aktenmappen (anonymisiert oder mit ausdrücklicher Mandantenzustimmung). Das System lernt dadurch die spezifische Praxis, die Kanzleisprache und die bevorzugten Formulierungen.

Konkrete Anwendungsfälle

Gesetzesrecherche: Die Frage nach einer Frist, einer Formpflicht oder einem Schwellenwert wird in Sekunden beantwortet, mit Verweis auf den konkreten Paragraphen. Was früher eine Recherche im RIS oder in einer kostenpflichtigen Rechtsdatenbank bedeutete, dauert jetzt Sekunden. Thomson Reuters berichtet, dass KI-gestützte Recherche Anwälten durchschnittlich vier Stunden pro Woche einspart.

Vertragsanalyse: Ein Vertrag wird hochgeladen und das System prüft ihn auf Konsistenz, fehlende Klauseln oder Formulierungen die von der Kanzleivorlage abweichen. Problematische Stellen werden markiert und erläutert. Der Anwalt entscheidet dann selbst wie er damit umgeht.

Schriftsatzvorbereitung: Das System kann auf Basis ähnlicher früherer Fälle einen Strukturentwurf liefern oder relevante Judikatur zusammenstellen, die dann manuell geprüft und eingearbeitet wird.

Mandantenkorrespondenz: Standardschreiben und Antworten auf häufige Anfragen können vorentworfen werden, die dann vom zuständigen Bearbeiter geprüft und angepasst werden.

Steuerrechtliche Recherche: Einkommensteuergesetz, Umsatzsteuergesetz, BAO, KStG — alles als Wissensbasis lokal verfügbar. Wenn sich Steuerrecht ändert, wird die Wissensbasis aktualisiert.

Was das System nicht tut

Das muss klar gesagt werden, weil es für die Haftung relevant ist.

Das System ersetzt keine rechtliche Beurteilung. Es beschleunigt sie. Die Recherche die früher eine Stunde gedauert hat, dauert vielleicht fünf Minuten. Aber die Einschätzung ob das Ergebnis für den konkreten Fall passt, die Wertung von Interessenskonflikten, die strategische Entscheidung — das bleibt Aufgabe des Anwalts oder Steuerberaters.

Die BRAK hat in ihrem Leitfaden festgehalten, dass Anwälte KI-Outputs "nach Plausibilität, Überzeugungskraft, der Beachtung juristischer Methodenlehre und des eigenen Wissens" zu beurteilen haben. Ein Grundvertrauen wie in erfahrene Mitarbeitende sei in KI-generierte Ergebnisse noch nicht zu setzen.

Das bedeutet in der Praxis: Jede Ausgabe des Systems wird vor Verwendung geprüft. Das System liefert Quellenangaben die diese Prüfung erleichtern. Und die Haftung für die rechtliche Schlussfolgerung liegt beim menschlichen Berufsträger.

Wie das technisch aussieht

Ein solches System besteht aus drei Teilen: dem Sprachmodell, der Vektordatenbank und dem Benutzerinterface.

Das Sprachmodell läuft lokal auf einem GPU-Server in der Kanzlei oder im Serverraum. Keine Verbindung nach außen während des Betriebs. Für eine Kanzlei mit zehn bis zwanzig Mitarbeitern reicht typischerweise ein Server mit einer oder zwei RTX PRO 6000 Blackwell GPUs und einem kompakten Modell das die österreichische Rechtssprache gut beherrscht.

Die Vektordatenbank enthält die aufbereiteten Texte aus dem RIS, eigenen Dokumenten und weiteren Quellen. Dokumente werden in semantische Vektoren umgewandelt und lokal gespeichert. Bei einer neuen Anfrage sucht das System nach den Stellen die inhaltlich am nächsten liegen, nicht nach Schlüsselwörtern sondern nach Bedeutung. Dieses semantische Suchen findet auch relevante Stellen wenn andere Begriffe verwendet werden als im Gesetzestext stehen.

Das Benutzerinterface ist ein einfaches Chat-Interface, zugänglich für alle Mitarbeiter der Kanzlei über den Browser. Keine Installation, keine Schulung die weit über eine kurze Einführung hinausgeht.

Alles davon läuft ausschließlich auf eurer Hardware, in eurem Netzwerk. Kein Mandantenname, kein Aktenzeichen, kein Vertragsinhalte verlässt jemals das Netzwerk.

Was das kostet und wie lange es dauert

Der Aufwand hängt von der Kanzleigröße und dem gewünschten Funktionsumfang ab. Eine einfache Konfiguration mit Gesetzestexten und kanzleieigenen Vorlagen für eine kleine bis mittlere Kanzlei ist in zwei bis vier Wochen einsatzbereit. Hardware-Kosten beginnen bei rund 15.000 Euro für ein Einzelserver-Setup. Der laufende Aufwand beschränkt sich auf Strom und gelegentliche Updates wenn neue Modellversionen oder Gesetzesänderungen eingearbeitet werden.

Wer wissen will ob und wie ein solches System zur eigenen Kanzlei passt, kann sich bei uns kostenlos beraten lassen. Wir erklären konkret was möglich ist, was es kostet und was es nicht kann. Schreibt uns unter office@inhausi.at.

Hinweis: Dieser Artikel gibt einen technischen und allgemeinen rechtlichen Überblick und stellt keine Rechtsberatung dar. Für konkrete berufsrechtliche Fragen empfehlen wir, die zuständige Kammer oder einen auf IT-Recht spezialisierten Anwalt zu kontaktieren. Alle rechtlichen Angaben ohne Gewähr, Stand April 2026.