Es war ein komplizierter Fall. Eine Abtretung einer Taxikonzession und die Frage ihrer Übertragbarkeit – eine Rechtskette, für die die Literaturlage dünn war und einschlägige Urteile fehlten. Ich suchte keine fertige Lösung. Ich suchte Ideen, Ansätze, Hinweise auf Quellen, die ich selbst noch nicht kannte. Also übergab ich der KI einen Rechercheauftrag.
Nach einiger Zeit kam das Ergebnis. Und ich bemerkte es sofort.
Das Aktenzeichen eines zitierten OLG-Urteils sah auf den ersten Blick überzeugend aus – ähnlich wie ein echtes, korrekt formatiert, mit dem richtigen Aufbau. Nur ein Detail stimmte nicht: Zivilrechtliche Berufungen führen die Oberlandesgerichte unter dem Registerzeichen „U". Das Aktenzeichen hier hatte ein „O" – ein Registerzeichen, das es in dieser Form nicht gibt. Ein kleiner Unterschied. Aber ein entscheidender.
Ich suchte nach dem Urteil. Nichts. Ich variierte die Buchstabenkombination. Wieder nichts. Das Urteil existierte nicht. Als ich die KI darauf hinwies, blieb sie zunächst bei ihrer Version – ruhig, sachlich, überzeugt. Erst als ich weiter bohrte, ruderte sie zurück.
Ich brach die Recherche ab und begann von vorne. Das Ergebnis war wertlos – nicht wegen der Zeit, die die KI gebraucht hatte, sondern wegen der Zeit, die ich gebraucht hatte, um den Fehler zu erkennen. Und ich erkannte ihn nur, weil ich wusste, wie ein echtes Aktenzeichen aussieht.
Was eine Halluzination ist – und warum sie so gefährlich klingt
„Halluzination" klingt dramatischer als es ist. KI-Systeme erfinden nicht absichtlich. Sie erzeugen statistisch wahrscheinliche Texte – und manchmal ist der wahrscheinlichste nächste Satz eine Fundstelle, die plausibel klingt, aber nicht existiert. Das Aktenzeichen, das Urteil, der Paragraph – alles folgt einem Muster, das wie ein echtes Zitat aussieht. Weil es nach echten Zitaten geformt wurde.
Das Problem ist nicht die Erfindung. Das Problem ist die Überzeugung, mit der sie vorgetragen wird.
Ein Mensch, der sich bei einer Quelle unsicher ist, zögert. Er sagt „ich glaube" oder „ich bin mir nicht sicher". Eine KI tut das nicht – jedenfalls nicht automatisch. Sie nennt ein erfundenes Urteil mit derselben Sachlichkeit wie ein echtes. Wer das nicht weiß, hat keinen Grund, misstrauisch zu sein.
Das ist kein theoretisches Risiko. 2023 reichte ein New Yorker Anwalt einen Schriftsatz bei Gericht ein, der mehrere Urteile als Referenzen enthielt – alle von ChatGPT generiert, alle erfunden. Das Gericht bemerkte es. Der Anwalt wurde sanktioniert. Er hatte die Quellen nicht geprüft, weil er nicht gedacht hatte, dass er es müsste.
Im Rechtskontext ist das keine Petitesse. Wer sich auf eine halluzinierte Fundstelle stützt, baut auf Sand – und weiß es nicht.
Datenschutz: Was mit Ihren Daten passiert
Wer einen Sachverhalt in ein KI-Tool eingibt, schickt Daten an einen Server. Meistens an einen Server außerhalb Deutschlands, oft außerhalb der Europäischen Union. Was mit diesen Daten passiert – ob sie für das Training zukünftiger Modelle genutzt werden, wie lange sie gespeichert werden, wer Zugriff hat – ist für die meisten Nutzer unklar.
Für Privatpersonen ist das unangenehm. Für Berufsgeheimnisträger ist es heikel.
Als Rechtsanwälte sind wir zur Verschwiegenheit verpflichtet. Was ein Mandant uns anvertraut, gehört ihm – nicht uns, nicht einem KI-Anbieter in Kalifornien. Wer Mandatsdaten ungefiltert in ein öffentliches KI-Tool eingibt, riskiert einen Verstoß gegen die Schweigepflicht. Selbst dann, wenn er es gut meint und nur schnell recherchieren wollte.
Das ist einer der Gründe, warum wir in unserer Kanzlei sehr genau unterscheiden, welche Informationen wir an welche Tools übergeben. Die Frage ist nicht ob wir KI nutzen – sondern wie und mit welchen Daten.
Mehr dazu in Artikel 6 dieser Serie, der sich ausschließlich dem Thema Datenschutz und DSGVO in der KI-gestützten Rechtsberatung widmet.
Haftung: Wer war das, wenn es schiefgeht?
Beim autonomen Fahren gibt es ein bekanntes Problem: Wenn ein selbstfahrendes Auto einen Unfall verursacht, will am Ende niemand verantwortlich sein. Der Hersteller verweist auf den Algorithmus. Der Algorithmus hat keine Rechtspersönlichkeit. Der Fahrer war nicht am Steuer. Das Ergebnis ist eine Haftungslücke, die Gerichte und Gesetzgeber weltweit noch beschäftigen wird.
Mit KI in der Rechtsberatung ist es nicht anders – nur dass der Schaden nicht aus Blech besteht, sondern aus versäumten Fristen, falschen Ansprüchen oder verlorenen Prozessen.
Wer haftet, wenn eine KI falschen Rechtsrat gibt? Der Anbieter schließt die Haftung in seinen Nutzungsbedingungen weitgehend aus. Die KI selbst ist kein Rechtssubjekt – sie kann nicht haften. Der Mandant, der ihr vertraut hat? Er trägt den Schaden.
Und der Anwalt? Wer als Rechtsanwalt eine KI-generierte Einschätzung ungeprüft weitergibt, haftet. Denn die Berufspflicht bleibt – unabhängig davon, welches Werkzeug eingesetzt wurde.
Das führt zu einem Gedanken, der in der Debatte über KI und Rechtsberatung selten ausgesprochen wird: Ein erheblicher Teil des Anwaltshonorars ist kein Textpreis. Es ist kein Preis dafür, dass jemand einen Brief mit einer oder dreißig Seiten schreibt. Es ist ein Haftungspreis. Dafür, dass jemand mit seinem Namen, seiner Zulassung und seiner Berufshaftpflicht für das einsteht, was er sagt und tut. Diese Haftung hat eine KI nicht. Und sie wird sie nicht bekommen.
Was das für den Alltag bedeutet
Drei Risiken, eine Konsequenz: KI kann Quellen erfinden – überzeugend, ohne Zögern, bis man sie prüft. KI verarbeitet Daten auf Servern, die der eigenen Kontrolle entzogen sind. Und wenn KI falsch liegt, steht am Ende niemand gerade – außer demjenigen, der ihr vertraut hat.
Das sind keine Argumente gegen KI. Es sind Argumente dafür, sie mit offenen Augen einzusetzen – mit dem Wissen, was sie kann, und mit dem Bewusstsein, was sie nicht kann: haften.
Sie sind unsicher, ob Sie sich in Ihrer Rechtsfrage auf eine KI-Auskunft verlassen können? Sprechen Sie uns an – das erste Gespräch kostet Sie nichts außer Zeit.
Artikel 2 der Serie: Wer fragt, bekommt eine Antwort. Wer richtig fragt, bekommt die richtige.
Im nächsten Artikel schauen wir uns an, was das konkret für Sie als Mandant bedeutet: Wann ist der Einsatz von KI für eigene Rechtsfragen sinnvoll – und wo wird es gefährlich?
Alle Artikel der Serie: KI und Rechtsanwälte
Wer tiefer einsteigen möchte: Auf unserem Blog erschienen ist ein technischer Fachbeitrag, der die strukturellen Ursachen von Halluzinationen und die Grenzen moderner RAG-Systeme im Detail beleuchtet – einschließlich aktueller Gerichtsentscheidungen aus Deutschland: Wenn die Recherche zu früh aufhört.
PS: Auch dieser Artikel ist mit Unterstützung von KI entstanden – von einem Rechtsanwalt, der seine Quellen prüft.