To Örebro University

Generative KI-Systeme (generative AI; GenAI), insbesondere große Sprachmodelle (Large Language Models; LLMs) und die darauf basierenden Anwendungen wie OpenAI‘s. GPT, Microsoft’s Copilot, Google’s Gemini, Meta’s LLaMa und andere Modelle (wie BLOOM, Ernie 3.0 Titan und Anthropic's. Claude 2) haben das Potenzial, den Rechtsmarkt wie keine andere Technologie zu verändern. Die von der Firma OpenAI im November 2022 veröffentlichte Anwendung ChatGPT wurde nicht nur innerhalb eines Monats zur erfolgreichsten Internet-App aller Zeiten, vielmehr zeigte sich zugleich, dass sich LLMs in vielen unterschiedlichen Branchen einsetzen lassen, um Arbeitsprozesse zu optimieren.

KI-gestützte Lösungen können die juristische Arbeit beschleunigen und zum Teil auch verbessern. Gleichzeitig wirft ihre Verwendung jedoch eine Reihe ethischer, rechtlicher und gesellschaftlicher Fragen auf. Dies gilt auch für LLMs. Die für Juristen involvierten Risiken wurden bereits unmittelbar nach Einführung von ChatGPT deutlich: Zwei Anwälte in New York wurden zu einer Geldstrafe in Höhe von 5.000 USD verurteilt, weil sie bei Gericht einen Schriftsatz eingereicht hatten, der sechs von ChatGPT „erfundene“ Präzedenzfälle enthielt und an diesen selbst festgehalten hatten, nachdem das Gericht deren Existenz in Frage gestellt hatte.

Das Vorkommnis wirft für die Rechtspraxis eine Reihe von Fragen auf. Dürfen Kanzleien und Rechtsabteilungen LLMs (wie ChatGPT) in der juristischen Praxis überhaupt einsetzen? Welche Pflichten haben Anwälte, wenn sie sich auf GenAI verlassen möchten? Unter welchen Voraussetzungen sind Anwälte für mögliche Fehler des KI-Systems verantwortlich? Wie können Mandanten vor Risiken und Schäden beim Einsatz von LLMs geschützt werden? Liegt ein Fall der unerlaubten Rechtsdienstleistung vor, wenn ein Unternehmen wie OpenAI/Microsoft eine Anwendung wie ChatGPT zur Verfügung stellt, die (auch) für juristische Zwecke verwendet werden kann?

Das vorliegende Kapitel geht diesen Fragen nach, indem – im Anschluss an das vorangegangeneKapitel zu Legal Prompts (s. § 12) – zunächst die vielfältigen Einsatzmöglichkeitenvon GenAI im Rechtsmarkt überblicksweise dargestellt werden (→ Rn. 9 ff.).Im Anschluss wird erörtert, ob bereits das Anbieten von LLMs als (unerlaubte) Rechtsdienstleistungeingestuft werden kann (→ Rn. 39 ff.). In einem weiteren Teil werdensodann die (berufs-)rechtlichen Pflichten erörtert, die sich beim Einsatz von LLMs fürKanzleien und Rechtsabteilungen ergeben (→ Rn. 67 ff.). Ein abschließender Teil wirftschließlich einen Blick auf die KI-VO und die Frage, inwieweit dieser neue RechtsaktLLM-Tools, die zur Nutzung durch Unternehmen, Kanzleien und Rechtsuchende bestimmtsind, reguliert (→ Rn. 94 ff.).