Künstliche Intelligenz hält zunehmend Einzug in deutsche Unternehmen. Mit Microsoft 365 Copilot können Beschäftigte Texte formulieren, Besprechungen zusammenfassen, Dokumente analysieren und Daten aus verschiedenen Arbeitsbereichen verarbeiten. Die Zeitersparnis ist attraktiv. Gleichzeitig entsteht ein Risiko, das im hektischen Arbeitsalltag leicht unterschätzt wird: KI-generierte Antworten können überzeugend klingen und trotzdem falsch sein.
Solche Fehler werden häufig als „KI-Halluzinationen“ bezeichnet. Besonders problematisch sind sie, wenn Unternehmen die Ergebnisse ungeprüft übernehmen und daraus geschäftliche, finanzielle oder rechtliche Entscheidungen ableiten.
Die entscheidende Frage lautet deshalb: Wer haftet, wenn Microsoft 365 Copilot falsche Informationen liefert und dadurch ein Schaden entsteht?
Eine pauschale Antwort gibt es nicht. In Deutschland kommen je nach Sachverhalt unterschiedliche rechtliche Grundlagen in Betracht. Neben der Vertrags- und Produkthaftung können auch die Pflichten des Arbeitgebers, die Sorgfalt des Mitarbeiters und die konkrete Organisation des KI-Einsatzes eine Rolle spielen.
Warum macht Microsoft 365 Copilot Fehler?
Microsoft 365 Copilot unterstützt Nutzer unter anderem in Word, Excel, PowerPoint, Outlook und Teams. Die KI verarbeitet Eingaben und – abhängig von der jeweiligen Funktion, den Berechtigungen und verfügbaren Daten – Informationen aus Dokumenten, E-Mails, Besprechungen oder anderen Quellen.
Dabei kann es zu unterschiedlichen Fehlern kommen:
- Falsche Fakten: Copilot nennt Zahlen, Termine oder Sachverhalte, die nicht stimmen.
- Fehlerhafte Zusammenfassungen: Wichtige Einschränkungen oder Aussagen aus einer Besprechung werden ausgelassen oder falsch wiedergegeben.
- Falsche Berechnungen: Ergebnisse in Tabellen oder Auswertungen sind fehlerhaft.
- Veraltete Informationen: Die KI berücksichtigt nicht den neuesten Stand eines Dokuments oder einer Regelung.
- Erfundene Angaben: Die Antwort enthält Details, für die sich keine verlässliche Grundlage finden lässt.
- Falsche Schlussfolgerungen: Einzelne Informationen können korrekt sein, werden aber in einen unzutreffenden Zusammenhang gestellt.
Microsoft weist selbst darauf hin, dass Copilot ungenaue oder erfundene Inhalte erzeugen und auch vorhandene Quellen falsch darstellen kann. Nutzer sollen die Ergebnisse deshalb überprüfen, bevor sie darauf vertrauen oder Entscheidungen treffen.
Quelle: Microsoft – Transparenzhinweis für Copilot.
Das Problem ist nicht nur die mögliche Ungenauigkeit. Entscheidend ist, dass eine sprachlich überzeugende Antwort häufig zuverlässiger wirkt, als sie tatsächlich ist. Gerade bei automatisch erstellten Berichten, geschäftlichen E-Mails und Zusammenfassungen kann dadurch ein falsches Sicherheitsgefühl entstehen.
Wer haftet bei falschen Informationen durch Microsoft 365 Copilot?
Ob Microsoft, der Arbeitgeber oder ein Mitarbeiter haftet, hängt von den konkreten Umständen ab. Maßgeblich sind unter anderem die vertraglichen Vereinbarungen, die Ursache des Fehlers, die getroffenen Kontrollmaßnahmen und der entstandene Schaden.
1. Haftet Microsoft für falsche KI-Antworten?
Microsoft stellt die Software und die dazugehörigen KI-Funktionen bereit. Daraus folgt jedoch nicht automatisch, dass das Unternehmen für jede falsche Antwort oder jede Fehlentscheidung eines Nutzers haftet.
Zu prüfen ist beispielsweise, welche vertraglichen Leistungen vereinbart wurden, welche Zusicherungen gelten und ob Microsoft eine relevante Pflicht verletzt hat. Auch die wirksam vereinbarten Haftungsregelungen können eine Rolle spielen.
Die Tatsache, dass Copilot eine falsche Information erzeugt, reicht für sich allein nicht aus, um einen Schadensersatzanspruch gegen Microsoft zu begründen.
Anders kann die rechtliche Bewertung ausfallen, wenn ein nachweisbarer Fehler im Verantwortungsbereich des Anbieters vorliegt und die weiteren Voraussetzungen eines Anspruchs erfüllt sind. Dabei kommt es auf die konkrete Anspruchsgrundlage und den jeweiligen Vertrag an.
Wichtig: Ein allgemeiner Hinweis darauf, dass KI Fehler machen kann, bedeutet nicht automatisch, dass Microsoft von jeder Haftung befreit ist. Ob Haftungsausschlüsse wirksam sind und wie weit sie reichen, muss im Einzelfall geprüft werden.
2. Trägt der Arbeitgeber die Verantwortung?
In Unternehmen liegt ein wesentlicher Teil der Verantwortung bei der Organisation, die Microsoft 365 Copilot einsetzt.
Arbeitgeber müssen den Einsatz digitaler Werkzeuge angemessen organisieren. Je nach Tätigkeit und Risiko kann es erforderlich sein, klare Regeln für die Nutzung von KI festzulegen, Beschäftigte zu schulen und Kontrollprozesse einzuführen.
Besonders wichtig sind folgende Fragen:
- Dürfen KI-generierte Inhalte ungeprüft an Kunden oder Geschäftspartner weitergegeben werden?
- Welche Informationen müssen vor der Veröffentlichung von einer zuständigen Person kontrolliert werden?
- Welche Mitarbeiter dürfen Copilot für sensible Aufgaben verwenden?
- Wie werden Fehler dokumentiert und korrigiert?
- Sind Zugriffsrechte und der Umgang mit vertraulichen Daten angemessen geregelt?
Wer KI ohne ausreichende Kontrollen in kritische Geschäftsprozesse integriert, kann rechtliche und organisatorische Risiken schaffen.
Entsteht beispielsweise ein Schaden, weil ein Unternehmen KI-generierte Finanzberichte ohne angemessene Prüfung an Geschäftspartner weitergibt, können je nach Sachverhalt vertragliche Ansprüche, eigene Pflichtverletzungen oder andere Haftungsgrundlagen relevant werden.
Das bedeutet nicht, dass Arbeitgeber automatisch für jeden KI-Fehler haften. Entscheidend ist, welche Pflichten bestanden, wer sie verletzt hat und ob diese Pflichtverletzung für den Schaden ursächlich war.
3. Kann ein Mitarbeiter persönlich haftbar gemacht werden?
Auch Beschäftigte müssen KI-generierte Inhalte nicht blind übernehmen. Ob ihnen eine Pflichtverletzung vorgeworfen werden kann, richtet sich jedoch nach ihrer konkreten Tätigkeit, ihren Kenntnissen, den betrieblichen Vorgaben und den Umständen des Einzelfalls.
Wer einen offensichtlichen Fehler in einer KI-generierten E-Mail erkennt und ihn trotzdem ungeprüft an einen Kunden weiterleitet, kann anders beurteilt werden als ein Mitarbeiter, der trotz angemessener Sorgfalt einen schwer erkennbaren Fehler nicht entdeckt.
Im deutschen Arbeitsrecht gelten bei Schäden, die Beschäftigte bei betrieblich veranlasster Tätigkeit verursachen, besondere Grundsätze der Arbeitnehmerhaftung:
- Bei leichter Fahrlässigkeit haftet der Arbeitnehmer grundsätzlich nicht.
- Bei mittlerer Fahrlässigkeit kommt eine anteilige Haftung in Betracht.
- Bei grober Fahrlässigkeit oder Vorsatz kann eine weitergehende Haftung entstehen; auch dann sind die konkreten Umstände zu berücksichtigen.
Diese Grundsätze lassen sich nicht allein daraus ableiten, dass ein Mitarbeiter Copilot verwendet hat. Entscheidend ist, ob ihm ein vorwerfbares Verhalten anzulasten ist und wie die arbeitsrechtlichen Haftungsregeln im konkreten Fall greifen.
Der Arbeitgeber sollte deshalb nicht automatisch die gesamte Verantwortung auf den Beschäftigten übertragen. Ebenso wenig ist jeder Fehler allein dem Arbeitgeber oder dem Softwareanbieter zuzurechnen.
Drei Beispiele aus dem Unternehmensalltag
Beispiel 1: Copilot nennt einen falschen Liefertermin
Ein Mitarbeiter lässt eine Kunden-E-Mail mit Copilot formulieren. Die KI nennt einen Liefertermin, der nicht mit dem aktuellen Projektplan übereinstimmt. Der Kunde verlässt sich auf die Angabe und plant seine Produktion entsprechend.
Wer haftet?
Zunächst muss geklärt werden, welche vertraglichen Verpflichtungen gegenüber dem Kunden bestehen und wer die fehlerhafte Information zu verantworten hat. Hat der Mitarbeiter die Nachricht freigegeben? Gab es eine verbindliche Prüfungsvorgabe? Waren die richtigen Informationen verfügbar? Wurde die KI angemessen eingesetzt?
Je nach Sachverhalt können Ansprüche des Kunden gegen das Unternehmen bestehen. Ob und in welchem Umfang das Unternehmen anschließend Rückgriff auf einen Mitarbeiter oder Ansprüche gegen den Anbieter geltend machen kann, ist gesondert zu beurteilen.
Beispiel 2: Eine falsche Zahl landet im Finanzbericht
Copilot unterstützt bei der Erstellung eines Finanzberichts und übernimmt eine Zahl falsch. Das Management verwendet den Bericht anschließend als Grundlage für eine wichtige Investitionsentscheidung.
Wer haftet?
Hier kommt es unter anderem darauf an, welche Kontrollpflichten bestanden und ob eine angemessene Plausibilitätsprüfung durchgeführt wurde. Je nach Zuständigkeiten können auch interne Freigabeprozesse und die Verantwortung der entscheidenden Personen relevant sein.
Die Verwendung von KI ersetzt nicht automatisch bestehende Prüfungs- und Sorgfaltspflichten.
Beispiel 3: Eine falsche Zusammenfassung aus Microsoft Teams
Copilot fasst eine Besprechung zusammen und stellt eine Aussage so dar, als hätte ein Mitarbeiter einer Maßnahme zugestimmt. Die Zusammenfassung wird anschließend als Grundlage für eine interne Entscheidung verwendet.
Wer haftet?
Zunächst sollte das Originalprotokoll, die Aufzeichnung – sofern vorhanden und rechtmäßig nutzbar – oder die ursprüngliche Kommunikation geprüft werden. Danach ist zu untersuchen, wie die fehlerhafte Zusammenfassung in den Entscheidungsprozess gelangt ist.
Wurde die Zusammenfassung lediglich als unverbindliche Arbeitshilfe genutzt oder ohne Kontrolle als verbindliche Dokumentation behandelt? Diese Unterscheidung kann für die rechtliche Bewertung wesentlich sein.
Was sagt das deutsche Recht zur Haftung bei KI-Fehlern?
Es gibt keine allgemeine Regel, nach der automatisch Microsoft oder der Nutzer für sämtliche Fehler einer KI verantwortlich ist. Vielmehr müssen die jeweils einschlägigen Rechtsgrundlagen geprüft werden.
Vertragsrecht und Schadensersatz
Wenn durch fehlerhafte Informationen ein Vertrag verletzt oder ein Schaden verursacht wird, können insbesondere vertragliche Schadensersatzansprüche relevant sein. Ob ein Anspruch besteht, hängt unter anderem von der Pflichtverletzung, der Zurechenbarkeit des Schadens und den weiteren Voraussetzungen der jeweiligen Anspruchsgrundlage ab.
Deliktsrecht
Auch gesetzliche Schadensersatzansprüche können eine Rolle spielen, etwa wenn eine rechtswidrige und zurechenbare Verletzung geschützter Rechtsgüter vorliegt. Nicht jeder wirtschaftliche Nachteil führt allerdings automatisch zu einem deliktischen Anspruch.
Produkthaftung
Die Produkthaftung ist nicht mit einer allgemeinen Garantie für fehlerfreie KI-Antworten gleichzusetzen. Ob die einschlägigen produkthaftungsrechtlichen Vorschriften anwendbar sind, hängt unter anderem vom Produkt, dem behaupteten Fehler, dem Schaden und dem zeitlich maßgeblichen Rechtsrahmen ab.
Datenschutzrecht
Verarbeitet Copilot personenbezogene Daten fehlerhaft, können zusätzlich datenschutzrechtliche Fragen entstehen. Das betrifft beispielsweise falsche Angaben über Personen, unzulässige Offenlegungen oder eine rechtswidrige Verarbeitung personenbezogener Daten.
Welche Verantwortlichkeiten bestehen, richtet sich nach der konkreten Verarbeitung und den Rollen der Beteiligten. Datenschutzrechtliche Ansprüche und aufsichtsrechtliche Folgen sind von der Frage zu unterscheiden, wer einen sonstigen geschäftlichen Schaden tragen muss.
Welche Rolle spielt der EU AI Act?
Der europäische AI Act schafft einen einheitlichen Rechtsrahmen für künstliche Intelligenz. Er enthält unter anderem Vorgaben zu KI-Kompetenz, Transparenz und – abhängig von der jeweiligen Anwendung – weiteren Pflichten für Anbieter und Betreiber.
Seit dem 2. Februar 2025 gelten bestimmte Vorschriften, darunter die Bestimmungen zu verbotenen KI-Praktiken und zur KI-Kompetenz. Weitere zentrale Vorschriften, einschließlich bestimmter Transparenzpflichten, gelten seit dem 2. August 2026. Für bestimmte Hochrisiko-KI-Systeme gelten verlängerte Übergangsfristen, unter anderem bis zum 2. Dezember 2027 beziehungsweise zum 2. August 2028.
Die jeweils einschlägigen Fristen und Übergangsbestimmungen müssen im Einzelfall berücksichtigt werden.
Offizielle Informationen: Europäische Kommission – Rechtsrahmen für künstliche Intelligenz.
Der AI Act ist jedoch kein pauschales Haftungsgesetz, das jeden Schaden durch eine KI eindeutig einem bestimmten Beteiligten zuordnet. Die zivilrechtliche Haftung muss weiterhin anhand der jeweils anwendbaren Vorschriften und des konkreten Sachverhalts beurteilt werden.
Wie können Unternehmen Haftungsrisiken bei Microsoft 365 Copilot reduzieren?
Unternehmen sollten KI nicht nur als Produktivitätswerkzeug, sondern auch als Bestandteil ihrer internen Kontroll- und Compliance-Prozesse betrachten.
Die folgenden Maßnahmen können Risiken reduzieren:
1. Verbindliche Prüfregeln festlegen
Definieren Sie, welche KI-generierten Inhalte vor ihrer Verwendung geprüft werden müssen. Besondere Aufmerksamkeit verdienen rechtliche Dokumente, Finanzdaten, Personalentscheidungen, Kundenkommunikation und geschäftskritische Berichte.
2. Mitarbeiter gezielt schulen
Beschäftigte sollten wissen, dass Copilot plausible, aber falsche Aussagen erzeugen kann. Sie müssen lernen, Quellen zu kontrollieren, Zahlen nachzurechnen und Unsicherheiten zu erkennen.
3. Zuständigkeiten klar definieren
Legen Sie fest, wer KI-Ergebnisse erstellt, wer sie kontrolliert und wer sie freigibt. Die Verantwortung sollte nicht allein durch die Einführung einer Software ungeklärt bleiben.
4. Quellen und Originaldokumente prüfen
Wenn Copilot eine Aussage aus einer E-Mail, einem Dokument oder einer Besprechung ableitet, sollte die zugrunde liegende Information bei wichtigen Entscheidungen überprüft werden.
5. Zugriffsrechte und Datenqualität kontrollieren
Falsche oder veraltete Informationen in internen Dokumenten können die Qualität von KI-Ergebnissen beeinträchtigen. Unternehmen sollten deshalb Datenbestände, Berechtigungen und Informationsprozesse regelmäßig überprüfen.
6. Fehler dokumentieren und korrigieren
Ein nachvollziehbarer Prozess zur Meldung und Korrektur von KI-Fehlern hilft, wiederkehrende Probleme zu erkennen und mögliche Schäden zu begrenzen.
7. Verträge und interne Richtlinien überprüfen
Die Nutzungsbedingungen des Anbieters, bestehende IT-Verträge, interne KI-Richtlinien und gegebenenfalls Datenschutzvereinbarungen sollten gemeinsam betrachtet werden.
Fazit: Die Verantwortung verschwindet nicht durch den Einsatz von KI
Microsoft 365 Copilot kann Arbeitsprozesse beschleunigen und Beschäftigte bei zahlreichen Aufgaben unterstützen. Die KI ist jedoch kein Garant für richtige Informationen. Fehler können selbst dann auftreten, wenn die Antworten professionell formuliert sind oder auf vorhandene Dokumente Bezug nehmen.
Wer im Schadensfall haftet, hängt von den konkreten Umständen ab. Microsoft kann nicht allein wegen jeder falschen Antwort automatisch haftbar gemacht werden. Arbeitgeber müssen den Einsatz der Technologie angemessen organisieren, während Beschäftigte die für ihre Tätigkeit geltenden Sorgfaltspflichten beachten müssen.
Für Unternehmen ist deshalb eine klare Regel entscheidend: KI darf die Arbeit unterstützen, aber kritische Informationen müssen überprüfbar bleiben.
Wer Zuständigkeiten, Prüfprozesse und Schulungen frühzeitig festlegt, kann nicht nur Fehler vermeiden, sondern auch das Risiko rechtlicher Auseinandersetzungen reduzieren.
Rechtlicher Hinweis: Dieser Beitrag dient der allgemeinen Information und ersetzt keine individuelle Rechtsberatung. Die konkrete Haftung ist stets anhand des Einzelfalls, der vertraglichen Vereinbarungen und der anwendbaren gesetzlichen Vorschriften zu prüfen.
Häufig gestellte Fragen (FAQ)
1. Wer haftet, wenn Microsoft 365 Copilot falsche Informationen liefert?
Eine pauschale Antwort gibt es nicht. Je nach Sachverhalt können Microsoft, das einsetzende Unternehmen oder ein Mitarbeiter rechtlich relevant sein. Entscheidend sind unter anderem die Ursache des Fehlers, die bestehenden Pflichten und der nachweisbare Schaden.
2. Kann ich Microsoft wegen einer falschen Copilot-Antwort verklagen?
Ein Anspruch ist nicht allein deshalb gegeben, weil Copilot falsche Informationen ausgegeben hat. Es müssen die Voraussetzungen einer konkreten Anspruchsgrundlage erfüllt sein. Dazu können beispielsweise eine relevante Pflichtverletzung, die Zurechenbarkeit des Schadens und weitere gesetzliche oder vertragliche Voraussetzungen gehören.
3. Muss ein Mitarbeiter jede Antwort von Copilot überprüfen?
Eine allgemeine Pflicht, jede KI-Antwort immer vollständig zu kontrollieren, lässt sich nicht pauschal für alle Tätigkeiten annehmen. Umfang und Intensität der Prüfung hängen unter anderem von der Aufgabe, dem möglichen Schaden, den betrieblichen Vorgaben und den konkreten Umständen ab. Kritische Informationen sollten besonders sorgfältig geprüft werden.
4. Kann ein Arbeitgeber die Haftung für KI-Fehler vollständig auf Mitarbeiter übertragen?
Nein, eine solche pauschale Übertragung ist nicht ohne Weiteres möglich. Im deutschen Arbeitsrecht gelten besondere Grundsätze zur Arbeitnehmerhaftung. Ob ein Mitarbeiter persönlich haftet, muss anhand seines Verhaltens und der Umstände des Einzelfalls beurteilt werden.
5. Ist Microsoft 365 Copilot rechtlich verpflichtet, immer richtige Antworten zu liefern?
Aus dem Einsatz von Copilot folgt keine allgemeine Garantie, dass jede generierte Aussage fehlerfrei ist. Welche konkreten Verpflichtungen Microsoft treffen, ergibt sich aus den einschlägigen Verträgen, gesetzlichen Vorschriften und dem jeweiligen Sachverhalt.
6. Was sollten Unternehmen tun, wenn Copilot einen Fehler verursacht hat?
Sie sollten die fehlerhafte Ausgabe sichern, die ursprünglichen Quellen überprüfen, mögliche Schäden begrenzen und die Ursache dokumentieren. Anschließend sollte geprüft werden, welche internen Prozesse, Verträge oder gesetzlichen Pflichten betroffen sind und welche Korrekturmaßnahmen erforderlich sind.
7. Schützt der EU AI Act Unternehmen vor Haftungsansprüchen?
Nein. Der AI Act schafft Anforderungen an bestimmte KI-Systeme und deren Einsatz, ist aber kein pauschaler Haftungsschutz. Ob Schadensersatzansprüche bestehen, richtet sich weiterhin nach den jeweils anwendbaren rechtlichen Grundlagen.
8. Wie können Unternehmen das Haftungsrisiko bei Copilot verringern?
Hilfreich sind klare Nutzungsrichtlinien, geschulte Mitarbeiter, risikogerechte Prüfprozesse, nachvollziehbare Freigaben, kontrollierte Zugriffsrechte und eine regelmäßige Überprüfung der eingesetzten Systeme.
