KI-Antworten prüfen: Wann kann ich ihnen vertrauen?

Ein KI-System erzeugt eine Antwort nach den Verfahren und Informationen, auf denen es beruht. Manche Dienste durchsuchen zusätzlich das Internet oder verweisen auf Dokumente, andere nicht. Das System kann fehlende Informationen ergänzen, Namen verwechseln oder eine Quelle nennen, die gar nicht existiert. Ein Quellenhinweis ist daher ein Prüfhinweis, keine Bestätigung dafür, dass die Quelle echt ist oder den Satz tatsächlich belegt.

Auch eine richtige Aussage kann zu alt sein. Öffnungszeiten, Preise, Formulare, technische Menüs und Vorschriften ändern sich. Eine KI kann eine Aktualität behaupten, ohne die neueste Information zu kennen. Erfahren Sie im Überblick was künstliche Intelligenz ist und warum verschiedene Systeme unterschiedliche Antworten geben können.

1. Markieren Sie die konkrete Aussage, auf die es ankommt. Eine lange Antwort kann richtige Erklärungen und einen einzelnen entscheidenden Fehler enthalten.
2. Bitten Sie um Quellen und ein Datum – aber übernehmen Sie die Angaben nicht ungeprüft. Suchen Sie den genannten Titel oder die zuständige Stelle selbst.
3. Öffnen Sie die Quelle unabhängig und vergleichen Sie Wortlaut, Zahlen, Datum und Geltungsbereich. Bei Regeln oder Leistungen ist häufig die zuständige Behörde oder der Originalanbieter die beste erste Stelle.
4. Vergleichen Sie wichtige Aussagen mit einer zweiten, unabhängigen und nachvollziehbaren Quelle. Mehrere Webseiten, die denselben Text wiederholen, müssen nicht unabhängig sein.

Beispiel: Eine KI nennt eine Frist für einen Antrag. Suchen Sie die aktuelle Information auf der offiziellen Seite der zuständigen Stelle, prüfen Sie das Veröffentlichungs- oder Aktualisierungsdatum und lesen Sie mögliche Ausnahmen. Finden Sie den Hinweis nicht oder verstehen Sie ihn nicht, fragen Sie direkt bei der Stelle nach, statt die Frist aus der KI-Antwort zu übernehmen.

Sie können um eine einfachere Erklärung, eine Liste von Annahmen oder um Unsicherheiten bitten. Das kann sichtbar machen, welche Teile Sie nachprüfen sollten. Eine zweite Antwort desselben Systems ist jedoch keine unabhängige Bestätigung. Auch eine detaillierte Begründung oder mehrere angezeigte Quellen machen den Inhalt nicht automatisch richtig. Prüfen Sie, ob die verlinkte Quelle genau die konkrete Behauptung stützt und zum passenden Land sowie Zeitraum gehört.

Bei Nachrichten oder viralen Behauptungen helfen die Schritte zum Prüfen von Quellen und Nachrichten. Bei erzeugten oder bearbeiteten Aufnahmen sollten Sie außerdem Quelle und Kontext von Bildern und Videos vergleichen. KI-Detektoren oder einzelne visuelle Merkmale sollten Sie nicht als alleinigen Beweis behandeln.

Nutzen Sie eine KI nicht als einzige Grundlage für Diagnose, Behandlung, Geldanlage, Vertragsentscheidung oder rechtliche Frist. Prüfen Sie die Originalunterlagen und wenden Sie sich an eine qualifizierte Fachperson oder die zuständige Stelle. Wenn es um einen konkreten aktuellen Fall geht, kann allgemeine Information eine persönliche Beratung nicht ersetzen.

Geben Sie in eine KI-Anfrage keine Passwörter, Kontonummern, privaten Dokumente oder vertraulichen Fotos ein, wenn Sie nicht geprüft haben, wie der Dienst solche Daten verarbeitet. Hinweise zum Schutz persönlicher Daten in Apps zeigen, was Sie vor dem Teilen bedenken können. Öffnen Sie Quellenlinks aus einer Antwort aufmerksam und prüfen Sie die Internetadresse, bevor Sie sich anmelden.

Das BSI bietet weitere Verbraucherinformationen zu Künstlicher Intelligenz. Als Faustregel gilt: Je größer die Folgen eines Fehlers, desto stärker sollten Sie die Antwort unabhängig belegen. Der Überblick Sicher & informiert führt zu weiteren verständlichen Hilfen.