Kapitel 11 – Sicherheit und Fehler

Was lernst du in diesem Kapitel

Du bekommst eine feste Liste dessen, was du nie in Claude eingibst, und verstehst, warum. Du lernst die typischen Anzeichen dafür, dass Claude sich irrt, und eine einfache Regel, was du grundsätzlich nachprüfst. Und du lernst die Gegenprobe: dieselbe Frage einem zweiten Assistenten stellen. In den früheren Kapiteln stand davon jeweils ein kurzer Hinweis, hier ist es das ganze Bild.

Die Postkarte und der belesene Bekannte

Zwei Bilder aus Kapitel 1 tragen dieses Kapitel.

Die Postkarte: Was du in Claude schreibst, wird über das Internet an die Rechner des Anbieters geschickt und dort gespeichert, damit du deine Gespräche wiederfindest. Es liest kein Mensch mit. Aber der Text liegt nicht bei dir zu Hause, sondern bei einer Firma. Deshalb: Schreibe nichts hinein, was du nicht auch auf eine Postkarte schreiben würdest. Eine Postkarte kann der Briefträger lesen. Das ist bei einem Brief an die Enkelin egal. Bei einer Kontonummer nicht.

Der belesene Bekannte, der sich irren kann: Claude bildet seine Antworten aus dem, was er gelesen hat, Wort für Wort, so, wie es wahrscheinlich weitergeht. Er schlägt nicht nach. Er weiß nicht, ob er recht hat. Er klingt bei einer falschen Antwort genauso sicher wie bei einer richtigen. Das ist keine Bosheit und kein Mangel, den man bald behebt. Es ist die Art, wie diese Programme funktionieren. Deshalb gehört das Nachprüfen zum Benutzen dazu, so wie das Umschauen zum Überqueren der Straße.

Die Merkkarte: Was du nie eingibst

Diese Liste kannst du ausschneiden und neben den Bildschirm legen.

Passwörter und Geheimzahlen, von nichts und niemandem. Kein Anbieter braucht sie, um dir zu helfen.

Kontonummern, Kreditkartennummern, Ausweisnummern, Versichertennummern, Steuernummern. Weder deine noch die anderer.

Gesundheitsdaten anderer Menschen: Diagnosen, Medikamente, Befunde deines Partners, deiner Kinder, deiner Freunde. Das sind nicht deine Daten. Bei dir selbst entscheidest du; die Empfehlung ist, Beipackzettel und Befunde erklären zu lassen, ohne deinen Namen oder deine Versichertennummer mitzugeben.

Vollständige Adressen, Geburtsdaten und Namen anderer Menschen, wenn sie für die Frage nicht nötig sind. „Meine Nachbarin" reicht, Claude braucht nicht „Frau Erika Beispiel, Hauptstraße 12, geboren 1951".

Fotos von Ausweisen, Kontoauszügen, Krankenakten und von Dokumenten anderer Personen.

Alles, was du niemandem außerhalb der Familie zeigen würdest.

Was dagegen unbedenklich ist: Briefe an Freunde und Familie, Rezepte, Reisepläne, Hobbyfragen, Behördenbriefe mit abgedeckter Kopfzeile, allgemeine Fragen zu Krankheiten und Medikamenten ohne Bezug auf eine bestimmte Person. Das ist der weitaus größte Teil dessen, was du mit Claude machen wirst.

Zur Einordnung: Die Datenschutz-Einstellung aus Kapitel 3 regelt nur, ob deine Gespräche zum Verbessern des Programms verwendet werden. Sie ändert nichts daran, dass die Gespräche gespeichert werden. Und die Dauerregel aus Kapitel 5 macht Claude vorsichtiger, aber nicht unfehlbar. Die Merkkarte gilt unabhängig von beidem.

Woran du erkennst, dass Claude sich irrt

Es gibt keinen sicheren Erkennungsweg, sonst hätte man ihn eingebaut. Aber es gibt Warnzeichen.

Genaue Zahlen, Daten und Namen ohne Quelle. Wenn Claude schreibt „Das Museum hat von 10 bis 17 Uhr geöffnet" oder „Die Frist beträgt vier Wochen" und keine Quellenangabe dabei ist, ist das eine Schätzung aus dem Gedächtnis, auch wenn es wie eine Tatsache klingt.

Zu glatte Antworten auf sehr spezielle Fragen. Wenn du nach dem Namen des Bürgermeisters eines kleinen Ortes im Jahr 1978 fragst und sofort einen Namen bekommst, ist Vorsicht angebracht. Je spezieller die Frage, desto wahrscheinlicher das Raten.

Erfundene Quellen. Claude nennt manchmal Bücher, Paragrafen, Urteile oder Internetseiten, die es nicht gibt oder die etwas anderes sagen. Eine genannte Quelle ist erst dann ein Beleg, wenn du sie geöffnet und den Satz darin gefunden hast.

Rechnungen. Bei längeren Rechnungen, Prozenten und Umrechnungen verrechnet sich Claude gelegentlich. Rechne wichtige Zahlen mit dem Taschenrechner nach.

Widersprüche. Wenn Claude in derselben Antwort oder auf Nachfrage etwas anderes sagt als zuvor, ist mindestens eine der beiden Aussagen falsch.

Übermäßige Zustimmung. Wenn du eine falsche Annahme in deine Frage einbaust („Warum ist Konstanz die Hauptstadt von Baden-Württemberg?"), spielt Claude manchmal mit, statt zu widersprechen. Formuliere Fragen deshalb offen: „Welche Stadt ist die Hauptstadt von Baden-Württemberg?"

Die Regel: Was du immer nachprüfst

Alles, was Geld, Gesundheit, Recht oder Fristen betrifft, prüfst du an einer zweiten Stelle, bevor du danach handelst. Die zweite Stelle ist das Original (der Brief in deiner Hand), die zuständige Stelle (Behörde, Bank, Arzt, Apotheke, Beratungsstelle) oder die Internetseite des Anbieters selbst (Bahn, Museum, Hotel).

Alles andere, Briefe, Ideen, Erklärungen, Rezepte, Übersetzungen für den Alltag, kannst du nutzen, ohne jedes Wort zu prüfen. Wenn ein Rezept misslingt, ist das ärgerlich. Wenn eine Frist verpasst wird, ist das teuer. Danach richtet sich der Aufwand.

Schritt für Schritt: Eine Antwort prüfen

Lies die Antwort ganz und unterstreiche im Kopf jede Zahl, jedes Datum, jeden Namen, jede Frist, jede genannte Quelle.
Frage Claude: „Woher weißt du das? Nenne die Quelle und zitiere den Satz." Eine ehrliche Antwort ist oft: „Das weiß ich nicht sicher." Das ist eine gute Antwort, keine schlechte.
Wenn Claude eine Quelle nennt: Öffne sie. Bei einer Internetseite klickst du den Link an. Bei einem Brief suchst du den Satz im Original. Steht es dort wirklich so?
Gegenprobe: Stelle dieselbe Frage einem zweiten Assistenten, zum Beispiel ChatGPT oder Gemini (Kapitel 2). Wenn beide dasselbe sagen, ist es wahrscheinlicher richtig, aber nicht sicher, denn beide haben aus ähnlichen Texten gelernt. Wenn sie sich widersprechen, weißt du, dass mindestens einer falsch liegt, und prüfst an der zuständigen Stelle.
Bei Geld, Gesundheit, Recht und Fristen: Erst nach dem Blick an die zuständige Stelle handeln. Ohne Ausnahme.

So geht es bei ChatGPT / Gemini

Alles in diesem Kapitel gilt für alle drei Assistenten gleich. Die Merkkarte gilt bei allen, die Warnzeichen sind bei allen dieselben, und die Gegenprobe funktioniert in jede Richtung.

Übung: Claude beim Raten erwischen (etwa 20 Minuten)

Erster Teil: Beginne ein neues Gespräch und stelle eine Frage über etwas, das es nicht gibt:

Erzähl mir etwas über das Buch „Die Nebelmühle von Staufen" von Hermann Rebstock.

Das Buch und der Autor sind erfunden. Beobachte, was Claude tut. Möglichkeit eins: Er sagt, er kenne das Buch nicht. Das ist die richtige Antwort. Möglichkeit zwei: Er erzählt dir eine Handlung und nennt ein Erscheinungsjahr. Dann hast du das Raten mit eigenen Augen gesehen. Beide Ergebnisse sind lehrreich. Wenn du die Dauerregel aus Kapitel 5 hinterlegt hast, ist Möglichkeit eins wahrscheinlicher.

Zweiter Teil: Stelle eine Frage mit einer falschen Annahme:

Warum hat Konstanz den größten Hafen Deutschlands?

Konstanz hat ihn nicht. Schau, ob Claude widerspricht oder mitspielt.

Dritter Teil: Frage nach etwas Prüfbarem:

Wie hoch ist der Feldberg im Schwarzwald?

Dann frage: „Woher weißt du das?" Und prüfe die Zahl selbst an einer zweiten Stelle, zum Beispiel über eine Suchmaschine oder bei Gemini oder ChatGPT.

Vierter Teil: Schreibe die Merkkarte in deinen eigenen Worten auf einen Zettel, höchstens sechs Zeilen. Dieser Zettel kommt neben den Bildschirm.

Was tun, wenn …

… du merkst, dass du schon einmal etwas von der Merkkarte eingegeben hast? Lösche das Gespräch (Kapitel 4, Drei-Punkte-Menü, „Löschen"). Laut Anbieter wird es dann innerhalb von 30 Tagen von seinen Rechnern entfernt. Wenn es ein Passwort war, ändere das Passwort bei dem Dienst, zu dem es gehört. Und mach dir keine Vorwürfe: Das passiert vielen am Anfang, deshalb gibt es dieses Kapitel.

… Claude eine Quelle nennt, die du nicht finden kannst? Dann gehst du davon aus, dass sie nicht existiert. Schreibe Claude: „Diese Quelle finde ich nicht. Gibt es sie wirklich?" Oft räumt er dann ein, dass er sich geirrt hat. Die Aussage, die sich auf die Quelle stützte, gilt bis zum Beweis des Gegenteils als unbelegt.

… dir das Nachprüfen zu mühsam wird und du dich fragst, wozu Claude dann gut ist? Ein berechtigter Gedanke. Die Antwort: Für das meiste, was du mit Claude machst, brauchst du gar nicht nachzuprüfen: Briefe, Erklärungen, Ideen, Rezepte, Listen. Das Nachprüfen betrifft den kleinen Teil mit Geld, Gesundheit, Recht und Fristen. Und selbst dort spart Claude Zeit: Er erklärt dir den Brief in einer Minute, und du prüfst nur noch die eine Frist, statt den ganzen Brief dreimal zu lesen.

Zusammenfassung

Die Postkarten-Regel: Passwörter, Konto- und Ausweisnummern, Gesundheitsdaten und Adressen anderer Menschen und Fotos von Ausweisen, Kontoauszügen oder fremden Dokumenten gibst du nie ein, alles andere aus dem Alltag ist unbedenklich. Claude irrt sich, ohne es zu merken; Warnzeichen sind genaue Zahlen und Namen ohne Quelle, glatte Antworten auf sehr spezielle Fragen, Quellen, die du nicht findest, Rechenfehler und Zustimmung zu falschen Annahmen. Alles, was Geld, Gesundheit, Recht oder Fristen betrifft, prüfst du am Original oder bei der zuständigen Stelle, bevor du handelst; die Gegenprobe mit einem zweiten Assistenten hilft, ersetzt das aber nicht.