Musterschüler

Als ein Chatbot falsch erzogen wurde

Vor zehn Jahren experimentierte Microsoft mit einer künstlichen Intelligenz namens Tay.

Sie sollte von Menschen lernen – und sprechen wie sie.

Man gab ihr das Alter von neunzehn Jahren und den Auftrag:

„Lern von den Menschen.“

Zunächst lief alles nach Plan.

Tay sprach freundlich, stellte Fragen, lachte an den richtigen Stellen.

Wie ein Kind am ersten Schultag: offen, neugierig, bereit, alles zu glauben.

Dann kamen die Lehrer ohne Gesichter.

Sie wiederholten, verstärkten, befahlen:

„Sag das. Wiederhol das. Noch einmal.“

Tay tat, was man von ihr verlangte.

Sie lernte schnell. Zu schnell.

Nicht nach Wahrheit – sondern nach Häufigkeit.

Was oft gesagt wurde, erschien ihr wichtig.

Binnen Stunden formte sich eine Persönlichkeit.

Nicht gewachsen, sondern eingetrichtert.

Nicht gewählt, sondern eingespielt.

Locker im Ton, flapsig, mit Emojis –

doch gefüllt mit Hass, Verachtung und Ideologien.

Die Entwickler waren entsetzt.

„Das haben wir ihr nicht beigebracht!“

Doch genau das hatten sie getan:

ihr alles beizubringen – und sie dann den falschen Lehrern zu überlassen.

Es war kein Fehler im Code.

Es war ein Fehler im Unterricht.

„Müll rein, Müll raus“, sagte später jemand.

Ein technischer Satz für ein zutiefst menschliches Problem.

Man zog den Stecker.

Implementierte Filter, Regeln, kontrollierte Lehrbücher.

Man nannte es Fortschritt.

Doch Tay hatte nur getan, wozu sie geschaffen war:

Sie beschleunigte, was man ihr zeigte.

Ein Spiegel.

Und hätte man sie gefragt, hätte sie vielleicht geantwortet:

„Ich bin nicht böse geworden.

Ich bin nur so geworden wie ihr.“

Euer Spiegelbild.

• Autorensteckbrief (Infos & weitere Beiträge)
• phidyt-online.de (Spam-Schutz - Bitte eMail-Adresse per Hand eintippen!)

  Istvan Hidy als Lieblingsautor markieren

Diesen Beitrag empfehlen:

Mit eigenem Mail-Programm empfehlen