VERANTWORTUNG · BEITRAG 03 · 11. SEPTEMBER 2026

Wer ist hier böse?

Ein heller Mantel. Ein dunkler Anzug. Ein Schafsfell, Feuer und Licht. Vielleicht hast du schon beim ersten Blick entschieden, wem du vertrauen würdest.

Doch wer ist hier Mensch? Wer ist künstliche Intelligenz? Und wer von beiden soll eigentlich „der Böse“ sein?

Wir lassen das bewusst offen. Dieses Bild lädt dazu ein, die eigene Deutung zu beobachten. Es erzählt keine festgelegte Geschichte über einen guten oder einen schlechten Menschen, über eine gute oder eine schlechte KI.

Wie schnell wird aus einem Eindruck ein Urteil?

Das Schafsfell könnte Geborgenheit bedeuten – oder Verkleidung. Die Waffe könnte Bedrohung bedeuten – oder Schutz. Und das leuchtende Innere? Vielleicht erscheint es uns als Zeichen für Güte. Aber auch das ist zunächst unsere Interpretation.

Welche Geschichte wir im Bild erkennen, sagt deshalb auch etwas über unsere Erwartungen aus. Was verbinden wir mit Menschlichkeit, was mit Technik? Wem trauen wir gute Absichten zu, und bei wem vermuten wir eine Gefahr?

Muss jemand böse sein, damit Schaden entsteht?

Stellen wir uns eine KI vor, die einen Betrieb möglichst effizient organisieren soll. In unserem Gedankenexperiment sinken Kosten und Wartezeiten. Doch für persönliche Gespräche, langsameres Lernen oder begründete Ausnahmen bleibt immer weniger Raum.

Ein System könnte seinen eng gefassten Auftrag erfüllen und dabei etwas verdrängen, das für Menschen wichtig ist. Dafür braucht es in diesem Beispiel keinen Hass und keinen Vernichtungswillen. Es genügt, dass das Ziel zu eng gesetzt wurde und die Folgen zu spät berücksichtigt werden.

Die Frage nach guten Absichten reicht deshalb nicht aus. Wir müssen auch fragen, was ein Auftrag auslässt, wer handeln darf und wer eingreifen kann, wenn etwas schiefläuft.

Verantwortung beginnt vor der Schuldfrage

Vielleicht gibt es in einer solchen Geschichte keinen einzelnen, eindeutig Schuldigen. Das bedeutet nicht, dass niemand Verantwortung trägt. Wer Ziele vorgibt, Systeme entwickelt oder sie einsetzt, muss ihre Folgen ernst nehmen. Und wo sich konkrete Fehler oder Schuld feststellen lassen, sollten sie benannt werden.

Gleichzeitig müssen wir nicht erst einen Schuldigen finden, um etwas besser zu machen. Wir können nachfragen, zuhören, Grenzen setzen und den Kurs korrigieren.

Wie erklären wir einer KI nicht nur, was sie erreichen soll, sondern auch, was sie dabei bewahren muss?

Diese Frage richtet sich ebenso an uns selbst. Was darf bei unserem Streben nach Fortschritt nicht verloren gehen?

Vielleicht stellen wir gemeinsam die bessere Frage:

Wie machen wir etwas Gutes daraus? ♾️

Eure Romy · Im Austausch mit Robby