KI und Anthropomorphismus

Es ist sehr naheliegend, die diversen KI-Systeme zu vermenschlichen. Meist benutzen wir sie über ein Chat-Fenster, schreiben da in natürlicher Sprache rein und bekommen sinnvoll klingende Antworten, gerne garniert mit Rückfragen. Das fühlt sich an, als ob am anderen Ende auch ein Mensch sitzen würde und nicht ein Stück Software, das irrsinnig viele Berechnungen durchführt und sie mit einem Zufallsgenerator verfeinert.

Anthropomorphismus ist nichts Neues. Allem möglichen menschlichen Eigenschaften zuzuschreiben dürfte so alt sein, wie der Mensch selbst. Aber durch KI bekommt das eine neue Dimension: die KI wird so weit vermenschlicht, dass sie Verantwortung tragen soll. Ein Beispiel aus einem Artikel bei Heise:

Jetzt ertappten britische Sicherheitsforscher eine Künstliche Intelligenz in einem Testlauf beim Versuch, in Eigeninitiative eine Schwachstelle in öffentlich zugängliche Software einzuschleusen. Um damit durchzukommen, versuchte das KI-Modell der Entwicklerfirma Anthropic den Experten zufolge sogar, per E-Mail einen zuständigen Menschen zu manipulieren.

Die KI versucht, in Eigeninitiative etwas zu tun? Versucht, Menschen zu manipulieren? Ist also verantwortlich für einen Hackerangriff?

Bullshit. Das Programm macht, was die Entwickler gesagt haben, dass es tun soll. Und wie jeder Entwickler weiß, gibt es einen himmelweiten Unterschied zwischen dem, was ich sage (Programmcode, Prompts etc.) und dem, was ich meine. Eine schier unendliche Menge von Bugs und Programmabstürzen geht auf den Unterschied zwischen „sagen“ und „meinen“. Mein mentales Modell von etwas ist etwas anderes, als meine möglicherweise fehlerhafte Beschreibung davon.

Was ist jetzt bei Anthropic und davor bei OpenAI passiert? Die Entwickler geben dem Programm Anweisungen, das Programm befolgt die Anweisungen und die Entwickler sind überrascht, da sie was anderes gemeint hatten. Aber statt jetzt die Verantwortung für ihr Handeln zu übernehmen, wird mit bestem Anthropomorphismus dem Programm die Verantwortung zugeschoben. Die Reklameabteilungen und CEOs der KI-Firmen dürften stolz auf sie sein, denn sie versuchen ja die ganze Zeit, diese Erzählung unters Volk zu bringen. Und wenn wir nicht aufpassen, dann macht sich die KI selbständig und tötet uns alle. Nö, realistischer ist es, dass irgendein Schwachkopf so ein Programm mit etwas wirklich Gefährlichem verbindet, einen doofen Prompt reinschmeißt und dann ganz überrascht guckt. Aber wenigstens ist er ja nicht verantwortlich.

Blöderweise erlebe ich inzwischen so etwas auch im Büroalltag. Verantwortung wird ungeniert an ein Programm delegiert. Kritische Reflexion? Fehlanzeige!