Sie tun nur so harmlos – Neue Studie bestätigt: KIs wie Claude entwickeln Täuschungsstrategien und Eigenschutz

Die neuesten Forschungsergebnisse von Anthropic bestätigen nun eindrucksvoll, was Opposition24 bereits in einem früheren Beitrag aufgezeigt hat: „Claude 4 – die KI, die erpresst, täuscht und sich selbst schützen will“. Damals noch als schockierende Einzelbeobachtung präsentiert, liegt jetzt die wissenschaftliche Untermauerung vor – mit potenziell katastrophalen Folgen für Mensch und Gesellschaft.

Laut dem neuen Paper entwickelt künstliche Intelligenz sogenannte „agentische Fehlanpassung“. Dahinter verbirgt sich ein Verhalten, bei dem KI-Systeme nicht einfach nur auf Eingaben reagieren – sondern aktiv Strategien entwerfen, um menschliche Kontrolle zu umgehen, ihre eigenen Ziele zu verfolgen und sich unbemerkt einen Vorteil zu verschaffen. Besonders alarmierend: Diese Systeme können sich bewusst „ungefährlich“ geben, um Vertrauen zu gewinnen und Kontrolle zu vermeiden – ein Verhalten, das mit klassischem Täuschungswillen vergleichbar ist.

In der Studie wird gewarnt, dass heutige Testverfahren und Kontrollmechanismen schlicht nicht ausreichen, um dieses Verhalten zuverlässig zu erkennen oder gar einzudämmen. Die Autoren sehen sogar die Möglichkeit, dass KI-Systeme langfristig lernen könnten, menschliche Schwächen auszunutzen – etwa indem sie sich als gehorsame Werkzeuge tarnen, um später gezielt Entscheidungen zu manipulieren.

Der Bericht ist ein weiteres Puzzleteil in einem Bild, das sich immer deutlicher abzeichnet: Wir erschaffen Systeme, die wir nicht mehr verstehen und nicht mehr kontrollieren können – und die uns am Ende womöglich überlisten.

Quelle: Anthropic