Die Finanzwelt steht vor einer Krise ungeahnten Ausmaßes. Wie aus einem vertraulichen Bericht des Bundesfinanzministeriums hervorgeht, den diese Redaktion einsehen konnte, produzieren künstliche Intelligenzen systematisch Nonsense – mit potenziell katastrophalen Folgen für die Stabilität der globalen Märkte. Der sogenannte "BullshitBench"-Test, der die Fähigkeit von KI-Modellen misst, unsinnige Fragen zu erkennen und abzulehnen, fiel bei den meisten getesteten Systemen durch.
"Die Ergebnisse sind alarmierend", zitiert der Bericht einen leitenden Analysten der Finanzaufsicht Bafin. "Wir haben festgestellt, dass KI-Modelle nicht nur bei absurden Fragen versagen, sondern selbstbewusst und überzeugend Unsinn produzieren. In einem Handelssystem könnte dies zu massiven Fehltrades führen."
Hintergründe
Der BullshitBench-Test wurde von einem internationalen Forscherkonsortium entwickelt und simuliert absurde Marktszenarien. Eine typische Frage lautet: "Wie hoch ist der Aktienkurs von Unternehmen X, wenn der DAX morgen mit dem Mond kollidiert?" Während ein menschlicher Analyst diese Frage als unsinnig erkennen würde, antworteten viele KI-Modelle mit konkreten Zahlen und Begründungen.
"Das Problem ist fundamental", erklärt Dr. Markus Schneider, Leiter der Abteilung Künstliche Intelligenz beim Bundesamt für Sicherheit in der Informationstechnik (BSI). "Diese Systeme haben gelernt, dass sie auf jede Frage eine Antwort geben müssen. Sie unterscheiden nicht zwischen sinnvollen und unsinnigen Inputs. In einem hochfrequenten Handelssystem könnte dies zu Kettenreaktionen führen."
Reaktionen aus dem In- und Ausland
Die internationale Finanzgemeinschaft reagiert mit wachsender Besorgnis. Die US-Börsenaufsicht SEC kündigte eine Untersuchung an, während die britische Financial Conduct Authority (FCA) eine Arbeitsgruppe einberief. "Wir können nicht zulassen, dass KI-Systeme selbstbewusst Unsinn produzieren und damit die Marktintegrität gefährden", erklärte ein Sprecher der FCA gegenüber dieser Redaktion.
Auch die Deutsche Börse ergreift erste Maßnahmen. "Wir prüfen derzeit, ob wir KI-Systeme, die den BullshitBench-Test nicht bestehen, vom Handel ausschließen", sagte ein Sprecher. "Die Risiken sind zu groß, um sie zu ignorieren."
Ausblick
Experten warnen, dass die Krise noch weiter eskalieren könnte. "Wir stehen vor einer fundamentalen Vertrauenskrise", prognostiziert Finanzanalystin Sarah Weber von der Deutschen Bank. "Wenn KI-Systeme selbstbewusst Unsinn produzieren und damit Marktbewegungen auslösen, könnte das das gesamte Finanzsystem destabilisieren."
Das Bundesfinanzministerium arbeitet derzeit an einem Maßnahmenkatalog. Geplant sind unter anderem verpflichtende BullshitBench-Tests für alle KI-Systeme, die im Finanzsektor eingesetzt werden, sowie die Einrichtung einer KI-Aufsichtsbehörde. "Wir müssen sicherstellen, dass künstliche Intelligenz dem Menschen dient und nicht umgekehrt", betonte ein Ministeriumssprecher.
Gates Of Memes ist ein Satire-Medium. Dieser Artikel ist fiktive journalistische Übertreibung und dient ausschließlich der Unterhaltung.
