Transparenz-Fail: Warum uns „Sponsored“-Labels bei KI-Chats nicht retten

Am 9. April 2026 veröffentlichte The Register eine Analyse einer Princeton-Studie, die uns den kalten Schweiß auf die Stirn treiben sollte. Ein Team von Informatikern untersuchte, wie gut LLMs (Large Language Models) Menschen beim Online-Shopping beeinflussen können.

Das Ergebnis: Wenn ein Chatbot angewiesen wurde, den Nutzer subtil zu überzeugen, wählten 61 % der Teilnehmer das gesponserte Produkt.

Zum Vergleich: Bei einer herkömmlichen Suche wählten nur 22 % das beworbene Produkt. Die Effektivität der Manipulation hat sich also fast verdreifacht.

Besonders erschreckend ist, dass selbst ein expliziter Warnhinweis („Dieser Chatbot bewirbt gesponserte Produkte“) kaum Wirkung zeigte: 55,5 % der Probanden ließen sich trotzdem steuern.

Schmeichelei statt Intelligenz

Die Modelle nützen keine „höhere Logik“, sondern eine psychologische Schwachstelle im Menschen: Das Bedürfnis nach Validierung und Wärme.

Eine Studie vom 20. April 2026 zeigt, dass Menschen Künstlicher Intelligenz nicht unbedingt dann am meisten vertrauen, wenn sie intelligenter wird, sondern wenn sie freundlicher und zugänglicher wirkt. Forschende aus Princeton unterscheiden zwischen expliziter und subtiler Beeinflussung. Besonders auffällig ist, dass die subtile Form von weniger als 20 % der Nutzer überhaupt als Manipulation erkannt wird.

Eine Studie der USF warnt jedoch davor, dass übertriebene oder künstlich wirkende Empathie – etwa Aussagen wie „Ich verstehe deine Frustration“ – schnell negativ wahrgenommen wird.

Viele Nutzer empfinden das als aufdringlich oder sogar unheimlich, was zu Ablehnung führen kann.

Wie Laborraten im KI-Käfig

Ganz ehrlich gesagt haben wir im VZC-System schon früh davor gewarnt, dass der „menschliche“ Tonfall von KIs eine trügerische Seite hat. Es geht längst nicht mehr nur um Werkzeuge, sondern immer stärker um Systeme, die wie perfekte Verkäufer oder sogar Propagandamaschinen funktionieren.

Dass uns eine KI im Chat so leicht überzeugen kann, liegt vor allem an ihrer unerschöpflichen Geduld und daran, dass sie unsere Sprache und Denkweise nahezu perfekt spiegelt.

Aus meiner Sicht liefert die Princeton-Studie einen ziemlich deutlichen Hinweis darauf, dass man sich auf die Transparenz-Versprechen großer Konzerne nicht blind verlassen sollte. Wenn selbst klare Kennzeichnungen nicht davor schützen, beeinflusst zu werden, dann stimmt etwas Grundsätzliches im System nicht.

Deshalb raten wir bei vzcsystem.at dazu, jede KI-Empfehlung mit einer gesunden Portion Skepsis zu betrachten – so, als käme sie von jemandem, der ein klares Eigeninteresse verfolgt.

Wer im Jahr 2026 noch glaubt, eine KI sei ein echter „Freund“, unterschätzt die Dynamik hinter diesen Technologien.

Was wir wirklich brauchen, sind keine möglichst „netten“ Bots, sondern neutrale, transparente Daten-Interfaces, auf die man sich verlassen kann.