Herauszufinden, welche Präferenzen (Vorlieben, Neigungen) ein Nutzer üblicherweise hat, ist für Unternehmen wichtig. Es wird aus diesen Präferenzen oft interpretiert, welche Produkte und Dienstleistungen den Nutzer möglicherweise auch noch interessieren könnten. Die im 20. Jahrhundert entstandenen philosophischen und ökonomischen Theorien hatten dabei das Ziel, Präferenzen möglichst zu befriedigen. In den Anfängen solcher Überlegungen wurden zwei Präferenzen unterschieden:
„From these early theories emerges the distinction between revealed preferences and ideal preferences (Samuelson, 1948). Revealed preferences refer to how people’s desires are acted upon in real life through the choices they make (Samuelson, 1948). Ideal preferences refer to people’s desires that would manifest if they were rational and informed in an ideal world (Samuelson, 1948). This distinction importantly points to the idea that people’s actions may or may not reflect their actual desires“ (Li, J. (2026) Beyond Preference-based Value-alignment, IEAI Research Brief – Q2 2026).
Das Konzept der Präferenzen wurde auf Methoden zur Werteausrichtung (Value Alignment) ausgeweitet, bei denen der Schwerpunkt darauf liegt, Informationen beispielsweise über das bevorzugte Verhalten von KI-Systemen anhand offenbarter Präferenzen zu extrapolieren.
An dieser Stelle stellt sich allerdings die Frage, ob sich das KI-Modell an die Präferenzen und Werte des Nutzers anpasst, oder ob nicht das KI-Modell den Nutzer so beeinflussen will, dass er die in dem KI-Modell hinterlegten Werte adaptiert. Da die Werte der proprietären KI-Modelle oft nicht transparent sind, kann es daher zu unerwünschten Manipulationen kommen. Siehe dazu auch
Open Source AI: Warum sollte Künstliche Intelligenz demokratisiert werden?
Interaktion zwischen Mensch und KI-Modell: Welche Rolle spielen dabei Werte?
