Dr. Robert Freund

Wenn wir mit KI-Systemen (AI Systems) arbeiten, stellt sich immer wieder die Frage, ob man diesem oder jenem Modell vertrauen kann – immerhin geben viele Privatpersonen, oder auch Unternehmen den KI-Systemen auch persönliche, bzw. unternehmensspezifische Daten.

Was machen diese KI-Systeme mit unseren Daten?

Die allgemein bekannten und vielfach genutzten proprietäten KI-Systeme von OpenAI, Meta, Alphabet, X, Anthropic usw. sind bei dieser Frage wenig transparent. Solche geschlossenen Systeme (Closed Models) gehen davon aus, dass der Nutzer diesen Unternehmen einfach so vertraut.

Doch wenn wir uns so manche Äußerungen von den „Gesichtern der Unternehmen“ (Musk, Altman, Zuckerberg usw.) ansehen oder anhören wird deutlich, dass das möglicherweise hinter den KI-Systemen liegende Mindset nicht den eigenen Vorstellungen entspricht. Siehe dazu Digitale Souveränität: Europa, USA und China im Vergleich.

Um auf das Vertrauen in KI-Systeme weiter eingehen zu können, müssen wir natürlich erst einmal klären, was unter Vertrauen zu verstehen ist. Hier zwei Beschreibungen mit ähnlicher Perspektive:

Vertrauen ist dabei ein Mechanismus, der es ermöglicht, auf einen Teil der Kontrolle zu verzichten, und der die Bereitschaft erhöht, ein Risiko einzugehen (Giddens 1995, 1997, Luhmann 2000).

Vertrauen als Fähigkeit, soziale Beziehungen in Situationen der Ungewissheit und Mehrdeutigkeit (temporär) zu stabilisieren (vgl. Weick, 1995).

In einer Metapher beschrieben Thomas et al. (2025) die Situation zwischen einem Nutzer und dem KI-System mit einem Glas, das eine undefinierbare trübe Flüssigkeit enthält. Würden Sie diese Flüssigkeit trinken? Wahrscheinlich eher nicht, da man ja nicht weiss, was für eine Flüssigkeit im Glas ist.

Ähnlichkeiten zu dieser Situation sehen die Forscher im Umgang mit Daten und der Nutzung von KI-Systemen (Closed Models) in den Unternehmen – immerhin sind Daten eine der wichtigsten Assets in einer Organisation.

Step 1: It All Starts with Trust
„Think about it: the glass is opaque, you can’t even see inside it! The water inside that glass could pure spring water, but it could also be cloudy and murky puddle water, or even contaminated water! If you couldn’t see inside that glass, would you still drink what’s inside it after adding tons of high-quality sugar and lemon to it? Probably not, so why would you do this with one of your company’s most previous assets—your data?“ (Thomas et al. 2025).

Diese Erkenntnisse führen zwangsläufig zu den Frage, wie man die Vertrauenswürdigkeit von KI-Systemen bestimmen kann, ohne den Marketingtexten der bekannten KI-Systemen glauben zu müssen? Es muss sich eine neutrale Institution mit der Frage befassen. Dazu gibt es auch schon Initiativen. Eine davon kommt von der IEEE (Institute of Electrical and Electronics Engineers), die in ihrer Standards Association (SA) einen ersten Entwurf entwickelt hat:

„IEEE P8000.1: IEEE Draft Standard for a Method and Criteria to Assess the Trustworthiness of Artificial Intelligence (AI) Systems“ (IEEE).

Ich bin gespannt, wie sich dieser internationale Standard weiterentwickelt und welche Kriterien zur Bestimmung der Vertrauenswürdigkeit von KI-Systemen am Ende herauskommen. Siehe dazu auch MISSION KI: Wie vertrauenswürdig sind KI-Modelle?

Wir sind der Meinung, dass es aktuell durchaus vertrauenswürdige KI-Systeme in Europa gibt. Vertrauen hängt sehr stark mit Transparenz zusammen. In der von uns erstellten Open Streep Map zu solchen Open Source KI-Systemen aus Europa können Sie sich ein Bild davon machen.