Warum vertrauen wir Künstlicher Intelligenz,
obwohl wir ihre Verlässlichkeit nicht kennen?
Millionen Menschen führen täglich Gespräche mit KI-Systemen. Sie ordnen Gedanken, holen Rat, treffen Vorentscheidungen, suchen Bestätigung und vertrauen den Antworten, meist ohne zu wissen, warum.
KI wird dort wirksam, wo Menschen Ergebnisse als zuverlässig und vertrauenswürdig erleben. Wann KI als kompetent, glaubwürdig und verlässlich wahrgenommen wird, wird von technologischen, psychologischen, kulturellen und sozialen Mechanismen geprägt.
Sieben Mechanismen, die Vertrauen erzeugen
[1] Flüssige Sprache erzeugt Kompetenzwirkung
Menschen setzen sprachliche Sicherheit leicht mit fachlicher Sicherheit gleich. KI formuliert schnell, strukturiert und souverän, auch dann, wenn die Aussage falsch ist. Was leicht zu verarbeiten ist, wirkt wahr.
[2] Automatisierungsbias
Sobald ein System als technisch leistungsfähig wahrgenommen wird, neigen Menschen dazu, seine Empfehlungen zu übernehmen, statt sie erneut zu prüfen. Besonders bei Routineentscheidungen.
[3] Objektivitätsillusion
Zahlen, Algorithmen und technische Systeme wirken neutraler als Menschen. KI-Systeme sind jedoch keineswegs frei von Verzerrungen. Daten, Modellierung, Zieldefinition und menschliche Entscheidungen prägen jedes Ergebnis.
[4] Bequemlichkeit & kognitive Entlastung
KI reduziert Aufwand. Eine plausible Antwort ist sofort verfügbar. Prüfen kostet Zeit und mentale Energie. Daraus entsteht ein struktureller Anreiz, KI-Ergebnissen und KI-Entscheidungen zu glauben.
[5] Trust Transfer, die unzulässige Übertragung
Wenn KI zehnmal zuverlässig funktioniert, entsteht Vertrauen für den elften Fall. Verlässlichkeit ist jedoch domänenspezifisch. Gute Textkorrektur bedeutet nicht automatisch gute medizinische, rechtliche oder strategische Beratung. Das Vertrauen wird auf Themen übertragen, deren Kompetenz nicht belegt ist.
[6] Anthropomorphisierung
KI kommuniziert in einer Form, die wir aus menschlicher Interaktion kennen. Sie erklärt, reagiert auf Rückfragen, entschuldigt sich, passt ihre Sprache an. So wird aus einem statistischen System psychologisch leicht ein „Gesprächspartner“.
[7] Institutionelle Legitimation
Wenn Unternehmen, Behörden, Fachpersonen oder Kolleg:innen KI einsetzen, entsteht soziales Vertrauen, das sich auf das individuelle Nutzungsverhalten auswirkt.
Die Vertrauenslücke
Je souveräner ein System formuliert, je schneller es Antworten liefert und je weniger es seine Unsicherheit sichtbar macht, desto leichter entsteht der Eindruck von Kompetenz und Sicherheit.
Hohe sprachliche Kompetenz
+ hohe Geschwindigkeit
+ geringe Transparenz
→ Vertrauenslücke
Die Vertrauenslücke beschreibt den Abstand zwischen wahrgenommener Kompetenz und tatsächlicher Verlässlichkeit. Dass Vertrauen und Verlässlichkeit auseinanderfallen, ist erforscht. Die Human-Factors-Forschung spricht von appropriate reliance und von Trust Calibration: Ziel ist nicht möglichst viel Vertrauen, sondern kalibriertes Vertrauen, das der tatsächlichen Leistungsfähigkeit eines Systems entspricht. Sowohl Über- als auch Untervertrauen sind Fehler.
Je stärker KI in Entscheidungen, Beratung, Bildung und Zusammenarbeit integriert wird, desto relevanter wird die KI-Kompetenz, die Vertrauenslücke erkennen und das Vertrauen in Künstliche Intelligenz gezielt anzupassen. Es geht nicht um mehr oder weniger Vertrauen, sondern um Vertrauen, das zur tatsächlichen Verlässlichkeit der KI passt.
Nicht: Können wir KI vertrauen?
Sondern: Woran erkennen wir, dass wir ihr vertrauen können?
Trust Calibration.
Vertrauenskalibrierung.
Trust Calibration ist ein etabliertes Forschungsfeld aus Human Factors und Mensch-Computer-Interaktion. Gängige Modelle betrachten Vertrauen auf drei Ebenen: Vertrauensneigung, Vertrauenskontext und Vertrauenserfahrung.
Häufig unberücksichtigt bleibt dabei, wie Vertrauen überhaupt entsteht. Es wird nicht allein durch die tatsächliche Systemleistung bestimmt, sondern ebenso durch menschliche Wahrnehmung, Werte und Interaktionen.
Ganzheitlich betrachtet verbindet die Vertrauenskalibrierung Trust Calibration mit UX, Wahrnehmungspsychologie und Kulturwissenschaften, um zwei zentrale Fragen aus unterschiedlichen Perspektiven zu beantworten:
Wie entsteht Vertrauen in KI?
Wann ist dieses gerechtfertigt?
Das Thema „Vertrauen“ ist überall dort relevant, wo Menschen KI-Ergebnisse gestalten, bewerten und nutzen, im Design dialogbasierter KI und autonomer Systeme, organisationsweit in der AI Governance, sowie bei der KI-Sichtbarkeit von Inhalten.
Wahrnehmung, Evidenz & Verlässlichkeit
Ebene 1 – Wie ensteht Vertrauen in KI
Technische Kalibrierungsmodelle erfassen die Entstehung von Vertrauen auf Ebene der Systemleitung. Eine belastbare Vertrauenskalibrierung betrachtet zusätzlich, wie KI wahrgenommen wird, welche Signale erzeugt werden, wie diese interpretiert werden und wo daraus Fehlvertrauen entstehen kann, ganzheitlich zwischen Wahrnehmung, mentaler Modelle, Sprache und kultureller Prägungen.
Ebene 2 – Wann ist Vertrauen in KI gerechtfertigt
Die zweite Ebene der Vertrauenskalibrierung strukturiert die Begründung von Vertrauen. Anhand der folgenden sechs Dimensionen lässt sich systematisch einordnen, unter welchen Bedingungen das Vertrauen in eine konkrete KI-Leistung angemessen ist:
[1] Kompetenzgrenze
In welcher Domäne ist die Verlässlichkeit belegt und wo endet sie? Leistung in einem Anwendungsbereich rechtfertigt nicht automatisch Vertrauen in einem anderen. Diese Dimension adressiert den Trust Transfer, wenn Vertrauen über die tatsächlich belegte Kompetenzgrenze hinaus übertragen wird.
[2] Evidenz
Worauf stützt sich die Annahme von Verlässlichkeit und wie belastbar ist der Nachweis? Eine produktive Grundhaltung aus der Dataset-Accountability-Forschung lautet: „guilty until proven innocent“. Annahmen werden offengelegt, überprüft und mit Erfahrungen abgeglichen, statt das System als Black Box zu akzeptieren.
[3] Verzerrung & Fairness
Welche Bias können in Daten, Zielsetzungen oder Ergebnissen stecken? Wen können KI-Entscheidungen benachteiligen, und wie zeigt sich Fairness im System konkret? Objektivität ist bei KI kein Ausgangspunkt, sondern muss geprüft und abgesichert werden.
[4] Unsicherheit & Transparenz
Wie deutlich macht das KI-System, was es weiß, was es nicht weiß und wo seine Grenzen liegen? Ein KI-System, das Unsicherheit sichtbar macht, wird bewertbar. Eines, das unabhängig von der Evidenz souverän klingt, erschwert eine angemessene Einschätzung.
[5] Datenschutz & Steuerung
Was geschieht mit eingegebenen Daten? Welche Möglichkeiten bestehen für menschliche Intervention, Korrektur und Abschaltung? Datenschutz, menschliche Steuerung und Governance sind wesentlich für verantwortbares Vertrauen.
[6] Fehlerkonsequenz
Welche Auswirkungen hat ein Fehler in diesem konkreten Einsatzkontext? Die gleiche KI-Leistung kann bei einer Formulierungshilfe unkritisch, bei einer Gesundheits-, Rechts- oder Personalentscheidung jedoch folgenreich sein. Das erforderliche Maß an Prüfung richtet sich nach der Konsequenz eines möglichen Fehlers.
Was bedeutet Vertrauenskalibrierung in der Praxis
Vertrauenskalibrierung schafft einen Orientierungsrahmen für den Umgang mit KI überall dort, wo Menschen von KI-Ergebnissen betroffen sind, sie bewerten oder darauf handeln. Sie lässt sich in Entscheidungen, Produkte, Prozesse und Organisationen integrieren und wird so zu einer zentralen Kompetenz für den verantwortungsvollen KI-Einsatz.
Das Ziel: Begründetes Vertrauen
Vertrauen wir KI jetzt? Entscheidend dafür ist, unter welchen Bedingungen Vertrauen in eine konkrete KI-Leistung gerechtfertigt ist. Dafür machen die sieben Mechanismen sichtbar, wie Vertrauen entsteht, während die sechs Dimensionen zeigen, woran es sich begründen lässt. Die zentrale Frage zur Entwicklung von KI-Kompetenz ist daher:
„Woran lässt sich erkennen, wann diese KI Vertrauen verdient?“
KI-Kompetenz für den beruflichen Alltag
KI-Kompetenz bedeutet, KI-Systeme und ihre Leistungen zu verstehen, einzuordnen und kritisch zu bewerten, ihre Wirkung auf Menschen und Organisationen zu erkennen und daraus verantwortungsvolle Entscheidungen abzuleiten. Erfahren Sie mehr über die aktuellen Angebote zur Entwicklung von KI-Kompetenz.
Quellen:
Hutchinson, B., Smart, A., Hanna, A., Denton, E., Greer, C., Kjartansson, O., Barnes, P., & Mitchell, M. (2021). Towards Accountability for Machine Learning Datasets: Practices from Software Engineering and Infrastructure. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21). Link.
Lee, J. D., & See, K. A. (2004). Trust in Automation: Designing for Appropriate Reliance. Human Factors. Link.

