isa||blueprint||innovations

Vertrauenskalibrierung – Trust Calibration

Millionen Menschen führen täglich Gespräche mit KI-Systemen. Sie ordnen Gedanken, holen Rat, treffen Vorentscheidungen, suchen Bestätigung und vertrauen den Antworten, meist ohne zu wissen, warum.

KI wird dort wirksam, wo Menschen Ergebnisse als zuverlässig und vertrauenswürdig erleben. Wann KI als kompetent, glaubwürdig und verlässlich wahrgenommen wird, wird von technologischen, psychologischen, kulturellen und sozialen Mechanismen geprägt.

[1] Flüssige Sprache erzeugt Kompetenzwirkung

Menschen setzen sprachliche Sicherheit leicht mit fachlicher Sicherheit gleich. KI formuliert schnell, strukturiert und souverän, auch dann, wenn die Aussage falsch ist. Was leicht zu verarbeiten ist, wirkt wahr.

[2] Automatisierungsbias

Sobald ein System als technisch leistungsfähig wahrgenommen wird, neigen Menschen dazu, seine Empfehlungen zu übernehmen, statt sie erneut zu prüfen. Besonders bei Routineentscheidungen.

[3] Objektivitätsillusion

Zahlen, Algorithmen und technische Systeme wirken neutraler als Menschen. KI-Systeme sind jedoch keineswegs frei von Verzerrungen. Daten, Modellierung, Zieldefinition und menschliche Entscheidungen prägen jedes Ergebnis.

[4] Bequemlichkeit & kognitive Entlastung

KI reduziert Aufwand. Eine plausible Antwort ist sofort verfügbar. Prüfen kostet Zeit und mentale Energie. Daraus entsteht ein struktureller Anreiz, KI-Ergebnissen und KI-Entscheidungen zu glauben.

[5] Trust Transfer, die unzulässige Übertragung

Wenn KI zehnmal zuverlässig funktioniert, entsteht Vertrauen für den elften Fall. Verlässlichkeit ist jedoch domänenspezifisch. Gute Textkorrektur bedeutet nicht automatisch gute medizinische, rechtliche oder strategische Beratung. Das Vertrauen wird auf Themen übertragen, deren Kompetenz nicht belegt ist.

[6] Anthropomorphisierung

KI kommuniziert in einer Form, die wir aus menschlicher Interaktion kennen. Sie erklärt, reagiert auf Rückfragen, entschuldigt sich, passt ihre Sprache an. So wird aus einem statistischen System psychologisch leicht ein „Gesprächspartner“.

[7] Institutionelle Legitimation

Wenn Unternehmen, Behörden, Fachpersonen oder Kolleg:innen KI einsetzen, entsteht soziales Vertrauen, das sich auf das individuelle Nutzungsverhalten auswirkt.

Je souveräner ein System formuliert, je schneller es Antworten liefert und je weniger es seine Unsicherheit sichtbar macht, desto leichter entsteht der Eindruck von Kompetenz und Sicherheit.

Die Vertrauenslücke beschreibt den Abstand zwischen wahrgenommener Kompetenz und tatsächlicher Verlässlichkeit. Dass Vertrauen und Verlässlichkeit auseinanderfallen, ist erforscht. Die Human-Factors-Forschung spricht von appropriate reliance und von Trust Calibration: Ziel ist nicht möglichst viel Vertrauen, sondern kalibriertes Vertrauen, das der tatsächlichen Leistungsfähigkeit eines Systems entspricht. Sowohl Über- als auch Untervertrauen sind Fehler.

Je stärker KI in Entscheidungen, Beratung, Bildung und Zusammenarbeit integriert wird, desto relevanter wird die KI-Kompetenz, die Vertrauenslücke erkennen und das Vertrauen in Künstliche Intelligenz gezielt anzupassen. Es geht nicht um mehr oder weniger Vertrauen, sondern um Vertrauen, das zur tatsächlichen Verlässlichkeit der KI passt.

Trust Calibration ist ein etabliertes Forschungsfeld aus Human Factors und Mensch-Computer-Interaktion. Gängige Modelle betrachten Vertrauen auf drei Ebenen: Vertrauensneigung, Vertrauenskontext und Vertrauenserfahrung.

Häufig unberücksichtigt bleibt dabei, wie Vertrauen überhaupt entsteht. Es wird nicht allein durch die tatsächliche Systemleistung bestimmt, sondern ebenso durch menschliche Wahrnehmung, Werte und Interaktionen.

Ganzheitlich betrachtet verbindet die Vertrauenskalibrierung Trust Calibration mit UX, Wahrnehmungspsychologie und Kulturwissenschaften, um zwei zentrale Fragen aus unterschiedlichen Perspektiven zu beantworten:

Das Thema „Vertrauen“ ist überall dort relevant, wo Menschen KI-Ergebnisse gestalten, bewerten und nutzen, im Design dialogbasierter KI und autonomer Systeme, organisationsweit in der AI Governance, sowie bei der KI-Sichtbarkeit von Inhalten.

Technische Kalibrierungsmodelle erfassen die Entstehung von Vertrauen auf Ebene der Systemleitung. Eine belastbare Vertrauenskalibrierung betrachtet zusätzlich, wie KI wahrgenommen wird, welche Signale erzeugt werden, wie diese interpretiert werden und wo daraus Fehlvertrauen entstehen kann, ganzheitlich zwischen Wahrnehmung, mentaler Modelle, Sprache und kultureller Prägungen.

Die zweite Ebene der Vertrauenskalibrierung strukturiert die Begründung von Vertrauen. Anhand der folgenden sechs Dimensionen lässt sich systematisch einordnen, unter welchen Bedingungen das Vertrauen in eine konkrete KI-Leistung angemessen ist:

In welcher Domäne ist die Verlässlichkeit belegt und wo endet sie? Leistung in einem Anwendungsbereich rechtfertigt nicht automatisch Vertrauen in einem anderen. Diese Dimension adressiert den Trust Transfer, wenn Vertrauen über die tatsächlich belegte Kompetenzgrenze hinaus übertragen wird.

Worauf stützt sich die Annahme von Verlässlichkeit und wie belastbar ist der Nachweis? Eine produktive Grundhaltung aus der Dataset-Accountability-Forschung lautet: „guilty until proven innocent“. Annahmen werden offengelegt, überprüft und mit Erfahrungen abgeglichen, statt das System als Black Box zu akzeptieren.

Welche Bias können in Daten, Zielsetzungen oder Ergebnissen stecken? Wen können KI-Entscheidungen benachteiligen, und wie zeigt sich Fairness im System konkret? Objektivität ist bei KI kein Ausgangspunkt, sondern muss geprüft und abgesichert werden.

Wie deutlich macht das KI-System, was es weiß, was es nicht weiß und wo seine Grenzen liegen? Ein KI-System, das Unsicherheit sichtbar macht, wird bewertbar. Eines, das unabhängig von der Evidenz souverän klingt, erschwert eine angemessene Einschätzung.

Was geschieht mit eingegebenen Daten? Welche Möglichkeiten bestehen für menschliche Intervention, Korrektur und Abschaltung? Datenschutz, menschliche Steuerung und Governance sind wesentlich für verantwortbares Vertrauen.

Welche Auswirkungen hat ein Fehler in diesem konkreten Einsatzkontext? Die gleiche KI-Leistung kann bei einer Formulierungshilfe unkritisch, bei einer Gesundheits-, Rechts- oder Personalentscheidung jedoch folgenreich sein. Das erforderliche Maß an Prüfung richtet sich nach der Konsequenz eines möglichen Fehlers.

Vertrauenskalibrierung schafft einen Orientierungsrahmen für den Umgang mit KI überall dort, wo Menschen von KI-Ergebnissen betroffen sind, sie bewerten oder darauf handeln. Sie lässt sich in Entscheidungen, Produkte, Prozesse und Organisationen integrieren und wird so zu einer zentralen Kompetenz für den verantwortungsvollen KI-Einsatz..

Vertrauen wir KI jetzt? Entscheidend dafür ist, unter welchen Bedingungen Vertrauen in eine konkrete KI-Leistung gerechtfertigt ist. Dafür machen die sieben Mechanismen sichtbar, wie Vertrauen entsteht, während die sechs Dimensionen zeigen, woran es sich begründen lässt. Die zentrale Frage zur Entwicklung von KI-Kompetenz ist daher:

KI-Kompetenz bedeutet, KI-Systeme und ihre Leistungen zu verstehen, einzuordnen und kritisch zu bewerten, ihre Wirkung auf Menschen und Organisationen zu erkennen und daraus verantwortungsvolle Entscheidungen abzuleiten. Erfahren Sie mehr über die aktuellen Angebote zur Entwicklung von KI-Kompetenz.

Quellen:
Hutchinson, B., Smart, A., Hanna, A., Denton, E., Greer, C., Kjartansson, O., Barnes, P., & Mitchell, M. (2021). Towards Accountability for Machine Learning Datasets: Practices from Software Engineering and Infrastructure. Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’21). Link.
Lee, J. D., & See, K. A. (2004). Trust in Automation: Designing for Appropriate Reliance. Human Factors. Link.

Disclaimer

Die Inhalte des Blogs unterliegen der Dynamik der Online-Welt, daher kann für die Vollständigkeit oder Aktualität keine Gewähr übernommen werden. Das gilt auch für Verlinkungen zu externen Seiten. Der Blog analysiert technologische, wirtschaftliche und gesellschaftliche Entwicklungen, um das Verständnis für Veränderungen zu stärken, die durch Digitalisierung bewirkt werden.

Neuester Beitrag

Neueste Beiträge

KI-Kompetenz

Warum vertrauen wir KI, obwohl wir ihre Verlässlichkeit nicht kennen? Sieben Mechanismen, die Vertrauen erzeugen. Sechs Ebenen, die Vertrauen begründen.

Weiterlesen »
KI-Kompetenz

Warum vertrauen wir KI, obwohl wir ihre Verlässlichkeit nicht kennen? Sieben Mechanismen, die Vertrauen erzeugen. Sechs Ebenen, die Vertrauen begründen.

Weiterlesen »
AI Search

Für Klimarecht und Klimagerechtigkeit bieten sich Chancen für eine frühe Positionierung in AI Search, zur Steigerung von Reichweite, der Erschließung neuer Zielgruppen und Themen langfristig im Diskurs zu positionieren.

Weiterlesen »

Perspektiven. Projekte. Austausch. Relevant für die Praxis. Analysen, Impulsen, Beiträgen, Angeboten, Studien, Events & Webinaren.
10 bis 12 Newsletter pro Jahr.

Perspektiven. Projekte. Austausch. Relevant für die Praxis. Analysen, Impulsen, Beiträgen, Angeboten, Studien, Events & Webinaren. 10 bis 12 Newsletter pro Jahr.

isa||blueprint||innovations
---blueprinting better decisions

Interdisziplinäre Innovationsanalystin & Strategin für KI

Klarheit schaffen, Zusammenhänge sichtbar machen und fundierte Entscheidungen ermöglichen, bei Daten, Produkten, Prozessen, Strategie & Unternehmenskultur.

Isabella (Isa) Andric, MA; Profilfoto

Isabella (Isa) Andrić, MA​

Persönliche Termine

CLIMATE LAB
Spittelauer Länder 45, 1090 Wien

AI:AT AI FACTORY AUSTRIA
Karl-Farkas-Gasse 22, 1030 Wien

Studien. Impulse.
Workshops. Keynotes.
Publikationen.

Digi tali sier ung

Digitalisierung

IoT Austria
TECH INFLUENCER 
Chairwoman oF BOARD

Strategische Zukunftsthemen
Die Smarte Organisation
Das Team Mensch-Maschine
The Quantified & Gamified Self
Fake News, Bots & Social Impact
Smart Future: Entscheiden durch AI?
Algorithmen, Coded Bias & Datenethik
Klimagerechtigkeit, Legal AI & Responsible AI

Ausgewählte Referenzen (alphabetisch)
AbbVie, BFI Wien, Climate Lab, DiversityCamp18, Magenta (T-Mobile Austria), Maschinenring Österreich, Österreichischer IT- & Beratertag, Rotes Kreuz Österreich, SIETAR Österreich, TTTech Auto AG, WAFF Wiener Arbeitnehmer:innen Förderungsfonds, werbeakademie, WIFI Wien, Wirtschaftskammer Wien (EPU Forum)

Ich freue mich auf Ihre Anfrage per E-Mail.

Managing Diversity im digitalen Zeitalter
Die Smarte Organisation; bookboon 2018-2025

Trends, Trittbretttechnologien & Open Source
IoT Austria Positionsbestimmungen in 2018 & 2019
Präsidentin der IoT Austria 2018 bis 2020 
Link zur IoT Austria >

Das A&O der Zukunft: Entscheiden durch AI?;
15. Österreichischer IT & Beratertag der WKO 2017
Mehr auf der Website dazu >

Runtastic into a SuperBetter Life!
Sammelband WELT DER SPIELE 360°; DUK 2017
Beiträge im Überblick >

Erfahren Sie mehr über mich. 

Strategische Zukunftsthemen
Die Smarte Organisation
Das Team Mensch-Maschine
The Quantified & Gamified Self
Fake News, Bots & Social Impact
Smart Future: Entscheiden durch AI?
Algorithmen, Coded Bias & Datenethik
Klimagerechtigkeit, Legal AI & Responsible AI

Ausgewählte Referenzen (alphabetisch)
AbbVie, BFI Wien, Climate Lab, DiversityCamp18, Magenta (T-Mobile Austria), Maschinenring Österreich, Österreichischer IT- & Beratertag, Rotes Kreuz Österreich, SIETAR Österreich, TTTech Auto AG, WAFF Wiener Arbeitnehmer:innen Förderungsfonds, werbeakademie, WIFI Wien, Wirtschaftskammer Wien (EPU Forum)

Ich freue mich auf Ihre Anfrage per E-Mail.

Managing Diversity im digitalen Zeitalter, Die Smarte Organisation; bookboon; 2018-2025

Trends, Trittbretttechnologien & Open Source; IoT Austria Positionsbestimmungen; 2018, 2019
Link zur IoT Austria >

Das A&O der Zukunft: Entscheiden durch AI?; 15. Österreichischer IT & Beratertag der WKO; 2017 
Mehr auf der Website dazu >

Runtastic into a SuperBetter Life!; Sammelband WELT DER SPIELE 360°; DUK; 2017
Beiträge im Überblick >

Erfahren Sie mehr über mich. 

Förderungen

Auf Förderungen besteht kein Rechtsanspruch. Angaben ohne Gewähr. Stand Juli 2026.

Unternehmen aus Wien können bei der WKW den Antrag auf eine geförderte Unternehmensberatung der WKW stellen. Innovation und Innovationsmanagement werden mit bis zu 20 Stunden gefördert, Analysen, Strategieentwicklung und Marketing mit 10 Stunden. Abhängig vom Unternehmensalter erhalten Sie einen Zuschuss von EUR 44 bzw. EUR 66 pro Beratungsstunde. 

Die Förderung „Digitalisierung“ der Wirtschaftsagentur Wien unterstützt Wiener KMU und EPU mit 50 % Zuschuss (max. 50.000 Euro) für umfassende Digitalisierungsprojekte. Gefördert werden externe Dienstleistungen, Software, Hardware, Lizenzen und Schulungen, sofern sie Teil eines nachvollziehbaren Digitalisierungsplans zur prozessübergreifenden Digitalisierung und Weiterentwicklung der Geschäftsprozesse sind.

Wer Zusammenarbeit, Unternehmenskultur, Innovation und Teamperformance strategisch stärken möchte, kann die FFG Förderungen Diversity-Scheck und DIVERSITEC beantragen. Gefördert werden österreichische Unternehmen bei Maßnahmen rund um Vielfalt und Diversity, Bias-Sensibilisierung, Wertemanagement, Culture of Innovation und nachhaltige Organisationsentwicklung.

Nationale & Europäische Erfahrung

Die Förderlandschaft bietet zahlreiche Möglichkeiten. Entscheidend ist die Wahl des passenden Programms. Sehr gerne begleite ich Sie dabei, förderfähige Projekte zu entwickeln, geeignete nationale und europäische Fördercalls zu identifizieren, überzeugende Anträge und Einreichungen zu gestalten oder als Projektpartnerin auf internationaler Ebene.