isa||blueprint||innovations

Fair Digital Design

Digital Fairness für KI-Produkte

Digital Design verbindet Produktstrategie, Nutzerverständnis, Informationsarchitektur und Interaktionsgestaltung. Bei KI-Produkten kommen die Konzeption intelligenter Interaktionen und automatisierter Prozesse hinzu. User Experience umfasst das gesamte Nutzungserlebnis eines digitalen Produkts, von Informationsaufnahme und Orientierung bis zu Interaktion und Entscheidungsfindung. KI-Produkte sollen dabei fair gestalten werden. Der Vorschlag der Europäischen Kommission für einen Digital Fairness Act (DFA) unterstreicht die Bedeutung von Fairness in digitalen Geschäftspraktiken. Die nutzerzentrierte Gestaltung von KI-Produkten wird zur strategischen Aufgabe.

Fair AI Design beginnt
in der Produktentwicklung

Faire KI-Produkte entstehen durch das Zusammenspiel von Technologie, Produktstrategie und nutzerzentriertem Design. Ein geeigneter Entwicklungsprozess umfasst fünf Schritte:

  1. Nutzungskontext verstehen
    Zielgruppen, Nutzungssituationen und Erwartungen an die KI analysieren.
  2. Interaktionen konzipieren
    Dialoge, Informationsarchitektur, Nutzerführung und Automatisierungsgrade entwickeln.
  3. Wirkmechanismen überprüfen
    Transparenz, psychologische Effekte, Entscheidungsfreiheit und potenzielle Risiken bewerten.
  4. Mit Nutzer:innen testen
    Verständlichkeit, Vertrauen, Kontrollmöglichkeiten und Systemverhalten anhand realer Nutzungssituationen überprüfen.
  5. Kontinuierlich optimieren
    Nutzungsdaten und qualitative Rückmeldungen in die Weiterentwicklung integrieren.

UX wird damit zu einem kontinuierlichen Bestandteil der Qualität von KI-Produkten.

UX als strategisches Kompetenzfeld für KI

KI-gestützte Produkte informieren, beraten, empfehlen und übernehmen zunehmend Aufgaben. Sie strukturieren Informationen, generieren Inhalte, bewerten Optionen und beeinflussen Entscheidungen. User Experience entsteht damit nicht mehr nur durch klassische Interfaces, sondern auch durch Algorithmen, Dialoge und automatisierte Prozesse. Strategisch sind folgende Punkte relevant:

  • Wie transparent sind KI-generierte Ergebnisse und Empfehlungen?
  • Können Nutzer:innen die Fähigkeiten und Grenzen des KI-Systems einschätzen?
  • Bleiben Entscheidungen durch Künstliche Intelligenz nachvollziehbar und kontrollierbar?
  • Sind automatisierte Aktionen verständlich und steuerbar?
  • Wie entsteht angemessenes Vertrauen in die Technologie?

Ob Chatbot, KI-Assistent, Empfehlungssystem oder autonomer KI-Agent: Die Gestaltung bestimmt, wie Nutzer:innen Ergebnisse verstehen, Empfehlungen bewerten und die Kontrolle über Entscheidungen behalten.

Sechs Gestaltungsfelder für faire KI-Produkte

1. Entscheidungsarchitektur und Nutzerkontrolle

KI-Systeme beeinflussen Entscheidungen durch Auswahl, Gewichtung und Darstellung von Informationen. UX muss deshalb alternative Optionen sichtbar machen, Empfehlungen nachvollziehbar gestalten und Korrekturen ermöglichen. Bei KI-Agenten gehören dazu klare Berechtigungen, Zustimmung zu relevanten Aktionen und jederzeit erkennbare Kontrollmöglichkeiten.

2. UX-Psychologie und Vertrauen

Dialogfähigkeit und menschenähnliche Kommunikation können Vertrauen fördern, aber auch falsche Erwartungen erzeugen. Wichtige psychologische Mechanismen sind:

  • Automation Bias
    Automatisierte Empfehlungen werden ungeprüft übernommen.
  • Anthropomorphisierung
    Der KI werden menschliche Eigenschaften und Kompetenzen zugeschrieben.
  • Framing
    Die Darstellung beeinflusst die Interpretation von Ergebnissen.
  • Default-Effekt
    Voreinstellungen prägen Entscheidungen.
  • Salienz
    Auffällige Empfehlungen erhalten besondere Aufmerksamkeit.

AIX Design muss diese Wirkmechanismen berücksichtigen und ein realistisches Verständnis der KI-Fähigkeiten unterstützen.

3. Transparenz und Dark Patterns

Manipulative Gestaltung kann auch in KI-Dialogen und automatisierten Nutzerführungen auftreten. Beispiele sind intransparente Empfehlungen, erschwerte Ablehnungsoptionen, irreführende Vermenschlichung oder nicht erkennbare kommerzielle Interessen. Der DFA-Entwurf greift manipulative digitale Oberflächen auf. Unternehmen sollten daher Interfaces, Dialogarchitekturen und Empfehlungsmechanismen auf ihre Auswirkungen auf die Entscheidungsfreiheit prüfen.

4. Engagement Design und Nutzungsverhalten

KI-Produkte fördern Interaktion durch personalisierte Empfehlungen, proaktive Benachrichtigungen, kontinuierliche Dialoge und automatisierte Folgeangebote. Entscheidend ist, ob diese Mechanismen einen tatsächlichen Nutzwert schaffen oder übermäßige Nutzung begünstigen. Nutzer:innen benötigen transparente Einstellungen und Kontrolle über Häufigkeit und Umfang der Interaktionen.

5. Personalisierung und algorithmische Nutzerführung

KI analysiert Nutzungsdaten und personalisiert Inhalte, Empfehlungen und Interaktionen. Das schafft Relevanz, beeinflusst aber auch die Wahrnehmung und Entscheidungsfindung. UX- und Produktteams sollten deshalb Daten- und Auswahlkriterien, die Darstellung personalisierter Ergebnisse sowie individuelle Einstellungsmöglichkeiten berücksichtigen. Auch mögliche Verzerrungen und die Auswirkungen auf unterschiedliche Nutzergruppen gehören in die Produktkonzeption.

6. Accessibility und Schutzbedarfe

KI-Produkte müssen unterschiedliche Fähigkeiten, Erfahrungen und Nutzungsvoraussetzungen berücksichtigen. Dazu gehören verständliche Ergebnisse, erkennbare Systemgrenzen, zugängliche Interaktionen und leicht auffindbare Schutz- und Einstellungsmöglichkeiten. Insbesondere Minderjährige und vulnerable Nutzergruppen benötigen besondere Berücksichtigung.

KI nutzerzentriert gestalten

Isabella (Isa) Andrić unterstützt Unternehmen bei der Analyse und Konzeption digitaler und KI-gestützter Produkte und begleitet deren Weiterentwicklung. Das Leistungsspektrum umfasst:

  • Analyse digitaler und KI-gestützter Nutzererlebnisse
  • Entwicklung von Produkt- und Interaktionskonzepten
  • UX-Konzeption und Dialogarchitektur
  • Conversational AI und KI-Agenten
  • Gestaltung nutzerzentrierter Interfaces
  • Optimierung von Customer Journeys
  • Berücksichtigung psychologischer Wirkmechanismen

Digital Design verbindet Produktstrategie, Nutzerverständnis, Informationsarchitektur und Interaktionsgestaltung. Bei KI-Produkten kommen die Konzeption intelligenter Interaktionen und automatisierter Prozesse hinzu. Mehr zu Digital Design

Conversational AI & KI-Agenten

Mit Conversational AI und KI-Agenten entstehen neue Interaktionsformen. KI-Systeme bereiten Informationen auf, geben Empfehlungen, führen Aufgaben aus und koordinieren eigenständig Handlungsschritte. Damit gewinnen Dialogarchitektur, Transparenz und Nutzerkontrolle an Bedeutung. Nutzer:innen müssen erkennen können, was ein KI-Agent tut, welche Handlungsspielräume er besitzt und wann eine menschliche Entscheidung erforderlich ist. Unternehmen benötigen dafür Kompetenzen in der nutzerzentrierten Konzeption und Begleitung KI-gestützter Produkte. Mehr zu Produktentwicklung und Conversational AI

Fair Digital Design
Qualität von KI-Produkten

Zentral für die Gestaltung von verantwortungsvollen KI-Produkten und zukunftsfähige digitale Geschäftsmodellen ist die Frage, ob Menschen unterstützt werden, informierte und selbstbestimmte Entscheidungen zu treffen. KI-Produkte müssen nicht nur technisch funktionieren. Sie müssen verständlich, kontrollierbar und an den Bedürfnissen ihrer Nutzer:innen ausgerichtet sein. Dafür braucht es fundiertes Wissen über UX-Psychologie, Nutzerverhalten, Daten und Technologie sowie eine klare Verbindung zwischen Produktstrategie und Digital Design.


Quellen und weiterführende Informationen

Rechtlicher Disclaimer: Die regulatorischen Bezüge beruhen auf dem Kommissionsvorschlag vom 11. November 2026. Die Regelungen befinden sich im Gesetzgebungsverfahren und können sich ändern. Die UX-Empfehlungen sind fachliche Gestaltungsansätze und keine verbindliche Gesetzesauslegung. Der Beitrag ersetzt keine Rechtsberatung.

Disclaimer

Die Inhalte des Blogs unterliegen der Dynamik der Online-Welt, daher kann für die Vollständigkeit oder Aktualität keine Gewähr übernommen werden. Das gilt auch für Verlinkungen zu externen Seiten. Der Blog analysiert technologische, wirtschaftliche und gesellschaftliche Entwicklungen, um das Verständnis für Veränderungen zu stärken, die durch Digitalisierung bewirkt werden.

Neuester Beitrag

Neueste Beiträge

Fair Digital Design - Symbolbild für den Blogbeitrag von Isabella Andrić zu nutzerzentrierten und fairen KI-Produkten
AI Fairness

Wie KI-Produkte nutzerzentriert und fair gestaltet werden: sechs Gestaltungsfelder von Entscheidungsarchitektur über UX-Psychologie bis Accessibility.

Weiterlesen »
Fair Digital Design - Symbolbild für den Blogbeitrag von Isabella Andrić zu nutzerzentrierten und fairen KI-Produkten
AI Fairness

Wie KI-Produkte nutzerzentriert und fair gestaltet werden: sechs Gestaltungsfelder von Entscheidungsarchitektur über UX-Psychologie bis Accessibility.

Weiterlesen »
Digital Fairness Act - Symbolbild für den Blogbeitrag von Isabella Andrić zu AI Fairness und Verbraucherschutz
AI Fairness

Die EU-Kommission hat am 11. November 2026 den Digital Fairness Act vorgeschlagen: Themen, Gesetzgebungsstand und erste Ansatzpunkte für Unternehmen.

Weiterlesen »

Perspektiven. Projekte. Austausch. Relevant für die Praxis. Analysen, Impulsen, Beiträgen, Angeboten, Studien, Events & Webinaren.
10 bis 12 Newsletter pro Jahr.

Perspektiven. Projekte. Austausch. Relevant für die Praxis. Analysen, Impulsen, Beiträgen, Angeboten, Studien, Events & Webinaren. 10 bis 12 Newsletter pro Jahr.

isa||blueprint||innovations
---blueprinting better decisions

Interdisziplinäre Innovationsanalystin & Strategin für KI

Klarheit schaffen, Zusammenhänge sichtbar machen und fundierte Entscheidungen ermöglichen, bei Daten, Produkten, Prozessen, Strategie & Unternehmenskultur.

Isabella (Isa) Andrić, MA; Profilfoto

Isabella (Isa) Andrić, MA​

Persönliche Termine

CLIMATE LAB
Spittelauer Länder 45, 1090 Wien

AI:AT AI FACTORY AUSTRIA
Karl-Farkas-Gasse 22, 1030 Wien

Studien. Impulse.
Workshops. Keynotes.
Publikationen.

Digi tali sier ung

Digitalisierung

IoT Austria
TECH INFLUENCER 
Chairwoman oF BOARD

Strategische Zukunftsthemen
Die Smarte Organisation
Das Team Mensch-Maschine
The Quantified & Gamified Self
Fake News, Bots & Social Impact
Smart Future: Entscheiden durch AI?
Algorithmen, Coded Bias & Datenethik
Klimagerechtigkeit, Legal AI & Responsible AI

Ausgewählte Referenzen (alphabetisch)
AbbVie, BFI Wien, Climate Lab, DiversityCamp18, Magenta (T-Mobile Austria), Maschinenring Österreich, Österreichischer IT- & Beratertag, Rotes Kreuz Österreich, SIETAR Österreich, TTTech Auto AG, WAFF Wiener Arbeitnehmer:innen Förderungsfonds, werbeakademie, WIFI Wien, Wirtschaftskammer Wien (EPU Forum)

Ich freue mich auf Ihre Anfrage per E-Mail.

Managing Diversity im digitalen Zeitalter
Die Smarte Organisation; bookboon 2018-2025

Trends, Trittbretttechnologien & Open Source
IoT Austria Positionsbestimmungen in 2018 & 2019
Präsidentin der IoT Austria 2018 bis 2020 
Link zur IoT Austria >

Das A&O der Zukunft: Entscheiden durch AI?;
15. Österreichischer IT & Beratertag der WKO 2017
Mehr auf der Website dazu >

Runtastic into a SuperBetter Life!
Sammelband WELT DER SPIELE 360°; DUK 2017
Beiträge im Überblick >

Erfahren Sie mehr über mich. 

Strategische Zukunftsthemen
Die Smarte Organisation
Das Team Mensch-Maschine
The Quantified & Gamified Self
Fake News, Bots & Social Impact
Smart Future: Entscheiden durch AI?
Algorithmen, Coded Bias & Datenethik
Klimagerechtigkeit, Legal AI & Responsible AI

Ausgewählte Referenzen (alphabetisch)
AbbVie, BFI Wien, Climate Lab, DiversityCamp18, Magenta (T-Mobile Austria), Maschinenring Österreich, Österreichischer IT- & Beratertag, Rotes Kreuz Österreich, SIETAR Österreich, TTTech Auto AG, WAFF Wiener Arbeitnehmer:innen Förderungsfonds, werbeakademie, WIFI Wien, Wirtschaftskammer Wien (EPU Forum)

Ich freue mich auf Ihre Anfrage per E-Mail.

Managing Diversity im digitalen Zeitalter, Die Smarte Organisation; bookboon; 2018-2025

Trends, Trittbretttechnologien & Open Source; IoT Austria Positionsbestimmungen; 2018, 2019
Link zur IoT Austria >

Das A&O der Zukunft: Entscheiden durch AI?; 15. Österreichischer IT & Beratertag der WKO; 2017 
Mehr auf der Website dazu >

Runtastic into a SuperBetter Life!; Sammelband WELT DER SPIELE 360°; DUK; 2017
Beiträge im Überblick >

Erfahren Sie mehr über mich. 

Förderungen

Auf Förderungen besteht kein Rechtsanspruch. Angaben ohne Gewähr. Stand Juli 2026.

Unternehmen aus Wien können bei der WKW den Antrag auf eine geförderte Unternehmensberatung der WKW stellen. Innovation und Innovationsmanagement werden mit bis zu 20 Stunden gefördert, Analysen, Strategieentwicklung und Marketing mit 10 Stunden. Abhängig vom Unternehmensalter erhalten Sie einen Zuschuss von EUR 44 bzw. EUR 66 pro Beratungsstunde. 

Die Förderung „Digitalisierung“ der Wirtschaftsagentur Wien unterstützt Wiener KMU und EPU mit 50 % Zuschuss (max. 50.000 Euro) für umfassende Digitalisierungsprojekte. Gefördert werden externe Dienstleistungen, Software, Hardware, Lizenzen und Schulungen, sofern sie Teil eines nachvollziehbaren Digitalisierungsplans zur prozessübergreifenden Digitalisierung und Weiterentwicklung der Geschäftsprozesse sind.

Wer Zusammenarbeit, Unternehmenskultur, Innovation und Teamperformance strategisch stärken möchte, kann die FFG Förderungen Diversity-Scheck und DIVERSITEC beantragen. Gefördert werden österreichische Unternehmen bei Maßnahmen rund um Vielfalt und Diversity, Bias-Sensibilisierung, Wertemanagement, Culture of Innovation und nachhaltige Organisationsentwicklung.

Nationale & Europäische Erfahrung

Die Förderlandschaft bietet zahlreiche Möglichkeiten. Entscheidend ist die Wahl des passenden Programms. Sehr gerne begleite ich Sie dabei, förderfähige Projekte zu entwickeln, geeignete nationale und europäische Fördercalls zu identifizieren, überzeugende Anträge und Einreichungen zu gestalten oder als Projektpartnerin auf internationaler Ebene.