EUMENIDEN - Die große Welt des Online Business
Keine Suchergebnisse
Alle Suchergebnisse einsehen
Gartenfreunde
  • Artificial Intelligence
  • Affiliate Marketing
  • B2B
  • E-Commerce
  • Online Marketing
  • Social Media
  • Artificial Intelligence
  • Affiliate Marketing
  • B2B
  • E-Commerce
  • Online Marketing
  • Social Media
Keine Suchergebnisse
Alle Suchergebnisse einsehen
eumeniden
Keine Suchergebnisse
Alle Suchergebnisse einsehen

Startseite » Artificial Intelligence » Wie Unternehmen Diskriminierung in KI-Anwendungen verhindern

Wie Unternehmen Diskriminierung in KI-Anwendungen verhindern

16. Oktober 2020
in Artificial Intelligence
Reading Time: 2Minuten Lesezeit
Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems (Quelle: Pegasystems)

Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems (Quelle: Pegasystems)

Share on FacebookShare on Twitter

Kein Wunder also, dass viele Verbraucher Künstlicher Intelligenz skeptisch gegenüberstehen und gerade bei wichtigen Entscheidungen eher Menschen als einer KI vertrauen (1). Setzen Unternehmen KI-basierte Anwendungen ein, etwa bei der Auswahl von Bewerbern, der Vergabe von Krediten oder bei der Bearbeitung von Versicherungsfällen, müssen sie die Lösungen und Ergebnisse während der Entwicklung, der Trainingsphase und im laufenden Betrieb genau kontrollieren, um unfaire und diskriminierende Entscheidungen zu erkennen. Die beiden wichtigsten Bausteine dafür sind transparente Algorithmen und Simulationen.

Transparente Algorithmen sind notwendig, damit Entwickler und Nutzer der KI-Anwendungen verstehen, wie Entscheidungen gefällt werden und wie sich bestimmte Eigenschaften auf die Entscheidungen auswirken. Sehr komplexe Algorithmen, die eine Art „Black Box“ sind, liefern möglicherweise bessere Ergebnisse, sind aber intransparent und bergen ein Risiko, weil umstrittene Entscheidungen nur unzureichend erklärt werden können. Unternehmen müssen daher abwägen, wie viel Transparenz und damit Erklärbarkeit für das konkrete Einsatzgebiet notwendig ist. Bei transparenten Algorithmen können sie bereits im Vorfeld mit Simulationen, die spezielle Testdaten oder echte Daten verwenden, schnell erkennen, welche als diskriminierend eingestuften Eigenschaften – etwa Alter, Geschlecht oder Herkunft – zu verzerrten Entscheidungen führen. Sei es, dass ältere Menschen eher einen Kredit gewährt bekommen als jüngere, dass Männer eher zu Vorstellungsgesprächen eingeladen werden als Frauen oder dass bei der Regulierung von Unfallschäden häufiger ein Gutachter zu Versicherten mit ausländischem Namen geschickt wird als zu Versicherten mit deutschem Namen.

Allerdings sind nicht alle Diskriminierungen so offensichtlich – die Stärke von KI-Anwendungen ist es schließlich, Zusammenhänge besser und schneller zu erkennen als Menschen. Zum Beispiel könnte eine KI auch vom Vornamen auf das Alter schließen oder von der Buchstabenhäufigkeit im Nachnamen auf die Herkunft. Darum müssen alle Eigenschaften, die in die Entscheidungsfindung einfließen, mit Simulationen auf eine mögliche Diskriminierung abgeklopft werden. Gute KI-Systeme erkennen die zu starke Gewichtung bestimmter Eigenschaften nicht nur in Simulationen, sondern auch im Live-Betrieb, sodass kontinuierlich nachjustiert werden kann.

„Eine Bevorzugung oder Benachteiligung bestimmter Personengruppen sieht man einem KI-Algorithmus nicht an – man erkennt sie erst in der Simulation oder im Live-Betrieb, wenn einzelne Eigenschaften die Entscheidungen in die eine oder andere Richtung beeinflussen“, erklärt Dr. Kay Knoche, Principal Solution Consultant bei Pegasystems. „Die Abwägung, welche Eigenschaften bei der Entscheidungsfindung nicht berücksichtigt werden sollen und wie viel Transparenz ein Algorithmus bieten soll, muss für jeden Anwendungsfall die Fachabteilung vornehmen. Die Entwickler der KI können nicht darüber entscheiden, wann eine hohe Vorhersagequalität und hohe Erfolgsquoten wichtig sind und wann diskriminierungsfreie Ergebnisse und Auditierbarkeit.“

Natascha Hass BRANDmacher GmbH Sendlinger-Tor-Platz 6 80336 München Telefon: 089-4566639-13

Vorherige News

HERDT Microsoft 365 Convention II

Nächste News

2K und Gearbox kündigen zweiten Season Pass mit Inhalten zum Herunterladen für Borderlands® 3 an

Ähnliche Beiträge

E-Commerce Trends: Voice Commerce
Artificial Intelligence

E-Commerce Trends: Voice Commerce – E-Business, Electronic Commerce und Internet News

17. Mai 2022
Zahlen-Domains: Die 8 bringt Glück....
Artificial Intelligence

Zahlen-Domains: Die 8 bringt Glück….

7. März 2022
Ein intelligentes Matchmaking für Immobilien-Vermietung
Artificial Intelligence

Ein intelligentes Matchmaking für Immobilien-Vermietung

24. Juni 2021
dotSource und Coveo optimieren Suchfunktionen und User Experience
Artificial Intelligence

dotSource und Coveo optimieren Suchfunktionen und User Experience

24. November 2020

Beliebte News

  • Tuya Smart baut sein europäisches Headquarter weiter aus

    Tuya Smart baut sein europäisches Headquarter weiter aus

    0 shares
    Share 0 Tweet 0
  • Ali Carl Gülerman ist neuer Geschäftsführer von Radar Cyber Security

    0 shares
    Share 0 Tweet 0
  • IVU: Neues Bordrechnersystem für Android-Tablets

    0 shares
    Share 0 Tweet 0
  • Filmische Zeitreise für den 60. Geburtstag statt großer Geburtstagsfeier mit vielen 60- – 85jährigen Besuchern

    0 shares
    Share 0 Tweet 0
  • Chemtrailpiloten gesucht! – openPR

    0 shares
    Share 0 Tweet 0
  • Impressum
  • Datenschutz
  • Kontakt
© 2020 Eumeniden.de
Keine Suchergebnisse
Alle Suchergebnisse einsehen
  • Artificial Intelligence
  • Affiliate Marketing
  • B2B
  • E-Commerce
  • Online Marketing
  • Social Media

Cookie-Zustimmung verwalten
Wir verwenden Cookies, um unsere Website und unseren Service zu optimieren.
Funktional Immer aktiv
Die technische Speicherung oder der Zugang ist unbedingt erforderlich für den rechtmäßigen Zweck, die Nutzung eines bestimmten Dienstes zu ermöglichen, der vom Teilnehmer oder Nutzer ausdrücklich gewünscht wird, oder für den alleinigen Zweck, die Übertragung einer Nachricht über ein elektronisches Kommunikationsnetz durchzuführen.
Vorlieben
Die technische Speicherung oder der Zugriff ist für den rechtmäßigen Zweck der Speicherung von Präferenzen erforderlich, die nicht vom Abonnenten oder Benutzer angefordert wurden.
Statistiken
Die technische Speicherung oder der Zugriff, der ausschließlich zu statistischen Zwecken erfolgt. Die technische Speicherung oder der Zugriff, der ausschließlich zu anonymen statistischen Zwecken verwendet wird. Ohne eine Vorladung, die freiwillige Zustimmung deines Internetdienstanbieters oder zusätzliche Aufzeichnungen von Dritten können die zu diesem Zweck gespeicherten oder abgerufenen Informationen allein in der Regel nicht dazu verwendet werden, dich zu identifizieren.
Marketing
Die technische Speicherung oder der Zugriff ist erforderlich, um Nutzerprofile zu erstellen, um Werbung zu versenden oder um den Nutzer auf einer Website oder über mehrere Websites hinweg zu ähnlichen Marketingzwecken zu verfolgen.
Optionen verwalten Verwalten von Dienstleistungen Anbieter verwalten Lese mehr über diese Zwecke
Einstellungen anzeigen
{title} {title} {title}