Eine exklusive Datenanalyse zeigt: Videosoftware, die mittels Künstlicher Intelligenz die Persönlichkeit von Bewerbern einschätzen will, ist fragwürdig
In der aktuellen Folge des Denkangebot Podcast geht es um das Thema „Diskriminierung durch Technik“. Im Rahmen der Recherche habe ich mit Prof. Dr. Katharina Zweig gesprochen. Sie lehrt an der TU Kaiserslautern, leitet dort das Algorithmic Accountability Lab, und ist eine der führenden Expertinnen in Deutschland, wenn es um die Bewertung der Risiken und Chancen des Einsatzes von künstlicher Intelligenz geht. Das komplette Interview gibt´s als kleines Extra in ganzer Länge für Euch.
Wunder der Technik: Die neuste Version des Diensts Chat GPT liefert noch beeindruckendere Resultate als ihre Vorgänger. Wie lange noch, bis uns die Maschine erst die Arbeitsplätze und dann die Würde nimmt?
Der Ressourcenverbrauch von digitalen Technologien ist ein immens wichtiger Faktor, aber oftmals schwierig zu messen. Das sagt die Forscherin Anne Mollen im Gespräch mit iRights.info. Sie entwickelt Indikatoren für die Nachhaltigkeit von Künstlicher Intelligenz (KI).
Die EU-Kommission hat einen Gesetzentwurf zum Umgang mit Künstlicher Intelligenz vorgestellt. Dabei geht es vor allem um die Regulierung von KI-Anwendungen, die mit Risiken für den Menschen verbunden sind. <em>Von M. Reiche.</em>
Wer sich in den USA auf einen Job bewirbt, führt inzwischen häufig das erste Bewerbungsgespräch mit einer Künstlichen Intelligenz, abgekürzt KI. Auch in Deutschland testen erste Unternehmen diese neue, umstrittene Technologie.
Computer können heute Krankheiten diagnostizieren, Verbraucher am Servicetelefon beraten oder ganze Fabriken kontrollieren. Das funktioniert durch den Einsatz von Künstlicher Intelligenz. KI wird die Arbeitswelt stark verändern. // Von Katja Scherer /
War es richtig, die "Zigeuner-Sauce" umzubenennen? Dieser Frage ging ein WDR-Format nach. Vier weiße Menschen diskutierten über Diskriminierung. Hier seien nicht die Gäste problematisch, sondern redaktionelle Entscheidungen dahinter, sagte die Journalistin Hadija Haruna-Oelker im Dlf. In manchen Redaktionen fehle immer noch ein Bewusstsein für Diversität.
Die EU-Agentur für Grundrechte fordert in einem Bericht, potenziell diskriminierende Auswirkungen von KI besser zu erforschen und die Aufsicht zu stärken.
Auch künstliche Intelligenz trifft diskriminierende Entscheidungen. Eine Strategie, um dagegen vorzugehen, will die EU-Kommission nächste Woche vorstellen.
Das parlamentarische Büro für Technikfolgen-Abschätzung warnt angesichts künstlich intelligenter Personalauswahl vor ethischen Risiken und Rechtslücken.
In Großbritannien fürchten die Schulabsolvent:innen des ganzen Jahrgangs 2020 um ihre universitäre und berufliche Zukunft. Erst gab es keine Schule und Prüfungen - und jetzt hat auch noch ein eingesetzter Algorithmus die Noten vieler herabgestuft. Nach wachsenden Protesten wurde die Benotung jetzt z
Als Victoria Kure-Wu und ihr Team sich mit einem Projekt gegen Diskriminierung beim Hackathon "WirVsVirus" bewarben, hofften sie auf eine Förderung durch die Bundesregierung. Stattdessen wurden sie zum Ziel rassistischer Anfeindungen im Netz. Gemeinsam mit Ilona Stuetz kommentiert sie, wie es in Zuk
Erstmals ist in den USA ein Fall bekannt geworden, in dem eine Fehlidentifikation per Gesichtserkennung einen Afroamerikaner in Polizeigewahrsam brachte.
Für vertrauenswürdige künstliche Intelligenz soll die EU künftig weltweit stehen. Aber ist es wünschenswert, immer mehr Entscheidungen Maschinen zu überlassen?
Gesichtserkennung versagt auffallend oft etwa bei schwarzen Frauen – und das kann bestehende Vorurteile festigen, kritisiert eine Computerwissenschaftlerin.
Der Bewerbungsroboter von Amazon hat Frauen diskriminiert. Wie konnte das passieren? Und wie können Algorithmen geeignete Kandidaten für einen Job erkennen?
Algorithmen funktionierten wie Schubladen, beschreibt die Politikwissenschaftlerin Lorena Jaume-Palasí den Grund, warum zum Beispiel Seifenspender nicht auf dunkle Haut reagieren. Sie beruhten auf Standards, die rassistisch sein könnten. Die Technologie sei für Diskriminierung anfällig.
In KI-Modellen könnten immer mehr Trainingsdaten verarbeitet werden, was die Monopolbildung unterstütze, warnt die New Yorker Praktikerin Sophie Searcy.
Sie personalisieren Inhalte, berechnen Routen und Preise: Algorithmen sind Teil des Alltags. Sie stecken etwa in Software, sind schwer greifbar und werden in immer mehr Bereichen eingesetzt.
Algorithmen können Vorurteile bestätigen und Menschen diskriminieren, sagt Matthias Spielkamp, der Gründer und Geschäftsführer von AlgorithmWatch. "Die Schuld dafür der Technik zu geben, wäre aber grundfalsch". Menschen entwickelten diese Systeme und müssten auch dafür sorgen, dass sie gerecht funktionieren. Deshalb seien Aufsichtsinstitutionen nötig, "die sicherstellen, dass Algorithmen unseren gesellschaftlichen Zusammenhalt nicht gefährden, sondern ihn befördern". Die Entwicklung von Algorithmen einfach nur transparenter zu machen, reiche dabei nicht aus. "Wenn man weiß, wie ein diskriminierendes System funktioniert, hat man noch nichts gewonnen", meint Matthias Spielkamp. Die Diskriminierung müsse dann auch beendet werden.
Beim AMS soll künftig ein Computerprogramm Mitarbeiter bei Entscheidungen unterstützen. Die futurezone sprach mit AMS-Chef Johannes Kopf über den geplanten Algorithmus.
Nicht nur Menschen, auch Algorithmen können diskriminieren. Die Schuld dafür trägt der Mensch. Entwickler und Anwender müssen sich jetzt der Verantwortung stellen. Zeit für eine Wertedebatte.
Find out more at: https://18.re-publica.com/node/21630 Algorithmen bestimmen, was wir tun. Wir bestimmen, was Algorithmen tun. Diese untrennbare Verflechtung...
Find out more at: https://18.re-publica.com/node/24491 Der Algorithmus ist ein ständiger Gefährte in unserem Leben, erscheint jedoch nach wie vor als eine Bl...
Die Arbeitswelt digitalisiert sich immer stärker, das zeigt sich auch an den Programmen, die auf den Markt kommen. Sie sollen Firmen die Personalplanung erleichtern - doch es gibt viele Unwägbarkeiten.
Bald wird künstliche Intelligenz allgegenwärtig sein. Aber wer sorgt dafür, dass sie sicher und vertrauenswürdig ist? Ein historischer Fehler droht sich zu wiederholen.
Wenn Computer lernen, den Sinn menschlicher Sprache zu verstehen, bringt das Risiken mit sich. Erste Anwendungen zeigen, wie massiv der Eingriff in unser Leben sein kann – und die betroffenen Forscher beginnen, über die Ethik ihrer Disziplin nachzudenken.
Algorithmen bestimmen immer mehr unser Leben. Warum Computer nicht alles wissen und wir sie kontrollieren müssen, erklären zwei Expertinnen der Initiative Algorithm Watch.
Vorurteile und Stereotype helfen, Umweltreize aufzunehmen, zu strukturieren und zu verarbeiten. In diesem Sinne hat jeder Mensch Vorurteile. Problematisch wird es dann, wenn Menschen aufgrund bestimmter Zuordnungen und Zuschreibungen abgewertet oder diskriminiert werden. "Intoleranz und Rassismus äußern sich keineswegs erst in Gewalt", betonte Bundeskanzlerin Angela Merkel bei der Gedenkveranstaltung im Februar 2012.
V. Guijarro Santos. Wenn KI, dann feministisch: Impulse aus Wissenschaft und Aktivismus, netzforma* e.V. — Verein für feministische Netzpolitik, Berlin, (January 2021)
F. Folkerts, V. Schreck, S. Riazy, and K. Simbeck. 2019 IEEE International Conference on Humanized Computing and Communication (HCC), page 1-6. New York, IEEE, (September 2019)