In der aktuellen Folge des Denkangebot Podcast geht es um das Thema „Diskriminierung durch Technik“. Im Rahmen der Recherche habe ich mit Prof. Dr. Katharina Zweig gesprochen. Sie lehrt an der TU Kaiserslautern, leitet dort das Algorithmic Accountability Lab, und ist eine der führenden Expertinnen in Deutschland, wenn es um die Bewertung der Risiken und Chancen des Einsatzes von künstlicher Intelligenz geht. Das komplette Interview gibt´s als kleines Extra in ganzer Länge für Euch.
Algorithmische Vorhersage und Mitbestimmung: Zum Verhältnis von „Predictive Risk Intelligence“ und Interessenvertretung. Ein Forschungsprojekt des Momentum Instituts und der...
Radikalisiert der Empfehlungsalgorithmus von Youtube die Zuschauer? Eine interdisziplinare Untersuchung verneint und schlägt vor, nach neuen Gründen zu suchen.
Knapp 90 Staaten verhandeln hinter verschlossenen Türen in Genf über einen Vertrag, der digitale Handelsschranken abbauen soll. Dabei drängte die EU auf eine Regel, die IT-Sicherheit gefährden und Algorithmen-Transparenz verhindern könnte, fürchten Abgeordnete.
Die EU-Kommission hat erstmals ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. "Massenüberwachung" durch KI soll damit verboten werden, biometrische Echtzeit-Überwachung soll in einigen Fällen aber erlaubt bleiben.
Künstliche Intelligenz und maschinelles Lernen bestimmen unser Leben immer mehr. Entwickler sollten sich nicht auf ihren Code zurückziehen, sagen zwei Experten.
Computer können heute Krankheiten diagnostizieren, Verbraucher am Servicetelefon beraten oder ganze Fabriken kontrollieren. Das funktioniert durch den Einsatz von Künstlicher Intelligenz. KI wird die Arbeitswelt stark verändern. // Von Katja Scherer /
Der Faktor Mensch kommt in Digitalisierungsstudien oft zu kurz. Dabei hat der digitale Wandel enorme Auswirkungen auf die Arbeitswelt, die auch gefährlich sein können. Durch den aktuellen Digitalisierungsschub ist jetzt ein idealer Zeitpunkt, um über die kritischen Punkte zu sprechen.
Ein offener Brief fordert Konzernchef Jeff Bezos dazu auf, die Rechte seiner Beschäftigten zu achten. Zugleich wird bekannt, dass der Konzern mit Software mögliche Gewerkschaftsbildung überwacht.
Beflügelt von der Aufbruchstimmung im sozialistischen Chile der Allende-Zeit entwickelt eine Gruppe von Ingenieuren ein Computernetzwerk, mit dem die Wirtschaft des gesamten Landes gesteuert werden soll – ein Experiment, das wie Science-Fiction anmutet: Projekt Cybersyn.
Beflügelt von der Aufbruchstimmung im sozialistischen Chile der Allende-Zeit entwickelt eine Gruppe von Ingenieuren ein Computernetzwerk, mit dem die Wirtschaft des gesamten Landes gesteuert werden soll – ein Experiment, das wie Science-Fiction anmutet: Projekt Cybersyn.
Auch künstliche Intelligenz trifft diskriminierende Entscheidungen. Eine Strategie, um dagegen vorzugehen, will die EU-Kommission nächste Woche vorstellen.
Das parlamentarische Büro für Technikfolgen-Abschätzung warnt angesichts künstlich intelligenter Personalauswahl vor ethischen Risiken und Rechtslücken.
In Großbritannien fürchten die Schulabsolvent:innen des ganzen Jahrgangs 2020 um ihre universitäre und berufliche Zukunft. Erst gab es keine Schule und Prüfungen - und jetzt hat auch noch ein eingesetzter Algorithmus die Noten vieler herabgestuft. Nach wachsenden Protesten wurde die Benotung jetzt z
Kaum zu glauben. Auch im Jahr 2019 kommt es immer wieder vor, dass in Veranstaltungen zu Digitalisierungsthemen keine einzige Frau unter den Sprecher:innen ist.
Erstmals ist in den USA ein Fall bekannt geworden, in dem eine Fehlidentifikation per Gesichtserkennung einen Afroamerikaner in Polizeigewahrsam brachte.
Ist Software bald so schwierig zu verstehen, wie ihre Schöpfer? In der Science widmet sich jetzt ein Artikel dem Vorwurf, KI funktioniere wie mittelalterliche Alchemie: Man wisse eigentlich nicht, was man tue, sondern drehe hier und da an ein paar Schrauben, bis ein Algorithmus das gewünschte Ergebnis erziele.
„Algorithmen haben kein Taktgefühl“, sagt eine der führenden Expertinnen beim Thema künstliche Intelligenz. Sie rät zur Vorsicht beim Einsatz von KI in sensiblen Bereichen.
Mit dem Analytics-Modul kann das Verhalten von Office-365-Nutzern ausgewertet werden. Den Einsatz müssen Unternehmen bereits vor dem Rollout mit Betriebsrat und
Wenn deutsche Unternehmen Personalsoftware einsetzen, um Mitarbeiter zu analysieren, könnte das in der Praxis oft rechtswidrig sein; das geht aus einer Studie der Organisation AlgorithmWatch hervor.
Firmen, die Mitarbeiter mit "People Analytics"-Systemen durchleuchten, handeln oft rechtswidrig, hat AlgorithmWatch in einem Forschungsprojekt herausgefunden.
Vom Analysten zum Aktivisten: Roger McNamee hat an Facebook gut verdient. Nun fordert er eine radikale Umkehr und ein Verbot von Amplifizierungs-Algorithmen.
Gesichtserkennung versagt auffallend oft etwa bei schwarzen Frauen – und das kann bestehende Vorurteile festigen, kritisiert eine Computerwissenschaftlerin.
Die kurzfristigen Auswirkungen des technologischen Wandels werden häufig überschätzt, die langfristigen unterschätzt. Digitalisierung muss gemeinsam mit den ArbeitnehmerInnen gestaltet werden und darf sich nicht allein auf die Technik beschränken.
Der Bewerbungsroboter von Amazon hat Frauen diskriminiert. Wie konnte das passieren? Und wie können Algorithmen geeignete Kandidaten für einen Job erkennen?
Heute übergibt der Datenethikkommission (DEK) ihre Empfehlungen an die Bundesregierungen. Die Kommission war 2018 von der Bundesregierung einberufen worden und umfasst 16 Mitglieder: Hauptsächlich besetzt mit Wissenschaftler*innen, aber auch mit Vertreter*innen aus der Verwaltung, dem Datenschutz und der Industrie.
Da soll nochmal einer sagen, die Maschine ließe nicht mit sich reden… ;-) So schnell wird man zu Steve Zuckerberg… Oder wie war das noch mit der Unverfälschbarkeit?
christentum Köver und Markus Reuter sprechen mit Joanna Bronowicka, Soziologin an der Europäischen Universität Viadrina. Sie hat zahlreiche Interviews mit Fahre-rinnen und Fahrern in Berlin geführt – und erzählt im dieses Mal englischsprachigen Podcast, warum Menschen bei den Firmen anheuern, wie sie versuchen, den Algorithmus auszutricksen und den Arbeitskampf gegen die Konzerne organisieren.
Algorithmen funktionierten wie Schubladen, beschreibt die Politikwissenschaftlerin Lorena Jaume-Palasí den Grund, warum zum Beispiel Seifenspender nicht auf dunkle Haut reagieren. Sie beruhten auf Standards, die rassistisch sein könnten. Die Technologie sei für Diskriminierung anfällig.
Künstliche Intelligenz soll den Menschen dienen und Grundrechte respektieren. Das fordert eine Expertengruppe der EU-Kommission in ihren nun veröffentlichten Leitlinien für die Technologie. Unverrückbare ethische Prinzipien finden sich darin jedoch nicht mehr – Vertreterinnen der Industrie im Gremium haben sie erfolgreich gestrichen.
Viele Entscheidungen, die unseren Alltag beeinflussen, treffen bereits Algorithmen. AlgorithmWatch will Automated Decision Making (ADM) transparent machen.
Der digitale Kapitalismus hat einen neuen Gesellschaftsvertrag etabliert: Daten gegen Bequemlichkeit. KI spielt für dessen Zukunft eine zentrale Rolle.
Sie personalisieren Inhalte, berechnen Routen und Preise: Algorithmen sind Teil des Alltags. Sie stecken etwa in Software, sind schwer greifbar und werden in immer mehr Bereichen eingesetzt.
Deliveroo und Foodora versprechen ihren Fahrern Freiheiten bei der Arbeit. Eine Studie zeigt: So frei sind die Beschäftigten nicht – wegen der App, die sie kontrolliert.
Die Lieferfirmen geben ihren Mitarbeitern gerne das Gefühl, unabhängig und frei zu sein. Durch permanente Überwachung und über Anreizsysteme werden jedoch die Fahrer:innen diszipliniert und interne Konkurrenz geschürt. Wissenschaftlerinnen haben das Geschäftsmodell jetzt untersucht.
Sarah Spiekermann, Professorin für Wirtschaftsinformatik in Wien, will nicht den Maschinen die Moral beibringen, sondern Ingenieur*innen und Unternehmen. Wir sprachen mit ihr darüber, wie man ethische Standards für Algorithmen festlegt und warum diejenigen, die Maschinen und Programme entwickeln, sich so selten verantwortlich fühlen.
Deutschland liegt im Rennen um künstliche Intelligenz hinter anderen Nationen zurück. Investitionen von EU und Bundesregierung sind deshalb eine gute Idee. Deutschland sollte dabei aber nicht auf ethische Standards verzichten. So könnte künstliche Intelligenz "Made in Germany" einen unerwarteten Wettbewerbsvorteil erlangen.
Algorithmen können Vorurteile bestätigen und Menschen diskriminieren, sagt Matthias Spielkamp, der Gründer und Geschäftsführer von AlgorithmWatch. "Die Schuld dafür der Technik zu geben, wäre aber grundfalsch". Menschen entwickelten diese Systeme und müssten auch dafür sorgen, dass sie gerecht funktionieren. Deshalb seien Aufsichtsinstitutionen nötig, "die sicherstellen, dass Algorithmen unseren gesellschaftlichen Zusammenhalt nicht gefährden, sondern ihn befördern". Die Entwicklung von Algorithmen einfach nur transparenter zu machen, reiche dabei nicht aus. "Wenn man weiß, wie ein diskriminierendes System funktioniert, hat man noch nichts gewonnen", meint Matthias Spielkamp. Die Diskriminierung müsse dann auch beendet werden.
A. Keiner. Algorithmisierung und Autonomie im Diskurs : Perspektiven und Reflexionen auf die Logiken automatisierter Maschinen, FernUniversität in Hagen. Lehrgebiet Bildungstheorie und Medienpädagogik, Hagen, (July 2020)