Das parlamentarische Büro für Technikfolgen-Abschätzung warnt angesichts künstlich intelligenter Personalauswahl vor ethischen Risiken und Rechtslücken.
Computer können heute Krankheiten diagnostizieren, Verbraucher am Servicetelefon beraten oder ganze Fabriken kontrollieren. Das funktioniert durch den Einsatz von Künstlicher Intelligenz. KI wird die Arbeitswelt stark verändern. // Von Katja Scherer /
Die EU-Kommission hat erstmals ein Gesetz zur Regulierung von automatisierten Entscheidungssystemen vorgelegt. "Massenüberwachung" durch KI soll damit verboten werden, biometrische Echtzeit-Überwachung soll in einigen Fällen aber erlaubt bleiben.
Radikalisiert der Empfehlungsalgorithmus von Youtube die Zuschauer? Eine interdisziplinare Untersuchung verneint und schlägt vor, nach neuen Gründen zu suchen.
Künstliche Intelligenz soll den Menschen dienen und Grundrechte respektieren. Das fordert eine Expertengruppe der EU-Kommission in ihren nun veröffentlichten Leitlinien für die Technologie. Unverrückbare ethische Prinzipien finden sich darin jedoch nicht mehr – Vertreterinnen der Industrie im Gremium haben sie erfolgreich gestrichen.
Heute übergibt der Datenethikkommission (DEK) ihre Empfehlungen an die Bundesregierungen. Die Kommission war 2018 von der Bundesregierung einberufen worden und umfasst 16 Mitglieder: Hauptsächlich besetzt mit Wissenschaftler*innen, aber auch mit Vertreter*innen aus der Verwaltung, dem Datenschutz und der Industrie.
Algorithmen können Vorurteile bestätigen und Menschen diskriminieren, sagt Matthias Spielkamp, der Gründer und Geschäftsführer von AlgorithmWatch. "Die Schuld dafür der Technik zu geben, wäre aber grundfalsch". Menschen entwickelten diese Systeme und müssten auch dafür sorgen, dass sie gerecht funktionieren. Deshalb seien Aufsichtsinstitutionen nötig, "die sicherstellen, dass Algorithmen unseren gesellschaftlichen Zusammenhalt nicht gefährden, sondern ihn befördern". Die Entwicklung von Algorithmen einfach nur transparenter zu machen, reiche dabei nicht aus. "Wenn man weiß, wie ein diskriminierendes System funktioniert, hat man noch nichts gewonnen", meint Matthias Spielkamp. Die Diskriminierung müsse dann auch beendet werden.
In seltener Einmütigkeit lehnen Digitalverbände und Bürgerrechtsgruppen das von Heiko Maas geplante „Netzwerkdurchsetzungsgesetz“ ab. Es lege die Meinungsfreiheit in die Hände privater Internetkonzerne und fördere Zensur. Aber haben Online-Plattformen, die sich zu Medienkonzernen entwickeln, ein Sonderrecht auf organisierte Verantwortungslosigkeit?
Algorithmen bestimmen immer mehr unser Leben. Warum Computer nicht alles wissen und wir sie kontrollieren müssen, erklären zwei Expertinnen der Initiative Algorithm Watch.
Algorithmen sind längst überall. Sie beeinflussen unsere Medienwahrnehmung, kennen unsere Vorlieben und empfehlen uns Nachrichten, Bücher oder Videos. Sie informieren uns über Wichtiges und Banales. Sie lenken unsere Aufmerksamkeit, unser Kaufverhalten und sogar unsere Autos.
Welche Rolle spielen Algorithmen im Internet für die öffentliche Meinungsbildung? Die Informatikerin Katharina Zweig setzt sich seit Jahren mit den Wirkungen und gesellschaftlichen Nebenwirkungen von Algorithmen auseinander. Zurzeit erforscht sie im Rahmen des von Landesmedienanstalten finanzierten Projektes #Datenspende unter anderem den Google-Algorithmus.
Am 3.05., 17:30, Stelle ich unser neues Projekt mit der Hans-Böckler-Stiftung auf der re:publica vor und diskutiere mit Matthias Spielkamp und Katharina Simbeck, moderiert von Melanie Stein. Unter anderem zeige ich, wie man den Analysealgorithmus von IBM Watson austricksen kann.
ines der Schwerpunktthemen der diesjährigen re:publica wird der Umgang mit und die demokratische Gestaltung von Künstlicher Intelligenz und Algorithmischen Entscheidungssystemen sein. Wir bieten einen Überblick durch das umfangreiche Programm.
A. Keiner. Algorithmisierung und Autonomie im Diskurs : Perspektiven und Reflexionen auf die Logiken automatisierter Maschinen, FernUniversität in Hagen. Lehrgebiet Bildungstheorie und Medienpädagogik, Hagen, (July 2020)