Au Revoir, Tristesse – #100
Wie bleibt ChatGPT eigentlich frei von Gewalt und Rassismus? Und: Gesichtserkennung gegen Iranerinnen.
Ich bin jetzt doch hier bei Substack. Die Plattform scheint nicht umsonst der Marktführer zu sein und Steady hat einfach nicht die Features, die ich gerne hätte. Es steckt irgendwie noch immer in den Kinderschuhen und hier habe ich einfach mehr Möglichkeiten, Euch Inhalte aufzubereiten und mit Euch in Kontakt zu kommen. Damit startet die 100. Ausgabe meines Newsletters nun in neuem Gewand und ein bisschen neu konzipiert. Ich versuche den Newsletter etwas kürzer zu halten – für Euch und für mich. Erstens, kann man gar nicht alles lesen, was ich so teile und zweitens kann ich mit meinem Zeitkontingent nicht so viel liefern, wie ich den Anspruch hatte. Also versuchen wir es so 🙂
Die 100. Ausgabe ist nun auch die erste in 2023 und auch wenn man kein frohes neues Jahr mehr wünscht, so hoffe ich doch, dass Ihr den ersten Monat des Jahes gut überstanden habt. Ich war im letzten Newsletter wohl etwas melancholisch und bin es immer noch. Aber das wird auch wieder verfliegen, schließlich werden die Tage wieder heller und dieses Berliner Grau, das schrecklich aufs Gemüt schlägt, verschwindet auch wieder. Der Frühling naht, auch wenn es noch immer etwas dauert. Aber die Hoffnung naht.
Mittlerweile hatten wir vom Beirat zur Umsetzung der Digitalstrategie der Bundesregierung auch die erste Sitzung und es gibt sicher ganz bald auch die erste Kommunikation dazu. Wir hatten das BMI und das BMWK mit dem Dateninstitut und das BMDV mit seinen Vorhaben für Mobilitätsdaten zu Gast. Was ich allen, die sich für die Digitalstrategie interessieren nochmal mitgeben kann: wir beschäftigen uns im Beirat nur mit den Leuchtturmprojekten, nicht mit der gesamten Strategie. Die wurde im Übrigens im Sommer von der Bundesregierung verabschiedet. Änderungen an ihr werden daher von uns nicht vorgenommen und brauchen daher auch nicht gepitcht werden 😉
Nun aber viel Vergüngen mit dieser Ausgabe. Ich freue mich auf Feedback!
Ann Cathrin 🐣
ChatGPT und die Ausbeutung von kenianischen Arbeiter:innen
OpenAI Used Kenyan Workers on Less Than $2 Per Hour to Make ChatGPT Less Toxic
Na, wer hat nicht auch mit ChatGPT herumgespielt und sich unterhalten? Ausgetestet, wie weit die Leistungsfähigkeit der KI-Anwendung reicht. Mittlerweile hat sie so einige Prüfungen an amerikanischen Unis bestanden, darunter auch Abschlussprüfungen. Auch ich war ganz begeistert über die Texte, die mir die Maschine ausgespuckt hat, auch wenn ich manches Mal Hilfe brauchte, um die richtige Frage zu stellen, damit ich auch meine gewünschte Antwort bekam.
ChatGPT von OpenAI beantwortet jedoch nicht alle Fragen. Nachdem es mit anderen KI-Anwendungen, die in früheren Jahren der Öffentlichkeit zur Verfügung gestellt wurden, ziemlich schnell Skandale gab, weil sie – trainiert durch die Nutzer:innen – recht schnell sexistisch und rassistisch, ja richtige Nazis wurden, hat man nun vorgesorgt. Auch wenn man ChatGPT austricksen kann: zu Gewaltverherrlichung, Rassismus und Sexismus lässt sich die KI nicht verleiten. Ethische KI also?
Mitnichten. Insbesondere dann nicht, wenn man sich die gesamte “Lieferkette” einer KI-Anwendung ansieht. Man muss wohl immer und immer wieder darauf hinweisen: Technologien wie künstliche Intelligenz sind keine Magie. Sie sind nur so gut, wie sie von Menschen trainiert werden. Sie weiß nur, dass eine Katze eine Katze ist, weil man ihr abertausende Bilder von einer Katze aus allen möglichen Blickwinkeln gezeigt hat und dabei sagte: “Dies ist eine Katze”. Ein Kleinkind lernt da schneller. Damit eine KI weiß, was ein “schlechter” oder ein gesellschaftlich unerwünschter Inhalt ist, muss man ihr das sagen. Für beide Fälle müssen die Daten, also Bilder, Texte oder Videos entsprechend gelabelt werden. Das gilt daher auch für Darstellungen und Beschreibungen von Suizid, Mord, Vergewaltigung und Kindesmissbrauch. Das alles in nicht-vorstellbar detaillierten Bildern und Texten.
Diese Labels erstellen häufig Menschen unter wirklich schlechten Arbeitsbedingungen. Zum Beispiel in Kenia. Für wenige Dollar pro Stunde labeln dort Arbeiter:innen für ChatGPT Datensätze, die Unvorstellbares darstellen. Dreckarbeiten, um das Internet und solche Technologien “sauber” zu halten, werden häufig in Länder des Globalen Südens outgesourct. Was früher die Fußbälle1 waren, sind heute die Datensätze.
Sama, das kenianische Unternehmen, das Auftragnehmer für OpenAIs ChatGPT war, kam bereits in die Schlagzeilen – oder besser: auf Cover des TIME-Magazins –, da ein Mitarbeiter, Daniel Motaung, als Whistleblower öffentlich machte, unter welchen Umständen er und seine Kolleg:innen für Big Tech-Unternehmen Daten labeln müssen. Damals ging es um Content-Moderation für Facebook. Versprochene – wohl auch den Auftraggebern zugesicherte – psychologische Betreuung der Arbeiter:innen gab und gibt es nur ungenügend. Dabei ist sie essentiell, wenn man mit den schlimmsten Darstellungen von Vergewaltigung und Kindesmissbrauch umgehen muss, die man sich nur vorstellen kann – oder besser nicht.
Thema ist das alles kaum in der deutschen und europäischen Öffentlichkeit und Politik. Dabei betrifft das alles auch uns als Nutzer:innen dieser Technologien und Plattformen. Wichtig wäre, dass Whistleblower wie Daniel Visa bekommen, damit sie hier in Deutschland und Europa ebenso wie die US-Whistleblowerin Frances Haugen davon berichten können, was im Innersten dieser Plattformen vor sich geht. Doch leider ist es selbst – oder erst recht? – für Whistleblower:innen aus dem Globalen Süden nahezu unmöglich, ein Visum zu erhalten.
Tech und Iran: Gesichtserkennung und fehlender Big Tech-Support
Iran Says Face Recognition Will ID Women Breaking Hijab Laws
Tech Workers Fight for Iran Protesters as Big Tech Plays It Safe
In Iran protestieren und sterben weiterhin Menschen. Sie alle kämpfen für Freiheit, insbesondere die von Frauen. Das Mullah-Regime unterdrückt sie seit Jahrzehnten – nicht nur die die Pflicht sich zu verschleiern. Technologie nutzt auch dieses so archaische Regime. Chinesische Überwachungskameras mit der Fähigkeit, Gesichter zu erkennen, auch gerne in China zur Unterdrückung der muslimischen Uiguren und anderer Minderheiten eingesetzt, kommen auch hier zum Einsatz. Auch wenn es für diesen bislang nur starke Vermutungen gibt. Es kommt immer häufiger vor, dass Frauen, die kein Kopftuch tragen, oder wie die im September getötete Jina Mahsa Amini eines, das “nicht richtig” sitzt, kurze Zeit später vom Regime zuhause aufgesucht werden.
Bereits 2020 bekamen Frauen, die in einem Auto das Kopftuch “nicht richtig” trugen, eine SMS, dass sie auf diese “Verfehlung” und mögliche Konsequenzen hinwies. Ein Hinweis darauf, dass Technologie im Einsatz ist, die sie auf den Straßen Irans überwachen. Ähnlich wie beim chinesischen Social-Credit-System drohen auch in Iran Frauen Sanktionen, sofern sie sich nicht an die Gesetze halten: das Verbot öffentliche Verkehrsmittel zu nutzen, Verlust des Zugangs zum Bankkonto oder der Ausschluss von staatlichen Leistungen. Die Daten haben die Autoritäten laut Mahsa Alimardani durch eine staatliche Datenbank, die biometrische Daten, wie Gesichtsaufnahmen, beinhaltet.
Viele Iraner:innen in der Diaspora versuchen die Menschen in Iran zu unterstützen. Darunter auch viele Menschen der Tech-Branche. Sie stellen Tools und VPNs zur Verfügung, damit Iraner:innen in Iran Zugang zu freien Informationen haben. Viele, die für Big Tech-Unternehmen arbeiten, sind jedoch enttäuscht von ihren Arbeitgebern. Haben Unternehmen wie Google und Microsoft die Menschen in der Ukraine mit ihren Dienstleistungen in großem Umfang für ihren Freiheitskampf unterstützt, so fällt er im Vergleich für die Iraner:innen eher mickrig aus. Viele fragen sich, ob Iran nicht wichtig genug ist und möglich ist schon, dass die gefährdete Sicherheit Europas durch den Krieg gegen die Ukraine schon eine geopolitische Rolle spielt. Zur Wahrheit gehört wohl aber auch, dass es die Sanktionen gegen Iran, insbesondere die der USA, obwohl sie mit Beginn der Proteste gelockert wurden, um digitale Unterstützung zu ermöglichen, Tech-Konzerne immer noch zögern lassen, da nicht alle Widrigkeiten geklärt sind.
Gesichtserkennung im öffentlichen Raum sollte verboten sein. Das fordern wir auch mit LOAD und haben daher im Dezember letzten Jahres reclaim your face mit unserem Ehrenamtspreis zusammen mit der Thomas-Dehler-Stiftung ausgezeichnet. Ein Bündnis, das wir selbstverständlich auch aktiv unterstützen, gemeinsam mit mehreren reonmmierten Organisationen. Die EU plant gerade wieder massenhafte Datensammlungen, unter anderem biometrischer Daten: für Drittstaatler an den Außengrenzen.
Im EES mit biometrischer Grenzkontrolle müssen sich Bürger aus Drittstaaten künftig im Rahmen des "Smart Borders"-Programms mit vier Fingerabdrücken und biometrischem Gesichtsbild in der EU registrieren lassen. Die Datenbank soll "intelligente Grenzkontrollen" nach US-Vorbild ermöglichen, die zulässige Dauer eines Kurzaufenthalts berechnen und bei Überziehung automatisch die nationalen Sicherheitsbehörden verständigen.
Gruselig.
Wer über Iran informiert bleiben will, folgt bitte unbedingt Gilda Sahebi oder Ali Fathollah-Nejad. Die bereits oben erwähnte Mahsa Alimardani für alles rund ums Thema Tech und Überwachung. Ella Jakubowska ist die Richtige, um über biometrische Überwachung und Gesetzesvorhaben hierzu in der EU auf dem Laufenden zu bleiben.
Und sonst noch…?
Ich war zwar gerade nicht auf Twitter, aber frage mich, ob die Entrüstung über die Entsperrung Trumps auf den Plattformen von Meta genauso groß war, wie damals auf Twitter? Mich beschleicht häufig das Gefühl, dass Entrüstung sich eher an der Persönlichkeit eines CEOs einer Plattform fest macht und nicht an der Macht an sich, die er innehat. Denn groß unterscheiden sich die von Elon und Mark nicht.
Gute Nachrichten: Die SPD-Innenpolitiker:innen lehnen jetzt auch das Client-Site-Scanning ab. Dass die #Chatkontrolle der EU verhindert wird, ist aber noch nicht klar. Viele Mitgliedstaaten sind nicht so kritisch, wie die deutsche Bundesregierung 🥴
Tim Rühlig hat ein Papier zu “Europe’s Strategic Technology Autonomy From China” herausgegeben.
Cyber-Sicherheit im Weltraum: Daniel Voelsen hat dazu ein neues Papier veröffentlicht.
Als Digitalbeirätin des Landes Sachsen-Anhalt freut mich das ganz besonders: Das Land ist GovData beigetreten und damit sind nun fast alle Bundesländer dabei und stellen ihre offenen Daten in einem gemeinsamen Portal zur Verfügung.
Mit Twitter Blue kann man sich den “blauen Haken” kaufen. Die Taliban haben davon direkt mal Gebrauch gemacht – Twitter machte die Verifizierung aber wieder rückgängig.
Weibliche Nippel auf Facebook und Instagram? Geht nicht. Das Facebook Oversight Board hat Meta nun aufgefordert, die Regeln anzupassen, denn der Umgang mit transgender und non-binary Menschen ist nicht klar und problematisch.
Privavy by design wird bald ISO-Standard 🥳
Ein 🐆-Tweet des Auswärtigen Amts ging komplett daneben. Afrikaner:innen haben genug von der westlichen Arroganz und fordern: »Entschuldigt euch nicht. Seid einfach vorsichtig. Und respektiert uns, wie wir euch respektieren.«
Ängste first, Ukraine second. Hendrik Wieduwilt über Scholz’ “Führung”.
“„Die Gesellschaft ist überall gewaltvoll, und wenn du mehrfach marginalisiert wirst, ist es nie sicher für dich“, fasst er zusammen. Was deutlich wird: Es ist für einen jungen, queeren, muslimischen, deutsch-syrischen Mann völlig selbstverständlich, sich heute im öffentlichen Raum in diesem Land nicht sicher zu fühlen. Das ist sie also, die deutsche Normalität.” Zuher Jazmati im Veto Magazin ❤️
📚 Tipp: Adrian Daub – Cancel Culture Transfer. Wie eine moralische Panik die Welt erfasst. Wichtiges und kurzweiliges Buch für alle, die Argumente für die hundertste “Cancel Culture 😱🤬”-Diskussion brauchen und all die, denen wirklich was an Diskurs, Meinungsfreiheit und liberalen Werten liegt. Adrian Daub zeigt, wie einige wenige Anekdoten herausgepickt und herumgereicht werden und damit auch hierzulande zu einer verzerrten Wahrnehmung führen. Anhand quantitativer Analysen zeichnet er nach, wie diese Diagnosen immer weitere Kreise zogen, bis sie auch die Twitter-Kanäle deutscher Politiker erfassten. Wer vorer noch ein Interview lesen mag: hier beim Spiegel (€) oder hier ein Bericht bei ttt.
Natürlich – leider – besteht das Problem noch immer und ist weiterhin aktuell.
Etwas Hoffnung gegen die graue Berliner Tristesse gibt mir manchmal der Blick auf diese Übersicht - die Tage werden sehr bald wieder länger :-)
https://www.timeanddate.de/sonne/deutschland/berlin
Willkommen auf Substack. :)