Cart 0
Moin Sisters,
manche Dinge will ich ganz genau wissen. Wenn mich etwas beschäftigt, dann will ich es verstehen und zwar richtig.
Ich habe mich länger mit dem Algorithmus verschiedener Plattformen beschäftigt, weil mir immer wieder auffällt, dass einige Bilder nicht wirklich ausgespielt werden. Was regelmäßig bei mir zu einer Instagram-Krise führt.
Ich frage mich regelmäßg: Werden dicke Körper wirklich angezeigt? Funktionieren Körper von weißen und schlanken Frauen besser als die von uns dicken Mädels? Was kann eine KI ( Künstliche Intelligenz) und wie können wir selbst bestimmen was wir sehen? Wie können wir eine KI positiv beeinflussen? Können wir das überhaupt?
Dazu musste ich einen Nerd befragen, der sich mit dieser Thematik bestens auskennt.
André Haase ( Senior Security Architect) stand mir für meine Fragen zur Verfügung.
Was ist eine KI und ist diese wirklich diskriminierend?
Systeme mit sogenannter „künstlicher Intelligenz (KI)“ basieren auf verschiedenen Algorithmen, neuronalen Netzen (Verdrahtungen ähnlich einem Gehirn) und sind bisher nicht wirklich intelligent. Untrainiert sind diese völlig neutral. Durch die Nutzung nicht sorgfältig ausgewählter Trainingsdaten kommt es immer wieder vor, dass diese Systeme rassistisch, frauenfeindlich oder benachteiligend werden. Dies ist in der Regel unbeabsichtigt und kann nur durch sorgfältiges Auswählen der Trainingsdaten vermieden werden. Auch können diese Systeme nur das tun, wofür sie trainiert wurden.
Trainiert man ein neuronales Netz beispielsweise mit Bildern von Hunden und Papageien, inkl. der jeweiligen Antwort, dann kann man hinterher Bilder übergeben und bekommt eine entsprechende Antwort. Im einfachsten neuronalen Netz, sind es die Antworten, ob ein Bild einen Hund oder einen Papagei zeigt. Dass funktioniert hervorragend, wenn man nur Bilder von Hunden oder Papageien übergibt. Übergibt man nun ein Bild einer Katze, wird das neuronale Netz sich aufgrund der Ähnlichkeiten in den meisten Fällen dazu entscheiden, einen Hund zu sehen. Katzen kennt es nicht und ein Papagei hat Flügel und nur zwei Beine, der Hund aber 4 und auch einen Schwanz.
Problematisch wird dass dann, wenn einfach ohne Bereinigung historische Daten in eine KI trainiert werden.
Dass wird zum Beispiel inzwischen gerne in Firmen gemacht, um Bewerber auszusortieren, hier werden dann die Personaldaten der bisherigen Mitarbeiter übergeben oder bei der Polizei, um Verbrechen und Täter vorherzusagen (Predictive Policing), bei dem dann Daten von Gefängnisinsassen, Verurteilten und weitere Informationen übergeben werden.
Das Problem daran: In vielen größeren Firmen überwiegen weiße Männer als Mitarbeiter alle anderen Menschen. Die KI bevorzugt diese dann basierend darauf, dass die bisher in der Firma auch bevorzugt eingestellt wurden, da die KI nichts davon weiß, wie das zu Stande kam und dass das eigentlich unsinnig ist. Frauen, Menschen anderer Hautfarbe, etc. werden dann eher abgelehnt, bei eigentlich gleicher fachlicher Eignung. Die KI ist dann rassistisch und frauenfeindlich geworden, obwohl das überhaupt nicht beabsichtigt war. Beim Predictive Policing, das derzeit gerne in den USA Verwendung findet, ist es ähnlich. Da die meisten Insassen in den Gefängnissen andere Hautfarben aufweisen oder anderer Herkunft sind, werden diese auch überproportional als Täter klassifiziert. Die KI ist dann rassistisch, obwohl es eigentlich keinen Grund dafür gibt, sondern das eigentliche Fehlverhalten als Basis dienen sollte.
Und wie ist es bei Instagram?
Etwas anders ist das Ganze bei Firmen wie Facebook, Instagram, etc. bezüglich der angezeigten Beiträge in den Nachrichtenstreams. Auch hier kommen KI-Systeme zum Einsatz. Anders als bei den vorher genannten Beispielen, trainieren die Nutzer diese Systeme aber Großteils selbst durch ihre Nutzung der Dienste. Zwar gibt es unzählige weitere Faktoren, die von den Anbietern gut gehütet und nicht veröffentlicht werden, aber einige davon sind leicht zu erraten anhand der Geschäftsziele dieser Firmen.
Die Onlinezeit der Nutzer ist eines der wichtigsten Ziele, um Geld zu verdienen. So wird die Rendite durch Werbung ganz sicher als ein Faktor berücksichtigt und vermutlich auch relativ stark gewichtet. Ohne entsprechendes Interesse zu erzeugen, damit der Nutzer möglichst lange auf der Seite bleibt, bringt dies aber nicht so viel.
Jede Minute, die ein Nutzer auf der Seite oder in der App bleibt, bringt bares Geld und diese Zeit verbringt der Nutzer nirgendwo anders. Also müssen Beiträge oben angezeigt werden, die den Nutzer möglichst besonders interessieren. Und was den Nutzer interessiert, hat er unbewusst der KI beigebracht. Personen, die Freunde sind, denen man folgt, deren Beiträge man liest, vor allem, wenn man lange in denen verweilt, häufige Interaktion mit diesen Personen und natürlich auch abonnierte Seiten, Beiträge und Feeds. Das alles und noch vieles mehr fließt in die Bewertung ein, wie interessant ein Beitrag für die jeweilige Person ist und das bestimmt dann den Platz in der Reihenfolge.
Ist ein Beitrag voraussichtlich besonders interessant und bringt auch noch Werbegeld, dann landet er ganz sicher sehr weit oben. Die Nutzer bewegen sich durch ihr eigenes Nutzerverhalten in einer Art Blase und verfestigen diese durch weitere Interaktionen. Ausbrechen kann man nur, wenn man atypische Aktionen durchführt und auch mal ganz andere Begriffe sucht. Dann erweitert sich die Blase.“
Mein Fazit
Instagram, Facebook und Co sind Unternehmen, die mit unseren Daten und Anzeigen Geld verdienen. Rein unemotional betrachtet, ist eine KI also erstmal neutral , muss aber lernen und kann mit positiven Bildern gefüttert werden. Wenn es also zum Beispiel in der Vergangenheit keine grosse Auswahl an Bildern von dicken Mädels gab, dann können wir eine neue Historie erschaffen und sichtbar werden. Das ist viel Arbeit!
Den wirklichen Algorithmus hält Instagram unter Verschluss. Ich bin mir aber sicher, dass es einen Werbekatalog mit Bildern gibt, die bevorzugt ausgespielt werden. Und das sind eben weiße, schlanke Frauen und Männer, die die Themen abdecken, die am besten funktionieren und eine Rollenverteilung wie in den 50iger Jahren propagieren. Leider die Wahrheit. Siehe hierzu WEIBLICHE SELBST-INSZENIERUNG IN DEN NEUEN MEDIEN
Wenn wir also alle mehr dafür sorgen, dass wir den für uns wichtigen Content anschauen, ändert sich viel.
Wenn wir unsere Lieblingsaccounts supporten, liken, teilen und ihnen helfen zu wachsen, dann ist bereits viel erreicht.
Alles Liebe,
