Quatschfreie Interviews

Uploadfilter funktionieren, aber nicht so, wie du denkst.

Ex-Facebook-Mitarbeiter Alexander Mäkelä hat kürzlich mit Hilfe von Alberto Alemanno’s The Good Lobby eine Webbroschüre mit dem Titel Social Media for Change – Ideas, Tools and Best Practices for Civic Engagement and Elections veröffentlicht.

Ich setzte mich mit Alexander zusammen, um seinen Hintergrund und seine Erfahrung in Social Media zu besprechen und zu erforschen, wie das Booklet entstanden ist und für wen und was es bestimmt ist. Dies ist der erste Teil von zwei Artikeln über das Interview.

DK: Kannst du mir ein wenig über dich selbst und deine Reise bis zu diesem Punkt erzählen?

AM: Ich bin Finnisch-Schwedisch, oder besser gesagt Schwedisch-Finnisch, in dem Sinne, dass meine Eltern beide Finnen waren, aber ich bin in Schweden geboren und aufgewachsen. Um das klarzustellen, gehöre ich zur finnischen Minderheit in Schweden, nicht zur schwedischen Minderheit in Finnland.

DK: Ja, ich wollte gerade fragen. Das muss für die Menschen verwirrend sein, wenn man sie zum ersten Mal trifft.

AM: Ha ha ha, ja. Im Allgemeinen komme ich aus einer Art gemischtem Hintergrund, der mich international geprägt hat, was dazu geführt hat, dass ich die Dinge immer globaler betrachtet habe. Ich verließ Schweden so schnell wie möglich, um in Großbritannien, Kanada und hier in Belgien zu studieren. Ich arbeitete auch in verschiedenen Städten, wie Paris und London, und bewegte mich viel zwischen sehr internationalen, pulsierenden Orten.

Mein erster Job war die Produktentwicklung bei der Body Shop, einem Unternehmen im Besitz von L’Oreal. Es geht also um Make-up, Duft, Body Butters. Ich habe Business Cases mit Marketing Insights bearbeitet und dort auch den ersten Kontakt zu Social Media hergestellt. Es ist eine sehr wettbewerbsfähige Branche und Sie gewinnen Kunden, indem Sie wirklich gute Marketingkampagnen durchführen. So verstehen wir Social Media aus der Sicht des Influencers. Wie nutzt man Bindungen auf eine bestimmte Weise, um Emotionen bei Kunden zu beeinflussen? Wie macht man eine monatelange Kampagne in verschiedenen Phasen?

Schließlich bin ich in Brüssel gelandet, wie es viele Menschen tun. Ich habe ein Praktikum bei der Europäischen Kommission absolviert und meinen Master-Abschluss in europäischer Politik gemacht. Ich bin auf die Kommission zurückgekommen und habe für eine Weile Folgenabschätzungen bewertet, um sicherzustellen, dass sie evidenzbasiert bleiben.

Dann fand ich diese Stellenausschreibung bei Facebook, die ein wahrgewordener Traum war, in dem Sinne, dass ich mich von klein auf für Technik und Sci-Fi interessiert hatte. Als ich mit Star Trek aufgewachsen bin, war Silicon Valley für mich immer sehr attraktiv.

Ich war dort als Mutterschaftsurlaubsdeckung für ein Jahr, also wurde ich weder gefeuert noch beschlossen zu gehen, die Vertragslaufzeit war einfach abgelaufen. Aber es war auf jeden Fall ein unglaubliches Jahr. Ich arbeitete an Dingen wie gefälschten Nachrichten, Hassreden und Wahlintegrität. Ich wurde auch einer der leitenden Mitarbeiter, der an Policy-Marketing-Material arbeitet, in einem Unternehmen, das wirklich gut darin ist, Marketingmaterial zu erstellen. Das ist in etwa so, kurz gesagt.

DK: Warum hat Facebook am Policy-Marketing gearbeitet?

AM: Ich war Teil des Public Policy Marketing Teams. Um unsere Position zu bestimmten Themen zu ermitteln, haben wir Marketingmaterial erstellt, z.B. könnten dies erstaunliche Diadecks für VP’s, Broschüren und dergleichen sein, aber mit einem Social Media Touch, so dass es irgendwie wie Instagram oder Facebook aussieht.

DK: Es ist auch interessant zu hören, dass sie viel Zeit investiert haben, um Themen wie Hassreden, gefälschte Nachrichten usw. anzugehen.

AM: Facebook wurde viel genauer unter die Lupe genommen und ich denke, wenn man so groß ist, sollte man sich wahrscheinlich genauer ansehen. Es gab viele Probleme. Es ist die größte Social Media Plattform der Welt, was ist das, 2,2 Milliarden Menschen, die sie nutzen? Offensichtlich hat nicht jeder gute Absichten, also werden einige Leute versuchen, ihre rassistischen Pläne zu verbreiten, einige Leute werden versuchen, gefälschte Nachrichten zu verbreiten, sei es, um zu versuchen, die Leute zu Links und Werbefarmen zu leiten, wo sie nur durch Werbung bombardiert werden. Weißt du, ich spreche von diesen Links wie „Top 10 etwas Etwas…“ und du klickst darauf und plötzlich gibt es hundert Anzeigen. Bis zu einem gewissen Grad kann das auch als gefälschte Nachrichten, spammy Art von Inhalten betrachtet werden.

Um fair zu sein, viele Menschen haben auch begonnen, Social Media für Wahlen zu nutzen, und als Unternehmen hat Facebook wirklich verstanden, dass es eine Schlüsselrolle in der Gesellschaft spielt und dass die Menschen es für gut und schlecht nutzen. Es geht darum, diese schlechten Situationen zu mildern und sicherzustellen, dass kein politischer Akteur eine der Plattformen zu seinem Vorteil nutzen kann, um sicherzustellen, dass es gleiche Wettbewerbsbedingungen gibt.

Das Unternehmen hat entweder bereits die Initiative ergriffen oder arbeitet mit Behörden zusammen, zum Beispiel mit der Europäischen Kommission. Die Hassredenarbeit, die wir auf Facebook geleistet haben, konzentrierte sich sehr darauf, NGOs zu schulen, wie man schnell Notizen über Hassredeninhalte macht, sie zu schulen, wie man sie leicht findet und identifiziert und sicherzustellen, dass sie alle Werkzeuge haben, die sie benötigen, um sicherzustellen, dass ihre Plattformen so benutzerfreundlich wie möglich sind, was sehr wichtig ist. Du willst nicht auf eine Plattform gehen, auf der du hasserfüllte Inhalte siehst.

Facebook hat sich auch mit der Terrorismusbekämpfung beschäftigt. Mit Hilfe von Algorithmen und Filtern wurden 99% der Al Qaida- und ISIS-Inhalte entfernt, bevor es überhaupt bemerkt wurde. Das ist heute das Niveau der Raffinesse.

DK: Es ist sehr interessant, dass Facebook das jetzt tun kann, denn es gab diese große Kontroverse um die Urheberrechtsrichtlinie im Europäischen Parlament. Hochladefilter wurden als Lösung zum Herausfiltern aller illegalen Inhalte propagiert, wie z.B. der gerade erwähnten terroristischen Inhalte, und das Argument gegen sie war, dass es sehr schwierig sei, diese Filter tatsächlich zu erstellen und umzusetzen. Kannst du mir etwas mehr Insider-Informationen darüber geben, wie Facebook damit umgegangen ist?

AM: Wenn es um das Hochladen von Filtern geht, möchte ich zunächst sagen, dass es sich nicht um eine Silberkugel handelt. Im Hinblick auf die Urheberrechtsrichtlinie scheinen viele Menschen im Europäischen Parlament und in Brüssel ganz allgemein zu denken, dass Hochladefilter diese Wundermittel für alles sind, ohne zu erkennen, dass man sich immer zurechtfindet, indem man einfach nur sein Bild oder Video ein wenig optimiert. Du kannst einfach ein oder zwei Pixel leicht umstellen und es wird ausreichen, um das System zu täuschen. Das menschliche Auge wird den Unterschied nicht erkennen. Vielleicht, wenn Sie ein wenig zoomen, können Sie erkennen, dass die Beleuchtung ein wenig ausfällt oder der Kontrast etwas anders ist, aber das reicht aus, um automatische Erkennungssysteme zu umgehen, und nicht jeder kann sich anspruchsvollere Filtersysteme als das leisten.

Wenn es um die Terrorismusbekämpfung geht, die Facebook betreibt, kooperiert es mit vielen anderen Unternehmen über GIFCT, das Global Internet Forum to Counter Terrorism. Sie verfügen über eine branchenweite Hashing-Datenbank. Es setzt Tags auf bestimmte Inhalte, die zuvor entfernt wurden. Sie arbeiten auch mit Strafverfolgungsbehörden und nationalen Regierungen sowie vielen NGOs und sogar der Wissenschaft zusammen, um sicherzustellen, dass die Filter wirklich verstehen, welche Art von Bildern, Videos oder Texten entfernt werden sollen. Gleichzeitig ist es auch sehr schwierig in dem Sinne, dass man sich fragen muss: Wie unterscheidet man zwischen jemandem, der eine terroristische Aktion kritisiert, und jemandem, der sie lobt? Es handelt sich also um einen laufenden Prozess…..

DK: Du benutzt dafür Maschinen-Lernen, nehme ich an?

AM: Ja, und es wird mit der Zeit besser werden, aber im Moment sind Filter keine Silberkugel im wahrsten Sinne des Wortes. Ich denke, mit der Terrorismusbekämpfung ist sie erfolgreich gewesen, weil es eine so enge Zusammenarbeit zwischen den Unternehmen und den nationalen Regierungen und der Europäischen Union gegeben hat. Was das Urheberrecht betrifft, so bin ich mir nicht so sicher, ob wir die gleichen Ergebnisse erzielen können.

DK: Grundsätzlich sollte die Lösung von Facebook zur Terrorismusbekämpfung also transparent sein und mit möglichst vielen anderen Interessengruppen zusammenarbeiten, um sicherzustellen, dass die Filter nicht am Ende Zensur praktizieren.

AM: Ja und gleichzeitig beschäftigt Facebook auch über 200 Mitarbeiter, die sich speziell mit der Strafverfolgung bei der Terrorismusbekämpfung befassen, und es gibt auch Tausende von Inhaltsprüfern. Es geht nicht nur um KI-Systeme, sondern auch um ein menschliches Element.

Wenn es um eher kommerzielle Fragen geht, wie z.B. Urheberrecht, wie stellt man dann eine Urheberrechtsverletzung fest, wenn man ein Content-Reviewer ist? In diesem Szenario wird es etwas kniffliger. Wenn es um Hassreden oder terroristische Inhalte geht, ist sie in der Regel etwas klarer. Es gibt einige Grauzonen, aber Sie können sie viel einfacher bestimmen.

Dominik Kirchdorfer
Dominik is a European writer and entrepreneur of Austrian and Polish descent. His passion is storytelling and he wants to do everything in his power to give the story of Europe a happy ending. He is currently the President of the EFF - European Future Forum, as well as Editorial Coordinator for the EUREKA Network, Editor In-Chief of Euro Babble and Managing Editor of Italics Magazine. Twitter: @NikKirkham
http://www.nikkirkham.eu

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.