Eine Facebook-Software auf Basis künstlicher Intelligenz soll verhindern, dass in Livestreams auf der Plattform Gewalt zu sehen ist. Das Programm hat allerdings beim Video des Massakers von Christchurch nicht reagiert. Der Attentäter, der am vergangenen Freitag 50 Menschen bei Angriffen auf zwei Moscheen im neuseeländischen Christchurch tötete, übertrug die Attacke in Echtzeit beim Dienst Facebook Live. Das Unternehmen bekräftigte frühere Angaben, wonach der 17-minütige Livestream von weniger als 200 Nutzern gesehen wurde und der erste Nutzerhinweis zwölf Minuten nach dem Ende der Übertragung das Online-Netzwerk erreichte. Nach dem Ende eines Livestreams bleibt eine Aufzeichnung verfügbar.
Um zu erreichen, dass die Facebook-Software solche Inhalte rechtzeitig erkennt, „müssen wir unsere Systeme erst mit großen Mengen von Daten von genau solchen Inhalten versorgen – was schwierig ist, da solche Ereignisse dankenswerterweise selten sind“, erklärte das Online-Netzwerk am Donnerstag. Eine weitere Herausforderung für die Software sei, echte Gewalt von der Übertragung von Videospiel-Szenen zu unterscheiden. „Wenn unsere Systeme zum Beispiel bei tausenden Stunden von Livestreams aus Videospielen Alarm schlagen würden, könnten unsere Prüfer die wichtigen Videos aus der realen Welt verpassen“, bei denen Facebook Helfer alarmieren könnte.
300.000 Mal wurde Video neu hochgeladen
Nach wie vor bleibt unklar, wie lange das ursprüngliche Video des Angreifers online war, bevor es von Facebook entfernt wurde. Das Online-Netzwerk erklärte, dass der Hinweis schneller bearbeitet worden wäre, wenn jemand das Video noch während des Livestreams gemeldet hätte. Das ursprüngliche Video sei rund 4.000 Mal gesehen worden – zur späteren Verbreitung habe aber beigetragen, dass mehrere Nutzer Kopien bei anderen Diensten hochgeladen hätten.
Facebooks Software blockierte in den ersten 24 Stunden zwar 1,2 Millionen Versuche, das Video erneut hochzuladen – ließ aber auch rund 300.000 Uploads durch. Das liege unter anderem daran, dass man es mit über 800 veränderten Varianten des Videos zu tun gehabt habe.
