Category Archives: #hatespeech

Can you take-down web content democratically? If yes, under which conditions?

Last week, I did a presentation at the VOX-Pol Workshop on Countering Violent Extremism Online and the Impact on Civil Liberties at Harvard University, Berkman Klein Center for Internet & Society.

It covered basic requirements for democratically legitimate content regulation (incl. take-down), especially related to:

  • the justification of content regulation: concrete & specific norms (e.g. criminal law), and
  • procedural requirements to prevent errors & abuse (depending on tech and business developments).

I illustrated my theoretical accounts by explaining the details of the recent German “hate speech” law, binding social media platforms to take down illegal content upon user request within 1-7 days (with the threat of severe fines). Emphasis was given to the fact, that the law does not only provide for self-regulation in content-regulation (privatization of law-enforcement), but covers 22 complex offenses (instead of incitement to hatred, only), e.g.:

  • Encouraging the commission of a serious violent offense endangering the state,
  • Treasonous forgery,
  • Forming of criminal or terrorist organizations,
  • Insult and defamation, and
  • Forgery of data intended to provide proof.

I finished with an overview about main criticism related to the law, especially the lack of

  • user rights of objection (counter-notice procedures for cases legal content was taken-down by accident), and
  • meaningful public oversight about private content regulation.

All aspects need to be included into the new discussion of automated content regulation, with help of AI.  A paper is due to follow, the presentation can be downloaded here.

#besserstreiten: #hatespeech im globalen Kontext

„Slavery, the Gulag, the Holocaust (…) Ruanda (…) required a complete monopoly over the media, over expression, a complete monopoly over, in fact, consciousness, at times through the church. So I’m asking you (…) Where are the greatest dangers to our common values? (…) What are the sources of the greatest risks to our common humanity in contexts where governments are using state of emergencies to curtail dissent, are using counter-terrorism to put in prison people who are at the frontline of combatting terrorism and calling for tolerance? (…) I want you (…) to think (…) seriously about the response we are gonna bring to hate speech, and whom are we gonna target, and whom are we gonna try to bring back to the respect for human rights!“ (Dr. Agnes Callamard, UN Symposium Tracking Hatred 2015).

Agnes Callarmard brachte mit diesem Zitat jüngst wesentliche Fragen zu Content Regulierung auf die Agenda, ein Thema, was mich bereits in meiner Diplomarbeit (2011) beschäftigte. Angeregt von der Zensursula-Debatte diskutierte ich damals vor allem das Löschen, Sperren und Filtern  von strafbaren Inhalten in Deutschland, und zwar aus einer demokratietheoretischen Perspektive und unter Berücksichtigung der zunehmenden Selbst- und Koregulierung im Bereich Internetpolitik. Nicht nur ist diese Arbeit heute veraltet,  sie berücksichtigte weder soziale Netzwerke noch Formen der umfassenden Daten- und Netzwerkanalyse (#bigdata).  Gleichfalls war ihr Fokus beschränkt auf liberale Demokratien, die Zusammenhänge zwischen lokalen und globalen Kommunikations- und Zensurinfrastrukturen waren leider ausgeklammert.

Deshalb habe ich die aktuelle Debatte zu #hatespeech im Netz bzw. zum Löschen von #hatespeech in sozialen Netzwerken zum Anlass genommen, meine Gedanken neu zu strukturieren, diesmal unter Berücksichtigung der Netzwerkeffekte und Netzwerkanalysetools sowie weltweit zunehmender Zensur- und Repressionsmaßnahmen und einer Konzentration von Medien (Reporter ohne Grenzen: Rangliste). Im Ergebnis diskutiert der Artikel “hatespeech im globalen Kontext” (22.04.2016, Netzpolitik.org) die aktuellen Löschforderungen seitens des BMJV gegenüber Google, Facebook und Twitter in Deutschland, verortet die Diskussion im globalen Kontext und zeigt online und offline Alternativen zum Umgang mit #hatespeech im Netz. Großer Dank geht dabei an das UN Symposium “Tracking hatred: An international dialogue on HATE SPEECH in the media” (United Nations Alliance on Civilizations, 2015, #spreadnohate), welches den Artikel maßgeblich inspirierte.

*Update 15.01.2017*

Nach den US-Wahlen und infolge der Debatte um eine mögliche Mitverantwortung Facebook’s an der Wahl Donald Trumps habe ich meine Einschätzungen zum Thema Hatespeech, Fake News und Facebook erneut überarbeitet – diesmal unter besonderer Berücksichtigung amerikanischer Lösungsansätze und dem Zusammenspiel von technischen, wirtschaftlichen und politischen Aspekten:  Warum der bisherige Kampf gegen #hatespeech und #fakenews auf Facebook irreführend ist – und welche Alternativen sich bieten