Aanbeveling van de Commissie over maatregelen om illegale online-inhoud doeltreffend te bestrijden

Veelgestelde vragen

In haar mededeling van september 2017 over de bestrijding van illegale online-inhoud heeft de Europese Commissie beloofd dat ze zal toezien op de vooruitgang in de strijd tegen illegale online-inhoud en dat ze zal nagaan of er extra maatregelen nodig zijn voor een snelle en proactieve opsporing en verwijdering van illegale online-inhoud, eventueel in de vorm van wetgevingsmaatregelen ter aanvulling van het bestaande regelgevingskader. Daarom beveelt de Europese Commissie vandaag een reeks operationele maatregelen aan - vergezeld van de nodige garanties - die bedrijven en lidstaten moeten nemen om de inspanningen op dit vlak op te drijven alvorens wordt bepaald of er wetgevende voorstellen moeten worden gedaan. Deze aanbevelingen hebben betrekking op alle vormen van illegale inhoud: terroristische inhoud, het aanzetten tot haat en geweld, materiaal dat seksueel misbruik van kinderen bevat, namaakproducten en inbreuken op het auteursrecht.

Terroristische inhoud is het schadelijkst in de eerste uren nadat deze is verschenen vanwege de snelle verspreiding ervan en houdt ernstige risico's in voor de burgers en de samenleving als geheel. Gezien deze urgentie, en naar aanleiding van oproepen van EU-leiders en internationale organisaties zoals de Verenigde Naties en de G7, wordt in de aanbeveling bijzondere nadruk gelegd op terroristisch materiaal: het moet worden verwijderd binnen één uur nadat rechtshandhavingsinstanties en Europol de platforms op de hoogte hebben gebracht.

Hiermee wordt voortgebouwd op de samenwerking met de sector die momenteel loopt in de vorm van verschillende vrijwillige initiatieven om illegale inhoud van het internet te bannen. Daarnaast worden de maatregelen in het kader van andere initiatieven versterkt.

Wat wordt beschouwd als illegale online-inhoud?

Wat offline illegaal is, is dat ook online. Onder "illegale inhoud" wordt alle informatie verstaan die niet in overeenstemming is met het EU-recht of het recht van een lidstaat. Hieronder vallen terroristische inhoud, materiaal dat seksueel misbruik van kinderen bevat (richtlijn ter bestrijding van seksueel misbruik van kinderen), illegale haatuitingen (kaderbesluit betreffende de bestrijding van bepaalde vormen en uitingen van racisme en vreemdelingenhaat door middel van het strafrecht), commerciële oplichting en fraude (zie bijvoorbeeld de richtlijn oneerlijke handelspraktijken of de richtlijn consumentenrechten) en inbreuken op intellectuele-eigendomsrechten (zie bijvoorbeeld de richtlijn betreffende de harmonisatie van bepaalde aspecten van het auteursrecht en de naburige rechten in de informatiemaatschappij).

Met de term "terroristische inhoud" wordt verwezen naar alle materiaal dat kan worden aangemerkt als een terroristisch misdrijf in de zin van de EU-richtlijn inzake terrorismebestrijding of de nationale wetgeving — met inbegrip van materiaal dat wordt geproduceerd door of kan worden toegeschreven aan organisaties die op de EU- of VN-lijst van terroristische organisaties staan.

Wat is het verband tussen deze aanbeveling en de richtsnoeren die de Commissie in september 2017 heeft gepresenteerd?

Deze aanbeveling heeft tot doel uitvoering te geven aan de politieke richtsnoeren die zijn uiteengezet in de in september 2017 gepresenteerde mededeling van de Commissie over de bestrijding van illegale online-inhoud. De richtsnoeren blijven geldig.

De aanbeveling van vandaag gaat nog een stap verder en omvat uitdrukkelijk de operationele maatregelen die de bedrijven en de lidstaten moeten nemen in verband met de opsporing en verwijdering van illegale inhoud door middel van reactieve (zogenoemde "meldings- en actieprocedures") of proactieve maatregelen. De aanbeveling bevat nauwkeurige definities van diverse aspecten van de bestrijding van illegale online-inhoud. Ze vormt een nieuwe stap in de erkenning van betrouwbare flaggers voor de bestrijding van illegale inhoud en bevat aanbevelingen over de manier waarop meldings- en actieprocedures en proactieve maatregelen - met inbegrip van geautomatiseerde instrumenten - in de hele EU kunnen worden ingevoerd om illegale inhoud gemakkelijker te verwijderen, waarbij passende garanties worden ingebouwd op het gebied van tegenmeldingen, transparantie en verslaglegging.

Wat terroristische online-inhoud betreft, bevat de aanbeveling een overzicht van de prioriteiten die zijn vastgesteld in het kader van het EU-internetforum om terroristische inhoud van het internet te bannen. Daarnaast wordt een toelichting gegeven over de verantwoordelijkheden van de bedrijven en de aard en reikwijdte van de maatregelen die ze moeten nemen — met name op het gebied van reactieve maatregelen (in het bijzonder de meldingen van de bevoegde autoriteiten en Europol), maar ook met betrekking tot proactieve maatregelen. De aanbeveling omvat duidelijke mechanismen voor de indiening en verwerking van meldingen om terroristische inhoud doeltreffend op te sporen en te identificeren, en om te voorkomen dat deze opnieuw verschijnt. Het gaat daarbij onder meer om specifieke informatie over de beoordelingstermijn (één uur na de melding) en de daaropvolgende maatregelen om inhoud te verwijderen — er moeten bijvoorbeeld versnelde procedures worden ingevoerd voor de meldingen van de EU-eenheid voor de melding van internetuitingen (IRU) van Europol en nationale meldingseenheden.

Naar aanleiding van de oproepen van EU-leiders wordt internetplatforms in de aanbeveling tot slot aangeraden om regelmatig en transparant verslag uit te brengen over de genomen maatregelen en het tastbare effect ervan. Aan de hand van deze verslagen zal de geboekte vooruitgang kunnen worden beoordeeld en geconsolideerd, en zal worden besloten of er bijkomende maatregelen nodig zijn om de inspanningen tegen terroristische inhoud op te voeren, zoals aangekondigd in de mededeling van de Commissie van september 2017 en opnieuw onderstreept in het meest recente verslag over de veiligheidsunie.

Wat verwacht de Commissie van onlineplatforms op het gebied van de preventie, opsporing en verwijdering van alle vormen van illegale online-inhoud?

De aanbeveling bevat een toelichting over de mechanismen die onlineplatforms moeten invoeren voor de melding van illegale inhoud en de manier waarop meldingen van illegale inhoud moeten worden verwerkt (meldings- en actieprocedures). De onlineplatforms worden ook aangemoedigd om waar passend proactieve maatregelen te nemen om illegale inhoud te identificeren en te verwijderen, bijvoorbeeld met geautomatiseerde middelen zoals uploadfilters.

Daarnaast worden de onlineplatforms in de aanbeveling aangespoord om met de lidstaten, betrouwbare flaggers en onderling samen te werken en hun voordeel te doen met beste praktijken. Dit zal kleinere bedrijven helpen bij de bestrijding van illegale inhoud.

Tevens is in de aanbeveling bepaald dat onlineplatforms een reeks transparantiemaatregelen moeten nemen, ook met betrekking tot hun inhoudsbeleid, en regelmatig verslag moeten uitbrengen over de getroffen maatregelen op het gebied van illegale inhoud. Hierdoor zullen de regelgevende instanties kunnen nagaan of de voorgestelde maatregelen doeltreffend zijn.

Waarom wordt in de aanbeveling een onderscheid gemaakt tussen terroristische inhoud en andere illegale online-inhoud?

Aangezien terroristische inhoud bijzonder ernstige risico's met zich meebrengt voor de burgers en de samenleving, zijn er aanvullende aanbevelingen nodig die specifiek gericht zijn op dit onderwerp. Dergelijke inhoud wordt verspreid om te radicaliseren, te ronselen, financiering voor terroristische activiteiten te verwerven en personen voor te bereiden op, te instrueren over en aan te zetten tot het plegen van aanslagen.

Deze aanbeveling speelt in op de behoefte aan proactieve maatregelen en de snelheid waarmee terroristische inhoud, die bijzonder schadelijk is in de eerste uren nadat deze op het internet is verschenen, moet worden beoordeeld en aangepakt. Dit is in overeenstemming met het standpunt van de Commissie dat er waar passend en gerechtvaardigd rekening moet worden gehouden met sectorspecifieke verschillen.

De aanbeveling bouwt voort op en consolideert de vooruitgang die reeds is geboekt in het kader van het EU-internetforum - een belangrijke doelstelling van de Europese veiligheidsagenda - waarbij wordt erkend dat er dringend behoefte is aan een snelle en uitgebreidere reactie. Op de Europese Raad van 22-23 juni 2017 werd erop gewezen dat de Europese Raad verwacht "dat de sector […] technologie en instrumenten ontwikkelt waarmee inhoud die aanzet tot terroristische daden, beter automatisch kan worden opgespoord om vervolgens te worden verwijderd. Dit moet zo nodig worden aangevuld met ter zake doende wetgevingsmaatregelen op EU-niveau." Ook het Europees Parlement heeft er in zijn resolutie over onlineplatforms van juni 2017 bij de platforms op aangedrongen "krachtigere maatregelen te nemen om illegale en schadelijke inhoud online aan te pakken" en heeft de Commissie verzocht voorstellen in te dienen om deze problemen aan te pakken.

Hoe moet de procedure voor de verwijdering van terroristische online-inhoud verlopen?

In overeenstemming met de acties die zijn overeengekomen in het kader van het EU-internetforum, zijn in de aanbeveling een aantal maatregelen vastgesteld om het uploaden en delen van terroristische propaganda op het internet doeltreffend tegen te gaan. Het gaat onder meer om:

• - 

  Verbod op het hosten van terroristische inhoud: Bedrijven moeten in hun gebruiksvoorwaarden expliciet aangeven dat zij geen terroristische inhoud hosten.
• - 

  Verbeterd meldingssysteem: Er moeten speciale mechanismen worden ingesteld voor de indiening en follow-up van meldingen van de bevoegde autoriteiten - en de eenheid voor de melding van internetuitingen van Europol - en er moeten versnelde procedures komen om inhoud binnen één uur na de melding ervan te verwijderen. Tegelijkertijd moeten de lidstaten ervoor zorgen dat zij over de nodige capaciteiten en middelen beschikken om terroristische inhoud op te sporen, te identificeren en te melden aan de onlineplatforms.

• - 

  Eén-uurregel voor meldingen: Aangezien terroristische inhoud bijzonder schadelijk is in de eerste uren nadat deze is verschenen, zouden bedrijven dergelijke inhoud als een algemene regel moeten verwijderen binnen één uur na de melding ervan door de rechtshandhavingsinstanties en Europol.
• - 

  Snellere proactieve opsporing en effectieve verwijdering: Er is behoefte aan proactieve maatregelen, waaronder geautomatiseerde opsporing, om terroristische inhoud effectief en snel op te sporen, te identificeren en snel te verwijderen of te blokkeren en ervoor te zorgen dat deze niet opnieuw verschijnt. Bedrijven moeten passende technologische instrumenten delen en optimaliseren en regelingen treffen voor betere samenwerking met de betrokken instanties, zoals Europol.
• - 

  Garanties: Om de terroristische inhoud die wordt gemeld of via geautomatiseerde instrumenten wordt geïdentificeerd nauwkeurig te beoordelen, moeten de bedrijven voorzien in de nodige garanties - waaronder menselijke controle voordat de inhoud wordt verwijderd - zodat wordt vermeden dat legale inhoud onbedoeld of bij vergissing wordt verwijderd.

  Hierbij moet worden opgemerkt dat het bemoeilijken van de toegang tot terroristische propaganda slechts één aspect is van de totaalaanpak waar terroristische online-inhoud om vraagt. Het andere aspect bestaat uit de ondersteuning van geloofwaardige stemmen om positieve alternatieven of tegenverhalen online te verspreiden. Hiertoe heeft de Commissie binnen het EU-internetforum het programma voor de versterking van het maatschappelijk middenveld (CSEP) opgestart, waarbij gewerkt wordt aan de capaciteitsopbouw en financiering van partners uit het maatschappelijk middenveld om dergelijke verhalen te ontwikkelen.

Hoe worden de grondrechten gegarandeerd?

Het is van essentieel belang dat alle maatregelen ter bestrijding van illegale online-inhoud worden onderworpen aan passende en doeltreffende garanties om ervoor te zorgen dat onlineplatforms voorkomen dat legale inhoud onbedoeld wordt verwijderd.

Ten eerste wordt er in de aanbeveling voor gepleit dat onlineplatforms behoedzaam en evenredig omgaan met de inhoud die ze aanbieden, in het bijzonder bij de verwerking van meldingen en tegenmeldingen en wanneer wordt beslist of illegaal geachte inhoud al dan niet wordt verwijderd of ontoegankelijk wordt gemaakt.

Er moet worden voorzien in specifieke garanties, met name menselijke supervisie en controles, wanneer onlineplatforms gebruikmaken van geautomatiseerde technieken om inhoud te verwijderen ("human-in-the-loop"-model), aangezien een beoordeling van de relevante context nodig is om te bepalen of de inhoud al dan niet als illegaal moet worden beschouwd.

Ten tweede worden de onlineplatforms in de aanbeveling verzocht om de aanbieders van de verwijderde inhoud de gelegenheid te bieden dit besluit aan te vechten via een tegenmelding. Hierdoor kan inhoud die bij vergissing werd verwijderd, worden hersteld.

Ten derde roept de aanbeveling onlineplatforms op om regelmatig verslagen te publiceren, waarin aan het grote publiek wordt uitgelegd hoe zij hun contentmanagementbeleid toepassen.

Zal de aanbeveling gelden voor grote en kleine onlineplatforms? Zal ondersteuning worden geboden aan kleine platforms om illegale inhoud te verwijderen?

De aanbeveling zal gelden voor alle platforms, groot en klein, aangezien kleinere platforms steeds vaker een zacht doelwit voor illegale online-inhoud zijn geworden, met name voor terroristische inhoud. In de aanbeveling wordt evenwel bijzondere aandacht besteed aan kleine platforms. Zo wordt om evenredige maatregelen verzocht en wordt er erkend dat sommige platforms slechts over beperkte middelen en deskundigheid beschikken.

De Commissie pleit voor nauwere samenwerking tussen onlineplatforms om ervaringen en technologische oplossingen uit te wisselen, met name om kleinere platforms te helpen bij de uitvoering van de aanbeveling op het gebied van illegale inhoud, en terroristische inhoud in het bijzonder.

Houdt de aanbeveling een wijziging in van de richtlijn elektronische handel van 2000, die online-tussenpersonen onder bepaalde voorwaarden vrijstelt van aansprakelijkheid voor de inhoud die zij beheren?

Nee. De wettekst laat de richtlijn elektronische handel en de daarin opgenomen aansprakelijkheidsbepalingen onverlet. In haar mededeling van 2016 over onlineplatforms heeft de Commissie zich ertoe verbonden om voor een evenwichtige en voorspelbare aansprakelijkheidsregeling voor onlineplatforms te blijven zorgen, aangezien een essentieel regelgevingskader van cruciaal belang is om digitale innovatie op de digitale eengemaakte markt in stand te houden.

De aanbeveling is een niet-bindende maatregel die het EU-acquis niet kan wijzigen. De aanbeveling maakt evenwel gebruik van de ruimte die de richtlijn elektronische handel biedt, waardoor de sector aan zelfregulering kan doen of lidstaten specifieke vereisten kunnen vaststellen om illegale online-inhoud te verwijderen.

Wat is het verband tussen de aanbeveling en de EU-regels voor audiovisuele mediadiensten die bedoeld zijn om minderjarigen online te beschermen?

De aanbeveling laat de lopende onderhandelingen over de herziening van de richtlijn audiovisuele mediadiensten onverlet. Ze vormt een aanvulling op de herziening, aangezien de richtlijn audiovisuele mediadiensten voorziet in specifieke wetgevingsmaatregelen ter bescherming van minderjarigen online zodat socialemediaplatforms hen tegen schadelijke inhoud en alle burgers tegen haatuitingen beschermen. Tot de maatregelen behoren tools waarmee gebruikers schadelijke inhoud kunnen melden en markeren, en systemen voor leeftijdscontrole en ouderlijk toezicht.

Wat zijn de volgende stappen?

De Commissie zal nauw toezien op de maatregelen die de onlineplatforms nemen naar aanleiding van deze aanbeveling en zal nagaan of aanvullende maatregelen, en eventueel aanvullende wetgeving, nodig zijn. De Commissie zal de geboekte vooruitgang blijven analyseren en in de komende weken een openbare raadpleging houden.

De lidstaten en de bedrijven zullen relevante informatie over de verwijdering van terroristische inhoud binnen drie maanden, en over illegale inhoud binnen zes maanden, moeten indienen.

Als het gaat om terroristische online-inhoud, zal de vrijwillige samenwerking binnen het EU-internetforum worden voortgezet zodat vooruitgang kan worden geboekt met het ambitieuze actieplan voor de bestrijding van terroristische online-inhoud. Dit plan bestaat erin dergelijke illegale inhoud geautomatiseerd op te sporen, relevante technologie en instrumenten te delen met kleinere bedrijven, de "databank van hashcodes" volledig in te voeren en te gebruiken en de rol van het maatschappelijk middenveld bij de ontwikkeling van een alternatief discours te versterken.

Met betrekking tot materiaal dat seksueel misbruik van kinderen bevat, zal de Commissie blijven samenwerken met de lidstaten aan de uitvoering van de richtlijn ter bestrijding van seksueel misbruik van kinderen, en zal zij ondersteuning blijven bieden aan WeProtect, de wereldwijde alliantie ter bestrijding van seksuele uitbuiting van kinderen op internet ("WeProtect Global Alliance to End Child Sexual Exploitation Online") en aan de verbintenissen van de deelnemende landen en partners uit de sector in dat kader.

Wat consumentenbescherming betreft, werkt de Commissie momenteel samen met verschillende onlineplatforms om de veiligheid van online verkochte producten te verbeteren. Er wordt van de platforms verwacht dat zij zich er naast hun wettelijke verplichtingen vrijwillig toe verbinden de productveiligheid te verbeteren.

De Commissie blijft samen met de maatschappelijke organisaties in het oog houden hoe de deelnemende IT-bedrijven de gedragscode voor de bestrijding van illegale haatuitingen op internet toepassen. Het is de bedoeling dat het initiatief ook wordt uitgebreid naar andere onlineplatforms. De aanbeveling bouwt voort op de vooruitgang die is geboekt in het kader van de gedragscode en vormt hierop een aanvulling door in te gaan op kwesties zoals transparantie en feedback van gebruikers.

De Commissie heeft het pakket intellectuele eigendom voorgesteld, met inbegrip van richtsnoeren over de richtlijn betreffende de handhaving van intellectuele-eigendomsrechten. Zij zal ook blijven voortwerken aan memoranda van overeenstemming met verschillende tussenpersonen om concrete oplossingen te vinden voor de verwijdering van namaakgoederen van het internet.

Meer informatie

Persbericht: Een Europa dat beschermt: Europese Commissie intensiveert strijd tegen illegale online-inhoud

Factsheet over illegale online-inhoudhttps://ec.europa.eu/digital-single-market/news-redirect/615293

Aanvangseffectbeoordeling en andere nuttige links

Persbericht: Veiligheidsunie: Commissie brengt verslag uit over terrorisme en radicalisering

Verklaring: Verwijdering van illegale online-inhoud: Commissie dringt bij alle partijen aan op meer inspanningen en snellere vooruitgang

Persbericht: Veiligheidsunie: Commissie gaat illegale inhoud op het internet harder aanpakken

Mededeling: De bestrijding van illegale online-inhoud - Naar een grotere verantwoordelijkheid voor onlineplatforms

MEMO/18/1170