Vous êtes sur la page 1sur 10

http://www.cnnumerique.

fr/terrorisme 1











Avis n2014-3
sur larticle 9 du projet de loi
renforant les dispositions relatives
la lutte contre le terrorisme






Conseil national du numrique
15 Juillet 2014




http://www.cnnumerique.fr/terrorisme 2

Prambule

Le Conseil national du numrique a t saisi le 25 juin 2014 de larticle 9 du projet de loi renforant les
dispositions relatives la lutte contre le terrorisme. Ces dispositions modifient larticle 6 de la loi du 21
juin 2004 pour la confiance dans lconomie numrique (LCEN) en prvoyant le blocage administratif des
sites diffusant des propos ou images provoquant la commission dactes terroristes ou en faisant
lapologie. Elles largissent galement le champ des outils de notification imposs aux prestataires
techniques.

Afin de rendre un avis le plus clair possible dans le court dlai imparti, le Conseil a procd une
quinzaine dauditions, runissant des experts du terrorisme (sociologues, journalistes, reprsentants
dassociations), de magistrats et avocats spcialiss, des reprsentants de la socit civile, des
membres des services de renseignement et des professionnels du numrique (liste complte disponible
en annexe).



Les dispositions soumises lapprciation du Conseil sinscrivent dans un contexte de multiplication
des dparts de ressortissants franais pour la Syrie - le conflit sy droulant ayant un effet dattractivit
sans prcdent, notamment sur les jeunes.

Le dispositif propos fait partie du plan gouvernemental visant renforcer la lgislation antiterroriste. Il
se donne pour objectif de lutter contre le recrutement terroriste en prvoyant la possibilit pour lautorit
administrative de bloquer directement laccs certains sites ou contenus.

Cette proposition rpond une situation concrte : un grand nombre de contenus circulant sur internet
sous forme de textes, de vidos, dimages et de sons, met en scne des actes terroristes ou des
victimes de conflits pour susciter ladhsion et lempathie des internautes. Les plus motivs dentre eux
sont ensuite orients vers des sites de recrutement, en nombre plus restreint, partir desquels ils sont
reprs pour rejoindre des thtres doprations terroristes. Certains reviennent parfois avec le dessein
de commettre des actions en France. Ces deux phases, lune de diffusion de contenus, lautre de
recrutement, ne peuvent tre amalgames.

Le Conseil national du numrique a dj eu loccasion de faire part de son avis sur des sujets
connexes
1
. Sans sopposer au blocage ou au filtrage de contenus quand ils sont illicites, il prconisait en
de pareils cas de ne jamais droger au principe du recours une autorit judiciaire pralablement
linstauration dun dispositif de surveillance, de filtrage ou de blocage de contenus sur Internet. Le
dispositif se propose de passer outre ce principe de contrle judiciaire pralable pour des raisons
defficacit, en intervenant en amont du recrutement des candidats pour les empcher daccder aux
contenus de propagande et aux sites de recrutement. Il ne fait pas la distinction entre lefficacit contre
le recrutement terroriste et la communication face la propagande terroriste. Ces deux problmatiques
appellent pourtant des rponses de nature diffrente.

Daprs les explications obtenues au sujet du projet de loi, le dispositif propos vise plus
particulirement donner ladministration les moyens dagir dans lurgence face la grande viralit
des contenus et des sites, alors quune dcision judiciaire est aujourdhui ncessaire pour bloquer
chaque rplique des contenus.


1
Voir lavis n2013-4 sur la proposition de loi renforant la lutte contre le systme prostitutionnel
(http://www.cnnumerique.fr/avis-prostitution/), lavis n2013-6 du 17 dcembre 2013 sur les contenus et les
comportements illicites en ligne (http://www.cnnumerique.fr/contenus-illicites/) et lavis n2013-5 du 6 dcembre 2013
sur les liberts numriques (http://www.cnnumerique.fr/libertes-numeriques/).

http://www.cnnumerique.fr/terrorisme 3
Or, il ressort des autres auditions quune distinction doit tre opre entre le recrutement et lactivation,
et que les processus dattraction sont lents et progressifs. Les cibles passent le plus souvent par de
nombreuses phases dendoctrinement et dintgration avant dtre incites passer lacte ou
rejoindre un groupe. De lavis de plusieurs professionnels de la lutte antiterroriste, ces sites de
recrutement sont peu nombreux et la dcision de les bloquer doit tre mise en balance avec lintrt de
les surveiller.

Enfin, les contenus sont de nature trs diverse et complexe. Ils ncessitent une expertise et un contrle
attentifs afin de dterminer ce qui relve de la provocation au terrorisme et ce qui relve de lopinion. Ils
sont surtout diffuss pendant les phases de sensibilisation qui prcdent le recrutement. Ils sont
changs loin du cur des communauts activistes, non pas sur des sites au sens propre, mais sur des
plateformes ou dans des forums dans lesquels se ctoient contenus licites et illicites. Pour tre efficace,
un dispositif de blocage devrait tre capable danalyser finement le contenu mme de ces changes
personnels. Ces techniques dinspection profonde relveraient non seulement de la censure, mais aussi
de latteinte la vie prive et la libert de conscience, et seraient inadmissibles en tant que telles.


Le Conseil est davis que

1. Le dispositif de blocage propos est techniquement inefficace

Les dispositifs de blocage auprs des FAI sont facilement contournables par les recruteurs
comme par les internautes puisquils ne permettent pas de supprimer le contenu la source
2
.

Le dispositif propos prsente le risque de pousser les rseaux terroristes complexifier leurs
techniques de clandestinit, en multipliant les couches de cryptage et en sorientant vers des
espaces moins visibles du rseau, renforant la difficult du travail des enquteurs. Certaines de
ces techniques sont trs faciles utiliser et sont dj matrises par les tranches dge cibles
des recruteurs, qui sont familiers de lusage des Rseaux Privs Virtuels (VPN), du Peer-to-Peer
(P2P) ou de TOR.

Le dispositif propos risque dtre contreproductif en termes dimage et de pdagogie. Etant
facilement contournable, il pourrait laisser penser que les autorits sont en retard dans la
guerre technologique, aboutissant ainsi crer un sentiment de fiert et d'impunit.

Comme le montre le rapport des dputes Corinne Erhel et Laure de la Raudire, en ltat des
techniques actuelles, les dispositifs de blocage par laccs prsentent des risques de sur-
blocage et de sous-blocage. Les expriences infructueuses de pays comme le Royaume-Uni
3
,
les Etats-Unis
4
ou lAustralie confirment ce risque. Un mme serveur pouvant hberger plusieurs
sites ou contenus parfaitement lgaux, leur blocage collatral constitue une atteinte directe la
libert dexpression et de communication. La seule solution serait dinspecter directement et
massivement le contenu des communications des internautes
5
, faisant ainsi peser des risques
graves en matire de respect de la vie prive et de la libert de conscience.

2
De nombreuses techniques permettent d'chapper au filtrage d'internet: serveurs mandataires (proxy), tunnels,
changement d'hbergement ou rotation des URL, Botnets, changement de DNS...
3
En Grande-Bretagne o les FAI appliquent dsormais un filtrage par dfaut la demande du gouvernement, prs
de 20% des sites les plus populaires sont bloqus par au moins un oprateur tlcom, dont seulement 4% de sites
pornographiques.
4
Aux Etats-Unis, le blocage de 10 sites pdopornographiques par les autorits amricaines avait caus le blocage
de 84 000 sites lgaux partageant le mme fournisseur DNS.
5
Les oprateurs noprent le blocage quau niveau du nom de domaine (DNS), ventuellement au niveau du sous
nom de domaine. Tout blocage plus fin (notamment par URL) exigerait des dveloppements techniques plus

http://www.cnnumerique.fr/terrorisme 4
2. Le dispositif propos est inadapt aux enjeux de la lutte contre le recrutement
terroriste

Le principe du recours une autorit judiciaire pralable reste indispensable :

o Les consultations conduites par le Conseil ont mis en vidence que le nombre de sites
de recrutement se limite une fourchette comprise entre une dizaine et une centaine,
selon les experts. Au regard de ces chiffres, le risque de surcharge des tribunaux parfois
voqu nest pas caractris et il napparait pas raisonnable de crer un dispositif
spcifique contournant lautorit judiciaire au profit de lautorit administrative.

o Le dispositif propos comporte un risque important de tlescopage entre lactivit des
autorits administratives et celle des services judiciaires. Par exemple, la fermeture
intempestive dun site ou dun contenu par l'administration pourrait alerter les terroristes
de la surveillance judiciaire dont ils font lobjet.

o Le dispositif propos ne tient pas compte des retours ngatifs et des risques soulevs
par les expriences similaires ltranger, notamment en ce qui concerne la lutte contre
le terrorisme aux Etats-Unis, les rvlations dEdward Snowden ce sujet et le risque de
perte de confiance des consommateurs dans lcosystme numrique.

Les dispositifs de blocage ne sont pas une rponse la comptition pour lattention et
linfluence, sur les populations vises par les filires terroristes, en particulier les jeunes :

o Il apparat illusoire dadresser les dynamiques de propagation dimages et de contenus
propres au Web et aux rseaux sociaux par des mesures techniquement contournables.
A cet gard, la seule hypothse o le dispositif serait efficace relve dune exploitation
massive et automatise, en dsaccord flagrant avec les principes dun Etat de droit.

o Dans un contexte de lutte contre les stratgies de diffusion didologies radicales, le
recours au blocage peut avoir un effet contreproductif en attisant lenvie de consulter les
contenus bloqus.

Recommandation - Les acteurs consults soulvent la ncessit de dvelopper la recherche pour
mieux comprendre la dimension sociale de la radicalisation et dterminer prcisment le rle dInternet
dans ce processus. De nombreux facteurs peuvent concourir au basculement dindividus dans la
violence tout en tant trangers la provocation directe aux actes terroristes ou leur apologie. Le
contact avec des idologies extrmistes peut se produire sur Internet comme en dehors des sphres
numriques. La recherche sur ces sujets mrite dtre renforce afin de pouvoir servir de fondement
toute future dcision.

Recommandation - Dans une optique de prvention, les mmes experts pointent limportance
particulire de lducation et du dveloppement de capacits dinterprtation critique des divers
messages vhiculs - dans lenvironnement numrique comme en dehors.




importants et ncessiterait davoir recours aux techniques de deep packet inspection (DPI), particulirement
attentatoire au secret des correspondances.

http://www.cnnumerique.fr/terrorisme 5
3. Le dispositif propos noffre pas de garanties suffisantes en matire de liberts

Afin de maintenir lautorit judiciaire dans le processus, le dispositif propos prvoit la
dsignation, par le Garde des sceaux, dun magistrat de lordre judiciaire, dont le contrle
portera sur la rgularit des conditions dtablissement, de mise jour, de communication et
dutilisation de la liste des adresses lectroniques des services de communication au public en
ligne.

Ces mesures ne sont pas suffisantes pour une double raison :

o ce magistrat nest pas en charge du contrle de lopportunit du blocage lui-mme ;
o nomm par le gouvernement, il ne dispose pas des garanties dindpendance offertes
par le processus judiciaire.

Le Conseil constitutionnel a rappel que le blocage dun site Internet constitue une atteinte
grave la libert dexpression et de communication
6
. Toute atteinte aux liberts, ft-elle justifie
par des considrations de scurit nationale, doit tre proportionne et ncessaire vis--vis de
lobjectif recherch. Or, le dispositif propos met en place une procdure exceptionnelle de
blocage administratif sans que celle-ci soit justifie par des conditions comme lurgence
imminente ou labsence de toute autre solution disponible.

Contrairement aux dispositions relatives la pdopornographie, il ressort des consultations
effectues par le Conseil que la qualification des notions de commission dactes terroristes ou
de leur apologie prte des interprtations subjectives et emporte un risque rel de drive vers
le simple dlit dopinion.

Recommandation - La multiplication du recours des rgimes dexception propres isoler le
numrique participe appauvrir la cohrence des lois. Le Conseil recommande en ce sens dinstaurer
un moratoire sur lensemble des projets de dispositions instituant des mesures de blocage ou de
filtrage sur Internet. Larbitrage entre les impratifs de scurit et de libert devrait tre effectu avec
prudence, dans un cadre prserv des pressions de lactualit.

La multiplication de ces dispositifs depuis 2004 ncessite de dresser un bilan et danalyser leur
efficacit. Sur ce sujet, encore plus que sur les autres sujets numriques, le Conseil encourage
effectuer des tudes de besoin et d'impact chiffres, en volume, dlais, cots, risques, consquences
pour les professionnels du secteur, etc. voire mme des simulations.

Recommandation - De faon gnrale, un tel dispositif devrait proposer des outils permettant de
mesurer son efficacit, comme des indicateurs ou des dates butoir permettant de rexaminer les
mesures mises en uvre.




6
Dcision n 2011-625 du 10 mars 2011.

http://www.cnnumerique.fr/terrorisme 6
4. Il est possible dutiliser des alternatives plus efficaces et plus protectrices que
le blocage administratif auprs des FAI

Dautres secteurs offrent des exemples de mcanismes hybrides qui articulent efficacement les
autorits administrative et judiciaire tout en apportant tous les garde-fous ncessaires. Le
systme de signalement de lARJEL
7
permet par exemple son Prsident de soumettre des
sries de sites bloquer au Prsident du Tribunal de grande instance qui les examine
intervalles rguliers. Cela permet de prserver le rle dun juge spcialis dans la prise de
dcision. Laction des deux autorits est coordonne et la rgularit des audiences permet des
dlais suffisamment rapides.

Recommandation - Un dispositif similaire pourrait tre tudi entre lautorit ladministrative et les
autorits judiciaires antiterroristes. Il pourrait par exemple permettre aux autorits administratives de
prsenter dates rgulires des sries de sites et de contenus lautorit judiciaire pour demander leur
blocage, tout en utilisant une procdure spcifique de rfr ou des mesures conservatoires dans les
situations dextrme urgence.

Il existe galement dautres solutions pour pallier les lourdeurs inhrentes la ncessit
dobtenir une dcision judiciaire chaque nouvelle apparition dun site miroir . Le rapport
interministriel sur la lutte contre la cybercriminalit
8
recommande par exemple de maintenir le
rle de lautorit judiciaire, mais daccompagner la dcision du juge dune obligation de
surveillance spcifique mise la charge de loprateur et limite dans le temps, destine
prvenir, dans la mesure du possible, les procds de contournement et la duplication de sites
ou contenus illicites.

Recommandation - Dans un registre plus respectueux de lesprit de lconomie numrique, il serait
galement possible de mettre en place une procdure judiciaire acclre en ce qui concerne les
simples rplications de contenus dj condamns.

Par ailleurs, le dispositif propos cre un rgime dexception pouvant ralentir le dveloppement
dune coopration internationale sur ces sujets. Ce dispositif ne fait que dplacer le problme
ltranger, entrainant une balkanisation de lInternet qui pourrait permettre aux recruteurs de
jouer entre les diffrents pays pour se protger des blocages techniques mis en uvre
localement.

Recommandation - Pour tre efficace, toute action numrique doit tre coordonne au niveau
international, en intgrant le meilleur niveau de garanties possible et en dveloppant des outils concrets
comme par exemple un quivalent international de PHAROS - un outil de centralisation du signalement
volontaire, une cellule ad hoc au niveau europen et/ou de lOCDE, et des groupes de travail techniques
au niveau des organismes de standardisation pour viter toute balkanisation de lInternet.



7
En particulier la possibilit pour lAutorit de rgulation des jeux en ligne (ARJEL) de saisir directement le Prsident
du Tribunal de grande instance (TGI), afin dordonner aux hbergeurs et dfaut, aux fournisseurs daccs Internet,
le blocage des sites, et linstauration dune systmatisation dans linstruction et laudiencement des dossiers.
8
http://www.economie.gouv.fr/remise-du-rapport-sur-la-cybercriminalite

http://www.cnnumerique.fr/terrorisme 7
5. En ce qui concerne lextension du champ des outils de notification, dautres
solutions peuvent tre envisages

Le Conseil appelle ne pas se reposer sur les seules hypothses drogatoires de signalement afin
dviter la multiplication des rgimes dexception qui limitent le champ dapplication du droit commun. Il
ne doit jamais tre drog au principe du recours une autorit judiciaire pralable avant linstauration
dun dispositif de surveillance, de suppression ou de blocage de contenus sur Internet.

Recommandation - Favoriser linnovation dans lencadrement des comportements et des
contenus illicites au lieu de se reposer sur leur signalement et leur suppression a priori :

Standardiser les dispositifs et les procdures dinformation et de raction : amliorer leurs dlais
de traitement et leur efficacit, faciliter leur reprage pour les internautes, dvelopper un
pictogramme unique identique dune plateforme lautre ;

Amliorer les conditions gnrales dutilisation pour vrifier leur lisibilit et la connaissance relle
des droits et des devoirs de leurs utilisateurs, en instaurant un meilleur respect des normes
culturelles, linguistiques et sociales ;

Amliorer les mdiations avec les usagers : favoriser la mise en relation des personnes avec des
associations mandates et agres pour les accompagner, en gnralisant la prsence de liens
de contact visibles ;

Encourager les bonnes pratiques et faciliter le dialogue entre lensemble des acteurs du
numrique, les associations de lutte contre les discriminations, ainsi que les utilisateurs
dInternet afin de dterminer ce qui relve des bonnes pratiques, de la lgislation, de la
rgulation voire dune forme de labellisation.

Recommandation - Gnraliser les actions et les outils daccompagnement, dducation, de
civisme et de littratie : la responsabilisation des internautes par linformation et lducation doit
tre le pralable tout autre dispositif dencadrement :

Les outils offerts par Internet peuvent tre des supports de sensibilisation et de communication
pour tous les publics, par exemple en demandant aux moteurs de recherche ou aux rseaux
sociaux de mettre en avant des contenus manant dassociations de victimes ou en leur offrant
des moyens de communication.

De mme, la plateforme PHAROS qui permet de signaler des contenus illicites est par exemple
trop mconnue des usagers et pourrait faire lobjet dune meilleure communication
9
.

Recommandation - Utiliser les outils dj existants sur les moteurs de recherche, les rseaux
sociaux ou les sites de vidos. Ils offrent des possibilits bien plus souples et bien plus adaptes que
le blocage. Il serait par exemple possible que l'administration procde de simples demandes de
drfrencement de contenus illicites, ou rclame aux plateformes qui ne le font pas encore dinformer
PHAROS des contenus qui leur sont signals.



9
A limage des dispositifs mis en place sur les moteurs de recherche pour amliorer la visibilit des services du
planning familial.

http://www.cnnumerique.fr/terrorisme 8

Recommandation - Inciter les plateformes adopter dans leurs propres conditions gnrales
dutilisation des dispositifs plus quilibrs comme lavertissement, la suspension provisoire, ou la
mise en place de procdures darbitrage interne, en sinspirant de dispositifs dj mis en uvre par les
communauts collaboratives en ligne. En ce qui concerne les plateformes qui exercent simultanment
en France et ltranger, ladministration doit dvelopper des liens rguliers avec elles et le rgime qui
leur est applicable doit tre clarifi.



http://www.cnnumerique.fr/terrorisme 9
Annexes

Personnalits auditionnes

ARTIGUELONG Maryse, Membre du comit central de la Ligue des droits de lHomme, reprsentante de
lObservatoire des liberts numriques

BAUER Alain, Professeur de criminologie, consultant en scurit

BOCCIARELLI Eric, Secrtaire gnral du Syndicat de la Magistrature, reprsentant de lObservatoire
des liberts numriques

CHARMET-ALIX Adrienne, Coordinatrice gnrale de la Quadrature du Net, reprsentante de
lObservatoire des liberts numriques

DELETANG Agns, Magistrat conseillre auprs du Conseil national du renseignement

FERAL-SCHUHL Christiane, ancien btonnier du Barreau de Paris, co-prsidente de la Commission
Droits et liberts lge du numrique de lAssemble nationale

GEORGES Marie, reprsentante de lObservatoire des liberts numriques

GHIBELLINI Julie, Administratrice lAssemble nationale

GUERCHOUN Frdric, Directeur juridique de lAutorit de rgulation des jeux en ligne (ARJEL)

LACOMBE Stphane, Chef de projet et consultant pour lAssociation franaise des victimes du
terrorisme

MANACH Jean-Marc, Journaliste dinvestigation

MOURTON Mathieu, Administrateur lAssemble nationale

QUMNER Myriam, Avocat gnral prs la Cour dappel de Versailles

RABENOU Jrme, Adjoint au directeur gnral dlgu aux contrles et aux systmes d'information de
lAutorit de rgulation des jeux en ligne (ARJEL)

TRVIDIC Marc, Juge d'instruction au Tribunal de grande instance de Paris au ple antiterrorisme

WARUSFEL Bertrand, Avocat spcialis sur les questions de scurit, professeur luniversit Lille 2

WIEVORKA Michel, Sociologue spcialis dans le terrorisme

ZABULON Alain, Coordinateur national du renseignement



http://www.cnnumerique.fr/terrorisme 10
Ressources documentaires

Quiliam, Jihad Trending: A Comprehensive Analysis of Online Extremism and How to Counter it, Ghaffar
Hussain and Dr. Erin Marie Saltman, May 2014
Disponible ici : http://www.quilliamfoundation.org/wp/wp-content/uploads/publications/free/jihad-
trending-quilliam-report.pdf
Rsum : http://www.quilliamfoundation.org/wp/wp-content/uploads/publications/free/djihad-trending-
sur-internet.pdf

Rapport dinformation n3336 du 13 avril 2011 de MM. Corine Erhel et Laure de la Raudire sur la
neutralit de lInternet et des rseaux
Disponible ici : http://www.assemblee-nationale.fr/13/rap-info/i3336.asp

Rapport n2000 du 4 juin 2014 sur la proposition de loi n1907 de MM. Guillaume Larriv, Eric Ciotti,
Philippe Goujon et Olivier Marleix renforant la lutte contre lapologie du terrorisme sur Internet
Disponible ici : http://www.assemblee-nationale.fr/14/rapports/r2000.asp

Report and Recommendations of The Presidents Review Group on Intelligence and Communications
Technologies, Liberty and Security in a changing world, 12 December 2013 :
Disponible ici : http://www.whitehouse.gov/sites/default/files/docs/2013-12-12_rg_final_report.pdf

Aconite Internet Solutions, Internet blocking: balancing cybercrime responses in democratic societies,
Cormac Callanan (Ireland), Marco Gercke (Germany), Estelle De Marco (France), Hein Dries-Ziekenheiner
(Netherlands), October 2009
Disponible ici : http://www.aconite.com/sites/default/files/Internet_blocking_and_Democracy.pdf
Synthse en franais :
http://www.laquadrature.net/files/Filtrage_d_Internet_et_d%C3%A9mocratie%20-
%20R%C3%A9sum%C3%A9%20Principal_1.pdf