Loi n° 2024-449 du 21 mai 2024 (SREN) et décision n° 2024-866 DC : hypertrucages, peine de suspension de compte et censure du délit d’outrage en ligne

Afin de répondre à la diffusion d’images et d’enregistrements vocaux manipulés par intelligence artificielle générative, les articles 15 et 16 de la loi n° 2024-449 du 21 mai 2024 modernisent l’article 226-8 du code pénal et créent un article 226-8-1 autonome. D’une part, l’article 226-8 punit désormais d’un an d’emprisonnement et de 15 000 euros d’amende (portés à deux ans d’emprisonnement et 45 000 euros d’amende lorsque les faits sont commis par la voie d’un service de communication au public en ligne) le fait de porter à la connaissance du public ou d’un tiers, sans le consentement de l’intéressé, un contenu visuel ou sonore généré par un traitement algorithmique et reproduisant l’image ou les paroles d’une personne, s’il n’apparaît pas à l’évidence qu’il s’agit d’un contenu généré algorithmiquement ou s’il n’en est pas expressément fait mention. D’autre part, le nouvel article 226-8-1 réprime de deux ans d’emprisonnement et de 60 000 euros d’amende (trois ans d’emprisonnement et 75 000 euros d’amende en cas d’utilisation d’un service de communication au public en ligne) le fait de porter à la connaissance du public ou d’un tiers, sans l’accord exprès de la personne, tout montage ou contenu généré par un traitement algorithmique à caractère sexuel reproduisant son image ou ses paroles.

Parallèlement, l’article 17 de la loi insère dans le code pénal un article 131-35-1 instituant une peine complémentaire de suspension des comptes d’accès aux services de plateforme en ligne (réseaux sociaux). Prononcée par la juridiction de jugement pour une durée maximale de six mois — ou d’un an lorsque la personne est en état de récidive légale — à l’encontre des personnes condamnées pour des infractions de cyberharcèlement, de menaces, de provocation à la haine ou à la discrimination, d’apologie du terrorisme ou d’infractions à caractère sexuel commises au moyen d’un tel service, cette peine emporte interdiction pour le condamné d’utiliser les comptes ayant servi à commettre l’infraction et d’en créer de nouveaux sur la même plateforme, ainsi que l’obligation pour l’opérateur, sous peine de 75 000 euros d’amende, de procéder au blocage effectif des comptes signalés.

Les titres Ier à VII de la loi n° 2024-449 adaptent enfin la loi n° 2004-575 du 21 juin 2004 pour la confiance dans l’économie numérique (LCEN), le code de la consommation et le code de commerce pour assurer la pleine exécution en France du règlement (UE) 2022/2065 du 19 octobre 2022 sur les services numériques (DSA) et du règlement (UE) 2022/1925 du 14 septembre 2022 sur les marchés contestables et équitables dans le secteur numérique (DMA). L’Autorité de régulation de la communication audiovisuelle et numérique (ARCOM) est désignée comme coordinateur pour les services numériques en France, en articulation avec la Commission nationale de l’informatique et des libertés (CNIL) — compétente notamment sur l’interdiction du profilage publicitaire ciblant les mineurs ou fondé sur des données sensibles au titre des articles 26 et 28 du DSA — et la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF) pour les places de marché en ligne.

En outre, la loi confie à l’ARCOM le pouvoir d’établir un référentiel technique contraignant de vérification de l’âge des utilisateurs pour l’accès aux sites à caractère pornographique (articles 1er et 2), met en place un dispositif de filtrage et d’alerte contre les sites d’escroquerie et d’usurpation d’identité en ligne (article 6), et encadre, aux articles 26 à 35, les pratiques commerciales des fournisseurs de services d’informatique en nuage (plafonnement des crédits d’informatique en nuage, suppression progressive des frais de transfert de données lors d’un changement de fournisseur et exigences d’interopérabilité alignées sur le règlement européen sur les données dit « Data Act »).

Quelle est la sanction pénale d’un hypertrucage (« deepfake ») diffusé sur Internet ?

En vertu des articles 226-8 et 226-8-1 du code pénal issus de la loi n° 2024-449 du 21 mai 2024, la diffusion en ligne sans consentement d’un contenu visuel ou sonore généré algorithmiquement reproduisant l’image ou les paroles d’une personne sans mentionner son caractère artificiel est punie de deux ans d’emprisonnement et de 45 000 euros d’amende ; lorsque ce contenu présente un caractère sexuel, les peines sont portées à trois ans d’emprisonnement et 75 000 euros d’amende.

Pourquoi le délit d’outrage en ligne a-t-il été censuré par le Conseil constitutionnel ?

Dans sa décision n° 2024-866 DC du 17 mai 2024 (§§ 48 à 61), le Conseil constitutionnel a jugé que le délit d’outrage en ligne (article 19), qui réprimait par une amende forfaitaire délictuelle tout contenu unique créant une situation « intimidante, hostile ou offensante » sans exigence de répétition, reposait sur des notions trop imprécises et portait une atteinte disproportionnée à la liberté d’expression et de communication.

En quoi consiste la peine de bannissement des réseaux sociaux ?

Prévue à l’article 131-35-1 du code pénal, cette peine complémentaire permet au tribunal de suspendre, pour six mois au plus (un an en cas de récidive), l’accès du condamné au service de plateforme en ligne ayant servi à commettre certaines infractions (cyberharcèlement, menaces, provocations haineuses, apologie du terrorisme), l’opérateur étant tenu de bloquer le compte sous peine de 75 000 euros d’amende.