Étiquette : caméra

  • Escroquerie 2.0 : l’IA face-swapping sévit en Chine

    Escroquerie 2.0 : l’IA face-swapping sévit en Chine

    En Chine, l’escroquerie atteint des sommets encore insoupçonnés. Dans un pays où tout est enregistré, où le crédit social fait loi, des caméras de surveillance à la reconnaissance faciale, cette montée en puissance de l’escroquerie est impressionnante. À l’heure de la communication comme arme de guerre, de propagande, où tout passe sur les réseaux, que le tribunal populaire dépasse le judiciaire, que penser de cette vague qui sévit en Chine ? Est-il possible qu’elle arrive en Europe, voire en France ?

    Une affaire anodine de prime abord, pourtant, elle prodigue écho aux vols de données à travers le monde. Imaginez vous recevez un appel ! C’est votre mère au téléphone. La liaison est mauvaise, votre téléphone portable est sur un réseau saturé, vous n’êtes plus en 5G. Elle passe sur un chat pour discuter. Elle à besoin que vous transfériez de toute urgence une forte somme d’argent sur sa carte bancaire. Bizarre, mais c’est votre mère. En plus vous avez reconnu sa voix, son numéro de téléphone, alors sereinement vous effectuez le transfert… vous venez de vous faire escroquer.

    C’est à peu de chose près, la mésaventure subit par Dang Yangyu, habitant de Jinan, capitale du Shandong. Fin juin 2023, Zhang Zhenhua, chef d’escadron de la brigade de police criminelle du Bureau de la sécurité publique du comté de Shanghe, présentait l’affaire au journaliste du New Beijing News : « Il s’agit de la récente popularité de la “fraude à l’IA”, un moyen frauduleux consistant à utiliser la technologie intelligente de l’IA pour commettre des escroqueries. »

    Des données volées exploitées, du deepfake et la fraude au dumping peut commencer. Ou bien pour vous amuser tout simplement de nombreux outils sont disponibles en ligne.

    Selon Fang Yangyu, la police criminelle de Shanghe s’est rendue dans le Guangdong, où l’on soupçonne Xie Mou et trois autres personnes d’avoir aidé à commettre des crimes par lettre. L’affaire fait actuellement l’objet d’une enquête. (Crédits : Sécurité publique de Jinan)

    Un appel de 7 secondes

    Un appel vidéo de 7 secondes suffit à Fang Yangyu pour transférer 300 000 yuans, près de 39 000 euros. Le 29 mai 2023, Fang Yangyu, regardait des vidéos chez lui à Jinan quand il reçoit un message d’un inconnu. Celui-ci se présente comme un membre de sa famille. Il lui envoie des identifiants QQ. (une application de messagerie gratuite et populaire en Chine). Dans cet appel en visio, la voix et le visage de son « grand frère » sont reconnus. Évoquant la mauvaise qualité de l’appel, le tiers raccroche. La discussion se poursuit par chat.

    La personne indiquait qu’elle avait besoin de transférer une somme d’argent de toute urgence ne pouvant directement payer. Ainsi il voulait d’abord transférer de l’argent à Fang Yangyu, puis qu’il transfère l’argent à son tour sur la carte bancaire désignée. Le soi-disant « grand frère » insiste lourdement auprès de Fang Yangyu pour qu’il avance l’argent. Le harcèlement finit par payer.

    Il cède en transférant 300 000 yuans sur ledit compte. Une demande supplémentaire de 350 000 yuans était faite. C’est à ce moment-là qu’il se remémore la propagande antifraude. Il appelle en toute hâte ses proches, pour découvrir que tout était faux.

    En attendant de se présenter à la police, il s’est aperçu que la vidéo exposant le visage familier était « fausse ». Les criminels utilisaient la technologie de l’intelligence artificielle pour synthétiser l’image de la vidéo.

    Un homme de Jinan, Fang Yangyu, a été confronté à une fraude à l’IA, 7 secondes après la vidéo, il a transféré 300 000 yuans sur un compte désigné par le criminel, comme le montre la capture ci-contre. (Crédits : Sécurité publique de Jinan/Weixin)

    Reconnaissance faciale en France

    Le lundi 12 juin 2023, par 226 voix contre 117, le Sénat adoptait la proposition de loi destinée à « expérimenter » pour une durée de trois ans le recours à la reconnaissance faciale dans l’espace public. Marc-Philippe Daubresse se voulait rassurant sur le fait de ne pas tomber dans une société de surveillance. Des lignes à ne pas franchir sont délimitées, avant qu’il ne cite : « Interdiction de la notation sociale, interdiction de la catégorisation d’individus en fonction de l’origine ethnique, du sexe ou de l’orientation sexuelle sauf s’il s’agit de recherches scientifiques ».

    Quant à savoir si cette possibilité pourrait arriver en Europe comme en France, tout dépend de l’utilisation de l’outil. Le Parlement européen interdit la reconnaissance faciale, sans protéger les personnes migrantes, réfugiées et demandeuses d’asile. (Crédits : Sénat/YouTube)

    Le sénateur poursuivait en projetant de nouvelles interdictions sur « l’analyse d’émotions sauf à des fins de santé ou de recherche, la surveillance biométrique à distance en temps réel sauf exception très limitées avec des garanties considérables ». Sauf qu’une fois que la porte est ouverte, les personnes malveillantes peuvent s’immiscer et utiliser les données à mauvais escient. D’autant que le vol des données peut engendrer des usurpations d’identité, chantages aux vidéos.

    L’hypertrucage comme levier d’extorsion

    L’hypertrucage, ou deepfake est l’utilisation de l’IA pour diffuser de l’information mensongère, canulars malveillants ou destructeurs de réputations et e-réputations. Si l’outil qu’est le deepfake n’est pas dangereux en soi, c’est son utilisation qui peut engendre de graves problèmes. L’hypertrucage est le fait de remplacer le visage d’une personne sur le corps d’une autre. Cette méthode est de plus en plus utilisée pour créer des contenus pornographiques. Selon Sensity, 96 % des vidéos concernent les femmes. Le but est, pour des sommes souvent dérisoires, la marchandisation de visages d’actrices, ou encore une « extorsion » envers les publics les plus sensibles.

    Certains vont même plus loin. Ils utilisent les données en libre accès d’enfants, adolescentes et adolescents sur les différents réseaux sociaux pour créer de la pornographie juvénile. Au Canada, la Justice rendait en avril 2023 un verdict de 8 ans d’emprisonnement pour détentions de fichiers pédopornographique. Steven Larouche possédait sur son ordinateur 545 000 fichiers, dont 86 000 créées, par hypertrucage.

    Le juge Gagnon est revenu sur les 86 000 fichiers produits grâce à la technologie de l’hypertrucage. Car elle permet « d’intégrer le visage d’une personne sur le corps d’un autre individu dans une séquence vidéo ». En utilisant un logiciel, Larouche réussissait à créer des fichiers dont il est « impossible de distinguer le vrai, du faux », écrivait le magistrat. (Crédits : Pexels/Pixabay)

  • La loi dite de Sécurité Globale

    La loi dite de Sécurité Globale

    Cette proposition de loi défraie la chronique depuis sa genèse. Quel est le constat de départ ? Que préconise-t-elle ? Pour qui ? Pourquoi ? Est-elle liberticide ? Toutes ces questions méritent une étude approfondie de cette dernière. En premier lieu son étymologie, puis la procédure législative avec les différentes étapes du vote d’une loi, avant le plus important, la dissection des articles. Commençons par le commencement, il faut déterminer le sens de « sécurité globale ».

    L’étymologie de la première composante « sécurité » nom féminin venant du latin securitatem : qui a été refait sur le mot sûreté (qui est la forme ancienne). La sûreté est du caractère de celui sur qui l’on peut compter, ou l’état de celui qui n’a rien à craindre pour sa personne ou pour sa fortune définit le Littré. Quant à l’adjectif « global », selon le centre national de ressources textuelles et lexicales (CNRTL) : qui est considéré en bloc, dans sa totalité, qui s’applique à un ensemble sans considérer le détail.

    Le constat de départ

    Donc, la proposition au sens littéral est une proposition de loi dans laquelle tout individu n’a rien à craindre pour sa personne ou sa fortune en totalité, cela semble être intéressant de prime abord. La première brigade de sûreté vit à sa tête Eugène-François Vidocq sous Napoléon « lorsqu’il est écarté de la Brigade de Sûreté en 1827, il se lance, en parallèle de son agence de renseignements, dans la fabrication de papiers. Vidocq, qui est tombé pour faux en écriture, se passionne pour le papier infalsifiable et l’encre indélébile », raconte le Figaro à la sortie du film « L’empereur de Paris »

    Actuellement, mardi 2 mars 2021, la proposition de loi est à la quatrième étape sur sept, après avoir été adoptée par l’Assemblée nationale : L’initiative ; Le dépôt ; L’examen de la première assemblée ; Le vote de la première assemblée ; La navette entre les deux assemblées ; L’adoption ; La promulgation

    « l’insécurité prend aujourd’hui des formes de plus en plus variées dans le quotidien des Français : depuis les incivilités dans les transports jusqu’aux violences graves sur les personnes en passant par les trafics — notamment de stupéfiants — en bas des immeubles, les violences urbaines ou les rixes entre bandes.

    En 2017, le président de la République a fait de la sécurité la priorité de son quinquennat. […] Le groupe La République en marche, et la majorité à l’Assemblée nationale ont contribué au renforcement des mesures protectrices des Français en votant notamment en faveur de la loi du 30 octobre 2017 renforçant la sécurité intérieure et la lutte contre le terrorisme […]. » Voici l’exposé des motifs de proposition de loi n°3452 relative à la sécurité globale.

    (Crédits : Eugène-François Vidocq vers 1835, portrait dessiné par Achille Devéria, lithographie, Paris, musée Carnavalet.)

    Donc l’insécurité est grandissante selon les premiers mots de la proposition de loi n° 3452. Les données accessibles sur « data.gouv.fr » des crimes et délits enregistrés par les services de gendarmerie et de police depuis 2012 donnent le tableau suivant :

    AnnéeNombreDifférence n-1Tendance 2012Tendance n-1
    20203 327 737-450 089-4.30 %-11.91 %
    20193 777 826+106 616+8.64 %+2.90 %
    20183 671 210+10 650+5.58 %+0.29 %
    20173 660 560+110 020+5.27 %+3.09 %
    20163 550 540-27 948+2.11 %-0.78 %
    20153 578 488+3 586+2.91 %+0.10 %
    20143 574 902+52 273+2.81 %+1.48 %
    20133 522 619+45 328+1.30 %+1.30 %
    20123 477 301000
    Les données affichent une baisse de la délinquance en 2020 par rapport à l’année 2012, de François Hollande à Emmanuel Macron

    La proposition de loi relative à la sécurité globale s’étend sur 31 articles, en plusieurs chapitres. Renforçant ou octroyant des pouvoirs de police, dans une certaine mesure aux agents de sécurité privée, mais donnant la charge de police judiciaire à la police municipale, entre autres.

    La police municipale

    L’article premier donne à titre expérimental, et pour trois ans – après la promulgation de la loi au journal officiel – le pouvoir de police judiciaire aux communes et établissements publics de coopération intercommunale à fiscalité propre (NDLR communauté de communes ou EPCI). Donc les communes et « Com Com » ayant plus de 20 agents de police municipale pourraient demander les compétences de police judiciaire.

    Selon l’article 14 du Code de procédure pénale, la police judiciaire est l’autorité ayant pour mission de « constater l’infraction, d’en rassembler les preuves et d’en rechercher les auteurs ». Dans le cadre de cette mission, la police judiciaire doit « recevoir les plaintes déposées par les victimes d’infractions, et, de les transmettre le cas échéant au service territorialement compétent » (art.15-3 du code de procédure pénale).

    Les pouvoirs octroyés par le premier article seraient susceptibles de voir les policiers municipaux procéder à l’immobilisation et à la mise en fourrière du véhicule en vertu de l’article L. 325-1-1 du code de la route, mais pas seulement. « […] pour les infractions commises sur la voie publique et qu’ils sont habilités à constater, procéder à la saisie des objets […]. Les objets saisis sont immédiatement inventoriés et placés sous scellés, en présence de la personne, qu’elle en soit la propriétaire ou qu’elle en ait la libre disposition […] »

    La charge d’officier de police judiciaire prend la majeure partie du temps du professionnel. (Crédits : DR)

    Sans oublier qu’ils pourraient intervenir pour des délits comme l’ivresse sur la voie publique, la vente à la sauvette, la conduite sans permis, les squats de halls d’immeubles, les tags, l’occupation illégale d’un terrain communal, l’usage de stupéfiants, le port ou le transport d’armes, ou encore le défaut d’assurance. « Ces mesures d’application interviennent au plus tard le 30 juin 2021 »

    Police administrative et judiciaire

    Quelle est la différence entre les deux entités ? La police administrative a pour mission de prévenir les infractions, de maintenir l’ordre et de protéger les citoyens. Elle est dite police d’ordre. La police judiciaire a une mission d’investigation et de répression. L’article 14 du code de procédure pénale prévoit que la police judiciaire est chargée de constater les infractions à la loi pénale, d’en rassembler les preuves et d’en rechercher les auteurs tant qu’une information n’est pas ouverte. En pratique, ce sont souvent les mêmes personnes qui exercent et remplissent les fonctions administrative et judiciaire.

    Le fait que ladite proposition de loi autoriserait la police municipale au constat pour la rédaction d’un procès-verbal montre que les agents ne possèdent pas les autorisations actuellement. Comme le fait de relever l’identité des auteurs des délits (premier alinéa de l’article 78-6 du code de procédure pénale), contrôler l’obligation d’assurance d’un véhicule (l’article L. 451-1-1 et au 2e alinéa de l’article L. 451-1-2 du code des assurances).

    La sécurité privée

    Le marché de la sécurité privée employait 175 000 personnes en France, en 2019. Cette proposition de loi donnerait habilitation a recueillir ou à relever l’identité de l’auteur présumé de l’infraction. Ainsi en cas de refus ou d’impossibilité de confirmer votre identité : « L’agent qui dresse procès-verbal en rend compte immédiatement à tout officier de police judiciaire […] qui peut alors lui ordonner sans délai de lui présenter sur-le-champ la personne concernée ou de la retenir pendant le temps nécessaire à son arrivée […] ».

    À défaut d’un tel ordre, l’agent ne peut retenir la personne concernée. Cependant, durant le temps incombé à l’information et décision de l’officier de police judiciaire (OPJ), le fait de ne pas demeurer avec l’agent de sécurité, ou le refus d’obtempérer à l’ordre de suivre l’agent pour se voir présenter à l’OPJ sont puni, au maximum de deux mois d’emprisonnement et de 7 500 € d’amende.

    Le survol des lieux stratégiques par des aéronefs est une priorité de défense. (Crédits : MOBOTIX)

    Lorsque les circonstances et les lieux l’exigent, ils peuvent également utiliser des moyens radioélectriques, électroniques ou numériques permettant la détection des aéronefs circulant sans personnes à bord, comprenez drones dans le cas ils seraient susceptibles de représenter une menace de sécurité. Comme ce fut le cas en 2014 avec le survol de centrales nucléaires, ou encore avec l’action revendiquée par Greenpeace en 2019, relate L’Express. « Ils peuvent exploiter et, si besoin, transmettre les informations recueillies aux services de l’État concourant à la sécurité intérieure et à la défense nationale », souligne l’article 19 bis.

    Big Brother is watching you

    La modification du second alinéa de l’article L. 252-2 du code de la sécurité intérieure ajoute : « […] nationales et des services de police municipale ainsi que par les agents individuellement désignés et dûment habilités mentionnés aux articles L. 531-1, L. 532-1 et L. 533-1. » Ainsi la CCTV connue outre-Manche pourra fleurir à chaque coin de rue en métropole, comme en outremer. Lorsqu’un EPCI exerce la compétence relative aux dispositifs locaux de prévention de la délinquance, il peut décider, sous réserve de l’accord de la commune d’implantation, d’acquérir, d’installer et d’entretenir des dispositifs de vidéoprotection.

    Si la comparaison peut paraître précipitée, l’exemple de la capitale anglaise fait référence, avec ses 42000 caméras. La pandémie actuelle due au virus SARS-nCoV-2, dit Covid-19, rend la part belle aux caméras dites intelligentes. À Paris, la station Châtelet-Les-Halles la douzaine de caméras observent le port ou non du masque, relate relate France Inter. Faute de festival en 2020, c’est au marché de Cannes qu’il faut sourire, comme l’explique Le Monde, « à Cannes, des tests pour détecter automatiquement par caméras le port du masque ». La commission nationale informatique et des libertés (CNIL) appelle à la vigilance sur l’utilisation des caméras dites « intelligentes » et des caméras thermiques. (Crédits : DR)

    Le dernier comptage effectué en 2012 par la CNIL faisait état de 935 000 caméras de surveillance installées sur notre territoire. Où sont-elles ? Absolument partout ! Aux guichets de banque, dans les bureaux de tabac, les parkings, les couloirs de métro et même sur les lieux de travail… La modification ou mise à jour des systèmes de surveillance est effectuée par l’ajout d’une couche logicielle à des systèmes de vidéoprotection préexistants, ou du déploiement de nouveaux systèmes vidéo dédiés. Ainsi, elles œuvrent dans les dispositifs de prise de température automatique (caméras thermiques), de détection du port de masque, de respect des mesures de distanciation sociale, etc.

    Surveillance biométrique de masse

    Mis en place pour la DSP2, la surveillance biométrique ne se limite pas à la reconnaissance faciale. « Alors que la police continue d’utiliser de façon massive la reconnaissance faciale à travers le fichier des traitements des antécédents judiciaires (TAJ), plusieurs villes et administrations ont déployé des dispositifs de contrôle de température, de détection de port du masque ou des projets de vidéosurveillance intelligente pour suivre et tracer les mouvements sociaux », ajuste la quadrature du net.

    Il n’y a pas qu’en France ou se développe cette surveillance, en Italie, Serbie, Grèce, ou encore Pays-Bas. « L’État déploie plusieurs dispositifs qui promettent à l’Europe un avenir de surveillance automatisée permanente. »

    L’article 22 traite des caméras aéroportées. Il se veut rassurant : « Le public est informé par tout moyen approprié de la mise en œuvre de dispositifs aéroportés de captation d’images et de l’autorité responsable, sauf lorsque les circonstances l’interdisent ou que cette information entrerait en contradiction avec les objectifs poursuivis. » Que cela semble désuet ! Les dispositifs portés à la connaissance de la CNIL qui prévoient la possibilité pour les personnes de manifester leur opposition par un mouvement corporel significatif, tel un « non » de la tête, n’apparaissent pas satisfaisants du point de vue de la protection des intérêts des personnes. (Crédits : PublicDomainPictures/Pixabay)

    Cette solution est peu vraisemblable, elle contraint également les individus à afficher publiquement leur opposition au traitement et fait porter une charge trop importante sur la personne, a fortiori si les dispositifs de ce type se multiplient. La période de conservation des données serait portée à 30 jours avant effacement selon le quatrième alinéa de l’article L424-4.

    La quadrature du net alerte les citoyens à travers un article intitulé « Sécurité globale : La droite appelle à la reconnaissance faciale ».

    Elle rappelle que : « demain 3 mars, la commission des lois du Sénat examinera la loi Sécurité globale, déjà adoptée en novembre par l’Assemblée nationale. Alors que le texte était déjà largement contraire à la Constitution et au droit européens, les sénateurs et sénatrices de droite et du centre souhaitent s’enfoncer encore plus loin dans l’autoritarisme en officialisant un système jusqu’alors implicite dans la loi : instaurer un vaste régime de reconnaissance faciale. »

    Biométrie, l’individu devient une monnaie, de la data (Crédits : Tumisu/Pixabay)

    « Je considère que l’interdiction érigée par l’article 24 […] constitue une atteinte au droit à la liberté d’expression », explique Dunja Mijatovic, Commissaire aux droits de l’homme du Conseil de l’Europe.

    L’article 24

    Le Conseil de l’Europe exhorte le Sénat à amender le texte. « Le texte de cet article tel qu’il est soumis à votre examen demeure, à mon sens, insatisfaisant du point de vue du respect des droits de l’homme et des libertés fondamentales », écrit la Commissaire aux droits de l’homme du Conseil de l’Europe, Dunja Mijatovic, dans une lettre datée du 15 décembre et adressée aux membres de la commission des lois de la Chambre haute et à son président, François-Noël Buffet.

    Une « atteinte au droit à la liberté d’expression »

    « Cette interdiction constitue une atteinte au droit à la liberté d’expression, laquelle inclut la liberté d’informer, et elle est de nature à aggraver la crise de confiance entre une partie de la population et une partie des forces de l’ordre, ce qui ne saurait concourir à la protection de ces dernières », souligne encore la commissaire.

    S’exprimer est une liberté dont tout être humain devrait jouir. Or le fait de tuer des libertés, comme de les restreindre est définie par l’adjectif liberticide — du latin libertas, liberté, et cædere, tuer —, comme cela se produite ne République Populaire de Chine.

    « Les autorités ont renforcé leurs restrictions visant les droits à la liberté d’expression, d’association et de réunion pacifique. Elles ont exercé une censure très stricte sur tous les médias, de la presse écrite aux jeux en ligne », écrit Amnesty International.

    Vers un État policier ?

    Dire que cette proposition de loi relative à la sécurité globale est liberticide, il n’y aurait qu’un pas à franchir.

    De l’autre Médiapart écrit « le signe d’un État policier réside dans le fait que la police n’est contrôlée que par elle-même et non par une autorité indépendante d’elle. Cette absence de contrôle par une autre instance qu’elle est le premier signe que nous vivons dans un état policier. »

    Un État policier est un gouvernement qui exerce son pouvoir de manière autoritaire et arbitraire, par le biais des forces policières… Pour le juriste français Raymond Carré de Malberg, la notion d’État policier est à considérer par opposition à l’État de droit.

    (Crédits : Valeria Boltneva/Pexels)