Libre Expression

Étiquette : Tesla

L’intelligence artificielle signe-t-elle la fin de l’intelligence humaine ?
Depuis l’apparition de ChatGPT, une ruée vers l’or est déclenchée. Sauf que depuis que la boite de Pandore est ouverte, tous font machine arrière. Mardi 30 mai 2023, un groupe d’industriels à averti que la technologie d’intelligence artificielle qu’ils construisent pourrait un jour menacer l’existence même de l’humanité. Et si James Cameron était un cinéaste visionnaire avec son recueil Terminator. Comparée à l’électricité ou la machine à vapeur, elle présente des avantages et des risques sérieux.
Le New York Times relate que « les dirigeants d’OpenAI, de Google DeepMind, d’Anthropic et d’autres laboratoires d’IA avertissent que les futurs systèmes pourraient être aussi mortels que les pandémies et les armes nucléaires. » De quelle manière doit-on prendre cet avertissement, surtout lorsqu’il provient des concepteurs même ?
Est-il déjà trop tard ?
En mars dernier, une lettre ouverte sur l’intelligence artificielle était paraphée par 31 810 personnes. Au rang desquels se trouvent Elon Musk (Twitter, SpaceX et Tesla), Yuval Noah Harari, auteur de « Sapiens », Steve Wozniak, cofondateur d’Apple, ainsi que des membres du laboratoire d’IA de Google DeepMind et des experts et universitaires américains, pour ne citer qu’eux ont réclamé un moratoire. Selon eux, une pause de six mois était nécessaire face aux dangers de l’IA.
Des dirigeants de trois des principales entreprises d’intelligence artificielle, dont Sam Altman, directeur général d’OpenAI (au centre), ont signé une lettre ouverte mettant en garde contre les risques de l’intelligence artificielle. (Crédit : Jim Lo Scalzo/EPA, via Shutterstock)
La peur qu’elle engendre serait entre autres l’utilisation pour de la propagande, des infox ou fake news. Quatre entités se retrouvent sous la lumière de projecteurs.
- ChatGPT : la fameuse IA qui fait sensation depuis le mois de novembre 2022. La version 3 répond à de complexes questions, génère du code… La version 4 peut réussir l’examen du barreau
- Bing : Microsoft principal investisseur d’OpenAI ajoutait un chatbot à son moteur de recherche Bing.
- Bard : lancé en mars, il est conçu comme un outil créatif. Il est capable de rédiger des articles de blog, répondre à des questions, générer des idées.
- Ernie : premier grand rival de ChatGPT, du chinois Baidu
Perturbations à l’échelle sociétale
« Il existe une idée fausse très répandue, même au sein de la communauté de l’IA, selon laquelle il n’y a qu’une poignée de prophètes de malheur », a déclaré Dan Hendrycks, directeur exécutif du Center for AI Safety dans une interview. « En réalité, de nombreuses personnes expriment en privé des inquiétudes à ce sujet. » Parmi les signataires de la missive du 30 mai se trouvent « Geoffrey Hinton et Yoshua Bengio, deux des trois chercheurs qui ont remporté un prix Turing pour leur travail pionnier sur les réseaux neuronaux et qui sont souvent considérés comme les “pères” du développement actuel de l’IA ».
Les concepteurs se retrouvent dans la position de lanceurs d’alertes, après avoir ouvert la boite interdite. (Crédits : Alexandra_Koch/Pixabay)
Le plus cocasse est que la course est lancée, le premier rafle la mise, mais tous se prémunissent des possibles dommages. De son côté, les signataires demandaient « à tous les laboratoires d’interrompre immédiatement, pendant au moins six mois, la formation de systèmes d’IA plus puissants que GPT-4. » Sabine Süsstrunk, directrice du Laboratoire d’images et représentation visuelle de la Faculté informatique et communications de l’EPFL, et Johan Rochel, docteur en droit et philosophe, cofondateur et codirecteur du laboratoire Ethix, « estiment que cette proposition n’est pas la solution », révèle Le Temps.
Les risques mis en avant par Safe sont au nombre de huit.
1. L’armement
2. La désinformation
3. Le jeu par procuration
4. Affaiblissement ou le syndrome dépeint par le film WALL-E
5. Un verrouillage de la valeur
6. Perte de contrôle ou objectifs émergents
7. Tromperie
8. Comportement de recherche de pouvoir
« Dans l’état actuel des choses, il est concevable que dans les dix prochaines années, les systèmes d’IA dépassent le niveau de compétence des experts dans la plupart des domaines et qu’ils soient aussi productifs que l’une des plus grandes entreprises d’aujourd’hui. » Sam Altman explique par deux faits la complexité de la situation. La première « nous pensons qu’elle va conduire à un monde bien meilleur que celui que nous pouvons imaginer aujourd’hui ». Deuxièmement « nous pensons qu’il serait incroyablement risqué et difficile d’arrêter la création de la super-intelligence ». Même en freinant des quatre fers, la machine est lancée à pleine puissance. Pour stopper la frénésie, il serait nécessaire de planifier un régime de surveillance mondial, sans garantie de fonctionnement.
Mais qui serait l’arbitre ?
Un système IoT peut collecter des données provenant de capteurs environnementaux, et l’IA peut être utilisée pour analyser ces données et prendre des décisions en conséquence. Par exemple en ajustant la température d’une pièce pour économiser de l’énergie. (Crédits : Computerizer/Pixabay)
Quant à la question « L’intelligence artificielle signe-t-elle la fin de l’intelligence humaine ? », la réponse d’une AI est la suivante : « L’intelligence artificielle ne signifie pas nécessairement la fin de l’intelligence humaine. Au contraire, l’IA est conçue pour compléter et améliorer les capacités humaines plutôt que de les remplacer. L’intelligence humaine est complexe et englobe des aspects tels que la créativité, l’empathie, le jugement moral et la conscience, qui ne peuvent pas encore être reproduits par des machines.
Cependant, il est vrai que l’IA peut avoir un impact sur certains emplois, en automatisant des tâches routinières et répétitives. Cela pourrait entraîner des changements dans le marché du travail, mais cela ne signifie pas nécessairement la fin de l’intelligence humaine. Les êtres humains ont la capacité de se former et de se réorienter vers de nouvelles professions qui nécessitent des compétences plus complexes et créatives. »
Vous saviez que les dirigeants des GAFAM envoient leurs enfants dans des écoles sans système d’informations ?
juin 1, 2023
Le ransomware Play n’a pas touché BMW-Mini France, mais un concessionnaire
Le 28 mars 2023, le ransomware Play revendiquait une attaque cybernétique contre BMW en France. Dans un communiqué la marque allemande assure accompagner et supporter « le concessionnaire et son équipe tout au long des étapes à venir et dans les démarches nécessaires ». En 2019, les marques de constructeur BMW et Hyundai avaient subi des attaques informatiques liées au groupe Ocean Lotus (APT32). Il y a quatre ans, en avril 2019 une fuite de données impactait 3,1 millions de clients des marques Toyota et Lexus.
Pourquoi s’en prendre à des constructeurs automobiles ? Adoptons comme point de référence la France. Selon Statistica, pour le trajet domicile-travail la voiture personnelle reste utilisée majoritairement : « 69 % des Français interrogés, contre 23 % pour les transports en commun et 14 % le vélo personnel ». Il faut ajouter 8 % d’individus qui usent un véhicule partagé.
L’automobile est le moyen de déplacement plébiscité à travers le monde. Plus de trois quarts des personnes interrogées vivant en France sont donc propriétaires ou locataires de leurs voitures. En leasing comme en achat, de nombreuses informations se révèlent être des mines d’or pour des opérations malveillantes.
Les experts informatiques « ont pu localiser une brèche dans le système informatique d’un concessionnaire local, qui est une entité juridique indépendante de BMW France », relate LeMagIT. Ferrari en mars 2023, Tesla en janvier 2022 subissaient des cyberattaques, (Crédits : Adrian Maur/Pixabay)
La menace de publication de « données confidentielles privées et personnelles, des documents clients, des contrats, des informations financières, etc. » avait été mise à exécution le 9 avril 2023. Le ransomware Play a divulgué douze fichiers de 500 MB et un de 334 MB, soit 6,2 GB de renseignements compressés.
Ce qui représente 7,9 GB une fois décompressées. Tout les documents sont datés de la période de 2020 à 2022 évaluations des stocks en neufs et occasions, bon de commande, brochure interne, programmes informatiques, fiche avec type, couleur et numéro d’immatriculation de voiture avec prénom, nom du client, des suivis de garantie…
Les entreprises organisent des compétitions pour éprouver leurs sécurités. En 2023, c’est Synacktiv qui remporte le Graal. Lors de compétition internationale de piratage Pwn2Own 2023 à Vancouver. Leur victoire s’est déroulée en infiltrant une Tesla Model 3 en moins de deux minutes…
avril 15, 2023
Vingt-cinq Tesla télécommandées à distance
Le rêve de toute personne, avoir une voiture à taille réelle télécommandable. Mieux encore, comme la célèbre coccinelle de Walt Disney, dans « Un amour de coccinelle » en 1968, une automobile vivante. Il aura fallu attendre 2022 pour que cela soit possible, grâce à David Colombo, pas de lien de parenté avec l’inspecteur du même nom. C’est une histoire à la fois stupéfiante et effrayante, d’un jeune homme de tout juste dix-neuf qui de chez lui intervenait sur des commandes et fonctions des voitures Tesla.
Non, ce n’est pas un canular, ne vous pincez pas, ce n’est pas la peine, en plus ça fait mal. Le spécialiste en sécurité informatique du nom de David Colombo a réussi à opérer sur des Tesla situées à l’autre bout du monde. Il pouvait, par exemple, démarrer le véhicule sans que le propriétaire comprenne comment cela est possible, et bien d’autres encore. Heureusement, il n’est pas du côté obscur de la force. Le jeune homme de 19 ans est un individu qualifié de White Hat. De ce fait, il a immédiatement alerté les médias pour que l’information soit diffusée avant qu’un être malveillant ne fasse la même chose.
Le fondateur de colombo_tech expliquait qu’il pouvait contrôler à distance 25 Tesla dans 13 pays. Le fantasme s’arrête là. « je ne peux pas intervenir sur la conduite d’une personne (à part lancer la musique au volume maximum ou faire clignoter les feux) et je ne peux pas non plus conduire ces Tesla à distance », gazouille-t-il. (Crédits : capture d’écran/Twitter)
Attachez vos ceintures, David Colombo a pu verrouiller et déverrouiller la voiture, baisser les fenêtres, démarrer sans la carte ou encore désactiver le système de sécurité dans sa globalité. Il peut savoir si un individu se trouve à l’intérieur du véhicule. Dans une interview, accordée à Bloomberg, David Colombo a fourni des captures d’écran et d’autres documents relatifs à ses recherches, identifiant le fabricant du logiciel et donnant des précisions sur les vulnérabilités. Il a demandé que ne soit pas publié de détails, tant qu’un correctif n’a pas vu le jour.
Il ne s’agit pas d’un « contrôle total à distance », c’est-à-dire la possibilité de contrôler à distance la direction, l’accélération et le freinage.
David colombo. twitter
Bloomberg confirme que tout est vrai après lecture et vérification. Selon les premières informations, le jeune homme aurait utilisé des API vulnérables présentes dans d’autres applications que celle de Tesla, installées dans le téléphone des détenteurs desdits véhicules. « Ce n’est pas une vulnérabilité de l’infrastructure de Tesla. C’est la faute des propriétaires. » Il affirme avoir été en contact avec des membres de l’équipe de sécurité de Tesla, ainsi qu’avec le fabricant du logiciel tiers. Cette découverte met en exergue les risques liés à l’utilisation naïve de l’Internet des objets (IoT), où tout, des automobiles aux réfrigérateurs, est connecté en ligne — et devient donc potentiellement vulnérable aux menaces de piratage. « Il suffit de ne pas connecter les objets critiques à l’internet, déclare-t-il. C’est très simple. Et si vous devez le faire, assurez-vous qu’il est configuré de manière sécurisée »
janvier 13, 2022
Ransomware: la défense belge attaquée
Lors du passage à la nouvelle lune, dimanche 19 décembre 2021, plusieurs offensives par codes malveillants se sont produites, comme chaque jour sur Terre. Au cours de ce week-end, c’est une attaque majeure qui ciblait le ministère de la défense belge. Les pirates ont exploité une vulnérabilité dans un logiciel appelé Log4j, qui a été découverte plus tôt en décembre, a déclaré un porte-parole aux médias locaux. Le ministère l’a repéré il y une semaine, jeudi 16 décembre 2021.
Les responsables de la cybersécurité du monde entier se sont empressés de corriger la vulnérabilité de Log4j au cours de la huitaine écoulée. C’est sur l’ensemble de la planète que le problème sévit. Il touche une longue liste de sociétés de logiciels, dont Amazon et Microsoft pour ne citer qu’elles. La compagnie de gestion des ressources humaines Ultimate Kronos Group a été la cible d’une infection par ransomware. Tous n’ont pas eu le temps nécessaire, semble-t-il. Des allégations de chercheurs avertissaient que des groupes de pirates soutenus par des États, notamment ceux liés à la Chine, à l’Iran, à la Corée du Nord et à la Turquie, auraient commencé à utiliser cette vulnérabilité pour pirater les réseaux de leurs adversaires. Le ministère de la Défense « a détecté ce jeudi une attaque sur son réseau informatique avec accès internet. Rapidement, des mesures de quarantaine ont été mises en place afin de circonscrire les éléments infectés. La priorité est donnée à l’opérationnalité du réseau de la Défense », indiquait un porte-parole.
Depuis la découverte de l’agression, « nos équipes ont été mobilisées […] Un monitoring continuera à être assuré », ajoutait dimanche soir le porte-parole, le commandant Olivier Séverin. (Crédits : capture d’écran/CERT.be)
Depuis la publicité faite de la vulnérabilité dans la bibliothèque de journalisation Log4j d’Apache, il ne se passe pas une journée sans que les médias en parlent. Les opérateurs malveillants se sont très vite emparés du sujet en multipliant les exploits (botnet, ransomware …) et en arrosant à tout va. Mardi 21 décembre 2021, le ministère annonçait officiellement avoir été victime d’une attaque reposant sur la vulnérabilité Log4Shell, sans révéler le ou les auteurs de cette attaque.
Face au feu nourri, les autorités décuplent les alertes (ANSSI, CISA, CERT, DGSSI…) pour corriger au plus vite les systèmes sensibles. Plusieurs patchs ont été nécessaires. (Crédits : capture d’écran/DGSSI)
Dans certaines versions de Log4j, un logiciel repris dans de très nombreux utilisateurs, notamment par Amazon, Apple, Cloudflare, Tesla, Minecraft et Twitter, permet de s’emparer du contrôle de la machine qui l’héberge, et d’élever ainsi ses privilèges. Le pirate peut alors commencer à circuler dans le réseau informatique de la victime pour y déployer rançongiciels, comme outils d’espionnage. L’ANSSI détermine dans son alerte les systèmes affectés :
- Apache Log4j versions 2.16.0 et 2.12.2 (java 7)
- Apache Log4j version 2.15.0
- Apache Log4j versions 2.0 à 2.14.1
- Apache Log4j versions 1.x (versions obsolètes) sous réserve d’une configuration particulière
- Les produits utilisant une version vulnérable de Apache Log4j : les CERT nationaux européens tiennent à jour une liste complète des produits et de leur statut vis-à-vis de la vulnérabilité (ici)
Il est fort à parier que d’autres organisations useront criminellement de la faille contre différentes sociétés, comme le stipule l’agence nationale de sécurité des systèmes d’information : « Cette vulnérabilité permet à un attaquant de provoquer une exécution de code arbitraire à distance s’il a la capacité de soumettre une donnée à une application qui utilise la bibliothèque log4j pour journaliser l’évènement. Cette attaque peut être réalisée sans être authentifiée, par exemple en tirant parti d’une page d’authentification qui journalise les erreurs d’authentification. Des preuves de concept ont déjà été publiées. Cette vulnérabilité fait désormais l’objet d’une exploitation active. » À vos mises à jour…
décembre 23, 2021
Kronos à court de temps
Si votre entreprise emploie Kronos, sur les semaines à venir, il se peut que vous ne puissiez pas l’utiliser pour pointer vos entrées et sorties de travail. La compagnie de gestion des ressources humaines Ultimate Kronos Group a été la cible d’une infection par ransomware. Il entrave l’accès de ses clients au traitement de la paie, à la gestion des feuilles de temps, mais également à elle de leur personnel. La période de fêtes de Noël risque d’être entachée des conséquences de cette attaque.
Parmi les clients de renom qui exploitent les systèmes de la firme figurent Tesla, Puma et le YMCA, pour ne citer qu’eux. L’attaque a également touché Kronos Workforce Central, qui contient une suite de solutions de gestion de la main-d’œuvre. Celle-ci est utile pour administrer le temps et les présences, les absences, la planification et bien plus encore.
Dans un premier communiqué samedi 11 décembre 2021, la direction affirmait qu’elle avait pris acte d’une activité inhabituelle impactant les solutions UKG utilisant Kronos Private Cloud, et qu’un ransomware avait ciblé ce dernier. « Pour l’instant, nous n’avons pas connaissance d’un impact sur UKG Pro, UKG Ready, UKG Dimensions ou tout autre produit ou solution UKG, qui sont hébergés dans des environnements séparés et non dans le Kronos Private Cloud », a écrit Bob Hughes, vice-président exécutif de Kronos. C’est la mise à jour de Kronos Private Cloud qui aurait été frappée par une attaque de ransomware.
De nombreuses entreprises mais également des administrations sont touchées, comme la ville de Cleveland, dans l’Ohio, dont on voit le marché, ci-dessus. (Crédits : Fuji Nakama/Pixabay)
Les produits de chronométrage de Kronos sont utilisés par des entreprises au Royaume-Uni, notamment la chaîne de supermarchés Sainsburys, Boots the Chemist et Jaguar Land Rover, mais pas seulement. Outre-Atlantique l’université de Clemson en Caroline du Sud, l’hôpital universitaire de Winthrop à Long Island, ainsi que par des administrations locales et d’État comme le comté de Santa Clara, ou la ville de Cleveland. Par l’envoi de courriels, aux entreprises clientes, la firme confirme que l’entreprise a mis hors ligne ses services de cloud privé suite à une attaque de ransomware. Elle conseille de déployer des « protocoles alternatifs de continuité de l’activité », ce qui pourrait avoir des conséquences sur les salaires de Noël des Britanniques, souligne The Register. En effet, le service de chronométrage est en relation avec les systèmes de paie des sociétés, permettant de régler chaque membre du personnel en fonction du temps travaillé.
Plusieurs semaines
Le message de la victime est sans surprise, le rétablissement du service complet prendra « plusieurs semaines ». Cela dit, l’expectative est la plus totale, pour savoir si la vulnérabilité Log4j d’exécution de code à distance a été le moyen d’accès des attaquants. Valéry Rieß-Marchive, Rédacteur en chef de LeMagIT, explique que toutes les conversations de la planète cybersécurité ne tournent qu’autour d’un seul sujet : la vulnérabilité dite Log4Shell, référencée CVE-2021-44228. Il suffit de lire que le patch est un correctif d’urgence pour combler une faille critique d’exécution de code sans authentification dans un utilitaire de journalisation largement utilisé, pour attraper une sueur froide.
Gareth Corfield prophétisait en préambule par « préparez-vous à passer un week-end très chargé en atténuation et en correctifs », dans son article. (Crédits : capture d’écran/UKG)
La direction d’UKG s’accordait sur l’ampleur de l’incident et déclare que « […] nous avons alerté nos clients concernés et informés les autorités, et nous travaillons avec des experts en cybersécurité de premier plan. Nous reconnaissons la gravité du problème et avons mobilisé toutes les ressources disponibles pour soutenir nos clients et travaillons avec diligence pour restaurer les services affectés. »
décembre 14, 2021