International

L’intelligence artificielle signe-t-elle la fin de l’intelligence humaine ?

Depuis l’apparition de ChatGPT, une ruée vers l’or est déclenchée. Sauf que depuis que la boite de Pandore est ouverte, tous font machine arrière. Mardi 30 mai 2023, un groupe d’industriels à averti que la technologie d’intelligence artificielle qu’ils construisent pourrait un jour menacer l’existence même de l’humanité. Et si James Cameron était un cinéaste visionnaire avec son recueil Terminator. Comparée à l’électricité ou la machine à vapeur, elle présente des avantages et des risques sérieux.

Le New York Times relate que « Les dirigeants d’OpenAI, de Google DeepMind, d’Anthropic et d’autres laboratoires d’IA avertissent que les futurs systèmes pourraient être aussi mortels que les pandémies et les armes nucléaires. » De quelle manière doit-on prendre cet avertissement, surtout lorsqu’il provient des concepteurs même ?

Est-il déjà trop tard ?

En mars dernier, une lettre ouverte sur l’intelligence artificielle était paraphée par 31 810 personnes. Au rang desquels se trouvent Elon Musk (Twitter, SpaceX et Tesla), Yuval Noah Harari, auteur de « Sapiens », Steve Wozniak, cofondateur d’Apple, ainsi que des membres du laboratoire d’IA de Google DeepMind et des experts et universitaires américains, pour ne citer qu’eux ont réclamé un moratoire. Selon eux, une pause de six mois était nécessaire face aux dangers de l’IA.

Des dirigeants de trois des principales entreprises d’intelligence artificielle, dont Sam Altman, directeur général d’OpenAI (au centre), ont signé une lettre ouverte mettant en garde contre les risques de l’intelligence artificielle. (Crédit : Jim Lo Scalzo/EPA, via Shutterstock)

La peur qu’elle engendre serait entre autres l’utilisation pour de la propagande, des infox ou fake news. Quatre entités se retrouvent sous la lumière de projecteurs.

  • ChatGPT : la fameuse IA qui fait sensation depuis le mois de novembre 2022. La version 3 répond à de complexes questions, génère du code… La version 4 peut réussir l’examen du barreau
  • Bing : Microsoft principal investisseur d’OpenAI ajoutait un chatbot à son moteur de recherche Bing.
  • Bard : lancé en mars, il est conçu comme un outil créatif. Il est capable de rédiger des articles de blog, répondre à des questions, générer des idées.
  • Ernie : premier grand rival de ChatGPT, du chinois Baidu

Perturbations à l’échelle sociétale

« Il existe une idée fausse très répandue, même au sein de la communauté de l’IA, selon laquelle il n’y a qu’une poignée de prophètes de malheur », a déclaré Dan Hendrycks, directeur exécutif du Center for AI Safety dans une interview. « En réalité, de nombreuses personnes expriment en privé des inquiétudes à ce sujet. » Parmi les signataires de la missive du 30 mai se trouvent « Geoffrey Hinton et Yoshua Bengio, deux des trois chercheurs qui ont remporté un prix Turing pour leur travail pionnier sur les réseaux neuronaux et qui sont souvent considérés comme les “pères” du développement actuel de l’IA ».

Les concepteurs se retrouvent dans la position de lanceurs d’alertes, après avoir ouvert la boite interdite. (Crédits : Alexandra_Koch/Pixabay)

Le plus cocasse est que la course est lancée, le premier rafle la mise, mais tous se prémunissent des possibles dommages. De son côté, les signataires demandaient « à tous les laboratoires d’interrompre immédiatement, pendant au moins six mois, la formation de systèmes d’IA plus puissants que GPT-4. » Sabine Süsstrunk, directrice du Laboratoire d’images et représentation visuelle de la Faculté informatique et communications de l’EPFL, et Johan Rochel, docteur en droit et philosophe, cofondateur et codirecteur du laboratoire Ethix, « estiment que cette proposition n’est pas la solution », révèle Le Temps.

Les risques mis en avant par Safe sont au nombre de huit.

  1. L’armement
  2. La désinformation
  3. Le jeu par procuration
  4. Affaiblissement ou le syndrome dépeint par le film WALL-E
  5. Un verrouillage de la valeur
  6. Perte de contrôle ou objectifs émergents
  7. Tromperie
  8. Comportement de recherche de pouvoir

« Dans l’état actuel des choses, il est concevable que dans les dix prochaines années, les systèmes d’IA dépassent le niveau de compétence des experts dans la plupart des domaines et qu’ils soient aussi productifs que l’une des plus grandes entreprises d’aujourd’hui. » Sam Altman explique par deux faits la complexité de la situation. La première « nous pensons qu’elle va conduire à un monde bien meilleur que celui que nous pouvons imaginer aujourd’hui ». Deuxièmement « nous pensons qu’il serait incroyablement risqué et difficile d’arrêter la création de la super-intelligence ». Même en freinant des quatre fers, la machine est lancée à pleine puissance. Pour stopper la frénésie, il serait nécessaire de planifier un régime de surveillance mondial, sans garantie de fonctionnement.

Mais qui serait l’arbitre ?

Un système IoT peut collecter des données provenant de capteurs environnementaux, et l’IA peut être utilisée pour analyser ces données et prendre des décisions en conséquence. Par exemple en ajustant la température d’une pièce pour économiser de l’énergie. (Crédits : Computerizer/Pixabay)

Quant à la question « L’intelligence artificielle signe-t-elle la fin de l’intelligence humaine ? », la réponse d’une AI est la suivante : « L’intelligence artificielle ne signifie pas nécessairement la fin de l’intelligence humaine. Au contraire, l’IA est conçue pour compléter et améliorer les capacités humaines plutôt que de les remplacer. L’intelligence humaine est complexe et englobe des aspects tels que la créativité, l’empathie, le jugement moral et la conscience, qui ne peuvent pas encore être reproduits par des machines.

Cependant, il est vrai que l’IA peut avoir un impact sur certains emplois, en automatisant des tâches routinières et répétitives. Cela pourrait entraîner des changements dans le marché du travail, mais cela ne signifie pas nécessairement la fin de l’intelligence humaine. Les êtres humains ont la capacité de se former et de se réorienter vers de nouvelles professions qui nécessitent des compétences plus complexes et créatives. »

Vous saviez que les dirigeants des GAFAM envoient leurs enfants dans des écoles sans système d’informations ?

Fidel Plume

Équilibriste des mots, j'aime à penser qu'il existe un trésor au pied de chaque arc-en-ciel. Un sourire éclaire la journée de la personne qui le reçoit. Elizabeth Goudge disait : « La gratitude va de pair avec l'humilité comme la santé avec l'équilibre. »

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *