La technologie nous aide à avancer. À nous de choisir le cap.
Chez Progymédia, nous développons des logiciels depuis des décennies et l’intelligence artificielle occupe aujourd’hui une place centrale dans notre travail. Nous l’utilisons quotidiennement, nous développons des systèmes qui l’exploitent et nous croyons profondément à son potentiel. D’ailleurs, cet article a été rédigé avec l’assistance de ChatGPT.
Mais malgré mon enthousiasme, je pense qu’il est temps de nous poser une question fondamentale : jusqu’où sommes-nous prêts à laisser l’intelligence artificielle aller ?
L’automatisation fait partie de notre évolution
Depuis des millénaires, l’humanité invente des outils pour accomplir des tâches plus efficacement.
La révolution industrielle a transformé notre capacité de production. Les ordinateurs ont automatisé le traitement de l’information, puis Internet a bouleversé notre façon de communiquer et de collaborer.
L’intelligence artificielle s’inscrit dans cette continuité. Elle nous permet maintenant d’automatiser des tâches qui exigeaient auparavant des capacités intellectuelles humaines.
C’est une avancée extraordinaire, et je crois qu’elle peut apporter énormément à notre société.
Mais le progrès technologique n’est pas nécessairement synonyme de progrès social.
Je suis préoccupé par les coûts économiques de l’IA, son impact environnemental et, surtout, les bouleversements sociaux qui nous attendent si nous avançons sans réfléchir aux conséquences.
Nous devons nous demander quelle place nous voulons laisser à l’humain dans un monde où les machines peuvent de plus en plus agir de manière autonome.
Une frontière : l’agentivité
L’agentivité (agency) est la capacité d’un individu à prendre des décisions de manière autonome, à exercer son jugement et à agir intentionnellement pour influencer son environnement et atteindre ses objectifs.
Ce concept existe depuis longtemps, mais avec l’arrivée de l’IA, il prend une toute nouvelle dimension.
Nous développons maintenant des agents capables d’analyser des situations, de planifier, de prendre des décisions opérationnelles et d’exécuter des tâches complexes sans intervention humaine à chaque étape.
Et je pense que c’est une excellente chose.
Mais il existe une différence fondamentale entre donner à une IA l’autonomie nécessaire pour accomplir une tâche et lui laisser déterminer elle-même les objectifs qu’elle doit poursuivre.
Nous pouvons déléguer l’exécution et les décisions opérationnelles sans abandonner la maîtrise des objectifs, des valeurs et de leurs conséquences.
C’est précisément là que je veux tracer la limite.
Notre décision chez Progymédia
Nous continuerons à développer des agents IA de plus en plus compétents et autonomes. Nous continuerons à automatiser ce qui peut raisonnablement l’être.
Mais j’ai décidé que notre ligne directrice serait claire :
L’IA peut disposer d’une autonomie d’exécution. L’agentivité, elle, doit rester humaine.
Cela signifie que nos systèmes doivent continuer à servir des objectifs définis par des humains, dans un cadre qu’ils peuvent comprendre, contrôler et remettre en question.
Je sais que cette frontière ne sera pas toujours facile à définir. Je ne prétends pas avoir toutes les réponses, ni savoir ce que l’avenir nous réserve.
Mais je sais dans quelle direction je veux avancer.
Je vais faire de mon mieux pour que l’intelligence artificielle augmente notre capacité d’agir, sans jamais nous faire renoncer à celle de choisir.
Et pour que l’agentivité reste humaine.
La ligne directrice que je veux garder
✓ Des objectifs et des valeurs définis par des humains.
✓ Une autonomie d’exécution dans un cadre compréhensible, contrôlable et que l’on peut remettre en question.
✓ Une capacité d’agir augmentée, avec la liberté de choisir.
