Les inconvénients de l'intelligence artificielle

Les inconvénients de l’intelligence artificielle 

1. Une IA encore en développement 

Plus de 2 300 personnes (dont près de 900 chercheurs sur la robotique et l'intelligence artificielle) ont signé les « 23 principes d'Asilomar ». Ces principes recouvrent des règles de base qui devraient, selon eux, être appliquées pour le développement de l’IA avec une question qui demeure omniprésente : faut-il en avoir peur ?

• Des exemples d’accidents liés à l’IA

Depuis le développement de cette technologie, de nombreux accidents sont recensés chaque année ce qui invite à remettre en cause ou du moins questionner la réelle effectivité de robots supposés nous faciliter le quotidien. Tout d’abord, les accidents peuvent être la cause d’une mauvaise programmation de l’IA. Les chercheurs donnent l’exemple d’un robot-nettoyeur donc la « fonction objectif » est de faire disparaitre les saletés et la poussière. Une mauvaise programmation pourrait par exemple permettre au robot de jeter des objets non destinés à l’être. En effet, cette action accélère et rend le nettoyage plus efficace pour la machine. Il s’agirait de ce que l’on appelle des « effets secondaires négatifs ». Toutefois, cet exemple est peu pertinent dans la mesure où la conséquence de cette mauvaise programmation n’est pas dramatique. Bien sûr, perdre un objet n’est jamais souhaitable mais cela reste tout de même un moindre mal comparé à d’autres accidents causés par l’IA.

Donnons maintenant l’exemple d’un robot infirmier dont la fonction serait de veiller sur le repos d’un malade. Techniquement, lui injecter des somnifères régulièrement obtiendrait un résultat positif penserait la machine, mais en réalité non. Il pourrait ainsi blesser la personne voire même la tuer ce qui pose un problème majeur. Ce dernier exemple pose également la question de l’adaptation du robot aux situations, enjeu que nous allons maintenant aborder.

• Une IA trop binaire : pas assez d’adaptation aux circonstances

Bien que les progrès de la technologie soient fulgurants, l’IA ne pourra jamais remplacer l’intelligence humaine et principalement au niveau de la sensibilité et de l’adaptions aux situations dont nous pouvons faire preuve. En effet, alors qu’un humain va peser les pour et les contre, prendre en compte plusieurs critères qu’ils soient subjectifs ou objectifs, avant de prendre une décision, le robot, lui, ne raisonne que de façon très binaire. En d’autres termes, il ne va pas évaluer et comparer une multitude de situations possibles car il n’en a pas la capacité mais seulement un petit nombre ne faisant pas forcément de sa décision finale la meilleure possible. Il n’admet pas de nuance dans sa réflexion et ne raisonne qu’en terme de « bien » ou de « mal ». De ce point de vue, la place de plus en plus importante des robots au sein de nos société est problématique.  

Ce soucis d’adaptation s’illustre notamment à travers l’exemple les conflits militaires. L’usage de robots en temps de guerre est de plus en plus fréquents or comment savoir si la personne à qui l’on a à faire est un civil inoffensif et pacifique ou un ennemi armé et dangereux ? Dans les cas basiques, un robot peut faire preuve de suffisamment d’intelligence pour distinguer civil et militaire notamment grâce au port d’arme. Mais, dès lors que l’ennemi ruse et cache son arme ou se fait passer pour un civil, le robot ne fait plus preuve d’assez de sensibilité pour opérer une quelconque distinction. Le film « I, Robot », recréant une situation de conflit militaire dans lequel sont utilisés des robots, illustre cet enjeu et invite à s’interroger sur la place que souhaitable que doivent occuper les robots dans notre société.

1. Un inconvénient financier

Nous allons maintenant aborder un autre enjeu non négligeable de l’IA : celui de son coût.

• Pour les Etats et la recherche

Tout d’abord, nous allons aborder le coût au niveau étatique en prenant pour exemple celui de la France. En effet, notre pays compte parmi les 4 premiers pays au monde pour la production mondiale d’articles sur l’intelligence artificielle, avec la Chine, les Etats-Unis, et le Royaume-Uni. On doit notamment cette très bonne position dans le classement mondial aux 268 équipes de recherche et 5 300 chercheurs qui ont décidé de consacrer leur vie au développement de cette technologie. Toutefois, cela n’aurait pas été possible sans un financement de l’Etat très conséquent. En effet, le financement public français pour la recherche en l’IA est d’environ 400 millions d’euros par an.

Le montant du budget  alloué à l’IA est basé sur le « Rapport de la mission Villani », un rapport sur l’intelligence artificielle réalisé par le mathématicien et député LREM Cédric Villani et rendu public le 29 mars 2018. Suite à ce rapport, le Président de la République, Emmanuel Macron, a annoncé « Un investissement massif d'un peu plus d'1,5 milliard d'euros sur l'intelligence artificielle au cours du quinquennat à travers divers appels à projets. » Cet investissent a pour but de « faire de la France un leader de l'intelligence artificielle ». Toujours dans cette volonté de développer l’IA, le président a insisté sur le renforcement des filières de formation : « écoles de mathématiques, d'ingénierie, d'intelligence artificielle, de data scientist, de façon à doubler le nombres d'étudiants dans le supérieur. ». Ces données prouvent l’importance accordée à l’IA mais mettent surtout en évidence l’importance du budget accordé à son développement. À titre de comparaison, le budget aux sports en 2019 est très légèrement supérieur à celui de l’IA. En effet, le ministère des sports fonctionnera avec un budget de 451 millions d’euros pour 2019, soit 51 millions de plus, ce qui ne représente pas énormément d’argent à l’échelle de l’Etat.

De plus, ce budget d’1,5 milliards d’euros sur la durée totale du quinquennat ne comprend pas toutes les dépenses faites par l’Etat dans ce domaine. En effet, Emmanuel Macron a également annoncé un investissement de 10 milliards d'euros reversés au Fonds pour l'innovation et l'industrie mis en place par le ministre de l'Economie Bruno Le Maire au début de l’année 2018 et dédié aux « technologies de ruptures » comme le stockage de l'électricité, des données et le développement de l'intelligence artificielle.

...