Intelligence artificielle

Dernière mise à jour : 18 septembre 2019

L’intelligence artificielle est un concept nouveau depuis 30 50 ans (mince, c’est encore plus vieux que je ne le pense). Quand j’ai commencé l’informatique, on parlait déjà d’intelligence artificielle, et déjà on était déçu des résultats, au point que l’acronyme IA se trouvait souvent remplacé par Informatique Avancée qui correspondait mieux à la nature profonde du sujet. Le marketing ou nos peurs primaires nous empêchent souvent de bien comprendre ce que recoupe cette notion d’intelligence artificielle. Mais parler d’intelligence artificielle est nettement plus vendeur que de parler de classification automatique de motifs complexes1.

[…] la présentation à outrance du moindre outil de calcul comme un outil d’intelligence artificielle nous détourne de ce que nous pouvons accomplir, tout comme une décennie passée à vanter les mérites des startups nous a détournés de l’objectif de créer des entreprises capables de survivre2. (Luis Perez Breva, MIT)

Démystifions

Test de Türing

Calculateur

Prise de décision ?

Non, techniquement : l’apparente décision n’est qu’un choix, basé sur des données acquises et une programmation, parfois issu de calculs extrêmement complexes et dépassant largement les capacités humaines. Pas de place pour les sentiments, l’erreur, ou la véritable intuition. Exemple : je peux choisir la pire des solutions pour moi ou mon entreprise au profit d’un client parce qu’il m’est personnellement sympathique (empathie).

Non, juridiquement. Position de la CNIL : aucun automate ne peut prendre de décision ayant une conséquence juridique. Seule une personne réelle peut prendre ce genre de décision.

Sentiment ?

Aujourd’hui, on ne sait pas modéliser efficacement des sentiments. On peut donner du simili, mais presque par définition, le sentiment est quelque chose qu’on ne peut pas modéliser ni conceptualiser : cela échappe à toute logique.

Un agent intelligent existe-t-il ?

Non, il exhibe un comportement intelligent. Il en a l’apparence. cf Ferber 1995 ? Le terme d’intelligence artificielle est lui-même trompeur, car la plupart des systèmes s’en revendiquant ne sont en réalité que des systèmes d’apprentissage automatiques3. Ces derniers permettent de faire des choses extrêmement complexes, qu’un humain n’est pas capable de faire, mais sans réelle intelligence, avec simplement de bons algorithmes et de bonnes données (soit dit en passant, les algorithmes sont créés par les humains, et les données sélectionnées par leur soin).

Les programmes ont réussi à devenir des champions d’échec ou de go, puisqu’ils arrivent à battre n’importe quel humain (au moins pour AlphaGo), mais aucun de ces programmes ne relève de l’intelligence : ils sont extrêmement spécialisés, rapides, puissants, mais pas intelligents. Imaginons qu’on change une règle du jeu de go, la machine perdra alors les pédales !

Biaisons

Toute observation peut être sujette à des biais. On peut en avoir de deux natures :

  • Soit les données sont inexactes, approximatives, car elles sont difficiles à mesurer et à obtenir ;
  • Soit elles sont exactes mais elles ne sont que partiellement représentatives, car leur contexte influe sur leur valeur.

Dis ainsi, ça peut paraître théorique (et rhétorique). Pourtant, si vous mesurez le taux d’humidité dans le désert (même si le désert est gigantesque et vos points de mesures nombreux), vous ne mesurez que des valeurs correspondant au désert. Si par la suite vous demandez à un algorithme d’IA ou de tout ce qu’on veut de déduire un modèle météo en fonction de ces mesures, vous serez incapables d’avoir un résultat correct si vous appliquez le même algorithme dans une zone tempérée. Ballot.

Plus grave : si vos mesures représentent des choix et des décisions humaines, vous risquez de les reproduire dans votre algorithme. Dans un article des Echos consacré au sujet4, on nous apprend que les algorithmes ont beau être vérifiables, ils peuvent quand même produire des réponses inappropriées en raison d’un biais existant dans le système. Les optimistes nous diront qu’heureusement on peut le corriger ; oui, tout à fait, mais qui peut le faire ? Pas l’algorithme lui-même, car il a travaillé conformément aux données dont il disposait.

Contre-biaisons

cf IBM

Que penser ?

D’une part qu’il est illusoire de penser qu’une IA ou un algorithme, à partir du moment où la complexité et le nombre de données en entrée grandissent, puissent donner un résultat ou une représentation objective et indiscutable4.

D’autre part, même avec une conception parfaite et poussée, tout résultat reste sensible à une interprétation, qu’aucune machine n’est capable de faire pour le moment.

Spécialisation

Les algorithmes sont spécialisés. Interpréter, juger, évaluer risque d’être impossible tant les ordinateurs ne seront pas en nous.

Exemple criant : les problèmes de Facebook5 pour supprimer les contenus terroristes, et donc les problèmes de modération automatique. Il est en effet plus facile de classifier une image où on voit un bout de sein qu’une vidéo d’un mec en train de tirer dans la foule en direct.

Ethique

Problème crucial6.

Robots

A rapprocher de singularité7.

Singularité

Doit-on redouter que les machines surpassent l’homme ? Gardons un peu l’espoir :

[…] les ordinateurs et logiciels actuels n’ont ni culture sociale, politique ou artistique, ni intuition, ni vraie créativité3. (Gérard Berry, professeur au Collège de France)

L’intelligence artificielle en sécurité informatique

L’IA peut venir aider à plusieurs niveaux (reconnaissance, analyse, prospective). Mais si un gentil peut l’utiliser pour se défendre, un méchant peut aussi l’utiliser à son avantage.

Sources

Publications

  • https://img1.wsimg.com/blobby/go/3d82daa4-97fe-4096-9c6b-376b92c619de/downloads/1c6q2kc4v_50335.pdf
  • https://foresight.org/publications/AGI-Timeframes&PolicyWhitePaper.pdf
  • https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
  • https://www.lexpress.fr/actualite/sciences/pourquoi-il-faut-un-droit-des-robots_2018912.html
  • https://www.lexpress.fr/actualite/sciences/l-intelligence-artificielle-n-est-pas-intelligente_2024279.html
  • https://www.darkreading.com/endpoint/5-emerging-trends-in-cybercrime/a/d-id/1333363