L’IA peut-elle être éthique ?

Retranscription de la vidéo : L’IA peut-elle être éthique ?

Lise Bachmann : bonjour Michel Chalhoub.

Michel Chalhoub : bonjour Lise !

Lise Bachmann : enchantée de te rencontrer aujourd’hui, de t’interviewer à nouveau autour de l’IA (l’intelligence artificielle). Donc tu es franco-syrien et actuellement tu es doctorat en IA dans le Retail et notamment sur le marché du luxe.

Michel Chalhoub : exactement !

Lise Bachmann : tu es sur le point de sortir une première publication avec l’éminent Marcel Saucet dans la « Harvard business review ». Et justement, l’IA, c’est un sujet passionnant, tu nous en a déjà parlé, mais là aujourd’hui, j’aimerais t’interroger sur ses limites, ses biais et comment on peut la rendre plus Tech For Good. Donc l’IA, Michel, il y a trois ans, le jeu de go était le dernier jeu de l’intelligence humaine à être dépassé par l’intelligence artificielle, est-ce que tu peux nous en dire plus sur comment ça s’est passé ?

Michel Chalhoub : bien sûr, déjà, j’aimerais dire qu’en trois ans, l’IA a tellement évolué qu’elle a passé l’épreuve, le champion de go, qui était le dernier champion à un jeu où l’IA devait encore gagner et qu’il a battu il y a trois ans et demi, a été lui-même battu par cette application qui s’appelait « alfa go », il s’est fait battre par alfa go zeo 100 à 0. Donc pour dire que l’IA qui a battu le champion du go s’est fait battre par une autre IA encore plus perfectionnée.

Lise Bachmann : d’accord !

Michel Chalhoub : donc là, il n’y a plus aucun jeu où l’humain peut gagner contre l’IA, c’est terminé.

Lise Bachmann : d’accord, c’est terminé, c’est clair. Et alors Michel, on parlait de jeu de go, mais est-ce que tu peux nous en dire plus aussi sur la singularité de l’IA, c’est-à-dire l’aboutissement final de cette intelligence ?

Michel Chalhoub : alors la singularité, c’est quand l’IA a atteint cette intelligence humaine en fait, cette conscience de soi, cette capacité à vraiment réfléchir. Et c’est quelque chose que les experts placent entre 2035 et 2090, donc on a 15 voire beaucoup plus d’années que ça pour la voir venir.

Lise Bachmann : d’accord !

Michel Chalhoub : et cette singularité-là, c’était le but de l’IA depuis les années 50. C’est-à-dire depuis le test de Turing. Le but, c’est que l’IA passe le test de Turing. Le test du Turing c’est quand on ne sait plus si l’IA est un humain ou juste une IA.

Lise Bachmann : d’accord, et ça, c’est peut-être dans 15 ans ?

Michel Chalhoub : potentiellement, le plus tôt dans 15 ans.

Lise Bachmann : d’accord, ça nous rassure, enfin 15 ans, c’est juste demain, c’est vraiment une interview qui nous éclaire, on a rarement l’occasion d’entendre les propos comme ceux d’expert comme toi. Michel, est-ce que tu peux nous en dire aussi plus sur les biais de cette IA, ces limites et comment on peut veiller à ce qu’elle soit orientée For Good donc éthique.

Michel Chalhoub : la première chose avec l’IA c’est que lorsque l’IA commet une erreur, c’est à la base une erreur humaine. L’IA elle-même ne fait pas d’erreur, c’est une question de statistique et elle prend toujours la réponse la plus logique et la plus simple. Donc s’il y a une erreur dedans, ça sera une erreur humaine. Tout comme lors des voitures automatiques, les voitures qui se conduisent toutes seules, si à moment il y avait des accidents, c’était quand il y avait des personnes de couleur parce qu’elle n’a pas eu cet encodage qu’il fallait pour faire la différence entre les personnes blanches et les personnes de couleur. Donc il y a eu des accidents à ce moment-là.

Lise Bachmann : c’est incroyable ce que tu me racontes là.

Michel Chalhoub : c’est un biais humain.

Lise Bachmann : donc là c’est un biais très concret, c’est-à-dire qu’il y a des accidents sur les personnes de couleur parce que dans les programmations et les algorithmes, ils sont moins reconnus que les personnes blanches ?

Michel Chalhoub : tout à fait !

Lise Bachmann : c’est incroyable. Ok, Michel, merci pour cette info, j’espère que ces personnes-là feront encore plus attention. Et Michel, justement le sujet du for good, l’éthique, comment on avance là-dessus parce que ça va être un sujet clé dans les 15 ans qui viennent ?

Michel Chalhoub : alors c’est toujours un sujet très délicat, parce que le sujet de l‘éthique c’est toujours très compliqué. En Chine, ils ont ces principes de Citizen Score où ils donnent des notes sur les citoyens en fonction de leurs actions et de ce qu’ils font.
Lise Bachmann : le rating.

Michel Chalhoub : donc c’est toujours très compliqué, dès qu’on parle d’éthique, quelquefois c’est poussé, l’éthique devient non éthique parce qu’on essaye tellement de faire quelque chose pour que le code Citizen Score veuille faire quelque chose d’éthique pour le rating, ça devient discriminatoire au final. Donc c’est toujours compliqué. La première chose, c’est d’avoir des bons data scientiste qui sont capables d’analyser les données et voir si ces données sont correctes. Mais le for good vraiment, sachant que l’IA est un outil, c’est le point qu’il utilise.

Lise Bachmann : d’accord, c’est très clair. Et tu nous parles de ce data scientiste, tu peux nous décrire le profil type d’un bon data scientiste, mais surtout d’un bon data scientiste éthique ou d’une bonne data scientiste éthique. Quel est le profil idéal c’est-à-dire âge, formation, et comment on fait pour que ces personnes-là soient éthiques et orientées, quel cours ils suivent, je ne sais pas.

Michel Chalhoub : alors là je ne pourrais pas vous aider.

Lise Bachmann : bon ! Et le data scientiste, de ce que tu me dis et puisqu’il faut qu’ils comprennent le biais des données d’entrée, ils ont 20 ans ou ils ont 35-40 ans parce que l’IA est quand même aussi une part d’expérience dans tout ça.

Michel Chalhoub : ils ont plutôt 20 et 30 ans.

Lise Bachmann : d’accord, c’est plutôt la trentaine, OK. Et homme femme, c’est à peu près, équivalent sur le profil ?

Michel Chalhoub : c’est à peu près équivalent.

Lise Bachmann : d’accord !

Michel Chalhoub : donc je dirais que si vous voulez un data scientiste allez chez Google, leur bonus est de 100 millions.

Lise Bachmann : on parle d’Euro là ou de Dollars ?

Michel Chalhoub : de Dollars, le bonus.

Lise Bachmann : le bonus annuel.

Michel Chalhoub : si vous voulez devenir data scientiste, allez chez Google.

Lise Bachmann : d’accord, donc là aussi une information incroyable grâce à Michel, 100 millions d’Euros par an, si tu es data scientiste, en bonus chez Google. Bien merci Michel. L’IA à sa puissance, mais aussi ses limites, de quel moyen elle pourrait contourner le respect de nos libertés et de nos vies privées ?

Michel Chalhoub : alors ses manières dépendent des sociétés qui les utilisent, tout comme aujourd’hui nous savons qu’on est tout le temps enregistré que cela soit sur le téléphone, les ordinateurs, nos assistants personnels, google home, amazon … . Ils nous enregistrent tout le temps, même quand ils ne sont pas actifs.

Lise Bachmann : même quand ils sont fermés, c’est bien ça ?

Michel Chalhoub : tout à fait. Donc dès qu’il y a un petit de courant dedans, ils vont nous enregistrer et nous font des wish listes. Des fois on va réaliser qu’on parle avec des amis de certains produits et on sort le téléphone et on voit qu’il y a de la publicité dessus. Ces personnes nous écoutent tout le temps dès qu’on utilise ça. On peut dire que ce n’est pas du For Good, dans un sens ça rentre dans la vie privée et même quand on ne l’a pas demandé, il va venir nous observer et nous écouter. Donc effectivement, c’est une mauvaise utilisation de l’outil.

Lise Bachmann : autour de ça, comment on fait pour que ce sujet-là soit pris en main rapidement. Mon garçon a un ami adolescent comme lui, qui me dit « Lys, c’est incroyable, j’ai parlé avec ma mère que je rêvais d’avoir un chien, et chose qui ne m’arrivait jamais, j’ai reçu des publicités pour la SPA et il était sidéré ce jeune » et ça devient sidérant en effet. Donc comment on peut contourner ça, il faut dire qu’on ne peut même pas éteindre l’appareil..

Michel Chalhoub : alors,ce qui se passe, comme en France, on a la RGPD qui permet d’essayer de protéger nos données sauf que quand il y a des personnes qui viennent de Chine ou d’autres pays, où il n’y a pas ces lois, où il n’y a pas ces facteurs-là dans leur téléphone. Leur téléphone n’enregistre pas que nous, mon téléphone m’enregistre moi et tout le monde. Même si nous, on décide de ne rien avoir avec notre téléphone et notre ordinateur, le fait qu’on sort avec des amis clairement, ça va nous enregistrer quand même. D’une certaine façon, c’est très compliqué d’y échapper.

Lise Bachmann : d’accord ! Le message est clair. Alors Michel, vu de toi, expert de l’IA, quel est le but ultime de l’IA ?

Michel Chalhoub : le but ultime de l’IA, je dirais, est de nous aider et de nous faciliter la tâche. En fait, ça va faire évoluer, je pense, nos métiers, parce qu’on sait que l’IA est assez disruptive, on va perdre peut-être 40% des métiers qui existent aujourd’hui. Mais on va créer des nouveaux métiers. Donc pour les métiers qui existaient dans le passé, mais qui n’existent plus, on a des nouveaux. Quelque chose qui ne sera toujours pas remplacé tant qu’il n’y a pas la singularité, en tout cas c’est tout ce qui est métier créatif, tout ce qui est psychologue par exemple aussi, tout ce qui compense l’humain. Par contre, tout ce qui est radiologue, taxi, banquier… beaucoup de métiers vont disparaître.

Lise Bachmann : d’accord, dit comme ça, c’est impressionnant, mais tu as raison de prévenir, anticiper au maximum le mouvement qui arrive. Lionel Marchand récemment interviewé, il nous disait que c’était 46% des métiers, mais toi tu as dit 40, très important.

Michel Chalhoub : et je pense que la prochaine étape surtout, ça serait au-delà de l’IA, ça serait le transhumanisme. Ça sera les deux en fait, on va mélanger la technologie et l’humain, ce sera des puces implémentées dans la peau, ça sera des lentilles pour voir plus loin, on va évoluer. Le but de l’IA, je pense, c’est d’être un premier stade de l’évolution, on va intégrer cette partie-là d’une façon ou d’une autre.

Lise Bachmann : d’accord. Bien écoutez, inspirant forcément, ça fait aussi effrayer mais ça peut aussi montrer des belles évolutions à venir. Merci beaucoup, Michel pour ce témoignage passionnant.

Michel Chalhoub : je veux juste vous dire que pour ceux qui s’inquiètent par rapport au métier et à l’IA et à la robotisation, je dirais que les pays où il y a le plus de nombres de robots qui sont l’Allemagne et le Japon, ce sont aussi les pays où le taux de chômage est le plus bas. Donc, ne pas s’inquiéter, on trouvera toujours des métiers et de quoi faire.

Lise Bachmann : d’accord il y aura de la place pour tout le monde sur le marché.

Michel Chalhoub : exactement !

Lise Bachmann : merci, Michel, pour cette brillante interview, à bientôt.

Michel Chalhoub : Merci !