La résilience commence par nous : des voies éthiques vers l’innovation et la confiance dans l’IA

Une IA responsable ne se limite pas à des contrôles techniques. Elle nécessite des cadres éthiques, une gouvernance transparente et l’intégration du jugement humain aux moments décisifs pour gérer les risques et garantir la responsabilité. 

Les êtres humains apportent une dimension éthique, un contexte et un raisonnement que les machines ne peuvent reproduire. La supervision humaine permet un déploiement de l’IA plus sûr, plus fiable et plus digne de confiance. 

Parmi les dispositifs efficaces, on peut citer la gouvernance des données, la validation des modèles, la détection des biais, l’explicabilité, la surveillance continue, les points de contrôle nécessitant une intervention humaine et les procédures d’escalade fondées sur les risques. 

Les systèmes entièrement autonomes augmentent les risques dans des situations complexes ou à enjeux élevés. La supervision humaine reste indispensable pour éviter les erreurs, les utilisations abusives ou les conséquences imprévues.

Une IA éthique instaure un climat de confiance auprès des utilisateurs, des autorités de régulation et de la société dans son ensemble, favorisant ainsi une innovation durable plutôt que des gains à court terme qui entraînent des risques à long terme. 

Veuillez regarder la vidéoicipour consulter la transcription avec les repères temporels

00:12 – 00:15

Notre invité a un parcours exceptionnel.

00 h 15 – 00 h 19

Euh… Elle est PDG de Humane Intelligence.

00:19 – 00:26

Elle a également été nommée envoyée spéciale des États-Unis pour l’intelligence artificielle par le président Biden.

00 h 26 – 00 h 30

Et j’ai hâte de vous la présenter et de l’accueillir parmi nous, le Dr…

00 h 30 – 00 h 32

Ruman Chowdhary.

00 h 42 – 00 h 44

Bonjour, bonne journée.

00 h 44 – 00 h 45

Je suis ravi de vous voir tous.

00 h 45 – 00 h 47

J’espère que vous avez apprécié vos bretzels.

00 h 47 – 00 h 48

Je m’appelle Dr.

00 h 48 – 00 h 56

Aman Chowdhury, et c’était formidable d’écouter toutes ces interventions et toutes ces conversations, et de reconnaître quelques visages familiers dans le public.

00 h 56 – 00 h 57

Bonjour.

00 h 58 – 01 h 03

Je suis donc ici aujourd’hui pour vous parler des voies éthiques menant à l’innovation et à la confiance.

01 h 04 – 01 h 08

Combien d’entre vous savent qui est cet homme ?

01 h 09 – 01 h 18

En général, je constate que dans le public, il y en a peut-être une qui le connaît, mais souvent, je suis confronté à des regards très perplexes quand je dis que c’est grâce à lui que nous sommes tous en vie aujourd’hui.

01 h 21 – 01 h 22

C’est vrai.

01 h 22 – 01 h 23

Bon, je vais vous expliquer.

01 h 23 – 01 h 25

Je m’appelle Stanislav Petrov.

01 h 25 – 01 h 31

Et en 1983, il était ce qu’on appellerait aujourd’hui « l’humain dans la boucle ».

01 h 31 – 01 h 38

Il était à la tête d’un système technique chargé de déterminer si les États-Unis avaient ou non lancé une arme nucléaire.

01 h 38 – 01 h 39

Il se trouvait du côté russe.

01 h 39 – 01 h 51

Et son travail consistait, depuis son bunker, à recevoir la confirmation qu’un missile avait été lancé, puis à appuyer sur le bouton pour… si vous vous souvenez de vos cours d’histoire ou d’éducation civique, ce qui est…

01 h 51 – 01 h 51

appelée « riposte mutuelle »

01 h 51 – 01 h 52

destruction mutuelle assurée.

01 h 52 – 01 h 56

Et nous avons tous beaucoup, beaucoup de chance qu’il ne l’ait pas fait.

01 h 56 – 02 h 02

Et j’adore cette histoire, car lorsque nous réfléchissons à la place de l’humain dans la boucle technologique, nous n’y pensons pas de manière très approfondie.

02 h 02 – 02 h 05

On se dit simplement : « Il y a quelqu’un au bout de la chaîne qui va juste… faire quelque chose. »

02 h 05 – 02 h 07

Eh bien, c’était donc lui, l’humain dans la boucle.

02 h 07 – 02 h 10

Et c’est une bonne chose qu’il ne se soit pas contenté d’appuyer sur le bouton.

02 h 10 – 02 h 17

Et il a eu recours à quelque chose qui est propre aux êtres humains : les indices contextuels et la réflexion critique.

02 h 17 – 02 h 20

Il s’est alors assis et s’est dit : « Eh bien, la Guerre froide dure depuis des décennies. »

02 h 20 – 02 h 21

Et il ne s’est pas passé grand-chose

02 h 21 – 02 h 25

En cas d’escalade, pourquoi les États-Unis utiliseraient-ils une arme nucléaire ?

02 h 25 – 02 h 27

Et il a choisi de ne pas appuyer sur le bouton.

02 h 27 – 02 h 31

Et c’est pour cette raison que nous n’avons finalement pas basculé dans une guerre nucléaire.

02 h 31 – 02 h 32

C’est extrêmement important.

02 h 32 – 02 h 37

Et ce qui est absolument incroyable, c’est que très peu de gens savent qui est cet homme.

02 h 37 – 02 h 48

Et j’adore cette histoire, encore une fois, car elle montre vraiment que la pensée critique humaine ne peut être remplacée, même par la technologie la plus avancée.

02 h 49  – 02 h 52

Alors, quand on parle d’intelligence artificielle, qu’entend-on exactement ?

02 h 52 – 02 h 53

À son époque, M.

02 h 53 – 02 h 59

Petrov a donc eu accès à certaines des technologies les plus avancées.

02 h 59 – 03 h 08

Et peut-être que cela semblait intimidant, voire effrayant, qu’un être humain puisse se lever et contester les résultats d’un outil technologique aussi sophistiqué.

03 h 08 – 03 h 11

Et c’est parfois ainsi que nous percevons l’intelligence artificielle.

03 h 11 – 03 h 16

Et voici le genre de titres que vous avez peut-être consultés aujourd’hui dans votre application d’actualités.

03 h 16 – 03 h 19

La solution à notre crise de l’éducation pourrait bien être…

03 h 19 – 03 h 31

L’IA. Les enseignants seront-ils les prochains à voir leur métier pris en charge par des robots ? Les avocats seront-ils la prochaine profession remplacée par des ordinateurs ? Et l’IA omniprésente est-elle aussi efficace que n’importe quel autre système pour diagnostiquer la maladie X ?

03 h 31 – 03 h 33

un être humain ou un médecin.

03 h 33 – 03 h 36

Et il y a deux ou trois points que je voudrais souligner à propos de ces gros titres.

03 h 36 – 03 h 37

Tout d’abord.

03 h 37 – 03 h 42

On dirait qu’ils datent des trois dernières années, celles de la révolution de l’IA générative.

03 h 42 – 03 h 45

En réalité, ils datent tous de 2018 à 2020.

03 h 45 – 03 h 49

Je travaille dans ce domaine depuis près d’une décennie maintenant, plus précisément dans le domaine de l’IA responsable.

03 h 49 – 03 h 52

Je travaille dans le secteur des technologies depuis plus de 15 ans.

03 h 52 – 03 h 56

Et on dirait qu’à chaque nouvelle itération, ces gros titres reviennent sans cesse.

03 h 56 – 04 h 00

Et bien sûr, à chaque nouvelle version, la technologie devient de plus en plus sophistiquée.

04 h 00 – 04 h 04

Mais il y a ici deux ou trois points qui me semblent assez problématiques.

04 h 04 – 04 h 07

Tout d’abord, il y a cette tendance à anthropomorphiser la technologie.

04 h 07 – 04 h 20

Si vous lisez ces phrases, on dirait qu’il y a une sorte de « personne IA » dans une machine qui souhaite vraiment devenir médecin, enseignant ou avocat, et qui va jusqu’à former votre enfant…

04 h 20                                

le professeur de votre enfant, qui se débat et hurle.

04 h 21 – 04 h 24

Je veux dire, une prise de pouvoir par les robots, mon Dieu.

04 h 24 – 04 h 25

Tu exagères un peu.

04 h 25 – 04 h 29

Mais surtout, où se trouve la personne dans cette phrase ?

04 h 29 – 04 h 37

Dans tous ces titres — et, encore une fois, il s’agit de titres très courants que vous voyez sans doute tous les jours —, l’être humain n’est qu’un élément passif.

04 h 37 – 04 h 41

destinataire de ce que la technologie a décidé de faire.

04 h 41 – 04 h 44

Et on ne pourrait pas être plus loin de la vérité.

04 h 44 – 04 h 50

Ce qui s’est donc passé, c’est que les gens pensent que l’IA est une sorte de horde de robots.

04 h 50 – 04 h 51

Ou alors, ce n’est pas le cas.

04 h 51 – 04 h 55

C’est quelque chose qui semble tout à fait normal.

04 h 55 – 04 h 56

Je peux revenir en arrière, s’il vous plaît ?

04 h 56 – 04 h 56

Désolé.

04 h 58 – 04 h 59

Voyons si ça marche.

04 h 59 – 05 h 00

Voilà, merci.

05 h 00 – 05 h 11

Les gens pensent que l’IA, ce sont ces hordes de robots qui débarquent pour bouleverser nos vies, nous prendre nos emplois et peut-être même enseigner à nos enfants, mais en réalité, si vous êtes développeur comme moi, ça…

05 h 11 – 05 h 13

Ça ressemble un peu plus à ça.

05 h 13 – 05 h 22

Et en réalité, ces gros titres hyperboliques ne reflètent pas la vérité, à savoir qu’il faut beaucoup d’efforts et de travail humain pour tout, de la collecte des données à leur organisation,

05 h 22 – 05 h 29

du nettoyage à la sécurité, euh, à la programmation, au débogage, puis au lancement du produit, à sa mise à l’échelle et à sa livraison,

05 h 30 – 05 h 49

et le déploiement : tout cela nécessite en réalité du personnel.

05 h 49 – 05 h 50

Nous ne nous adressons donc pas aux enseignants en attendant que les robots prennent le relais.

05 h 50 – 05 h 52

Entre-temps, de nombreuses étapes de la vie humaine se succèdent.

05 h 52 – 05 h 58

On discute, et quand on discute, quand on aborde des sujets humains,

05 h 58 – 06 h 04

nous interagissons directement avec cette technologie qui semble si futuriste et si performante.

06 h 04 – 06 h 11

Eh bien, ce qui se passe, c’est que nous commençons à développer une technologie qui ne tient pas vraiment compte des besoins des êtres humains.

06 h 11 – 06 h 22

Et puis, plus précisément, lorsque la technologie ne tient pas réellement les promesses fantastiques qui ont pu être faites lors d’une présentation, ce qui se passe alors, c’est que nous…

06 h 22 – 06 h 28

Partons du principe que ce sont les êtres humains et la société qui doivent s’adapter aux limites de la technologie,

06 h 28 – 06 h 34

plutôt que de réfléchir à la manière dont nous pourrions faire évoluer la technologie pour qu’elle s’adapte aux besoins de la société.

06 h 34 – 06 h 37

Et c’est ce que j’appelle « l’humain réadapté ».

06 h 37 – 06 h 44

Ainsi, lorsqu’on réfléchit à cet « humain réadapté », l’une des façons d’aborder la technologie de l’IA est de se demander : en quoi est-elle douée ?

06 h 44 – 06 h 46

De quoi est-elle capable ?

06 h 46 – 06 h 50

Et il existe plusieurs domaines dans lesquels l’apprentissage automatique et l’IA excellent tout particulièrement.

06 h 50 – 06 h 55

Tout ce préambule ne vise donc pas à dire que l’IA n’en est pas capable ou que l’apprentissage automatique ne peut pas faire certaines choses.

06 h 55 – 06 h 57

En réalité, ils sont capables de réaliser des choses tout à fait étonnantes.

06 h 57 – 07 h 02

Mais ce qui importe ici, c’est de faire la distinction entre ce pour quoi les humains sont vraiment doués et ce pour quoi la technologie est vraiment douée.

07 h 02 – 07 h 03

Alors, en quoi la technologie excelle-t-elle vraiment ?

07 h 03 – 07 h 06

Elle a le don de repérer les tendances générales.

07 h 06 – 07 h 08

Elle a un don pour l’analyse

07 h 08 – 07 h 10

et d’identifier les éléments qui se ressemblent.

07 h 10 – 07 h 13

C’est en gros l’essentiel de la vision par ordinateur.

07 h 13 – 07 h 17

Et cela est généralement cohérent, en fonction du taux d’erreur.

07 h 17 – 07 h 27

Donc, lorsque nous développons une IA — et, je le répète, je fais cela depuis un certain temps —, on peut résumer la démarche en disant que nous collectons beaucoup de données pour créer un modèle adapté à la personne moyenne d’un…

07 h 27 – 07 h 29

type particulier.

07 h 29 – 07 h 32

Et nous pouvons collecter des données extrêmement spécifiques.

07 h 32 – 07 h 35

Et cela ne veut pas dire que nous le faisons pour le grand public en général.

07 h 35 – 07 h 37

Mais c’est nous qui définissons qui vous êtes, qui je suis et qui sont les…

07 h 37 – 07 h 41

la personne assise à côté de vous en tant que membre d’un profil client ou d’une communauté.

07 h 41 – 07 h 45

Et cela repose peut-être sur 10, 20 ou 100 points de données différents.

07 h 45 – 07 h 50

Et ensuite, on part en quelque sorte du principe qu’il existe des hypothèses formulées concernant les données manquantes.

07 h 50 – 07 h 50

Très bien.

07 h 50 – 07 h 55

Eh bien, je vais vous raconter une histoire qui illustre ce que signifie concevoir pour le grand public.

07 h 55 – 08 h 04

Et qu’entend-on exactement par « personne lambda », même si l’on se base sur un sous-groupe très spécifique de personnes que l’on pourrait croire très, très prévisibles ?

08 h 04 – 08 h 07

D’ailleurs, j’adore raconter des anecdotes, des histoires et animer des discussions.

08 h 07 – 08 h 07

sur ce sujet.

08 h 07 – 08 h 07

ça.

08 h 07 – 08 h 07

ça.

08 h 07 – 08 h 11

l’intelligence artificielle, alors ça n’a rien à voir avec l’intelligence artificielle.

08 h 11 – 08 h 19

L’une de nos plus grandes erreurs est de penser que cette technologie est nouvelle et que tous les problèmes auxquels nous sommes confrontés sont des choses que nous ne verrons jamais, que nous n’avons jamais vues auparavant.

08 h 19 – 08 h 21

Nous ne nous sommes jamais posé ces questions.

08 h 21 – 08 h 31

Et bien que l’IA introduise de nouveaux paradigmes, de nouvelles questions et de nouveaux enjeux, les problèmes que nous cherchons à résoudre ne sont pas, à proprement parler, des questions inédites.

08 h 31 – 08 h 32

C’est donc l’une de mes anecdotes préférées.

08 h 32 – 08 h 37

Dans les années 1940, le nombre d’accidents d’avions de ligne atteignait un niveau record.

08 h 53 – 09 h 07

L’armée de l’air américaine s’est donc tournée vers les fabricants de sièges d’avion et leur a dit : « Écoutez, nous avons besoin que vous repensiez la conception de ces sièges, car le profil moyen des… »

09 h 07 – 09 h 08

chez nos pilotes a changé.

09 h 08 – 09 h 13

Bien sûr, si l’on réfléchit à qui sont ces pilotes, ils constituent en réalité un groupe assez restreint de personnes.

09 h 13 – 09 h 17

Il s’agit de jeunes hommes âgés probablement de 18 à 30 ans maximum.

09 h 19 – 09 h 20

Ils sont en très bonne santé.

09 h 20 – 09 h 22

Ils sont valides, etc.

09 h 22 – 09 h 24

Et à cette époque, il n’y avait pas de femmes pilotes.

09 h 24 – 09 h 26

Ce serait assez standardisé.

09 h 26 – 09 h 33

Ils ont donc fait dans les années 1940 ce qu’ils avaient fait dans les années 1920, c’est-à-dire qu’ils ont recruté plus de 4 000 de ces pilotes.

09 h 33 – 09 h 36

Ils les ont évalués selon 10 critères différents.

09 h 36 – 09 h 37

Cela vous dit quelque chose ?

09 h 37 – 09 h 43

Si vous êtes data scientist dans cette salle, cela vous semble sans doute être une approche tout à fait raisonnable pour concevoir un bon siège.

09 h 43 – 09 h 48

Donc, plus de 4 000 hommes, 10 points de mesure différents : ils ont calculé la moyenne et ont conçu un siège.

09 h 49 – 09 h 59

Et cela n’a plu à personne : pas un seul de ces quelque 4 000 pilotes ne s’est assis dans ce siège en disant : « Oui, je le trouve confortable. »

09 h 59 – 10 h 04

Et la raison, c’est que cette notion de moyenne correspond à la personne se situant au 50e centile.

10 h 04 – 10 h 07

Si vous connaissez la courbe en cloche, c’est la partie la plus large de cette courbe.

10 h 07 – 10 h 11

Courbe, euh… mais ce n’est pas forcément une personne qui existe vraiment.

10 h 11 – 10 h 20

C’est un personnage imaginaire qui est un amalgame de toutes les autres informations que vous avez recueillies sur les personnes qui lui ressemblent.

10 h 20 – 10 h 22

Ils ont donc ramené cela à trois dimensions.

10 h 22 – 10 h 26

Et si on se contentait de prendre trois données, pour obtenir davantage de données globales, n’est-ce pas ?

10 h 26 – 10 h 29

Cela ne représentait qu’environ 13 % des pilotes.

10 h 29 – 10 h 34

Eh bien, l’Armée de l’air est alors revenue vers les constructeurs aéronautiques en leur disant : « Bon, ça ne fonctionne pas pour nous. »

10 h 34 – 10 h 36

Car bien sûr, c’est une question de vie ou de mort.

10 h 36 – 10 h 41

Ces sièges doivent être véritablement fonctionnels et utiles, car les pilotes se retrouvent dans des situations extrêmes.

10 h 41 – 10 h 43

Ce n’est donc pas une réflexion a posteriori.

10 h 43 – 10 h 50

Ils sont donc revenus vers nous et nous ont dit : « En réalité, plutôt que de concevoir un siège adapté à la personne du 50e centile, c’est-à-dire la personne moyenne, ce que je veux que vous fassiez, c’est de créer

10 h 50 – 10 h 53

que les sièges conviennent à 95 % de tous les pilotes.

10 h 54 – 10 h 57

Cela représente un changement radical dans la manière dont on mesure le succès, n’est-ce pas ?

10 h 57 – 11 h 02

Car ce que vous créez dépend en grande partie de la manière dont vous définissez ce qu’est la réussite et ce à quoi ressemble le « bien ».

11 h 02 – 11 h 09

Ils ont donc redéfini la notion de « bien » en se disant : plutôt que de concevoir un siège pour le pilote moyen, pourquoi ne pas créer un siège qui convienne à 95 % de tous les pilotes ?

11 h 09 – 11 h 13

Et une fois de plus, il s’agit là d’un petit sous-ensemble de personnes présentant peu de variations.

11 h 13 – 11 h 19

Tous les constructeurs aéronautiques ont donc réagi en disant : « C’est impossible, on ne peut pas le faire, on ne l’a jamais fait auparavant, ça va nous mener à la faillite. »

11 h 19 – 11 h 21

C’est une idée complètement farfelue.

11 h 21 – 11 h 24

Et bien sûr, c’est l’armée de l’air, donc elle peut faire ce qu’elle veut.

11 h 24 – 11 h 27

Du genre : « Bon, d’accord, on ira chercher quelqu’un d’autre pour s’en charger. »

11 h 27 – 11 h 28

Et c’est ce qu’ils ont fait.

11 h 29 – 11 h 31

En fait, ils ont simplement fabriqué des sièges réglables.

11 h 31 – 11 h 42

Ainsi, chaque fois que vous montez dans votre voiture, dans un bus ou dans un avion et que vous pouvez faire des choses comme déplacer l’accoudoir, relever l’appuie-tête ou incliner le siège à votre guise, c’est l’une des raisons pour lesquelles quelqu’un

11 h 42 – 11 h 49

qu’une personne mesurant 5’3 comme moi et un homme de taille moyenne mesurant 5’10 puissent effectivement prendre place dans la même voiture et la conduire.

11 h 49 – 11 h 56

C’est parce que l’armée a fait pression et a clairement déclaré : « Nous voulons que vous revoyiez votre conception. »

11 h 56 – 11 h 59

Nous souhaitons que vous repensiez la manière dont vous fabriquez cet outil technologique.

11 h 59 – 12 h 06

Encore une fois, plutôt que de dire que nous concevons cet outil pour un profil moyen, nous dirons que nous souhaitons qu’il s’adresse à un public plus large.

12 h 06 – 12 h 12

Un changement radical qui, en réalité, a permis d’aboutir à des produits mieux conçus et de meilleure qualité.

12 h 12 – 12 h 13

Quels sont donc vos principaux enseignements ?

12 h 13 – 12 h 22

Tout d’abord, pour que l’IA fonctionne, nous devons adopter une réflexion radicale et sortir des sentiers battus quant à la manière de personnaliser et de concevoir nos solutions pour nos utilisateurs.

12 h 22 – 12 h 26

Le deuxième point concerne un changement manifeste en matière de responsabilité et d’obligation de rendre des comptes.

12 h 26 – 12 h 29

J’ai inventé le terme « externalisation morale », qui est lié à…

12 h 29 – 12 h 38

à cette anthropomorphisation de l’intelligence artificielle, à la façon dont nous utilisons des expressions qui donnent l’impression que l’IA a une intention, une raison d’être, alors qu’en réalité, elle n’a rien de tout cela.

12 h 38 – 12 h 41

Ce sont les êtres humains qui conçoivent et mettent en œuvre la technologie.

12 h 41 – 12 h 49

Plutôt que de dire que nous développons l’IA pour remplacer les avocats, ce qui se passe en réalité, c’est que quelqu’un crée une entreprise spécialisée dans les technologies juridiques.

12 h 49 – 12 h 56

Et on peut choisir de développer la technologie juridique de manière à soutenir l’être humain, ou bien de manière à tenter délibérément de le remplacer.

12 h 56 – 12 h 59

Et c’est une décision prise par des humains, une décision prise par des humains sur la manière dont…

12 h 59 – 13 h 00

la manière dont la technologie est utilisée.

13 h 00 – 13 h 08

Enfin, pour tirer pleinement parti des avantages de l’intelligence artificielle, il faut investir autant dans le volet humain que dans le volet technique.

13 h 08 – 13 h 18

Ainsi, plutôt que de considérer le fait que nos corps ont tous des tailles, des formes et des hauteurs différentes comme un défaut, c’est en réalité une occasion de mieux concevoir et de concevoir davantage

13 h 18 – 13 h 19

général.

13 h 20 – 13 h 22

Quel sera donc l’impact de l’IA sur notre société ?

13 h 22 – 13 h 33

Je dirais donc que le sujet sur lequel on me demande le plus souvent de m’exprimer – et cela a commencé cette année – est celui de l’IA éthique et responsable. J’ai donné de nombreuses conférences et j’ai beaucoup parlé de ce sujet, mais le…

13 h 33 – 13 h 37

L’avenir du travail en 2025 est vraiment devenu le sujet sur lequel on m’interroge le plus souvent.

13 h 37 – 13 h 47

Ah, et je suis ravie de pouvoir dire qu’il existe en fait de nombreuses preuves empiriques, et que des travaux vraiment formidables sont en cours, dans lesquels les chercheurs abordent, vous savez,

13 h 47 – 13 h 50

mesurent et étudient quantitativement l’impact de

13 h 50 – 13 h 51

IA sur le monde du travail.

13 h 51 – 13 h 59

Donc, d’une part, encore une fois, ce que vous pouvez voir dans l’actualité lorsque vous ouvrez votre application d’actualités, ce sont des gens qui réclament un revenu de base universel, des gens qui disent qu’il y aura

13 h 59 – 14 h 01

plus d’emplois par personne.

14 h 01 – 14 h 07

Et ce que nous constatons en réalité, c’est qu’il s’agit en fait d’un débat bien plus nuancé.

14 h 07 – 14 h 10

Je vais donc vous parler de trois articles différents que j’apprécie particulièrement.

14 h 10 – 14 h 13

Il existe en réalité pas mal d’articles sur le sujet, mais il y en a trois que j’apprécie tout particulièrement.

14 h 13 – 14 h 18

Je voudrais commencer par donner une vue d’ensemble, notamment de l’impact macroéconomique à l’échelle mondiale au cours des dix prochaines années.

14 h 18 – 14 h 20

Une vue d’ensemble à moyenne échelle, qui est verticale

14 h 20 – 14 h 30

par secteur d’activité, ainsi que l’étude la plus détaillée et la plus expérimentale menée au sein d’une entreprise spécifique pour observer comment les employés ont réagi et comment ils se sont adaptés au fait de travailler avec l’IA, et comment…

14 h 30 – 14 h 31

Cela les a affectés.

14 h 31 – 14 h 40

Je commencerai également par dire que j’interviens dans de nombreuses universités et qu’il existe en réalité beaucoup d’inquiétudes tout à fait justifiées parmi les jeunes.

14 h 40 – 14 h 50

Et ce que nous constatons — et c’est la première année que nous le voyons vraiment —, c’est que la génération Z, qui arrive sur le marché du travail à la recherche d’un emploi, en particulier de postes de débutants, rencontre davantage de difficultés parce que

14 h 50 – 14 h 53

L’intelligence artificielle est en effet capable d’effectuer certaines tâches élémentaires.

14 h 53 – 14 h 56

Et cela ne se limite pas à la recherche et à la rédaction.

14 h 56 – 14 h 58

C’est en fait principalement dans le domaine de la programmation.

14 h 58 – 15 h 02

Ce pour quoi l’IA est vraiment, vraiment douée, c’est la programmation pour débutants.

15 h 02 – 15 h 07

Mais on a toujours besoin de développeurs expérimentés pour s’assurer que le code est robuste, qu’il fonctionne correctement, etc.

15 h 07 – 15 h 11

Mais bon nombre de postes de débutants ne sont tout simplement pas pourvus.

15 h 11 – 15 h 17

Ainsi, à mesure que les employés acquièrent de l’ancienneté et obtiennent des promotions, leurs postes de débutants ne sont tout simplement pas pourvus.

15 h 17 – 15 h 20

Et cela est préoccupant pour l’avenir.

15 h 20 – 15 h 27

Le premier article dont je souhaite parler a été rédigé par une économiste du travail, euh, la professeure Dara Nesemoglu du MIT.

15 h 27 – 15 h 32

Il a mené des recherches, et là encore, c’est quelqu’un qui travaille dans le domaine de l’économie depuis très, très longtemps.

15 h 32 – 15 h 37

Et il s’est véritablement lancé dans le domaine de l’IA en réfléchissant à son impact sur le travail et la productivité.

15 h 37 – 15 h 45

Il s’est donc penché sur ce qu’on appelle la productivité totale des facteurs (PTF) : en gros, si l’on additionnait le PIB de tous les pays, on obtiendrait en quelque sorte la PTF.

15 h 45 – 15 h 50

Ah ! Et d’après ses calculs, au cours des dix prochaines années, elle atteindra ce qu’il appelle…

15 h 50 – 16 h 01

Il s’agit donc d’un impact non négligeable mais modeste, c’est-à-dire inférieur à 1 %, ce qui peut sembler peu, mais qui représente tout de même moins de 1 % du PIB mondial total, ce qui est assez significatif.

16 h 01 – 16 h 03

Il s’agit donc d’un niveau d’automatisation assez élevé.

16 h 03 – 16 h 06

Mais il est allé encore plus loin en se posant la question suivante : qu’est-ce qui est automatisé ?

16 h 06 – 16 h 13

Et il souligne que, selon lui, ce sont en réalité davantage les emplois de cols blancs que ceux de cols bleus qui sont automatisés.

16 h 13 – 16 h 14

Et c’est intéressant.

16 h 14 – 16 h 19

Cela met vraiment en évidence l’un des aspects particulièrement révolutionnaires de l’IA générative.

16 h 32 – 16 h 33

Et voilà.

16 h 33 – 16 h 36

Euh… Euh… Et je pense que c’est un point important.

16 h 36 – 16 h 36

Et voilà.

16 h 36 – 16 h 38

Et c’est un point vraiment important.

16 h 38 – 16 h 50

Et c’est un point important. Et un point vraiment important.

16 h 50 – 16 h 50

Et

16 h 50 – 16 h 54

C’est vraiment le travail intellectuel, le travail intellectuel rudimentaire, qui est en train d’être automatisé.

16 h 54 – 16 h 56

Nous n’y avions pas vraiment réfléchi auparavant.

16 h 56 – 16 h 59

Nous n’avons pas eu à subir les conséquences de ce phénomène.

16 h 59 – 17 h 08

Et d’ailleurs, pour en revenir à la génération Z, certains d’entre vous, si vous avez des enfants de cet âge, savent peut-être que vos enfants ou leurs amis envisagent en fait de se lancer dans des métiers manuels.

17 h 08 – 17 h 14

En effet, de plus en plus de jeunes ne voient pas l’intérêt des études supérieures si l’IA est réellement capable d’effectuer ce travail.

17 h 14 – 17 h 20

Mais une IA ne sera jamais capable de tondre votre pelouse, de réparer votre plomberie ou d’aménager un

17 h 20 – 17 h 21

toiture.

17 h 21 – 17 h 32

Et ce qu’ils constatent, c’est que, pour de nombreuses raisons, un métier manuel leur semble, à beaucoup d’entre eux, bien plus, disons, prévisible et fiable que de viser très haut pour

17 h 32 – 17 h 40

un poste de vice-président senior qui pourrait se concrétiser ou non, car si vous ne décrochez pas votre premier emploi, vous n’obtiendrez jamais de promotion.

17 h 40 – 17 h 48

Donc, vous savez, il a fait remarquer que l’IA risquerait d’aggraver l’écart entre les revenus du capital et ceux du travail, mais aussi qu’il y aura cette valeur sociétale négative dont nous disposons réellement

17 h 48 – 17 h 50

prendre en compte.

17 h 50 – 18 h 02

Ce qui me semble le plus intéressant, c’est que, à mesure que nous continuons à évaluer la valeur de l’IA, les gens tiennent de plus en plus compte des externalités négatives sur la société comme d’un facteur à prendre en considération.

18 h 02 – 18 h 09

Mais à quoi bon créer une machine à productivité si, au final, nous en sommes tous totalement incapables ?

18 h 09 – 18 h 14

Il existe de sérieuses inquiétudes concernant des phénomènes tels que la dépendance excessive, ou ce que l’on appelle parfois la « psychose de l’IA ».

18 h 14 – 18 h 20

Euh, on voit apparaître des technologies éducatives, et cela suscite des inquiétudes.

18 h 20 – 18 h 22

que les jeunes deviennent trop dépendants de la technologie.

18 h 22 – 18 h 28

Comment pouvons-nous tenir compte de ces aspects et y répondre tout en développant des technologies qui restent globalement bénéfiques ?

18 h 29 – 18 h 37

Le deuxième article dont j’aimerais parler date en fait de 2023 et a été rédigé par une équipe d’OpenAI qui a collaboré avec un autre groupe d’économistes.

18 h 37 – 18 h 41

Il s’intitule « GPTs » et passe en revue différents secteurs d’activité.

18 h 41 – 18 h 49

Et plutôt que d’affirmer de manière générale que tous ces emplois vont être automatisés, l’étude s’est demandé, secteur par secteur, lesquels sont les plus susceptibles d’être automatisés ?

18 h 49 – 18 h 59

En résumé, environ 80 % des actifs verraient environ 10 % de leurs tâches automatisées, et environ 19 % verraient environ la moitié de leurs tâches concernées.

18 h 59 – 19 h 04

Et cela correspond assez bien à la réalité ; cette étude date de quelques années, mais elle reflète en quelque sorte les tendances que nous observons aujourd’hui.

19 h 04 – 19 h 13

Je pense que nous sommes nombreux à utiliser des outils d’IA pour des tâches de productivité très basiques, comme vous aider à relire vos notes ou peut-être rédiger des comptes-rendus de réunion à votre place.

19 h 13 – 19 h 18

Cela ne remplace pas votre travail ; au contraire, cela vous fait probablement gagner un peu de temps.

19 h 18 – 19 h 22

La plupart d’entre nous ici présents faisons probablement partie de ces 80 %.

19 h 22 – 19 h 29

Ces 19 % de travailleurs dont 50 % des tâches sont automatisées concernent des professions telles que le journalisme ou les assistants juridiques.

19 h 29 – 19 h 35

Il s’agit plutôt de postes axés sur la recherche et les connaissances, qui ne nécessitent peut-être pas une expertise approfondie.

19 h 36 – 19 h 37

Passons maintenant au troisième article.

19 h 37 – 19 h 46

Et là encore, l’une des principales questions que les gens se posent est de savoir ce que l’intelligence artificielle implique pour mon personnel si je l’utilise, si mes employés l’utilisent, si mon…

19 h 46 – 19 h 47

Quelle entreprise l’adopte ?

19 h 47 – 19 h 56

Eh bien, dans leur grande majorité, ils vous diront que la réponse est la suivante : « L’humain associé à l’IA est plus performant que l’humain sans l’IA ou que l’IA seule. »

19 h 56 – 19 h 58

Et j’adore cette étude parce que, tout d’abord, elle porte un nom fabuleux.

19 h 58 – 20 h 00

Elle s’intitule « The Cybernetic Teammate ».

20 h 00 – 20 h 04

Il s’agit d’une étude de cas réalisée à la Harvard Business School en collaboration avec Procter & Gamble.

20 h 04 – 20 h 06

Ils ont mis en place une étude randomisée contrôlée.

20 h 06 – 20 h 17

Dans le cadre de cette expérience, environ 800 employés de P&G ont participé à un hackathon de plusieurs jours. Les participants ont été répartis en groupes, soit en équipes, soit individuellement, certains disposant d’une IA et d’autres non.

20 h 17 – 20 h 24

Et ce que j’apprécie dans cet article, c’est que, souvent, la plupart des articles sur l’IA au travail traitent de la productivité.

20 h 24 – 20 h 30

Et je déteste vraiment, vraiment, vraiment cet indicateur, car s’il y a bien une chose que l’IA sait faire, c’est produire.

20 h 30 – 20 h 31

C’est tout ce qu’elle fait.

20 h 31 – 20 h 34

Et en réalité, elle se trompe souvent avec assurance.

20 h 35 – 20 h 36

Il faut un être humain pour être…

20 h 36 – 20 h 38

pour comprendre si ce résultat…

20 h 38 – 20 h 43

Je veux dire, on a un terme pour ça maintenant : on appelle ça la « main-d’œuvre de seconde zone », l’IA de seconde zone, n’est-ce pas ?

20 h 43 – 20 h 45

C’est littéralement le terme qu’on utilise désormais.

20 h 45 – 20 h 50

Par conséquent, se contenter de mesurer la production brute ne vous apporte pas vraiment de réponses.

20 h 50 – 20 h 57

Mais ce qu’ils ont évalué, ce sont des éléments tels que la qualité du travail, le temps nécessaire à sa réalisation et, surtout, la capacité à aider les travailleurs non qualifiés.

20 h 57 – 21 h 05

D’un autre côté, la crainte des personnes plus expérimentées — ou du moins l’un des discours courants — est que, peut-être, à l’avenir, l’expertise ne sera plus nécessaire.

21 h 05 – 21 h 06

Il suffira simplement de…

21 h 06 – 21 h 11

Prenez un humain inexpérimenté, ajoutez-lui un peu d’IA, et voilà qu’il devient l’équivalent d’un développeur expérimenté.

21 h 11 – 21 h 13

Ils voulaient donc tester tout ça.

21 h 14 – 21 h 20

Alors, comment s’y prennent-ils pour que vous n’ayez pas à lire tout un tas de graphiques à barres compliqués ?

21 h 20 – 21 h 22

La première chose qu’ils ont examinée, c’était la qualité moyenne des solutions.

21 h 22 – 21 h 25

Rappelons donc qu’ils ont pris comme référence une personne n’utilisant pas l’IA.

21 h 25 – 21 h 27

Ils ont des équipes sans IA.

21 h 27 – 21 h 29

Ils comptent des personnes dotées d’IA et des équipes dotées d’IA.

21 h 29 – 21 h 33

Vous verrez donc que l’ajout de l’IA a été, en quelque sorte, un avantage.

21 h 33 – 21 h 38

Ainsi, le groupe individuel sans IA a clairement obtenu des résultats moins bons que tous les autres sous-groupes.

21 h 38 – 21 h 41

Et lorsqu’on leur a fourni un système d’intelligence artificielle, ils ont eu tendance à obtenir de meilleurs résultats.

21 h 41 – 21 h 44

Mais en réalité, il n’y a pas vraiment de différence perceptible entre

21 h 44 – 21 h 46

un individu aidé par l’IA et une équipe aidée par l’IA.

21 h 46 – 21 h 50

Et n’oubliez pas, je vais vous parler un peu de statistiques pendant quelques instants.

21 h 50 – 21 h 53

La barre… Ne vous souciez pas de savoir où elle se trouve exactement.

21 h 53 – 22 h 00

En fait, c’est la marge d’erreur, cette ligne qui vous indique la limite supérieure, c’est-à-dire la fourchette prévue dans laquelle la valeur va se situer.

22 h 00 – 22 h 09

Tout cela pour dire que si les barres se chevauchent de manière significative, ce qui est le cas, les lignes noires indiquent que les chiffres sont probablement assez, assez similaires.

22 h 09 – 22 h 15

La deuxième question qu’ils ont examinée était de savoir si le fait qu’il s’agisse d’un emploi « de base » avait une importance ou non.

22 h 15 – 22 h 19

Et si l’on prenait une personne totalement inexpérimentée et qu’on lui confiait une tâche d’IA ?

22 h 19 – 22 h 23

Euh… Eh bien, en réalité, ça ne marche pas vraiment.

22 h 23 – 22 h 25

Et je pense qu’intuitivement, nous le savons tous.

22 h 25 – 22 h 27

Encore une fois, je viens d’évoquer la notion de « slop » en IA.

22 h 27 – 22 h 29

L’IA se trompe de manière très convaincante.

22 h 29 – 22 h 30

Ça a l’air plus ou moins intelligent.

22 h 30 – 22 h 39

On dirait un peu que vous avez donné à un enfant… si vous connaissez le syndrome de Dunning-Kruger… qui souffre vraiment de ce syndrome à son paroxysme.

22 h 39 – 22 h 47

C’est comme si on synthétisait tout un tas d’informations hors contexte et qu’on les diffusait, mais ce n’est pas forcément une bonne chose.

22 h 47 – 22 h 49

C’est juste une question de volume.

22 h 49 – 22 h 59

Et ce qu’ils ont constaté, c’est que, dans l’ensemble, les individus et les équipes sans expertise ou disposant d’une expertise limitée ont bénéficié d’un certain coup de pouce, mais qu’en réalité, il fallait tout de même des personnes présentes dans la salle.

22 h 59 – 23 h 05

qui comprenaient les résultats et les besoins nécessaires pour tirer pleinement parti de cette technologie.

23 h 05 – 23 h 07

Et enfin, bien sûr, le gain de temps.

23 h 07 – 23 h 09

C’est donc extrêmement intéressant de savoir que

23 h 09 – 23 h 11

Et nous le savons intuitivement.

23 h 11 – 23 h 15

Les équipes sont peut-être moins efficaces pour faire avancer les choses rapidement.

23 h 15 – 23 h 19

C’est mieux, mais elles ne sont pas aussi efficaces.

23 h 19 – 23 h 22

Il faut s’efforcer de parvenir à un consensus, en recueillant les contributions et les opinions de chacun.

23 h 22 – 23 h 28

Et l’IA a permis de gagner un peu de temps, mais bien sûr, s’ils travaillaient seuls avec l’IA, ils travailleraient plus vite.

23 h 28 – 23 h 32

Et surtout, qui a obtenu les meilleurs résultats ?

23 h 32 – 23 h 39

Eh bien, il s’avère que les équipes utilisant l’IA, même si elles n’étaient pas nécessairement les plus rapides à produire quelque chose, en réalité…

23 h 39 – 23 h 43

ont eu tendance à proposer le plus grand nombre de solutions figurant parmi les 10 % les plus performantes.

23 h 43 – 23 h 44

C’est donc une découverte vraiment fascinante.

23 h 44 – 23 h 45

Encore une fois, c’est très, très précoce.

23 h 45 – 23 h 49

Il existe un autre article vraiment excellent, que je n’ai pas sous la main, publié par Microsoft.

23 h 49 – 23 h 54

Et celui-ci porte en fait sur l’utilisation de Copilot, ce qui est formidable car il s’agissait en réalité d’une étude beaucoup plus vaste.

23 h 54 – 23 h 58

Je crois qu’elle portait sur une vingtaine ou une trentaine de secteurs d’activité différents, et qu’elle l’a examinée de manière beaucoup plus approfondie.

23 h 58 – 24 h 00

Il y a donc beaucoup d’excellentes recherches qui émanent de Stanford.

24 h 00 – 24 h 04

Si un sujet vous intéresse, sachez qu’il fait l’objet de nombreuses recherches.

24 h 04 – 24 h 08

Eric Ben-Yolson, à Stanford, mène une grande partie de ces travaux.

24 h 08                                

Et une fois de plus, de nombreuses entreprises se lancent dans ce secteur.

24 h 09 – 24 h 12

se lancent également dans ce domaine, car c’est un sujet qui nous intrigue tous beaucoup.

24:12 – 24:14

Comment intégrer cette technologie ?

24 h 15 – 24 h 21

Eh bien, l’un des sujets dont nous parlons depuis un certain temps déjà, c’est ce terme, vous savez, la culture numérique.

24:21 – 24:23

Que signifie « maîtriser l’IA » ?

24 h 23                                

Et je pense que la version précédente, plus naïve, était quelque chose comme : « Oh, tout le monde doit savoir programmer. »

24 h 28                                

Tout le monde doit simplement savoir coder.

24 h 30 – 24 h 31

Mais cela n’était pas replacé dans son contexte.

24 h 31                                

Genre, qu’est-ce que ça veut dire ?

24 h 33 – 24 h 39

Qu’est-ce que cela signifie lorsqu’un PDG, un vice-président senior ou un chef de produit

24 h 40                                

Ce n’est pas vraiment pertinent, n’est-ce pas ?

24 h 42 – 24 h 49

L’un de mes livres préférés sur la culture numérique, ou sur le concept de culture numérique, a en fait été écrit par un professeur d’anglais.

24 h 49                                

Et comme vous le savez sans doute déjà, j’aime bien utiliser des exemples un peu anciens.

24 h 52 – 25 h 01

Son livre a été écrit en 2003, à l’intention de ses étudiants en anglais qui devaient alors se familiariser avec la recherche sur cette nouvelle invention un peu folle qu’est Internet.

25 h 01 – 25 h 09

Quelles auraient été les conséquences pour la recherche et la crédibilité de votre travail si vous n’alliez plus à la bibliothèque, n’interrogiez plus de personnes et ne disposiez que d’une microfiche ?

25 h 09 – 25 h 19

Et ces sources primaires ? Que se passe-t-il maintenant que vous utilisez un ordinateur pour faire ce travail, ou Internet, ou cette nouvelle chose peu fiable appelée Wikipédia pour vous aider dans votre

25:19 – 25:19

recherches ?

25,19 – 25,22

Il évoque donc trois niveaux d’alphabétisation.

25:22 – 25:24

Et cela s’applique parfaitement à l’IA.

25:24 – 25:32

Et j’apprécie vraiment cette grille d’évaluation, car elle aide vraiment à comprendre comment aborder la maîtrise de l’IA, quel que soit votre niveau d’utilisation de la

25:32 – 25:33

technologie.

25:33 – 25:34

Le niveau 1 correspond donc à la maîtrise fonctionnelle.

25 h 34 – 25 h 37

Ce niveau s’adresse aux personnes qui se contentent d’utiliser une technologie.

25 h 37 – 25 h 39

Et voici votre client type.

25 h 39   > 25 h 42

C’est la personne qui interagit avec le chatbot, c’est ça ?

25 h 42                                

La personne qui tente d’utiliser l’agent IA pour faire ses achats à sa place.

25 h 46 – 25 h 48

Et en réalité, votre travail consiste à garantir un emploi efficace.

25 h 48 – 25 h 54

La culture numérique critique s’adresse aux personnes qui ne sont pas des programmeurs, mais qui sont celles qui permettent au projet de voir le jour.

25 h 54 – 25 h 55

Il s’agit donc peut-être des chefs de produit.

25 h 55  – 25 h 58

Leur rôle consiste à formuler une critique éclairée.

25 h 58 – 26 h 03

Et puis, troisièmement, la maîtrise de la rhétorique, qui est indispensable pour les développeurs.

26:03 – 26:09

Ce qui est vraiment fascinant dans tout cela, c’est que plus on se rapproche du code, moins cela devient technique.

26 h 09 – 26 h 13

Ainsi, lorsque vous êtes programmeur ou développeur, votre travail consiste à adopter une approche réfléchie.

26, 13 – 26, 15

Nous allons donc parler un peu de ce que cela signifie.

26:15 – 26:17

Imaginons que vous ne soyez que le destinataire.

26, 17 – 26, 19

Vous êtes simplement la personne qui interagit avec le chatbot.

26:19 – 26:21

Vous souhaitez connaître le solde de votre compte bancaire.

26, 21 – 26, 22

Vous souhaitez effectuer un virement.

26:22 – 26:25

Et il y a cet agent IA qui s’en chargera pour vous.

26:25 – 26:29

Eh bien, comment faut-il aborder la maîtrise de ce domaine, et est-ce là votre rôle ?

26:29 – 26:37

Le plus important, c’est que cette partie initiale consiste à apprendre à interagir avec la technologie, plutôt qu’à se contenter d’en subir les conséquences.

26:37 – 26:38

C’est vraiment, vraiment important.

26 h 39 – 26 h 47

Souhaitez-vous que vos utilisateurs et vos clients fassent preuve d’esprit critique pour comprendre les résultats et savoir comment ils peuvent agir, ou si la technologie devrait ou non prendre

26 h 47                                

agir à leur place.

26 h 48  – 26 h 54

Ainsi, plutôt que d’accepter aveuglément, ils devraient en réalité être capables d’interagir avec la technologie.

26 h 54 – 27 h 03

Et c’est en fait une bien meilleure expérience pour quiconque utilise quoi que ce soit : si vous vous impliquez et que vous voyez et comprenez réellement les avantages de travailler avec

27:03 – 27:03

celle-ci.

27 h 05 – 27 h 14

Et pour le deuxième niveau de collaborateurs, à savoir les chefs de produit, les chefs d’équipe et les responsables produit, le plus important est d’être capable de comprendre quand les choses tournent mal,

27:14 – 27:15

quand les choses ne fonctionnent pas bien.

27 h 15 – 27 h 18

C’est d’autant plus important à l’ère de l’IA générative.

27:18 – 27:20

N’oubliez pas : elle se trompe avec assurance.

27:20 – 27:21

Elle affichera le résultat.

27:21 – 27:28

Je crois que la semaine dernière, la grande polémique portait sur le nombre d’avocats qui utilisent désormais ChatGPT pour les aider à rédiger leurs mémoires juridiques.

27:28 – 27:30

Et devinez ce que fait ChatGPT ?

27 h 30 – 27 h 31

Il délire.

27 h 31 – 27 h 35

Il invente donc de toutes pièces des cas qui n’existent pas.

27 h 35 – 27 h 40

Encore une fois, il s’agit d’être suffisamment avisé pour remettre en question la technologie.

27 h 40 – 27 h 42

Consultez les sources qu’elle vous fournit.

27 h 42 – 27 h 43

Vérifiez-les attentivement.

27 h 43 – 27 h 46

Euh… Et pouvoir remettre le système en question.

27 h 47 – 27 h 52

Et puis, quand on est développeur, créateur, programmeur, c’est-à-dire celui qui met les mains dans le code.

27 h 52   27 h 54

Ce sont les questions les plus rhétoriques.

27 h 54 – 27 h 57

Où se trouve le pouvoir dans ce système ?

27 h 57 – 28 h 05

Si un être humain avait fait partie de la chaîne de décision et que Stanislav Petrov avait dû décider de lancer ou non une arme nucléaire, aurait-il vraiment pu dire non ?

28 h 05 – 28 h 08

Ou devrait-il simplement se plier à la décision de l’IA ?

28 h 08 – 28 h 16

Alors, comment concevoir un système de manière à ce que l’intervention humaine soit bien réelle, que les personnes puissent réellement s’impliquer ?

28, 16 – 28, 22

Ma façon d’aborder cette question — et je sais qu’Anna l’a déjà évoquée — est la suivante : je dirige une organisation appelée Humane Intelligence.

28:22 – 28:34

Je suis statisticien de formation, spécialiste en sciences sociales, et ce qui m’intéresse dans l’IA en général, c’est le fait que chaque individu puisse disposer de cette technologie.

28 h 34    28 h 42

Et pendant mon passage chez Accenture, je me suis vraiment penché sur cette question : qu’est-ce que cela signifie d’intégrer l’humain dans le processus, et qu’est-ce que cela signifie d’avoir une assurance en matière d’IA ?

28 h 42                                

La garantie de l’IA, c’est tout simplement la capacité d’affirmer que ce produit ou cette technologie fonctionnera comme prévu, qu’il fera ce que j’en attends, ce que j’ai promis qu’il ferait.

28:50 – 28:51

Et avec Gen.

28 h 51                                

L’IA, c’est en réalité très, très difficile.

28 h 52                                

Alors, comment s’y prendre au sein d’une organisation ?

28 h 55 – 28 h 58

Voici un article que nous avons rédigé en 2020 à ce sujet.

28 h 58 – 29 h 09

En réalité, il s’agit de mettre en place des processus clairs et responsables, de répartir les responsabilités, mais aussi de faire preuve de transparence et d’assumer davantage ce que le système peut et ne peut pas faire.

29:10 – 29:16

Lorsque je travaillais chez Twitter, j’ai en fait pris une mesure assez radicale : j’ai rendu notre code source accessible au public.

29, 16 – 29, 19

Le concept de « bug bounty » (prime aux bogues) n’est pas nouveau dans le domaine de la cybersécurité.

29, 19 – 29, 23

Mais un programme de prime pour la découverte de bogues algorithmiques, ça, c’était du jamais vu.

29:23 – 29:27

Nous avons donc rendu notre code accessible au monde entier et lancé ce défi : trouvez des failles, et nous vous récompenserons financièrement.

29:27 – 29:31

J’ai d’ailleurs fini par créer une association à but non lucratif, Human Intelligence, afin de mener à bien cette mission.

29:31 – 29:40

Nous avons donc collaboré avec un large éventail d’organisations, de gouvernements, euh, d’associations de la société civile, etc., pour mettre en place ce type de programmes de primes visant à lutter contre les biais.

29:41 – 29:44

Et ce pour quoi je suis désormais connu, c’est le « red teaming ».

29:44 – 29:48

Une fois de plus, si vous venez du monde de la cybersécurité, le « red teaming » n’est pas un concept nouveau.

29:48 – 29:58

Mais il s’agit de comprendre l’utilité du « red teaming », non seulement pour identifier les acteurs malveillants, mais aussi pour anticiper les conséquences imprévues lorsque votre système présente des dysfonctionnements, même si ceux-ci ne sont pas intentionnels.

29 h 58 – 30 h 00

de la part de vos utilisateurs, est en réalité assez difficile à mettre en œuvre.

30:00 – 30:04

Et la manière dont j’ai abordé cette question, c’est ce que j’ai appelé le « retour d’information public structuré ».

30:04 – 30:10

Ce pour quoi je suis le plus connu, c’est cet événement où nous avons rassemblé plus de 3 000 personnes à la DEF CON, qui est le plus grand salon consacré à la cybersécurité

30:10 – 30:18

dans le monde entier, ont piraté et analysé, euh, huit modèles d’IA différents, en collaboration avec les propriétaires de ces modèles et les entreprises concernées.

30,18 – 30,20

Et cela va à l’encontre de la Charte des droits de l’IA.

30:20 – 30:26

Que ces modèles révèlent ou non des données à caractère personnel, qu’ils présentent ou non des hallucinations.

30:26 – 30:30

Nous avons collaboré avec le gouvernement américain et l’administration Biden pour mener à bien ce projet.

30 h 30                                

Et nous continuons à le faire aujourd’hui.

30 h 33                                

Et ce qui est fascinant, c’est que le grand public, bien qu’il puisse disposer de cette technologie entre ses mains, s’en éloigne de plus en plus…

30:40 – 30:43

la possibilité de donner son avis pour dire si cela fonctionne ou non.

30:43 – 30:46

L’un des projets que nous avons menés consistait donc à collaborer avec les Instituts nationaux des normes et de la technologie.

30:46 – 30:50

Et nous avons ouvert ce concept de « red teaming » à tous aux États-Unis.

30:50 – 30:52

Et c’est effectivement ce qui s’est produit l’année dernière.

30:52 – 31:00

Ainsi, n’importe qui aux États-Unis pouvait tester des modèles d’IA en mode « red teaming » et faire part de ses commentaires au NIST afin de définir de meilleures normes concernant le fonctionnement de cette technologie.

31:01 – 31:05

Et c’est vraiment ce pour quoi je me bats : j’ai donné une conférence TED l’année dernière sur ce concept de « droit à la réparation ».

31:05 – 31:12

Et le « red teaming » constitue un point de départ : cette idée qui consiste simplement à constituer cette base de connaissances et à développer ce réflexe qui permet aux gens de dire : « Tiens, il y a quelque chose qui cloche ici. »

31,12 – 31,13

Je veux lever la main.

31, 13 – 31, 15

Je veux pouvoir le signaler.

31:15 – 31:20

En réalité, nous n’avons pas encore envisagé d’intégrer cette fonctionnalité à notre technologie actuelle.

31:20 – 31:27

Alors, comment peut-on utiliser l’IA pour résoudre des problèmes de manière positive et productive ?

31:28 – 31:30

Et quelle est la prochaine étape ?

31:30 – 31:31

L’IA est donc un outil de productivité, n’est-ce pas ?

31:31 – 31:32

Ce n’est donc pas de la magie.

31:32 – 31:33

Elle n’a pas d’intention.

31:33 – 31:36

Ce n’est pas comme si on sortait de force le professeur de votre enfant de la classe.

31:36 – 31:41

Donc, quand on envisage de développer et de déployer une IA, comment peut-on s’assurer de donner la priorité à l’utilisateur, n’est-ce pas ?

31:41 – 31:49

Comment abordez-vous les points sensibles liés à ce que l’IA sait bien faire et, surtout, à ce que les gens savent bien faire, et comment conciliez-vous les deux ?

31:49 – 31:53

Et enfin, comment pouvez-vous utiliser ce système pour résoudre des problèmes ?

31:53 – 31:57

Et encore une fois, quand on réfléchit à cette idée de « l’humain dans la boucle », ce n’est pas qu’une simple expression.

31:57 – 31:58

Ce n’est pas qu’un simple terme.

31:58 – 32:00

C’est ce que les gens attendent aujourd’hui.

32:01 – 32:05

Vous savez, la confiance envers les systèmes d’IA n’a jamais été aussi faible.

32:05 – 32:10

Au cours de mon mandat au sein de l’administration Biden en tant qu’envoyé scientifique, j’ai eu le privilège de parcourir le monde entier.

32:10 – 32:20

Et vous seriez surpris de voir que tout le monde, des anciens des tribus des Fidji aux jeunes les plus avertis travaillant avec Gen.

32:20 – 32:20

IA.

32:20 – 32:22

Ils se posent tous les mêmes questions.

32:22 – 32:28

Il y a des questions sur la confidentialité des données, la sécurité, et sur le fait de savoir si les algorithmes sont ou non utilisés, s’ils sont ou non manipulés par des algorithmes.

32:28 – 32:31

ou si cela est utilisé à leur encontre de manière malveillante.

32:31 – 32:33

Tout le monde se pose les mêmes questions.

32:33 – 32:39

Donc, si vous voulez instaurer la confiance dans les systèmes que vous créez, pensez d’abord à l’utilisateur, et non à la technologie.

32:39 – 32:41

Merci beaucoup de nous avoir accordé votre temps.

32:46 – 32:47

Merci, Docteur.

32:47 – 32:49

Chaldry, c’était absolument fantastique.

32:49 – 32:50

Nous vous remercions d’être parmi nous aujourd’hui.

32:50 – 32:51

Merci beaucoup.