Bienvenue dans la série spéciale développeur en 2039.
Mon but est de te faire réfléchir à notre monde d'aujourd'hui en se projettant dans l'avenir.
Cette série comporte 20 épisodes que je t'invite à suivre dans l'ordre.
Prêt ? C'est parti !
Dans l'épisode d'hier, Jean-Baptiste Dussault nous a amenés sur le terrain de l'éthique du développeur.
On voit bien que le nouvel or noir des sociétés numériques, c'est là donné.
Donner qui servira demain à nourrir les algorithmes qui restent à inventer d'ailleurs.
Sauf que l'enjeu pour les utilisateurs, les employés ou même les citoyens est loin d'être neutre.
Quelle est notre responsabilité de développeur ou même de consommateur ?
Je me marre toujours quand je vois des gens surpris de comprendre
que les données de Gmail sont utilisées pour servir de la pub.
Quand le produit est gratuit, c'est que c'est toi le produit.
Dans l'épisode du jour, j'ai changé avec Thomas Pyrrhin.
Il a fait de l'éthique un de ses sujets de réflexion et même de conférence.
J'avais envie d'en savoir plus d'avoir son point de vue sur ces sujets.
Bienvenue dans l'épisode 7 de la série développeur en 2039.
Et je te propose d'écouter maintenant mon échange avec lui.
Aujourd'hui, je suis avec Thomas Pyrrhin, Thomas qui est le seul enrhumé en vacances en plein été.
Thomas, bonjour.
Bonjour.
Non, bonjour.
Je te remercie de participer aujourd'hui,
comme c'est la première fois que tu viens sur le podcast « Est-ce que tu peux te présenter » en une minute.
Ok, je m'appelle Thomas Pyrrhin.
Ça fait à peu près 20 ans que je fais du logiciel.
Je travaille dans toute une taille de structure, des startups, des PME,
de services et une grande banque pendant 12 ans.
Mon investissement avant de créer ma société Forty2Skills avec mon associé MonoMucca.
Et maintenant, je recommence à coder de plus en plus,
en plus de faire du conseil et de travailler en somme équipe.
Ok, et tu me proposais un sujet qui me tient particulièrement à cœur.
Surtout dans la perspective de la série sur développeur en 2039,
l'éthique et le logiciel, qu'est-ce que tu as derrière cette idée d'éthique ?
Alors derrière l'idée d'éthique, il y a déjà ce que c'est que...
Bah peut-être définir ce que c'est, « Krapidos l'éthique ».
Ça serait dans ce contexte-là, par rapport à la morale,
tu vois, la morale, ce qui commande, que dois-je faire ?
L'éthique, c'est plutôt ce qui recommande, comment vivre ?
Donc ce serait quel modèle de société on veut vivre ?
Et on veut créer.
Alors tu sais que le logiciel mange le monde depuis des années.
On fasse un...
Non seulement ça le mange, ça le transforme.
Mais de plus en plus, j'ai l'impression avec des enjeux,
dont je me demande si on est parfaitement conscient en tant que développeur,
j'ai l'impression parfois qu'on est des espèces de formis ouvrières
à l'œuvre de quelque chose qu'on ne réalise pas.
Qui nous dépasse, je suis tout à fait d'accord avec ce que tu viens de dire.
Effectivement, moi j'ai des sentiments qu'on est un peu trop naïf,
à nous devs, on adore la techno,
donc on adore se jeter sur toute nouvelle techno,
toute nouvelle mode, etc.
Sans voir les conséquences que l'utilisation de sa cible peut avoir.
Sur un truc tout bête, tu vois, récemment,
il y a eu une appli qui s'appelait FES app,
je sais pas si t'as vu sur les réseaux sociaux,
ça s'est un peu enflammé.
Oui, cette application qui te vieillit, là, non ?
C'est ça exactement.
Alors, c'est vrai que les résultats étaient assez bluffants,
assez incroyable, super bluffés.
Stupéfiant, moi je ressemble à mon père, c'est hallucinant.
Bon, moi j'aurais adoré le faire,
et puis finalement, je me suis retenu un peu.
Alors, j'ai regardé les termes du contrat,
Terms of Context, tu sais,
le truc qu'on signe, le document 3 pages,
je lui ai dit qu'on signe parce qu'on a envie d'utiliser l'appli,
que tu ne lis jamais.
Exactement.
Et en fait, c'est assez stupéfiant.
En gros, quand tu utilises l'appli,
tu cèdes irrémédiablement l'usage de toutes tes photos,
de manière définitive, cross-national,
tes photos ne t'appartiennent plus,
et elles peuvent être exploitées,
quelque soit l'usage,
par la société qui a fait FES app.
Donc, c'est un coup...
Donc, l'air de rien, en fait.
Donc, l'air de rien, en fait,
tu viens de donner accès,
non seulement accès,
mais le droit d'usage sur toutes les photos
qui sont sur mon téléphone.
Exactement.
Pour n'importe quel type d'exploitation,
même pour, par exemple, faire des deepfakes,
tu sais, je sais pas si tu vois les deepfakes, ce que c'est,
c'est-à-dire en gros,
on refassonne des vidéos,
on remplaçant la tête de quelqu'un par une autre personne,
etc.
Enfin, c'est des trucs qui sont capables de faire
manière assez performante aujourd'hui.
Peut-être qu'un jour...
Ah ben, j'ai même vu là-dessus
des carrément des vidéos animées
ou à partir d'un simple visage en 2D, d'une photo,
ils arrivaient à resimuler,
tu vois, les mouvements du visage en parlant,
c'était assez impressionnant quand même.
C'est ça, peut-être que ton visage
serait utilisé pour de la propagande.
On sait jamais.
En tout cas, tu as assigné,
en acceptant l'usage de cet appli,
tu as assigné pour ça.
Alors, ce qui est d'autant plus probable,
c'est que, en fait, ceux qui ont fait le soft,
c'est une équipe russe derrière
et que quand tu utilises l'application,
toi, tu as l'impression que tu vas partager
que les 2-3 photos que tu as sélectionnées
pour faire ton vieillissement.
En fait, c'est tout.
Oui, et encore même, je ne voudrais même pas imaginer
qu'ils utilisent cette photo pour autre chose que de me vieillir,
mais ce que tu dis, c'est que non seulement
ils peuvent en faire autre chose,
mais en plus, ils piquent toutes tes photos.
C'est ça, exactement.
Et donc, tu sais, pour faire du machine learning,
du deep learning, ce qui est un plus important,
c'est d'avoir des data.
Avec ce truc viral, pour quelques jours,
cette boîte russe a réussi à récupérer
un nombre de photos incroyables
et qui va être très utile, j'imagine,
pour faire tout un tas de choses
qu'ils ont envie de faire
ou qu'ils seront capables de vendre à d'autres gens.
On peut imaginer le meilleur,
mais on peut imaginer surtout le pire avec ce genre de...
Oui, ça fait peur.
Ils sont capables de faire un espèce de Facebook,
mais versions récupérées.
Oui, d'exploiter ton image, tes photos,
pour...
Je ne sais même pas ce qu'on peut imaginer derrière
parce que tout est possible.
Donc, à l'ère du deep-fake, franchement.
Mais en tout cas, on vient d'aider une équipe russe
à progresser très, très, très, très rapidement
sur le machine learning et sur le deep-learning.
Et ça, alors, qu'est-ce que tu en tires comme le son ?
Sur l'usage, ça me barrait évident,
mais en tant que développeur.
En tant que développeur,
je pense qu'on ne met pas assez en garde
nos proches et nos utilisateurs et nos clients
sur ce que ça veut dire, en fait.
Donc, simplement, je pense qu'on aurait un rôle
d'ambassadeur ou d'ambassadrice à jouer.
Ne serait-ce que tourne nos proches
pour expliquer qu'en gros, tu vois, gml, par exemple.
Moi, j'ai utilisé longtemps gml.
Et puis, un jour, j'en ai marre de recevoir des pubs ciblés
sur des discussions que j'avais eues avec mon meilleur ami
que par mail.
Bon, alors, je me suis pris autre chose.
Et puis, il y a quelques...
C'est quoi, celui-ci ?
Celui-là, moi ? Non, il y a un an.
Il y a eu une class action qui s'est montée aux États-Unis
parce qu'en fait, ils se sont rendus compte
que Google lisaient l'ML avant que tu les reçoîmes.
Sur ton compte, j'ai mail.
Donc, en gros, il y a une class action qui a commencé à se monter.
Alors Google, ils sont assez rapides
et donc ils sont changés de fusil des pôles assez vite.
Le temps que la class action se monte,
ils ont changé leur algorithme.
Alors, désormais, je te rassure, Google ne lit l'ML
qu'une fois que tu les as ouverts au moins une fois.
Il faut que tu lises...
Enfin, faut que tu ouvres au moins un TML
pour que Google puisse le lire, l'exploiter
et en faire ce qu'ils veulent en faire derrière.
Et donc, en gros,
ben ça, mes parents, ils ne sont pas au courant de ça.
Enfin, ils n'imaginent pas un seul instant.
Non, mais ça, moi, ça, le mouvement anti-Google
que je vois aujourd'hui basé sur,
oh là là, mon Dieu,
mais ils utilisent mes données personnelles qu'elles scandales.
Je trouve ça d'une naïveté stupéfiante.
C'est que...
Parce que toi, t'es têvé.
Comment les gens peuvent s'imaginer...
Parce que toi, t'es têvé avec moi aussi,
mais comment les gens peuvent imaginer que...
Je ne sais pas, Andrew, il a été fait vraiment
pour aspirer un maximum de données
auprès de ces utilisateurs,
que ça a été vraiment ça,
l'élément constitutive du projet.
Toi et moi, on bêne dans la techno,
donc c'est des choses
auxquelles on est un peu peut-être puceux sensibilisés,
mais dans le grand public,
c'est...
Moi, je constate, quand je pose la question aux uns et aux autres,
les gens ne se posent pas la question, en fait.
Aujourd'hui, on est dans une ère assez naïve
où on donne tout sur nos vies.
Ouais, c'est gratuit, c'est normal.
Donc voilà, il y a un jour, on se rend compte
qu'en fait, les gros vilains ont un business model derrière
et que le produit, c'est nous, en fait.
Oh là là, mon dieu.
Et puis surtout, qui seront tellement énormes,
tu vois, on parlait de Google,
c'est tellement énorme que pour les arrêter,
ça va être chaud, ça va être de plus en plus chaud.
Donc avec les lobbies...
Je pense c'est même impossible,
parce que même si tu sortes de Google,
il y a tellement de gens sur la liste,
sur la liste email des abonnés à Artisan Developer
qui constituent la communauté.
Je regardais, je pense qu'il y a plus d'un email sur deux
qui sont du Gmail.
Donc ça veut dire que même si tu sortes de la machine,
tu as forcément un de tes potes qui va être dessus.
Bien sûr, alors c'est ce que me disaient certains de mes potes.
Désormais, tu prends...
Alors c'était une boîte suisse,
parce que c'est avec le Cloudat et le Patriotact,
n'importe quelle donnée sur un serveur
qui est tenue par une boîte,
à majorité américaine,
il suffit que la boîte soit 51% tenue par des actionnaires américains
pour que le Patriotact s'applique.
Et du coup, toutes les données,
ils peuvent les aspirer, les récupérer sans,
tout le dire.
Donc mes potes ils me disaient,
mais c'était un peu couillon,
parce que franchement,
tu sais très bien dans ton carden d'adresse,
la moitié des mails que tu vas envoyer,
ça va être envoyé sur des comptes Gmail.
Je dis oui, mais moi ce qui me choque,
c'est pas que Google essaie de carrer tout le monde,
c'est pas ça qui me choque.
Ce qui me choque, c'est qu'il n'y ait plus d'alternatives.
Le jour où on n'aura plus d'alternatives,
parce que Gmail aura tué tous les autres offres
de courriers électroniques.
C'est ça qui me gêne.
Donc c'est pour ça que à ma petite échelle,
j'essaye de faire vivre des alternatives
quand je peux en trouver.
Après c'est que des compromis, il y a attention.
Il suffit de, tu vois, par exemple,
le moteur de recherche Google,
il m'arrive d'utiliser quand même de temps en temps.
Parce que rien pour trouver certains trucs,
aujourd'hui les autres ne sont pas encore à la hauteur.
YouTube pareil, c'est une plateforme
qui contourne presque, j'ai envie de dire.
Il y a des alternatives qui essaient de se monter,
mais honnêtement, c'est très compliqué.
Ailleurs, l'incrédible pour l'instant.
Et du coup en tant que développeur,
quand tu prends confiance de l'impact que ça,
si tu t'entais que tu lèves un peu le nez,
que tu dis « oh là là, mais ce que je fais,
à quoi ça sert ? »
C'est quoi pour toi ?
Parce que franchement, si tu bossais chez Google
et que tu bossais sur Gmail,
genre en des produits les plus populaires en monde,
est-ce que vraiment tu dirais
« oh, c'est mal ce que je fais, je dois partir ? »
Alors surtout pas,
parce que moi j'ai des potes qui bossent chez Google,
des anciens collègues,
et quasiment tous,
un feedback que j'ai de leur part,
c'est très morcelé.
C'est très morcelé.
Donc en fait, c'est quelqu'un qui travaille chez Google,
il y a des exceptions comme partout,
mais très souvent,
il ne sait pas pour quoi et pour qui il boss.
Il y a une grande ligne directrice,
mais tu vas travailler sur des modules,
des sous-éléments,
et donc en fait,
tu ne vas pas forcément savoir
que le bootsoft sur lequel tu travailles
sera exploité par l'armée américaine,
ou très récemment,
il y a une personne qui s'appelle Meredith Whittaker,
je ne sais pas si t'as suivi ça,
qui a quitté Google après 13 ans de bons et loyaux services,
elle était sur la partie des gens artificiels,
elle a fait tout un blog post,
une lettre expliquant pourquoi elle pouvait plus bosser chez Google
pour des raisons éthiques,
et elle décrit ça très bien.
Elle décrit ça,
le fait de, quand tu travailles,
tu ne sais pas vraiment pour qui tu boss,
tu travailles dans une petite équipe,
et en fait, il n'y a que les gens qui sont à la tête de Google
qui savent exactement
et un peu de minimum,
j'imagine à quoi ça va servir
et qui va exploiter les soft sur qui elle y bosse,
mais dans les équipes de dev,
ils sont,
comme ça, c'est très facile,
ça ne permet pas trop de poser de questions,
d'avoir moins de quatre consciences, j'imagine,
et puis, à moi que ce soit juste par pure soucis d'efficacité,
mais en tout cas,
je connais des gens qui travaillent chez Google
et qui arrivent très bien à vivre sans trop de poser de questions.
Ok, parce qu'en fait, ce que tu dis,
c'est qu'ils ne sont pas forcément conscients
de l'usage qui est fait de leur travail
et de ce qui se passe autour de quoi.
Ça me paraît un peu naïf,
il dit comme ça quand même.
Mais moi aussi, ça me paraît assez naïf,
et en fait, je te dis, il y a trois personnes,
trois personnes qui bossent chez Google
sur des sujets différents,
et en tout cas, ils décrivent la même chose,
c'est-à-dire,
ils ont une vision parcellaire.
Il n'y a pas de, tu vois,
il n'y a pas d'avis ou d'opinion là-dessus,
c'est vraiment de leur part,
c'est qu'ils constatent juste
qu'ils sont dans une structure
qui les laisse dans une parcelle,
avec quelques interactions,
mais pas une vision complète de ce sur quoi ils travaillent,
dans quoi ça va s'inscrire en fait.
Et toi, du coup, comment dans ton quotidien
tu as intègre cette dimension d'éthique ?
C'est déjà en se posant des questions
sur pour quel type de client tu as envie de bosser.
Par exemple, l'armement BOF, par exemple.
Moi, c'est dans le choix des clients.
Est-ce que tu as déjà eu des clients,
est-ce que tu as déjà eu des propositions
ou des appels du pied ou des carréments de contact,
à qui tu as dit non merci pour des raisons éthiques ?
Oui, ça m'est arrivé une fois.
Ça m'est arrivé qu'une seule fois.
Alors après, je suis mal placé pour le dire
de certaines manières, il faut être honnête,
et j'ai bossé pendant 12 ans pour une banque d'investissement.
Alors je l'ai fait pour tout un tas de...
Tu vois, il faut être prétolette.
Je sais pas ce qui est pire entre travailler pour l'armée
ou pour définancer, c'est parce qu'il fait un monde.
Alors tu vois, ce qui est fou, c'est que quand tu bosses là-dedans,
tu dis, je travaille pour une division
qui va permettre de faire construire des ponds,
des infrastructures pour un pays,
de trouver des investisseurs pour qu'un état puisse faire...
Tu essaies de te convaincre tant que tu peux,
à ma décharge, je n'ai pas bossé sur la partie la pire,
c'est-à-dire l'arbitrage et tout le training électronique
ou de fréquence.
Mais malgré ça, même ceux qui travaillent sur le training
ou de fréquence, ils se trouvent des justifications en disant,
mais c'est ce qui va, au gros, réduire les inefficences
sur les plateformes, sur les marchettes, etc.
Donc en tout cas, l'humain est capable de justifier pas mal de choses.
C'est pour ça que je n'aime pas l'approche où tu dis aux gens,
faites ceci, faites cela.
Quand j'avais fait ma con sur l'éthique,
ce que je dis, je ne suis pas là pour vous dire
de quitter GML ou de faire cela.
C'est juste ce qui m'importe, c'est de prendre conscience de ce qui se passe.
Et puis après, ça permet d'opérer et de faire des choix, des compromis,
comme en architecture, tu fais des...
Il n'y a pas d'architecture cible, pure ou machin,
tu fais que des compromis, des objectifs, des contraintes,
et tu choisis les solutions les plus réptées.
Enfin, tu es ça, c'est pareil pour les choix de vie.
Mais mes choix éthiques, ils ont varié en fonction de ma carrière et de ma vie.
Ce que je te dis maintenant, j'y étais moins sensible au début de ma carrière,
pour plein de raisons.
Écoute, Thomas, merci beaucoup pour ton honnêteté
et ce regard et cette perspective.
Si les auditeurs vont en savoir plus, ils peuvent venir où ?
Peu venir où ?
Je l'ai bien utilisé, honnêtement, je ne saurais pas quoi te dire cible.
Non, de ton côté, est-ce que tu écris des choses ?
Est-ce que tu as un blog ?
Je l'avais un blog avant, mais c'est sur Twitter.
Ouais, c'est Twitter.
Thomas Pierrein, mon blog-là, c'est U-S-Case Driven.
Et donc, U-S-Case Driven sur Twitter.
Effectivement, ça m'arrive pas mal de tweeter sur des référends, des blog posts, des articles.
Je suis encore bruit de galactique à Nota Boros sur tout cet sujet comme ça.
Thomas, merci d'être venu aujourd'hui.
Je t'en prie, merci à toi.
Wow, un épisode très dense et chargé pour moi.
J'y retrouve la naïveté des utilisateurs qui ne comprennent pas que gratuit
veut dire source de revenus quand même.
Mais surtout ce paradoxe, même quand on est conscient des choses,
on ne vit pas toujours en cohérence.
On voit bien à quel point on est complexe.
On n'est pas un paradoxe prêt.
Ça me fait penser à cette phrase d'un ancien président
pour illustrer le réchangement climatique.
Notre maison brûle, il en regarde ailleurs.
Assumer une ligne d'éthique n'est déjà pas évident.
Mais quand la dimension économique entre en ligne de compte,
ça devient encore plus dur.
Si des individus peuvent faire le choix, comme Thomas,
de refuser des revenus par éthique, qu'en est-il des entreprises ?
Quel sera l'impact sociétal des innovations technologiques à venir ?
En particulier si on revient sur l'intelligence artificielle,
quel sera l'impact sur le marché de l'emploi ?
Pour répondre à ces questions, je retournerai parler avec Olivier Philippe,
qui nous donnera son point de vue d'expert sur cette question.
Attention, c'est à risque de décoiffer ses verres.
Je ne pensais pas qu'il serait aussi direct.
D'ici là, pense à t'abonner à la série sur ta plateforme des coûts préférés,
Apple ou Google Podcast, Deezer, Spotify ou tant d'implications de podcasts préférés.
Et maintenant, je te laisse avec la fiction de l'automne 2019,
développeur en 2039.
A demain !
Ah, ça l'a pris !
Ah, ils sont de plus en plus efficaces pour effacer les gens dans cette boîte.
Mais merde, comment je vais rentrer maintenant ?
Bon bah... Il me reste plus qu'à explorer la ville.
Hé, mais regarde-le-moi celui-là.
On dirait qu'on a un client ?
Oui, bonjour.
Bonjour, messieurs.
Je cherche mon chemin vers le quartier des Monts d'Oré, s'il vous plaît.
Hé, mais qu'est-ce que vous...
...
...
...
...
...













...
Non mais tu fais quoi là, Benoît ?
Ben... Quoi ?
Mais tu vas pas le laisser crever là-bas-retien, quand même.
Juste pour un blouson ?
Ben si.
Ce con, il passe par les pires quartiers pour rentrer chez lui.
Il se fait broquer, prend une balle, fin de l'histoire.
Et si tu crois qu'on tue pas en 2039 pour un blouson, tu te gours, hein.
On le fait déjà en 2019.
Non mais t'es pas sérieux.
On va leur dire quoi aux auditeurs maintenant ?
Ben... Je sais pas.
Tu crois qu'on peut continuer l'histoire avec Miquel ?
Mais arrête tes conneries, c'est l'histoire de Benjamin qu'on veut, tu nous gonf là.
Il pourrait avoir un traceur cardiaque, un truc qui a signalé l'alerte.
On pourrait au moins lui envoyer une ambulance.
Hum...
Tu veux dire qu'il aurait sur lui des capteurs physiologiques pour prévenir les secours en cas de besoin ?
Moi, c'est crédible ça.
Oui, un truc comme ça.
Bon allez, ok. On lui envoye une ambulance.