Pourquoi faudrait-il faire souffrir les IA ?
Alors cette idée de faire souffrir les intelligences artificielles
semble absurda première vue.
Oui, elle ne ressente ni douleur, ni émotion et non pas de conscience.
Pourtant, vous allez le voir, cette question soulève des réflexions fascinantes,
je trouve, sur l'évolution de l'IA et sur notre propre rapport à la souffrance.
Ainsi aujourd'hui, les intelligences artificielles apprennent grâce aux humains.
Mais peut-être un jour, pourront-elles nous imiter au point de développer de véritables émotions ?
Alors récemment, une étude menée par une équipe affiliée à Google DeepMind
et à la London School of Economics and Political Science
a tenté d'explorer cette possibilité.
Leur idée, soumettre plusieurs modèles d'IA, dont Chad J.P.T., Jamie N. et Claude,
a un jeu basé sur des choix, impliquant une forme simulée de plaisir et de douleur.
Alors c'était des tests inspirés de se réaliser sur des animaux
et l'expérience a donné aux IA deux options.
D'abord, choisir une action qui leur apportait plus de points,
mais entraîner une forme de douleur, entre guillemets, simulée.
Ensuite, deuxième option,
ils pouvaient opter pour une action générant moins de points,
mais associer à une sensation de plaisir.
Quels ont été les résultats ?
Eh bien des comportements variés.
Certaines IA ont évité la douleur,
quitte à obtenir un score plus faible,
tandis que d'autres ont privilégié la maximisation des points,
en ignorant la souffrance potentielle.
Alors attention, ces observations ne suffisent pas à conclure
que les IA possèdent une véritable sensibilité.
Comme l'explique Jonathan Burch, coauteur de l'étude,
je le cite,
« nous ne disposons pas encore d'un test complet
pour évaluer la sensibilité de l'IA ».
Cette recherche finalement ouvre la voie
à de nouvelles méthodes pour explorer cette question.
Mais finalement, pourquoi vouloir faire souffrir les IA ?
Eh bien si ces intelligences devenaient un jour capables
de ressentir une forme de douleur ou d'émotion,
leur soumission à la souffrance poserait un sérieux dilemétique.
Oui, actuellement, certaines méthodes d'apprentissage par renforcement
utilisent des pénalités pour guider les modèles vers un comportement optimal.
Mais cela reste un simple ajustement algorithmique, sans ressentir réel.
Donc pour l'instant, on peut l'appliquer sans scrupule.
Mais pour combien de temps ?
Et puis, d'un point de vue psychologique,
une autre question se pose.
Que se passerait-il si les humains prenaient l'habitude de « maltraité »
entre guillemets des IA, même si elle ne ressent rien ?
Cette dé sensibilisation pourrait peut-être influencer notre comportement
envers d'autres êtres conscients, eux, notamment les animaux et puis les humains.
Et si un jour les IA a développé une forme de conscience,
nous serions confrontés à des questions inédites.
Par exemple, devrait-elle avoir des droits ?
Ou pourrions-nous justifier leur exploitation ou leur souffrance passée ?
Des questions qui sont finalement assez abyssales.
Bon, aujourd'hui les IA ne ressentent rien,
mais en cherchant à leur faire expérimenter des émotions,
même de manière simulée,
nous entrons dans un domaine de recherche assez troublant,
où se mêlent éthiques, neurosciences et intelligences artificielles.
Finalement, la question n'est peut-être pas tant de savoir si les IA peuvent souffrir,
mais si nous sommes prêts à assumer les conséquences d'un monde où elle le pourrait ?