Débat sur la responsabilité des entreprises tech dans l’ère de l’IA générative : les défis de confiance et de sécurité

Le PDG d’OpenAI, Sam Altman, a sollicité notre « patience et bonne volonté » pendant qu’ils s’efforcent de « faire les choses correctement ». Il est temps pour la Silicon Valley d’adopter une approche alternative pour gagner notre confiance, une approche qui a fait ses preuves dans le système juridique américain : la justice procédurale. Basée sur la psychologie sociale, la justice procédurale s’appuie sur des études démontrant que les individus considèrent les institutions et les acteurs comme plus dignes de confiance et légitimes lorsqu’ils sont écoutés et font l’objet de décisions neutres, impartiales et transparentes.

Les quatre éléments essentiels de la justice procédurale

• La neutralité : les décisions sont impartiales et guidées par un raisonnement clair.
• Le respect : chacun est traité avec respect et dignité.
• La voix : tout le monde a la possibilité de partager son expérience.
• La fiabilité : les décideurs transmettent des motivations crédibles concernant les personnes affectées par leurs décisions.

Les entreprises d’IA peuvent adapter ce cadre pour renforcer la confiance et la légitimité en mobilisant des équipes pluridisciplinaires, en permettant aux individus de participer au processus décisionnel et en garantissant la transparence de toutes les règles et procédures de sécurité.

Lire aussi : Meta présente ses processeurs d'IA et son supercalculateur pour stimuler la recherche en intelligence artificielle

« La société, je pense, dispose d’un temps limité pour comprendre comment réagir à cela, comment le réguler, comment le gérer. » – Sam Altman, PDG d’OpenAI

En adoptant une démarche de justice procédurale, plutôt que l’opacité et la confiance aveugle des prédécesseurs technologiques, les entreprises qui conçoivent des plateformes d’IA peuvent impliquer la société dans le processus et obtenir – et non exiger – la confiance et la légitimité.