Le document est destiné à encourager chaque partie prenante dans le secteur de l'IA à respecter un ensemble de valeurs fondamentales pour garantir un développement "sain" de cette technologie. Il a été élaboré par Sage parallèlement à la conception de ses programmes de machine learning et d'intelligence artificielle. Ces derniers visent à alléger la gestion financière des entrepreneurs, de la start-up à la grande entreprise, depuis la création du projet jusqu'à son point de rentabilité. Le développement de ce type d'applications a permis d'identifier les points essentiels qui posent question en matière d'éthique.
L'éthique du code : les cinq principes fondamentaux du développement de l'intelligence artificielle pour les entreprises
1. L'IA doit refléter la diversité de ses utilisateurs
L'industrie et les communautés doivent mettre au point des mécanismes permettant de filtrer efficacement les préjugés et les sentiments négatifs au sein des données utilisées pour l'apprentissage de l'IA. L'objectif est de faire en sorte que l'IA ne reproduise pas de stéréotypes.
2. L'IA, tout comme ses utilisateurs, doit être responsabilisée
Les utilisateurs établissent une relation avec l'IA et lui font confiance après seulement quelques interactions probantes. Or, la confiance implique des responsabilités et l'IA doit rendre compte de ses actes et décisions, au même titre que les humains. La technologie, aussi intelligente soit-elle, ne doit pas se soustraire à ces responsabilités. Nous n'admettons pas ce type de comportements de la part des autres professions dites "expertes", alors pourquoi la technologie ferait-elle exception ?
3. L'IA doit être récompensée pour ses bons résultats
Si l'apprentissage des systèmes d'intelligence artificielle se construit à partir de mauvais exemples, alors cela peut avoir des conséquences socialement inacceptables. N'oublions pas qu'actuellement, la majorité des solutions d'IA n'ont pas conscience de ce qu'elles disent. Seul un apprentissage reposant sur une grande diversité de sources de données permettra de résoudre le problème.
L'une des approches possibles consiste à développer un système d'apprentissage de l'IA basé sur la récompense. Attention toutefois : les méthodes d'apprentissage par renforcement doivent non seulement déterminer ce que l'IA ou les robots doivent faire pour parvenir à un résultat donné, mais aussi s'assurer que ces actions s'alignent sur les valeurs humaines.
4. L'IA doit promouvoir l'égalité des chances
Les technologies vocales et les robots sociaux offrent de nouvelles solutions, accessibles en particulier aux personnes malvoyantes, dyslexiques et à mobilité réduite. Notre industrie doit accélérer le développement de nouvelles technologies pour promouvoir l'égalité des chances et élargir ainsi le vivier de talents au sein des entreprises.
5. L'IA se substituera aux humains, mais créera aussi de nouvelles opportunités
La robotisation des tâches générera de nouvelles opportunités auxquelles nous devons d'ores et déjà former les humains. En adoptant l'IA, les entreprises pourront se concentrer sur ce qu'elles font le mieux : développer le relationnel et prendre soin de leur clientèle.
Élargir le vivier de talents
Pour combler la pénurie actuelle de professionnels de l'intelligence artificielle, Sage a lancé un programme de BotCamps. Il s'agit d'une première au Royaume-Uni dont l'objectif est de permettre aux 16-25 ans ayant terminé leurs études de se former aux rudiments de la programmation de bots et de systèmes d'intelligence artificielle. Ce programme inclusif est une opportunité de développement des compétences en conception de technologies accessibles. Ainsi enrichie de ces nouveaux talents formés aux technologies de pointe la communauté technologique entrera sans crainte dans la quatrième révolution industrielle.
Montrer l'exemple
L'éditeur a aussi lancé il y a un an son chatbot, Pegg. Conçu pour libérer les clients des tâches administratives courantes qui les empêchent de se consacrer à des activités à plus forte valeur ajoutée, Pegg est un assistant intelligent qui permet aux petites entreprises de suivre leurs dépenses et de gérer leurs finances par le biais d'applications de messageries populaires telles que Facebook Messenger ou Slack.