En juin 2018, Sage a réuni un groupe de travail composé de dirigeants d'entreprises internationales et d'officiels du gouvernement britannique sur le thème du rôle de l'industrie dans la compréhension par les gens des implications éthiques de l'IA. La conversation a tourné autour de la gouvernance, de la responsabilité et de la transparence de l'industrie, mais aussi de la confiance du public et du niveau d'investissement nécessaire des comités de direction. C'est dire si le sujet préoccupe l'éditeur, lui qui avait déjà, il y a plus d'un an, publié un document intitulé "L'éthique du code : les cinq principes fondamentaux du développement éthique de l'intelligence artificielle (IA) à l'usage des entreprises" (voir Chatbots & IA : 5 principes fondamentaux).
En substance, les conclusions de la discussion sont que si l'on veut que l'utilisation de l'IA, qui facilite la résolution de problèmes techniques en élevant le potentiel humain, soit réellement éthique, il faut aller bien plus loin que la simple réputation d'entreprise : c'est le fondement d'un modèle d'affaires qui fonctionne et des décisions du comité de direction. Il est essentiel de mettre en place une IA éthique pour s'assurer que les interactions avec la technologie aident effectivement les gens à mieux faire leur travail. En effet, la société doit pouvoir avoir confiance dans les applications utilisées dans tel ou tel secteur, dans les flux d'échanges et dans les situations personnelles. Il est nécessaire que les gens comprennent comment fonctionne l'IA, pourquoi elle permet de déterminer la meilleure solution dans tel ou tel contexte et pourquoi il faut accueillir avec bienveillance l'aide qu'elle apporte.
Ça bouge chez Sage
Alors que Steve Hare vient d'être nommé nouveau CEO de Sage (voir Sage nomme Steve Hare au poste de CEO du groupe), c'est dans ce contexte que Céline Bayle a rejoint Sage en mars dernier pour gérer la transformation de l'entreprise. Elle est depuis le 1er octobre directrice des solutions Enterprise Market pour la région Europe du Sud. Elle porte donc un regard neuf sur l'entreprise tout en bénéficiant d'expériences similaires, chez Oracle et Microsoft notamment.
"Pour nous, le rôle de Sage dépasse celui de fournisseur de solutions de gestion", estime Céline Bayle. "Quand on équipe trois millions d'entreprises, petites et grandes, dans le monde, l'utilisation que l'on fait de l'IA doit suivre un code éthique. Nous avons choisi de diffuser l'IA non pas parce que c'est la mode mais pour en utiliser certaines capacités de manière pertinente dans le métier de nos clients ou de nos collaborateurs. Et nous avons choisi de ne pas réinventer la roue en focalisant nos équipes de R&D dans un tunnel de développement pendant des années mais nous avons fait un choix de partenariat avec l'IA de Microsoft, qui est la meilleure du marché".
Céline Bayle, directrice des solutions Enterprise Market pour la région Europe du Sud chez Sage
Aujourd'hui, l'IA soulève énormément de doutes, de peurs, de risques et encore plus auprès des entrepreneurs dont le cœur de métier n'est pas la technologie : pertes d'emplois ou de business notamment. "Par exemple, demain l'IA pourrait très bien suggérer que comme nous avons plusieurs litiges avec tel client, nous le considérons comme insolvable et allons arrêter de le livrer. Il nous appartient d'intégrer des valeurs humaines dans les critères d'analyse de l'IA afin de lui expliquer un développement vertueux de l'économie, c'est-à-dire, dans le cas particulier, d'anticiper le défaut de paiement du client pour pouvoir l'accompagner et ainsi éviter de le pousser vers la faillite. L'IA n'apprend pas toute seule. Elle apprend des données qu'on lui fournit", poursuit la dirigeante. De même, Céline Bayle estime qu'il faut assurer un développement divers de l'IA, pour s'assurer qu'elle intègre des données diverses issues de toutes les populations que l'entreprise est susceptible de recruter (compétences, âge etc.). "Il faut que l'IA n'aille pas discriminer certaines populations, comme les seniors. Il faut que nous intégrions cela dans le code pour éviter les préjugés basiques que l'on pourrait avoir".
Le deuxième aspect est que l'IA doit être tenue pour responsable au même titre que l'humain : "ce n'est pas une boite noire de laquelle on sortirait une vérité intangible. La confiance ne s'établit pas sans responsabilité ; à nous de tenir l'IA pour responsable de ses actions et de ses décisions et de toujours avoir l'humain comme dernier échelon de décision".
Il faut aussi que l'IA soit transparente : "ses algorithmes doivent être lisibles par les personnes qui l'exploitent pour conserver un esprit critique. Si par exemple on laissait l'IA analyser les comportements des clients pas rapport à Blablacar, elle nous dirait qu'on économise 25 % d'essence parce que il y a en moyenne plus de personnes dans chaque véhicule. Or, en réalité, la limite d'économie n'est que de 15 % parce qu'avec Blablacar le nombre des personnes qui prennent leur voiture augmente au détriment du train".
L'IA doit garantir l'équité. "Par exemple, l'IA permet à des personnes non-voyantes de travailler sur des applications, ce qui n'était pas possible avant. Elle ouvre des portes à des talents, ce qui n'existait pas auparavant".
Enfin, si l'IA remplace et/ou automatise certaines fonctions et certaines actions, elle doit aussi créer de la valeur. "Si par exemple nos comptables, grâce à l'IA, passent moins de temps à vérifier les factures, ils pourront passer plus de temps à valoriser leur contribution auprès des métiers".
"Nous ne travaillons pas du tout dans notre coin sur le sujet", assure Céline Bayle. "Ce code éthique a été rédigé dans un contexte international, avec d'autres entreprises et d'autres gouvernements. En tant qu'exploitants de l'IA, nous avons un rôle sociétal dans la manière dont elle va être conduite. Nous travaillons aussi avec Syntec Numérique, dont je suis membre actif du comité innovation. L'IA est au cœur des sujets de cette année, pour appliquer les directives du rapport Villani et pour voir comment nous, entreprises, pouvons actionner ces leviers et déployer des solutions. Nous avons un fort rôle pour former les gens à l'IA et mettre des ressources à disposition, surtout quand on se compare à des pays comme la Chine, qui ont mis des investissements colossaux sur le sujet".
Au-delà de l'IA, la transformation de l'entreprise
Pour toute entreprise sur le marché – et cela inclut les éditeurs – on considère qu'il y a quatre piliers que cette entreprise doit faire évoluer afin de passer sa trajectoire transformationnelle. En ce qui concerne Sage :
- Le premier pilier de cette transformation est la proposition de valeur de ses produits. "Et là, l'urgence est d'accélérer le passage de nos offres vers le cloud et le SaaS. Aujourd'hui, le périmètre applicatif consiste à mettre à disposition des offres on-premise comme avant, parce que certains clients ne souhaitent pas aller vers le cloud, ou d'autres offres hébergées, donc des offres on-premise installées dans le cloud. Le troisième type de déploiement que nous proposons est 'full SaaS' public, pour lesquelles l'application est la même quel que soit l'endroit d'où on se connecte, en mode 'pay as you use', comme toutes les offres multi-tenant du marché. Le choix de Sage est d'offrir cet éventail de solutions au marché, parce que les entreprises que nous servons vont de l'auto-entrepreneur à la PME et à l'ETI, qui n'ont pas les mêmes besoins ni les mêmes choix de déploiement".
- Le deuxième pilier est l'évolution des processus internes. "J'ai donc travaillé avec les équipes internes de façon transverse afin de faire évoluer les processus", note Céline Bayle. Deux exemples : la numérisation des processus pour se mettre au niveau d'une vente de services, ce qu'est le SaaS, ce qui passe par la mise à disposition d'un forum de discussion en mode peer-to-peer entre les clients, les partenaires et les experts en interne, mais aussi d'usages numériques pour faire évoluer les équipes commerciales pour passer de la vente de produit à la vente de services (SaaS). "Ça passe aussi notamment par le 'social selling' et par des formations de toutes les équipes, du marketing au juridique, afin qu'ils intègrent, comprennent, sachent expliquer et amplifier la valeur de nos solutions, que ce soit métier ou de leur nouveau mode de déploiement".
- La culture de l'entreprise : "nous essayons de moderniser la culture de Sage, de lui donner un vernis correspondant à la tendance cloud. Il faut montrer à tout le monde l'intérêt de cette transformation, pour que les collaborateurs ne la vivent pas comme un mal nécessaire mais comme un bénéfice, y compris pour leur bien-être dans l'entreprise et pour leur valorisation au sein de l'entreprise grâce à ces innovations. Il faut aussi leur apprendre pourquoi aujourd'hui il est beaucoup plus intéressant de travailler en équipes transverses et non en silos. Enfin, il faut que nous nous donnions la possibilité de proposer des innovations, car la difficulté est de retenir les talents en interne", explique la dirigeante.
- Le quatrième pilier de cette transformation, dans lequel on infuse les innovations telles que le cloud et l'IA, c'est la modèle d'affaires. "Nous ne considérerons avoir transformé notre entreprise que si notre chiffre d'affaires se fait majoritairement sur les offres innovantes, notamment cloud, ou intégrant du Big Data ou du machine learning. C'est le marqueur du niveau de notre transformation".
Ces quatre pans de la transformation sont notamment opérés par l'IA, puisqu'au-delà de son intégration dans les offres de l'éditeur, elle est aussi intégrée dans les solutions internes de fonctionnement. En allégeant les tâches répétitives des collaborateurs, l'IA lui permet de se concentrer sur son expertise métier. "Notre assistant Pegg est non seulement proposé à nos clients, mais aussi à nos collaborateurs pour répondre à leurs questions, comme par exemple un encours client ou un niveau de stock, ce qui lui permet de gagner beaucoup de temps", explique Céline Bayle. "C'est un peu un cerveau complémentaire mis à disposition des collaborateurs ou des clients pour aller plus vite dans la prise de décision. En outre, l'IA permet d'élaborer beaucoup plus de scénarios et offre donc des capacités plus importantes".
Benoît Herr