Le langage de l’IA éthique est devenu familier, ce qui est rassurant. Les organisations promettent l’équité, la transparence, l’inclusion et la surveillance humaine. Chaque principe compte, mais sans une norme par rapport à laquelle la conduite peut être testée, ces principes risquent de devenir des valeurs auxquelles tout le monde souscrit mais auxquelles personne n’est tenu.
Dans le domaine des services financiers, le test doit être plus exigeant car les décisions que nous prenons affectent directement la vie des gens. Un modèle peut influencer l’octroi d’un crédit à une personne, la manière dont son risque d’assurance est tarifé ou les conseils qui parviennent à son foyer. Pour l’institution, cela peut apparaître comme une prédiction. Pour la personne concernée, cela peut signifier une opportunité ouverte ou une porte fermement fermée.
Notre position est simple : partout où l'IA façonne une décision importante pour la vie d'une personne, que cette personne soit un client ou un employé, nous devons nous assurer qu'elle peut comprendre comment le résultat a été atteint, avoir accès à des recours significatifs en cas de problèmes et avoir confiance que la responsabilité incombe fermement à l'institution, et pas seulement à l'algorithme.
Au sein d'Old Mutual, des principes et des pratiques clairs guident la manière dont l'IA est conçue, déployée et supervisée, afin que chaque système que nous utilisons reste fiable, responsable et aligné sur nos valeurs, notre appétit pour le risque et nos objectifs stratégiques. Une telle gouvernance ne constitue pas un frein à l’innovation ; c’est ce qui permet de faire confiance à l’innovation.
Les autorités financières sud-africaines posent déjà les bonnes questions. En mai, le vice-gouverneur de la Banque de réserve sud-africaine et PDG de l’Autorité prudentielle, Fundi Tshazibana, a signalé que les institutions financières restaient responsables de l’explicabilité des décisions, même lorsque ces décisions sont éclairées par l’IA.[1] Nous sommes d’accord et irons plus loin ; une explication a une valeur limitée si la personne concernée ne peut rien en faire.
Une explication significative ne signifie pas exposer le code source ou compromettre la sécurité. Cela signifie donner au client une réponse qu’il peut comprendre et sur laquelle agir : quelles informations ont influencé la décision et qu’est-ce qui pourrait conduire à un résultat différent. Une institution peut choisir d’acheter le modèle, mais elle ne peut pas externaliser la responsabilité des décisions prises avec ce modèle.
En tant que Directeur du Capital Humain et des Affaires Corporate du Groupe, je ne peux pas limiter cet argument aux seuls clients. De même, les systèmes basés sur l’IA sont de plus en plus utilisés dans les processus de capital humain à l’échelle mondiale. De plus en plus, les cas d’usage de l’IA les plus intéressants en matière de capital humain ne concernent plus la stratégie ou le reporting. Ils sont dans la salle des machines opérationnelles des RH : recrutement, intégration, prestation de services, paie, formation, planification des effectifs, relations avec les employés et soutien aux managers.
Lorsque la technologie influence des décisions qui affectent la carrière, les moyens de subsistance ou les opportunités futures d'une personne, les normes d'équité ne devraient pas être inférieures à celles que nous exigeons pour servir nos clients. Chaque employé mérite une décision qui peut être expliquée en termes clairs et compréhensibles, un moyen significatif de remettre en question ou de contester le résultat, et la certitude que la responsabilité incombe en fin de compte à un être humain. Les algorithmes peuvent éclairer les décisions, mais ils ne doivent jamais remplacer le jugement, la surveillance ou la responsabilité humaine. Dans un lieu de travail activé par l'IA, la transparence, l'équité et la responsabilité humaine ne sont pas de simples considérations éthiques ; ils sont essentiels pour préserver la confiance.
Cela ne peut pas être traité comme une préoccupation périphérique ou délégué à une annexe politique. Les normes éthiques que nous appliquons à l’extérieur doivent également régir la manière dont nous traitons nos propres collaborateurs. L'éthique interne et externe ne sont pas des disciplines distinctes ; ce sont les mêmes principes appliqués à différentes relations. Une institution qui protège ses clients tout en négligeant ses salariés verra rapidement sa crédibilité affaiblie sur les deux fronts. Un personnel qui ne fait pas confiance à la manière dont les décisions sont prises, à la manière dont les performances sont évaluées ou à la manière dont les opportunités sont allouées aura du mal à bâtir la confiance et le plaidoyer dont dépendent en fin de compte les relations avec les clients. La confiance est indivisible. Si l’équité, la transparence et la responsabilité font défaut au sein de l’organisation, elles seront inévitablement remises en question également à l’extérieur.
En fin de compte, l’utilisation responsable de l’IA n’est pas seulement une question de conformité. C'est le reflet du caractère organisationnel. Les organisations qui réussiront à l’ère de l’IA seront celles qui utiliseront la technologie pour renforcer la dignité humaine plutôt que de la diminuer, en combinant la puissance des systèmes intelligents avec le jugement, l’empathie et la responsabilité que seules les personnes peuvent apporter.
L’Afrique a l’opportunité de s’engager dans l’IA d’une manière à la fois pragmatique et ciblée, en l’utilisant non pas comme une fin en soi, mais comme un moyen d’élargir l’accès, d’améliorer la productivité, de renforcer la prestation de services et de libérer le potentiel humain. Même s’il serait prématuré de faire des prédictions définitives sur le rythme ou l’ampleur de son adoption, il ne fait aucun doute que l’IA façonnera de plus en plus la manière dont les organisations servent leurs clients, développent leurs talents, prennent des décisions et sont compétitives dans une économie mondiale en évolution rapide. La question n’est pas de savoir si l’IA influencera notre avenir, mais de savoir dans quelle mesure nous choisissons de l’appliquer de manière intentionnelle et responsable.
Cette responsabilité commence par reconnaître que la confiance est le fondement sur lequel repose l’adoption durable. Les avantages de l’IA ne se concrétiseront que si les employés et les clients ont l’assurance que les systèmes qui les concernent sont équitables, transparents, sécurisés et responsables. Cela nécessite une gouvernance claire de l’utilisation des données, une surveillance humaine significative des décisions qui en découlent, une protection contre les préjugés et la discrimination involontaire, ainsi que de solides garanties en matière de confidentialité et de sécurité. La technologie peut accroître les capacités humaines, mais elle ne devrait jamais porter atteinte à la dignité humaine.
Pour les organisations à travers l’Afrique, le défi n’est donc pas simplement d’adopter l’IA, mais de l’adopter judicieusement. Nous devrions saluer les opportunités qu’il présente pour améliorer l’expérience client, élargir l’inclusion financière, améliorer l’efficacité de la main-d’œuvre et éliminer les frictions administratives. Dans le même temps, nous devons rester disciplinés dans la protection des droits et des intérêts des personnes que nous servons et employons. Les institutions les plus performantes seront celles qui trouveront le bon équilibre : accueillir l’innovation avec ambition tout en la gouvernant avec soin.
Celiwe Ross est directrice du capital humain et des affaires générales du groupe chez Old Mutual. Elle prendra la parole lors du Singularity Summit 2026 au Sandton Convention Center les mercredi 21 et jeudi 22 octobre. Présenté en collaboration avec Old Mutual, les sponsors de l'événement Google Cloud et Industrial Development Corporation (IDC) et le partenaire métaverse UBU, le sommet de cette année rassemblera plus de 40 conférenciers du monde entier pour examiner les technologies, les idées et les changements qui influencent l'avenir des entreprises et de la société. Pour plus d’informations ou pour réserver, rendez-vous sur https://singularitysouthafricasummit.org/
