SAS accélère ses efforts en matière d'innovation responsable et met l’accent sur l'IA de confiance

Un nouveau laboratoire d’IA éthique pour la santé et l'expansion de l'équipe d'éthique des données sont les points forts des investissements.

Il y a un an, SAS, leader de l’analytique, annonçait ses efforts en matière d’innovation responsable. Depuis, le monde a connu des avancées sans précédent en matière d'intelligence artificielle (IA). Dans ce contexte bouleversé, SAS a redoublé d'efforts pour proposer une IA de confiance à ses clients, notamment en créant un laboratoire d’éthique de l'IA en matière de santé, le premier du genre, aux Pays-Bas. SAS a également renforcé sa Data Ethics Practice en y intégrant son programme Data for Good, qui lui permet d’étudier les risques relatifs à l'IA, mais aussi ses potentialités positives pour la société.

Un partenariat en matière de santé éthique donne lieu à un laboratoire innovant d'IA

Dans le cadre de son engagement en faveur de l'innovation responsable, SAS s'associe à des organisations du monde entier pour explorer les moyens de mettre en œuvre une IA éthique au sein des entreprises. La récente collaboration de SAS avec deux organisations néerlandaises, l’Erasmus University Medical Center (Erasmus MC) - l'un des principaux hôpitaux universitaires d'Europe, et Delft University of Technology (TU Delft), en est le parfait exemple. Les trois organisations ont lancé conjointement le premier laboratoire d'IA responsable et éthique dans les soins de santé (Responsible and Ethical AI in Healthcare Lab ou REAHL).

Le REAHL vise à répondre aux préoccupations et aux défis éthiques liés au développement et à la mise en œuvre des technologies de l'IA dans le secteur de la santé. Avec les progrès rapides de l'IA, il est nécessaire de s'assurer que ces technologies sont conçues et utilisées de manière sûre, transparente et éthique. Le REAHL rassemble des équipes multidisciplinaires d'experts en IA, en médecine et en éthique ainsi que des décideurs politiques qui collaborent tous au développement et à la mise en œuvre de technologies d'IA priorisant la sécurité, la vie privée et l'autonomie des patients.

Il s'agit notamment de s'assurer que les systèmes d'IA sont non biaisés, transparents et responsables, et qu'ils sont utilisés dans le respect des droits et des valeurs des patients. Le REAHL cherche à créer un cadre pour une IA éthique dans les soins de santé qui servira de modèle pour les centres médicaux du monde entier.

Le REAHL vient d'être reconnu comme un laboratoire officiel par le Centre national d'innovation pour l'intelligence artificielle (ICAI) des Pays-Bas. Un laboratoire labellisé ICAI voit collaborer des partenaires industriels, gouvernementaux ou à but non lucratif et des instituts de recherche. Les laboratoires de l'ICAI doivent répondre à des exigences strictes en matière de données, d'expertise et de capacité, et s'attendre à ce que les résultats soient mis en œuvre dans le cadre d’activités réelles.

"Ensemble, nous ne construisons pas seulement des technologies d'IA, mais nous façonnons également l'avenir des soins de santé en nous engageant à respecter les principes éthiques et à donner la priorité au bien-être des patients à travers chacune des innovations", a déclaré le professeur adjoint Michel van Genderen, MD PhD, intensiviste titulaire et initiateur et cofondateur du Datahub au Erasmus MC à Rotterdam. "En tant que pionnier dans la création du premier laboratoire d'IA éthique en matière de santé, nous ouvrons la voie à une nouvelle ère de soins aux patients, où le déploiement de la technologie de l'IA est régi par trois piliers fondamentaux : la transparence, la sécurité et l'équité."

SAS est également l’un des membres fondateurs de la Coalition for Health AI (CHAI), une communauté d’institutions de santé universitaires, d'organisations et de praticiens experts de l'IA et de la science des données. La CHAI a récemment publié un projet d'IA de confiance pour les soins de santé, fruit d'une coordination menée par la CHAI et l'Académie nationale de médecine avec des experts en IA issus de centres médicaux universitaires, de soins de santé, de technologies et d'autres secteurs de l'industrie. En outre, SAS et Duke Health, membre de la CHAI et centre médical universitaire de renommée mondiale, ont récemment annoncé qu'ils allaient explorer des solutions innovantes et collaboratives en matière de soins de santé à l'aide de données et d'analyses.

Agrandir la Data Ethics Practice pour explorer les possibilités de l’IA

Avec l’explosion de l’IA générative, portée par ChatGPT et Google Bard entre autres, les débats autour de l’IA et de son usage dans la société se sont multipliés. Afin d'explorer les applications positives de l'IA, SAS a récemment renforcé sa Data Ethics Practice grâce à son programme Data for Good.

"Avec les progrès rapides de l'IA, nous devons rester vigilants et garder l’humain au centre de tout ce que nous faisons", a déclaré Reggie Townsend, VP de la Data Ethics Practice de SAS. "Mais il ne s'agit pas seulement de protéger les personnes vulnérables, il s'agit aussi de rechercher des opportunités d'utiliser l'IA pour améliorer le quotidien de tous et toutes.”

L'équipe Data for Good de SAS recherchera des opportunités de partenariat avec des organisations afin d’appliquer l'IA à des causes bénéfiques à la société. Ainsi, ses membres ont déjà collaboré avec des organisations à but non lucratif pour lutter contre la destruction de la forêt tropicale au Brésil et étudier les discriminations en matière de logement dans la ville de New York. En outre, SAS annonce aujourd'hui collaborer avec le Centre d'études des Galápagos de l'UNC pour utiliser une technologie d’IA et le machine learning, afin de protéger des tortues de mer menacées d'extinction.

Mettre en pratique l'innovation responsable

Au cours de l’année écoulée, SAS a mené de nombreuses initiatives en matière d’innovation responsable.

• L'entreprise continue d'innover et d'améliorer SAS® Viya®, sa plateforme phare d'IA de confiance. SAS Viya inclut des capacités d'IA de confiance telles que la détection des biais, l'explicabilité, l'auditabilité des décisions, la surveillance des modèles, la gouvernance et la responsabilité.
• La Data Ethics Practice a répondu à plus de 200 demandes de conseil sur des questions d'innovation responsable émanant de l'ensemble des effectifs de l'entreprise.
• SAS a lancé une formation interne dédiée à l'innovation responsable, qui enseigne aux data analystes les principes de l'innovation responsable. La formation sera proposée en externe dans le courant de l'année.
• À son siège mondial de Cary, en Caroline du Nord, SAS a accueilli une réunion du National Artificial Intelligence Advisory, dont fait partie Reggie Townsend. Il siège également au conseil d'administration d'EqualAI.

Pour en savoir plus sur le partenariat de SAS et Microsoft avec Erasmus MC, rendez-vous ici.