SAS breidt zijn Trustworthy AI-aanbod uit met model cards en AI-governance diensten

Data- en AI-marktleider SAS introduceert nieuwe trustworthy AI-producten en -diensten om AI-governance te verbeteren. Dit moet het vertrouwen in en de transparantie van modellen bevorderen. Model cards en nieuwe AI Governance Advisory-diensten helpen organisaties door het turbulente AI-landschap te navigeren, risico's te beperken en meer vertrouwen op te bouwen. Tot slot heeft SAS een Trustworthy AI Life Cycle Workflow uitgebracht, afgestemd op het National Institute of Standards and Technology (NIST) AI Risk Management Framework.

"Onze klanten zijn enthousiast over het potentieel van AI, maar blijven voorzichtig met het gebruik ervan", zegt Reggie Townsend, Vice President, SAS Data Ethics Practice. "Ze stellen goede vragen over verantwoorde en ethische AI. Ons doel is om hen de tools en ondersteuning te geven, gebaseerd op tientallen jaren ervaring, om AI te integreren op een manier die de winstgevendheid verhoogt en tegelijkertijd onbedoelde schade beperkt."

Model cards: betrouwbare 'nutri-score' van AI 

Wereldwijd worden nieuwe regels en voorschriften aangenomen. Daarom is het van cruciaal belang om te begrijpen hoe een AI-model presteert, zodat hierover gecommuniceerd kan worden naar de regelgevende instanties. Tegelijkertijd kan het moeilijk zijn om een complex en geavanceerd AI-model om te zetten in iets dat makkelijk te begrijpen is voor iedereen die betrokken is bij het AI-proces.

Model cards, een nieuwe functie in SAS^® Viya^®, biedt uitkomst voor alle betrokkenen in de AI-levenscyclus. Van ontwikkelaars tot het management, alle belanghebbenden zullen voordeel halen uit deze tool die zowel SAS-modellen als open source-modellen ondersteunt. 

Model cards, die medio dit jaar worden uitgebracht, kunnen het best worden omschreven als "nutri-scores" voor AI-modellen. SAS genereert automatisch model cards voor alle geregistreerde modellen en haalt de hiervoor benodigde informatie rechtstreeks uit de gebruikte SAS-producten, zodat individuele gebruikers geen extra tijd kwijt zijn om deze aan te maken. Omdat SAS Viya al een bestaande architectuur heeft voor het beheer van open source-modellen, zullen model cards ook beschikbaar zijn voor open source, te beginnen met Python. 

Model cards tonen indicatoren zoals nauwkeurigheid, eerlijkheid en model drift – dit geeft aan hoe de prestaties van het model afnemen naarmate de omstandigheden veranderen. De indicatoren bevatten details over de governance, zoals wanneer het model voor het laatst is gewijzigd, wie eraan heeft bijgedragen en wie verantwoordelijk is voor het model, zodat organisaties afwijkende modelprestaties intern kunnen aanpakken. Het onderdeel modelgebruik gaat in op het beoogde gebruik, toepassingen die buiten de scope vallen en eventuele beperkingen. Deze elementen zijn van cruciaal belang voor het bevorderen van transparantie en het uitvoeren van modelaudits, wat hoogstwaarschijnlijk een vereiste zal worden voor gereguleerde bedrijfsactiviteiten.

"SAS kiest voor een weloverwogen aanpak om klanten te helpen bij het gebruik van AI, door zich te richten op de praktische aspecten en uitdagingen van het gebruik van AI in echte bedrijfsomgevingen", zegt Eric Gao, Research Director bij analistenbureau IDC. "Model cards zijn waardevol voor het monitoren van AI-projecten en bevorderen de transparantie.".

Nieuwe AI-governance groep geleid door expert op het gebied van ethische AI

Met de toename van AI zijn er steeds meer klanten van SAS die zich afvragen hoe ze hun data kunnen gebruiken op een manier die zowel productief als veilig is. Om hen te helpen bij hun data- en AI-proces  introduceert SAS AI Governance Advisory, een service die klanten helpt na te denken over wat AI governance betekent in de context van hun organisatie. De eerste ervaringen zijn positief. Zo ondervonden klanten:

• Verhoogde productiviteit door betrouwbare en gedistribueerde besluitvorming;
•  Meer vertrouwen door een betere verantwoording van het datagebruik;
• De mogelijkheid om toptalent te werven en behouden die nodig zijn voor verantwoorde innovatietrajecten;
• Meer concurrentievoordeel en marktflexibiliteit door te voldoen aan de eisen van de toekomst;
• Grotere merkwaarde door sneller inzicht in de potentiële impact op de maatschappij en het milieu.

Voortbouwen op nieuwe overheidsstandaarden 

Vorig jaar introduceerde het Amerikaanse National Institute of Standards and Technology (NIST) een AI Risk Management Framework. Dit is een waardevol hulpmiddel geworden voor organisaties om betrouwbare en verantwoorde AI te ontwikkelen en beheren zolang er nog geen officiële regelgeving bestaat.  

SAS heeft een Trustworthy AI Life Cycle-workflow ontwikkeld, die de aanbevelingen van NIST makkelijker toepasbaar maakt voor organisaties door:

• Individuele rollen en verwachtingen te definiëren;
• Benodigde documentatie te verzamelen;
• Factoren te benoemen waar rekening mee moet worden gehouden;
• Automatisering in te zetten om de adoptie te vergemakkelijken.

Organisaties krijgen uiteindelijk een productiemodel met documentatie die aantoont dat ze de nodige zorgvuldigheid in acht hebben genomen en zo kunnen garanderen dat het model eerlijk is en hun processen geen schade veroorzaken.

Met de workflow kunnen organisaties hun afwegingen over de impact van AI-systemen op mensen vastleggen. Het bevat stappen die ervoor zorgen dat de trainingsgegevens representatief zijn voor de betrokken populatie en dat de voorspellingen en prestaties van het model vergelijkbaar zijn voor de verschillende kwetsbare groepen. Deze stappen zorgen ervoor dat het model geen ongelijkheid veroorzaakt of schade toebrengt aan specifieke groepen. Bovendien kunnen gebruikers ervoor zorgen dat een model na verloop van tijd accuraat blijft door human-in-the-loop taken te creëren die ingrijpen wanneer extra aandacht nodig is.

De SAS Trustworthy AI Life Cycle workflow kan worden gedownload via de SAS Model Manager Resources Github en zal binnenkort beschikbaar zijn via het NIST AI Resource Center.

De aankondiging werd gedaan op SAS Innovate, de toonaangevende data- en AI-conferentie voor bedrijfsleiders, technische gebruikers en SAS Partners. Blijf op de hoogte van het laatste nieuws van SAS door @SASsoftwareNews te volgen op X/Twitter.