AWS introduceert ‘visitekaartjes’ voor AI-modellen om transparantie te verhogen

AWS reinvent

Met de introductie van AI Service Cards wil AWS een bijdrage leveren aan de ontwikkeling van ‘responsible AI’. Het visitekaartje bevat informatie over de systemen en richtlijnen om ze veilig te gebruiken.

Artificiële intelligentie is een rode draad doorheen AWS re:Invent 2022. Logisch, want de ontwikkeling van AI-systemen gaat razendsnel vooruit. Waar AI veel goeds kan doen voor onze maatschappij, roept de bredere implementatie ervan ook ethische vragen op. Dat komt mede omdat er nog maar weinig bindende ethische richtlijnen bestaan voor ontwikkelaars van algoritmen.

AWS wil een belangrijke bijdrage leveren aan de ontwikkeling van zogenaamde ‘responsible AI’ met AI Service Cards. Dit kan je zien als een ‘visitekaartje’ met belangrijke informatie over het model die publiek te raadplegen is. Het visitekaartje bevat onder meer informatie over bias, privacy en veiligheid, robuustheid, beheer van de data en de verklaarbaarheid van de output.

Visitekaartje voor algoritmen

Concreet zal een AI Service Card worden opgedeeld in vier secties. Een eerste sectie bevat de basiskarakteristieken van het systeem en een overzicht van de functionaliteiten. In een tweede sectie beschrijft AWS de potentiële gebruikstoepassingen van het model alsook de beperkingen.

De derde sectie dient om overwegingen die zijn gemaakt in het ontwerpen van het model te duiden. Dit is misschien wel het belangrijkste luik, want gemaakte overwegingen hebben een invloed op de betrouwbaarheid van AI en hier hebben gebruikers vaak geen weet van. Het vierde luik tenslotte bevat richtlijnen over hoe het model veilig te gebruiken.

Bij de lancering van AI Service Cards zullen visitekaartjes beschikbaar zijn voor Transcribe Batch, Textract Analyze ID en de omstreden gezichtsherkenningssoftware Rekognition. Voor het machine learning-platform SageMaker introduceert AWS een gelijkaardig systeem met Model Cards, een tool waarmee ontwikkelaars eenvoudig gegevens over hun modellen kunnen beheren.

nieuwsbrief

Abonneer je gratis op ITdaily !
  • This field is for validation purposes and should be left unchanged.
terug naar home