De techindustrie voelt de noodzaak om zelf te komen met initiatieven voor veilige AI. Ze slaan daarvoor de handen ineen via de oprichting van de Coalition for Secure AI (CoSAI). Het gaat om een open-source initiatief voor het creëren van ‘Secure by Design’ AI-systemen.
Oprichters van CoSAI zijn niet heel verrassend Google, Microsoft, Nvidia, Intel, Amazon en IBM, aangevuld met onder meer PayPal, Cisco, en OpenAI. De scope van CoSAI omvat naar eigen zeggen het veilig bouwen, integreren, implementeren en bedienen van AI-systemen, met de focus op het beperken van risico’s zoals diefstal van modellen, vervuiling van gegevens, en misbruik op grote schaal. Het project heeft als doel uitgebreide beveiligingsmaatregelen te ontwikkelen die de risico’s van AI-systemen aanpakken.
CoSAI is een open source community die wordt geleid door een Project Governing Board, die de algemene technische agenda ontwikkelt en beheert, en een Technical Steering Committee van AI-experts uit de academische wereld en het bedrijfsleven, die toezicht moeten houden op de werkstromen.
