AI is een compliance risico. Hoe voorkomen wij dat?
AI is tegenwoordig overal aanwezig: bijna elke moderne applicatie bevat een AI-component om werkprocessen te verbeteren. Waar dat niet zo is, bestaan er wel standalone AI-tools die taken overnemen. Maar één verkeerde instelling kan leiden tot een gigantisch probleem in compliance met de AVG. Voor een security officer betekent dit dat bij elke nieuwe toepassing opnieuw de vraag rijst: hoe implementeren we dit veilig? Standaardvragen zoals eigenaarschap van data en gebruik van ingevoerde informatie zijn vaak eenvoudig te beantwoorden, maar er zijn talloze randzaken die gemakkelijk over het hoofd worden gezien.
Bij GO Company merkten we dit zelf tijdens de ontwikkeling van CASER Intelligence, dat werkt volgens het populaire RAG-principe (Retrieval-Augmented Generation). Deze techniek gebruikt relevante externe data om te zorgen dat AI-antwoorden zo accuraat mogelijk zijn. Perfect voor complexe taken zoals juridische vragen, waarbij je normaal gesproken door talloze databanken moet zoeken.
Wat gaat er mis?
Maar zodra klantdata via AI wordt gebruikt om cases te vergelijken of specifieke vragen te beantwoorden, ontstaat er een risico: een AI-toepassing die per ongeluk persoonsgegevens uit een andere case deelt, schendt direct de AVG en interne toegangsregels. Dit laat zien hoe snel een goedbedoelde functionaliteit kan uitmonden in ernstige compliance- en securityproblemen.
Gelukkig is dit te voorkomen. De uitdaging zit hierbij niet in het gebruik van een RAG AI zal, maar in alle gegevens die kunnen worden opgehaald. Vaak wordt hier vergeten dat de toegangsbeperkingen die voor gebruikers aanwezig zijn, ook voor de AI moeten gelden. Hier zijn steeds meer oplossingen voor die door de AI ontwikkelaar en door de gebruiker genomen kunnen worden.
Onze principes
Voor ons systeem hebben wij de volgende principes gehanteerd om het zowel zo werkbaar, als zo veilig mogelijk te maken:
- Inbouwen
Door de AI in te bouwen in onze applicatie en alleen weer te geven binnen de applicatie, zorgen we dat de ingestelde toegangsbeveiligingen de data blijven afschermen. Zo zijn de vragen en antwoorden over een case alleen te vinden in de relevante case. Hierdoor blijft de toegangsbeveiliging binnen de applicatie leidend, en kunnen de antwoorden gedeeld worden met alleen de mensen die toegang mogen hebben. - Stateless
Vragen en gesprekken worden niet opgeslagen in de AI laag van de applicatie. Hierdoor kan er geen datalek binnen de AI applicatie plaatsvinden. Alle opslag van vragen, antwoorden, logs en audit trails blijft binnen de specifieke CASER database van de klantorganisatie. - Least Privilege Principe
Door in te stellen dat een vraag over een specifieke case alleen gesteld mag vanuit die specifieke case, wordt klantdata alleen gedeeld met de mensen die daadwerkelijk toegang hebben tot deze data. Hiermee garanderen we dat alleen de medewerkers met specifieke toegang tot de case, deze gegevens terug kunnen krijgen uit de AI. - Anonimiteit
Alle data die naar CASER Intelligence wordt gestuurd, is geanonimiseerd, hierdoor zijn dus ook alle antwoorden anoniem. Dus zelfs als er nieuwe manieren gevonden zouden worden om data waar je niet voor geautoriseerd bent op te halen, zal deze nooit terug te leiden zijn naar een individu. - Centraliseren
Door het plaatsen van CASER Intelligence in het CASER netwerk, kunnen we door middel van toegangsregels zorgen dat ongenode gasten niet bij de applicaties en databases kunnen komen, waardoor klantgegevens veilig blijven. Specifieke klantdata staat altijd in het CASER domein van de gebruikersorganisatie en wordt niet centraal opgeslagen of gedeeld.
Heb jij vragen over onze security principes, of wil jij weten hoe wij dit specifiek implementeren binnen CASER en CASER Intelligence? Neem dan contact op met één van onze medewerkers.
Dit artikel is geschreven door
Verwante artikelen
