AI

For English click here
Für Deutsch klicken Sie hier

Kunstmatige Intelligentie (ook wel artificiële intelligentie, AI) wordt op dit moment gereguleerd in de EU. De voorgestelde AI-verordening onderscheidt verschillende risicoprofielen. Naar mate AI hogere risico’s voor burgers met zich brengt, nemen de verplichtingen voor AI-innovatoren toe. Innovatoren, zoals degenen die AI ontwikkelen, of willen toepassen, moeten zich gaan houden aan de normen die nu worden vormgegeven. Er komen compliance-mechanismen die sterk lijken op die van de AVG. Ook onder de AI-verordening zal er een onafhankelijke toezichthoudende autoriteit in het leven worden geroepen om compliance te controleren en waar nodig te handhaven.

Naast de AI-verordening, bereidt de Europese Commissie een tweetal richtlijnen voor die in samenhang met de AI-verordening zullen functioneren. Ten eerste is er de AI-aansprakelijkheidsrichtlijn, die procedurele regels stelt en verplichtingen meebrengt voor innovatoren. Die zien op het bewaren (loggen) en verstrekken van bewijsmateriaal dat ziet op het functioneren van AI-systemen. Daarnaast bevat de voorgestelde AI-aansprakelijkheidsrichtlijn procedurele hulpmiddelen voor slachtoffers die schade hebben geleden door AI-output, en die hun schade willen verhalen.

Ten tweede wordt de Productaansprakelijkheidsrichtlijn herzien, onder meer met het oog op de opkomst van AI-systemen. Software en AI komen onder het toepassingsbereik van de richtlijn. Tegelijkertijd worden producenten verplicht om AI-systemen te blijven voorzien van (veiligheids)updates Ook hier worden bewijsverplichtingen opgenomen voor AI-producenten, en wordt de bewijsdrempel voor slachtoffers van gebrekkige AI-systemen verlaagd. Daarnaast zal het stelsel van aansprakelijkheids-uitsluitingen worden herzien.

Natuurlijk is er ook nog de Algemene Verordening Gegevensbescherming die reeds van toepassing is op de meeste AI-toepassingen. Naast de algemene verplichtingen, moet men dan denken aan de specifieke regelingen inzake geautomatiseerde besluitvorming en profilering.  

KienhuisHoving helpt u graag bij uw AI-compliance traject. Maar ook als er schade is ontstaan vanwege gebrekkige systemen, of schadelijke AI-output. Vanzelfsprekend kunnen wij assisteren bij AI-contractering. Zelfs al zijn de regels nog in de maak, is het verstandig om nu vast na te denken over het effect van die regels op uw organisatie: de contouren zijn immers al goed zichtbaar. Het AI-team wordt aangevoerd door mr. dr. Roeland de Bruin, die is gepromoveerd op het reguleren van AI. Hij heeft daarnaast ook de Europese wetgever geadviseerd over het reguleren van AI-aansprakelijkheid, en is nauw betrokken bij diverse multi-disciplinaire netwerken inzake de ontwikkeling, toepassing en acceptatie van AI- en robotica.

Bent u geïnteresseerd in dit onderwerp? Neem dan contact op met Roeland de Bruin (coördinator van het AI-team) of met één van onze andere specialisten
Meer lezen? Check:

• De boekbijdrage van collega Roeland de Bruin: “Co-regulation and AI-innovation: principles for a sustainable framework fostering innovation and acceptance of AI”, via https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4603551; a series of columns on the new AI-liability framework
• Een serie met blogberichten over de nieuwe AI-aansprakelijkheidsregels via https://ucallblog.sites.uu.nl/category/ai-en-recht/; 
• Of het proefschrift van collega Roeland de Bruin: “Regulating Innovation of Autonomous Vehicles: Improving Liability & Privacy in Europe”, via https://dspace.library.uu.nl/handle/1874/416533