Hoe kunnen we helpen?
Op donderdag 27 juni jl. vond de relatiemiddag voor onze contactpersonen inkoop plaats met als thema Artificial intelligence binnen inkoop en aanbesteden.
Artificial intelligence (AI), gaat de wereld ingrijpend veranderen. Het biedt kansen, zoals het verhogen van de productiviteit. Maar er zijn ook risico’s, bijvoorbeeld op het gebied van fundamentele rechten, intellectuele eigendomsrechten en transparantie. En wat betekent de komst van AI voor ons werk?
Bart de Visser, Strategisch Consultant Data & AI bij Ministerie BZK nam ons mee in de wereld van Algoritmes, AI-systemen, risico classificaties en het complexe samenspel van wet- en regelgeving. Ook liet hij het Algoritmekader zien, waar momenteel stapsgewijs aan wordt gewerkt. Deze interactieve en open-source kennisbank ondersteunt overheidsorganisaties om algoritmes en AI op een verantwoorde manier te (laten) ontwikkelen en te gebruiken. Door het raadplegen van het Algoritmekader hebben organisaties in alle fasen van de levenscyclus van algoritmische en AI-toepassingen praktische handvatten en weten zij aan welke vereisten zij zich moeten houden. Iedereen die te maken heeft met het inkopen en aanbesteden van AI-toepassingen is van harte uitgenodigd om bij te dragen aan de interactieve kennisbank, want deze is volop in ontwikkeling!
We sloten de middag af met een netwerkborrel en BBQ.
Bedankt aan alle aanwezigen voor jullie interactie en Bart de Visser voor de leerzame presentatie.
Presentaties:
- Presentatie Bart de Visser: Impact van AI:
- Presentatie van het Strategisch Leveranciersmanagement Justitie & Veiligheid: dit is het team wat o.a. vanuit EU verband hard heeft gedrukt op privacyvoorwaarden rondom voorzieningen van Microsoft. Zij doen nu onderzoek naar Co-pilot. Zie slides voor geschatte opleveringstijd van bevindingen;
- Slides Keegan McBride: dit is een interessante (wel al wat ouder) slidedeck bij een publicatie. Er zitten een aantal belangrijke bevindingen in, die mede in het verlengde van de vragen/wat wij besproken hebben op de relatiemiddag. Dit is o.a. gepubliceerd vanuit de Europese Commissie;
- Inkoopvoorwaarden voor hoog en niet hoog risico AI-systemen: de landsadvocaat Pels Rijcken heeft dit in opdracht van de Europese Commissie opgesteld. Het bouwt voort op de inkoopvoorwaarden (algoritmische toepassingen) van de gemeente Amsterdam, en nu in lijn gebracht met de AI-Verordening. In oktober komt er een nieuwe versie, mede omdat het wetsvoorstel nu is aangenomen. De laatste nuances worden daarin verwerkt. Houd ook de inkoopvoorwaarden gemeente Rotterdam in de gaten. Daarin is expliciet opgenomen dat in sommige gevallen het uitvoeren van een mensenrechten impact assessment verplicht is en leverancier op basis daarvan verplicht is om maatregelen door te voeren. Staat nog niet online maar zal volgen.
Tot slot, je bent van harte uitgenodigd bij de demo’s (Demo Algoritmekader (vh klankbord) · Algoritmes (pleio.nl)) en de ontwikkeling van het Algoritmekader (Algoritmekader – Algoritmekader [concept] (minbzk.github.io)).