Hoe wij AI gebruiken

AI schrijft bij ons een groot deel van de code. Dat is de reden dat een werkend prototype binnen 48 uur kan. Het is nadrukkelijk niet de reden dat het klopt: dat komt doordat er iemand met domeinkennis de opdracht geeft, de uitkomst beoordeelt en verwerpt wat niet deugt.

Elke oplevering wordt getoetst met de mensen die er daadwerkelijk mee gaan werken. Wat de toets niet doorstaat, gaat niet door. Er wordt geen code opgeleverd die alleen een taalmodel heeft gezien.

Dit is de vraag die er echt toe doet, dus het antwoord is expliciet:

• Uw bedrijfsgegevens worden niet gebruikt om AI-modellen te trainen. Niet door ons en niet door onze leveranciers; we werken met zakelijke voorwaarden waarin training op klantinvoer is uitgesloten.
• Tijdens het bouwen werken we waar mogelijk met verzonnen testdata in plaats van met een kopie van uw productiedatabase.
• Is echte data nodig om iets te kunnen bouwen, dan spreken we vooraf af welke velden dat zijn en waarom, en leggen we dat vast in de verwerkersovereenkomst.
• Persoonsgegevens van uw medewerkers of klanten gaan niet in een prompt zonder dat u dat weet en het is afgesproken.

Zit er een AI-functie in uw applicatie, bijvoorbeeld het herkennen van orders uit een PDF of het voorstellen van een indeling, dan geldt daarvoor een vaste lijn.

• Een AI-uitkomst is een voorstel, geen besluit. De gebruiker ziet dat het van AI komt en accepteert of verwerpt het.
• Wat de AI voorstelt is te herleiden: u ziet waarop het gebaseerd is.
• Er wordt niets automatisch doorgevoerd dat een rechtsgevolg heeft voor een persoon, zoals een beoordeling of een afwijzing.
• U kiest welk model gebruikt wordt en waar het draait, en u krijgt te horen wat dat kost per maand.
• Werkt het niet goed genoeg, dan zetten we het uit. Een AI-functie die vaak fout zit, kost meer tijd dan hij bespaart.

De Europese AI-verordening deelt toepassingen in naar risico. De applicaties die wij bouwen vallen in de praktijk in de laagste categorieën: hulpmiddelen die een medewerker ondersteunen bij administratief werk. Ze nemen geen besluiten over personen.

Zou een vraag van u wél in een hoger-risicocategorie vallen, denk aan iets dat meeweegt in werving, beoordeling of toegang tot voorzieningen, dan zeggen we dat vooraf en bespreken we wat dat betekent aan verplichtingen. Dat is geen reden om het niet te doen, wel om het anders in te richten.

Waar een gebruiker met een AI-functie te maken heeft, is dat zichtbaar. Niemand hoort te ontdekken dat hij tegen een model praat.

Eerlijk over de grenzen is op termijn goedkoper dan enthousiasme. AI is slecht in het kennen van uw uitzonderingen, want die staan nergens opgeschreven. Het is slecht in inschatten wanneer een regel niet opgaat. En het klinkt even overtuigend als het gelijk heeft en als het ernaast zit.

Precies daarom begint elk traject bij het proces en bij gesprekken met de mensen die het uitvoeren, en niet bij het model.