Charlie

De eerste onderzoeksresultaten leken geruststellend.

In de survey gaf 82,4% van de medewerkers aan geen klantdata met AI-tools te delen. Op papier zat het dus behoorlijk goed.

Op de werkvloer zag ik iets anders.

Namen, transcripten en andere herleidbare informatie werden wel degelijk in ChatGPT geplaatst. Meestal zonder slechte intenties, maar op het moment zelf voelde snel doorgaan belangrijker dan nog een extra afweging maken.

Ook ethiek had nog geen vaste plek in het dagelijkse proces. Op de vraag of medewerkers daar tijdens hun AI-gebruik rekening mee hielden, antwoordde 61,8% neutraal.

Dat betekent niet dat ze ethiek onbelangrijk vonden. Wel dat het nog geen vast onderdeel was van hoe ze werkten.

Een collega vatte de spanning goed samen:

Het nadeel is dat gemak het altijd wint van privacy.

Dat verschil tussen wat mensen belangrijk vinden en wat ze uiteindelijk doen, wordt de privacyparadox genoemd. We willen zorgvuldig met gegevens omgaan, maar kiezen in de praktijk vaak voor de route met de minste tijd, moeite en extra stappen.

Kennis ontbrak dus niet volledig, maar in het moment zelf is het wel een verloren strijd.

Er was geen sprake van onwil bij medewerkers, maar ze misten duidelijke grenzen op het moment dat die grenzen essentieel werden.

Wat mag je delen? Wanneer blijft informatie herleidbaar? Wanneer is toestemming nodig? Hoe herken je bias? En wanneer moet een klant eigenlijk weten dat AI bij het werk is ingezet?

Een handleiding kan al die vragen beantwoorden.

Alleen niet wanneer de prompt al klaarstaat en de cursor richting verzenden gaat.

De belangrijkste keuze vond niet plaats tijdens een training of in een intern document, maar in de paar seconden tussen invoeren en versturen.

Daar moest de oplossing dus ook zitten.

Niet nóg een training of handleiding. Wel een korte interventie binnen de workflow die automatisch gedrag net lang genoeg onderbreekt om opnieuw te kiezen.

Hoe creëer je precies op dat moment bewustzijn, zonder het werk onnodig stil te leggen?

Als de interventie precies vóór verzenden moest zitten, moest hij ook meteen begrijpelijk en laagdrempelig voelen.

De oplossing werd Charlie, gebaseerd op de hond van een van de oprichters van Bikkelhart.

Charlie kwam soms mee naar kantoor en was daardoor voor veel medewerkers al een bekend gezicht. Dat maakte hem een logischer vertrekpunt dan een generiek waarschuwingsicoon of het zoveelste rode schild met een uitroepteken.

Die keuze sluit aan op het mere exposure effect. Iets wat we vaker zien, voelt meestal vertrouwder en krijgt daardoor sneller een positieve associatie.

Een onbekende ethische assistent begint op nul.

Charlie had binnen Bikkelhart al een kleine voorsprong.

Hij werkt daarom direct binnen ChatGPT. Zodra hij een mogelijk risico herkent, verschijnt een korte melding:

1. 1

   Je schrijft een prompt.

2. 2

   Charlie benoemt wat hem opvalt en waarom dat relevant kan zijn.

3. 3

   Jij past de prompt aan of gaat bewust verder.

Hij kan bijvoorbeeld persoonsgegevens anonimiseren, een eenzijdige formulering neutraler maken of helpen om toestemming aan een klant te vragen.

Een bekende hond dus, maar wel met een nieuwe missie.

Maar een vriendelijke hond in de browser lost nog niet automatisch het ethische vraagstuk op. Bovendien kan een ethische assistent kan zelf ook een ethisch probleem worden.

Wanneer Charlie bepaalt wat goed of fout is, verschuift de verantwoordelijkheid van de medewerker naar de tool. Dan ontstaat al snel de gedachte:

Als deze tool het goed vindt, vind ik het ook goed.

Dat moet niet de bedoeling zijn.

Charlie moest geen morele scheidsrechter worden, maar een hulpmiddel dat medewerkers helpt om bewuster naar hun eigen keuze te kijken. Ethische keuzes zijn bovendien afhankelijk van context. Dezelfde informatie kan in de ene situatie onschuldig zijn en in een andere gevoelig. Charlie kan die context verkeerd begrijpen of een risico missen. AI is niet foutloos.

Daarom geeft hij geen definitief oordeel.

Hij benoemt een mogelijk probleem, legt uit waarom hij verschijnt en biedt hulp. Een advies kan worden aangepast, genegeerd of weggeklikt. De uiteindelijke keuze blijft alitijd bij de gebruiker.

Die menselijke controle is niet alleen ethisch belangrijk. Ze bepaalt ook of medewerkers Charlie vertrouwen. Herkennen staat namelijk nog niet gelijk aan vertrouwen.

Maar wat is ethiek binnen deze context eigenlijk?

Uit mijn onderzoek kwamen vier principes steeds terug als minimale basis ethisch AI gebruik:

• Transparantie

  De gebruiker begrijpt waarom Charlie verschijnt, wat hij heeft opgemerkt en waar zijn beperkingen liggen.

• Controle

  Een advies kan altijd worden genegeerd of aangepast. Charlie moet ook tijdelijk gepauzeerd kunnen worden.

• Privacy

  Het moet duidelijk zijn waar Charlie actief is, wat hij kan lezen en wanneer informatie wordt geanalyseerd.

• Verantwoordelijkheid

  De medewerker blijft verantwoordelijk voor wat er wordt gedeeld. Ook wanneer Charlie niets meldt.

Ethische AI gebruikt ondersteunt menselijke beslissingen in plaats van ze te vervangen. Maar dat werkt alleen als de gebruiker begrijpt wat er gebeurt en het gevoel heeft dat ze zelf aan het stuur zitten.

Als Charlie de keuze bij de gebruiker liet, moest hij die keuze ook makkelijker maken. Een waarschuwing zonder oplossing voegt vooral een nieuw probleem toe.

De melding ‘Hier staan persoonsgegevens in’ vertelt dat er iets moet gebeuren. De gebruiker moet daarna nog steeds zelf uitzoeken welke gegevens gevoelig zijn, hoe die geanonimiseerd moeten worden en of de prompt daarna nog bruikbaar blijft.

Op een druk moment blijft wegklikken dan de makkelijkste en meest aantrekkelijke optie.

Charlie koppelt een waarschuwing daarom waar mogelijk aan een concrete vervolgstap.

Niet alleen

Hier staat gevoelige informatie in.

Maar

Concreet aangeven wat er mogelijk mis gaat en ook direct die oplossing bieden.

Dit is een vorm van nudging. De gebruiker wordt nergens toe gedwongen, maar de bewustere keuze wordt wel makkelijker uitvoerbaar.

De interface moest die keuzevrijheid ook echt ondersteunen.

In een vroege versie verscheen een gegenereerd toestemmingsbericht bijvoorbeeld direct in het invoerveld van ChatGPT. Dat scheelde een handeling, maar suggereerde ook dat Charlie de keuze voor jou al had gemaakt.

Daarom verhuisde het bericht naar de pop-up. De gebruiker ziet eerst het voorstel, controleert de inhoud en bepaalt daarna zelf of het wordt overgenomen.

Iets meer frictie vóór de beslissing.

Een stuk minder frictie bij het oplossen van het probleem.

Voor de eerste testronde legde ik Charlie bewust niet uit.

Zes medewerkers uit verschillende disciplines doorliepen het prototype op hun eigen computer. Ze kregen vooraf geen introductie en moesten via de onboarding zelf begrijpen wie Charlie was, wanneer hij verscheen en wat hij van hen verwachtte.

Als het concept alleen logisch was met mijn uitleg ernaast, was de onboarding niet duidelijk genoeg.

De vriendelijke toon werkte. Charlie voelde toegankelijker dan een formele waarschuwing en zette gebruikers aan het denken.

Een copywriter vatte het effect precies samen:

Ik deed altijd maar wat, maar nu denk ik echt even na.

Niet iedereen had dezelfde ondersteuning nodig.

Een visual designer die zelf al bewust gegevens anonimiseerde, zag aanvankelijk weinig persoonlijke meerwaarde. Tijdens de test ontdekte hij wel dat collega’s daar niet altijd hetzelfde mee omgingen.

Ik dacht dat iedereen dit wel deed. Dat verbaast me.

De een had dus een actief vangnet nodig. De ander vooral bevestiging op momenten van twijfel.

Tegelijkertijd kwamen de zwakke plekken snel boven water. De onboarding bevatte te veel tekst, het was nog te vaag, er werd niet meteen duidelijk wat het probleem was.

Maar het duidelijkste risico zat in de frequentie.

Wanneer Charlie voortdurend opduikt, verandert een behulpzame assistent vrij snel in de nieuwe Clippy.

De testers waren het niet volledig eens over hoeveel meldingen acceptabel waren.

Een deelnemer vond dat Charlie een waarschuwing gerust honderd keer mocht herhalen als het gedrag honderd keer risicovol bleef.

Een ander zag zichzelf al vijf prompts in een kwartier schrijven en dacht vooral: "nu weet ik het wel".

Die tegenstelling was geen onbruikbare testuitkomst. Het was precies het ontwerpvraagstuk.

Een melding moet zichtbaar genoeg zijn om automatisch gedrag te onderbreken, maar niet zo vaak verschijnen dat wegklikken zelf automatisch gedrag wordt.

Wanneer waarschuwingen zich te vaak herhalen, treedt gewenning op. De melding staat nog steeds op het scherm, maar krijgt steeds minder bewuste aandacht. Meer waarschuwingen leveren dan juist minder bewustwording op.

De volgende versie werd daarom kleiner, rustiger en selectiever. Charlie verschijnt alleen wanneer er voldoende aanleiding is om iemands concentratie te onderbreken en geeft direct genoeg context om die onderbreking te begrijpen.

Gebruikers wilden daarnaast kunnen zien wat hij wel en niet leest, hem tijdelijk kunnen pauzeren en hem zelf kunnen oproepen wanneer ze twijfelen. Advies moest bovendien beter aansluiten op de context van een project.

Niet iedere wens paste nog binnen de proof of concept. Samen wezen ze wel dezelfde kant op.

Charlie moest een vangnet worden, geen politiehond.

De Chrome extensie heeft één belangrijke taak: helpen bij de prompt die op dat moment wordt geschreven.

Wanneer iemand aan het werk is, is dat meestal niet het ideale moment voor een uitgebreide uitleg over AI-ethiek.

Daarom kreeg Charlie twee informatielagen.

In de extensie verschijnt alleen wat nodig is om het huidige risico te begrijpen en eventueel op te lossen. Het dashboard biedt ruimte om later terug te kijken en verder te leren.

Daar kunnen medewerkers eerdere waarschuwingen terugvinden, hun voortgang bekijken en patronen herkennen. Eén keer vergeten te anonimiseren kan gebeuren. Bij de tiende keer is het misschien tijd om toch even achter je oren te krabben.

Verder werkt het ook als fallback. Wie een melding per ongeluk wegklikt, verliest die notificatie niet. Een mogelijk risico verdwijnt tenslotte niet automatisch mee met de pop-up.

De kennisbank biedt vervolgens verdieping over privacy, bias, transparantie en wetgeving. Charlie kan op basis van eerdere waarschuwingen ook relevante artikelen voorstellen. Niet iedereen hoeft dus dezelfde complete AI-cursus te volgen voordat er iets nuttigs gebeurt.

Daarnaast staat er iedere dag een ethisch dilemma klaar. Ethiek heeft zelden één onbetwistbaar antwoord. Door eerst zelf te reageren en daarna de argumenten van collega’s te bekijken, wordt zichtbaar waar waarden en afwegingen van elkaar verschillen. En nadenken over deze onderwerpen creëert ook weer meer bewustwording.

Door de twee te scheiden volg je het principe van progressive disclosure. De volledige informatie blijft beschikbaar, maar verschijnt niet allemaal midden in de workflow.

De extensie helpt in het moment.

Het dashboard helpt bij het verdiepen en reflecteren.

Na de eerste tests was duidelijker wat Charlie beter moest doen. Hij moest kleiner, duidelijker en selectiever worden.

Iteraties

Alleen kun je timing, frequentie en onderbreking niet goed genoeg beoordelen in een statisch ontwerp.

Een pop-up kan in Figma rustig en behulpzaam ogen. Binnen een echte werkflow kan diezelfde pop-up ineens irritant groot, precies verkeerd geplaatst zijn of simpelweg te vaak in beeld.

Daarom bouwde ik Charlie als werkende Chrome extensie binnen ChatGPT.

De eerste technische versie had één eenvoudige taak: herken een bepaald woord in een prompt en toon een pop-up. Toen die basis werkte, breidde ik het systeem uit met context analyse via een API.

Afhankelijk van de invoer activeert Charlie verschillende flows:

• Privacy

  Mogelijk gevoelige informatie herkennen en een geanonimiseerde versie voorstellen.

• Bias

  Een eenzijdige formulering signaleren en een neutraler alternatief aanbieden.

• Toestemming

  Helpen om een bericht op te stellen waarmee toestemming kan worden gevraagd.

• Reflectie

  Na een relevant moment optioneel een korte reflectievraag aanbieden.

Techniek

Chrome Extension · JavaScript · OpenAI API · HTML · CSS

Met de werkende versie testte ik opnieuw met medewerkers uit verschillende disciplines.

De scenario’s namen zich dit keer rechtstreeks in ChatGPT plaats. Testers voerden prompts in met persoonsgegevens, mogelijke bias en informatie waarvoor toestemming nodig kon zijn. Charlie reageerde tijdens die handeling met een waarschuwing en mogelijke vervolgstap.

Daarmee werd niet alleen zichtbaar óf de extensie technisch werkte, maar ook wat de interventie met het gedrag van de gebruiker deed.

Een marketing automation specialist beschouwde zichzelf vooraf als behoorlijk bewust. Tijdens de test bleek bias alleen een onderwerp waar hij nog nooit echt bij had stilgestaan. Ook het idee dat een klantnaam in combinatie met andere informatie gevoelig kan zijn, liet hem opnieuw naar zijn eigen prompts kijken.

Een content specialist begon vanuit een heel ander punt. Zij gaf aan eerder veel informatie zonder veel twijfel in ChatGPT te plaatsen. Na de test formuleerde ze eigenlijk precies het doel van Charlie

Ik ben wel wat meer gaan nadenken van oké, je kan niet alles maar gewoon zo in ChatGPT gooien.

Dat verschil was belangrijk. Charlie werkte niet alleen voor medewerkers die nog weinig van AI-ethiek wisten. Ook mensen die zichzelf al bewust vonden, ontdekten kleinere risico’s die eerder buiten beeld bleven.

De concrete vervolgstappen werden daarbij positief ontvangen. Automatisch anonimiseren scheelde tijd en een neutraler alternatief maakte de waarschuwing direct bruikbaar.

Een tester vatte de gewenste rol van Charlie helder samen:

Zolang je maar dingen niet gaat verbieden. Suggesties geven om slimmer en beter te zijn, dat zou top zijn.

Precies daar zat de balans. Charlie moest genoeg ingrijpen om automatisch gedrag te onderbreken, maar niet zoveel dat de medewerker de controle verloor.

Charlie is specifiek ontworpen voor de cultuur en werkwijze van Bikkelhart.

De hond, toon, voorbeelden en richtlijnen sluiten aan op het bureau. Dat maakte de assistent herkenbaar en laagdrempelig, maar betekent ook dat het concept niet zonder aanpassingen naar iedere organisatie kan worden gekopieerd.

Voor breder gebruik moeten bureaus onder andere hun eigen richtlijnen, terminologie, tone of voice en technische integraties kunnen instellen. Ook het karakter moet optioneel blijven.

Niet ieder bureau zit namelijk te wachten op een hond met AI advies.

De vier onderliggende principes kunnen wel overeind blijven: transparantie, controle, privacy en verantwoordelijkheid.

De vorm verandert per organisatie.

De verantwoordelijkheid niet.