Algoritme controleert algoritme

Door digitalisering worden in veel bedrijven processen steeds complexer. Dat maakt de rol van toezichthouders – commissarissen, accountants, auditors – lastiger. De toepassing van algoritmen die op basis van machine learning werken, vergroot deze uitdaging. Ook auditors maken tegenwoordig gebruik van slimme systemen om andere slimme systemen te controleren. Wie controleert wat?

algoritmenYuval Harari, auteur van 21 Lessons for the 21st Century, is ervan overtuigd dat in de toekomst ons brein wordt gehacked door kunstmatige intelligentie. Hij verwacht dat biotechnologie en kunstmatige intelligentie naar elkaar toe zullen groeien en vraagt zich af wie deze ontwikkeling aanstuurt en bepaalt. Zijn dat burgers, overheden of juist de grote bedrijven? Het antwoord laat zich raden.  Overheden zullen ontwikkelingen op dit snijvlak vooral aangrijpen voor nationale belangen zoals defensie en daarnaast liggen de mogelijkheden bij bedrijven, niet bij burgers.

Dat hacken van ons brein is een goed voorbeeld van de tegenstrijdige wereld waar we naar toe gaan: technologie kan problemen oplossen en onze levens verbeteren, maar per saldo krijgen we steeds minder vat op ons leven. Hoe groter de rol van kunstmatige intelligentie wordt, hoe minder onze eigen hersenen een bepalende rol blijven spelen.

Wie controleert de werking van software

Wat ons mogelijk te wachten staat, laat het meest recente debacle van ING zien: de witwas-affaire. Bij banken is uitgebreide monitoring van transacties verplicht volgens de wet ter voorkoming van witwassen en financieren van terrorisme. Voor een grootbank is dat monitoren een proces dat ingericht en uitgevoerd wordt met behulp van software, die doorlopend grote hoeveelheden data moet analyseren. Deze software programmeer je in eerste instantie natuurlijk om het proces dat de wet voorschrijft, uit te voeren. Hierbij worden zowel medewerkers als beslissers voorzien van feedback uit systemen: beslissingen op bestuursniveau worden genomen op basis van data. Of die systemen integer zijn ontwikkeld en doelmatig functioneren (doen waarvoor ze zijn ontworpen) is niet gemakkelijk te zien, laat staan doorlopend zichtbaar. Toetsing door middel van interne en externe audits moet aantonen dat de software zijn werk goed doet en dat de software ook goed wordt ingezet. Bij ING was ergens in dit monitoringproces besloten om de software aan te passen. “Het systeem om transacties te monitoren was – mede vanwege de beperkte personele capaciteit – door de bank zo ingesteld dat slechts een beperkt aantal witwassignalen werd gegenereerd”, aldus het Openbaar Ministerie.

In dit verhaal valt op dat het besluit dat ING nam om een systeem aan te passen, intern niet werd afgekeurd (zowel het nemen van het besluit als het aanpassen van het systeem was mensenwerk). Ook is bijzonder dat de auditors die processen en systemen moeten controleren, de aangepaste instellingen van een cruciaal systeem niet hebben gezien – of gemeld.

Wat zijn de intenties van de bedenkers van algoritmen

De processen en systemen die auditors moeten controleren worden steeds ingewikkelder. Die systemen gaan steeds vaker gebruik maken van algoritmen – uitgebreide instructies voor software om een bepaald doel te bereiken, zoals het herkennen van verdachte financiële transacties. In dit soort complexe processen moeten zowel de instructies als de uitkomsten en de benodigde grondstof (data) aan allerlei eisen voldoen. De data moeten betrouwbaar zijn (niet vooraf gemanipuleerd), de instructies moeten voldoende uitputtend en effectief zijn.

Daarnaast moet helder zijn op basis van welke uitgangspunten de algoritmen zijn opgesteld (kostenreductie, risicominimalisatie, wantrouwen, voldoen aan regels). Zo kan een verzekeraar voor de acceptatie van nieuw klanten een algoritme ontwikkelen dat bepaalde klanten uitsluit, omdat ze een te groot risico vormen. Het uitsluiten van een nieuwe klant gebeurt echter niet op basis van feitelijke kenmerken van de klant, maar van een profiel waarbij niet gecontroleerd wordt of die klant ook voldoet aan het profiel. Kortom, wie bewaakt dat uitzonderingen ook als uitzonderingen worden behandeld?

Systemen die op basis van algoritmen draaien, nemen hoe dan ook beslissingen, waarbij de bestuurder en de toezichthouder ‘toekijken’; het is aan de auditor om het geheel met enige regelmaat door te lichten om na te gaan of alles werkt zoals het zou moeten werken.

Controle en audit

Interne controles worden in bedrijven uitgevoerd om te voorkomen dat door onvolledige of incorrecte gegevens een onjuist beeld ontstaat, waardoor verkeerde beslissingen genomen zouden kunnen worden. In eerste instantie is die controle erop gericht om te zorgen dat het management op basis van juiste gegevens beslissingen neemt. In tweede instantie worden zo ook de gegevens gecontroleerd die een bedrijf naar buiten brengt. Omdat – onder meer door het Enron-schandaal – duidelijk werd dat ook doorlopend onderzoek naar de beheersing van de ICT onderdeel moet uitmaken van de controle van de verantwoording door de directie van de onderneming, zijn de regels voor verantwoording uitgebreid met Sarbanes-Oxley (SOX) en Basel II. SOX schrijft bijvoorbeeld voor dat met bewijs onder meer wordt verantwoord welke software is aangepast, waarom en door wie.

Software wordt dynamisch

Auditors controleren onder meer software, al jarenlang. Die software was tot nu toe redelijk statisch van aard, veranderingen of ‘changes’ worden in de wereld van IT bovendien zorgvuldig afgewogen, ontworpen, getest en gedocumenteerd. Met de komst van kunstmatige intelligentie verandert dit. Want bij machine learning, de meest impactvolle vorm van kunstmatige intelligentie, evolueert software zonder menselijke tussenkomst. De software heeft een eigen feedback-loop en leert doorlopend van nieuwe data. “Hoe weet je dan nog of de algoritmes doen wat ze horen te doen? Hoe kun je vertrouwen hebben in zo’n zelflerend systeem?”, aldus Mona de Boer, expert op het gebied van data-analyse en digitale assurance bij PwC Nederland.

Het werk van auditors gaat dus steeds meer bestaan uit het analyseren en controleren van algoritmen. Tegelijkertijd maken auditors zelf ook in toenemende mate gebruik van algoritmen. GL.ai is een robot, ontwikkeld en ingezet door PwC, die met kunstmatige intelligentie in staat is miljarden verschillende gegevenspunten in seconden te analyseren bij het beoordelen van afwijkingen in grootboektransacties. Hoe langer GL.ai aan het werk is, hoe slimmer deze robot wordt. We gaan dus toe naar een situatie waarbij algoritmen hun collega-algoritmen gaan controleren. Dat plaatst het toezicht in een bijzonder perspectief. Toezicht was tot nu toe gericht op verantwoordingsdocumentatie: kan een bedrijf aan de hand van vastgelegde afspraken (wie doet wat, wie heeft wat gedaan) uitleggen hoe resultaten tot stand zijn gekomen?

Uitlegbaarheid algoritme

De Boer waarschuwt dan ook voor de ontwikkeling dat systemen steeds slimmer, maar gelijktijdig ook steeds minder goed uitlegbaar worden – want los van de ontwerpbeginselen zijn de systemen zelf veranderlijk. Mensen hebben de neiging om beslissingen die door een computer worden genomen, te beschouwen als beter en meer betrouwbaar dan beslissingen die door mensen worden genomen. Ook algoritmen worden, net als technologie, al snel beschouwd als ‘neutraal’. Maar technologie en software zijn niet neutraal – de werking moet beslist niet in het nadeel, maar in het voordeel van de bedenker werken. Daarnaast maakt het vermogen van kunstmatige intelligentie om zichzelf verder te kunnen ontwikkelen de controleerbaarheid erg lastig. De Boer pleit dan ook voor ‘uitlegbaarheid’ als ontwerpprincipe van AI.

De keerzijden van machinelearning

Die uitlegbaarheid gaat bijvoorbeeld over welke datasets worden gebruikt en welke criteria worden gebruikt. Evert Haasdijk (AI-specialist en senior manager Financial Advisory bij Deloitte) geeft een goed voorbeeld. Uit databaseonderzoek blijkt dat de meeste schade wordt veroorzaakt door bestuurders van rode auto’s. Met datamining kun je dus op kleur van auto’s premies differentiëren. Haasdijk wijst op de vraag of bij het ontwikkelen van het algoritme een juiste dataset is gebruikt: “Zitten er bij die rode auto’s niet een paar Ferrari’s die de schadelast enorm hebben opgeschroefd? Heel veel modellen kloppen gewoon niet. Het is natuurlijk onzin dat mensen in rode auto’s slechtere bestuurders zijn.”

Belangrijke eigenschap van machine learning is dat nieuwe afwijkingen of uitzonderingen niet direct leiden tot andere uitkomsten. Machine learning is een geleidelijk leerproces. Net als bij het menselijk brein levert ieder nieuw voorbeeld een kleine bijdrage aan nieuwe logische verbindingen.

algoritmenEn tot slot is het interessant dat we al sinds de opkomst van het sociale web de basis leggen voor een toekomst waarin machine learning alle ruimte krijgt. Onze digitale samenleving bestaat inmiddels voor een groot deel uit het produceren en afstaan van data, iets waar de Chinese president Xi Jinping handig gebruik van wil maken. Vervang ‘China’ door ‘een bedrijf’ en het is duidelijk dat kunstmatige intelligentie straks voor onuitlegbare verschillen kan gaan zorgen tussen mensen. Vrijwel alle bedrijven zitten al op een berg aan data en dat volume neemt alleen maar toe. Die data zijn in het verleden ‘afgestaan’ volgens wetten en regels uit dat verleden, maar ook met de technologische mogelijkheden uit die tijd. Werk aan de winkel dus voor bestuurders en toezichthouders om zicht en grip te houden op hoe hun organisatie op basis van nieuwe technologie met zowel reeds eerder verzamelde als nieuwe data omgaat. Een mooie, maar wellicht wat romantische houvast komt van journalist en Wall Street Journal R&D chief Francesco Marconi: “Algorithms are rules, and those should be fair.”

Dit artikel is ook doorgeplaatst op iBestuur

AI en de toekomst van klantcontact

Kunstmatige intelligentie: we vinden het allemaal leuk, maar het moet natuurlijk niet onze baan inpikken. Laat staan de wereld overnemen. Hoe we in klantcontact kunnen profiteren van kunstmatige intelligentie stond centraal tijdens de laatste editie van het Content Guru kennisevent op 11 oktober.

De mix van meer data, snellere en goedkopere hardware en betere software zorgt ervoor dat ondernemingen steeds meer gaan concurreren op ‘intelligentie’. Door slim gebruik te maken van data kan je je onderneming meer vraag- in plaats van aanbodgestuurd maken, aldus dagvoorzitter Ben van der Burg. Daarmee kan je activiteiten zoals productie, marketing en sales gerichter uitvoeren, wat leidt tot meer omzet tegen lagere kosten. Denk aan het vullen van vliegtuigstoelen: een vliegtuig dat stil staat of maar halfgevuld vertrekt, kost geld of levert te weinig op. Vraaggestuurd werken betekent dat je luistert naar en inspeelt op de behoeften van de markt zodat je organisatie flexibel kan opereren. En dat is waar klantcontact om de hoek komt.

Megatrends in klantcontact

“Er zijn twee megatrends in klantcontact”, aldus Martine Ferment van KIRC, “Digitalisering en automatisering en de empathy economy. Volgens Deloitte is automatisering de tweede prioriteit na bedrijfscontinuïteit.” Stichting KIRC ziet uitgelezen mogelijkheden voor de inzet van AI: 24×7 dienstverlening door middel van chatbots, het slimmer verwerken van piekvolumes en het gemakkelijker op- en afschalen van operaties. Maar omdat de roadmap van de IT-afdeling meestal een periode van drie tot vijf jaar bestrijkt, staat AI vaak nog niet op de agenda, stelt Ferment. Initiatieven krijgen dan meer een ad hoc karakter. Uit een korte poll van KIRC onder het publiek blijkt dat AI vooral geassocieerd wordt met chatbots en met slim routeren (herkennen van de klantvraag, doorzetten naar de juiste medewerker).

‘Check je re-mail’

Ferment wijst er op dat begrip van de context de belangrijkste succesfactor is bij de inzet van AI. Ze geeft als voorbeeld de vraag die luchtvaartondernemingen vaak krijgen: ‘ik wil mijn ticket wijzigen’. De behandeling van die vraag leidt maar in ruwweg een kwart van de gevallen tot een gewijzigd ticket, bij het grootste deel van de verzoeken wordt na goed doorvragen duidelijk dat een andere oplossing dan wijzigen beter is. Een vergelijkbaar probleem speelt bij de afhandeling van e-mail. Ferment raadt aan om het percentage ‘re-mail’ te gaan meten: vaak is één antwoord niet afdoende. Geen wonder dat het kanaal weinig bijdraagt aan de klanttevredenheid. Hier liggen uitdagingen voor kunstmatige intelligentie. Andere toepassingsmogelijkheden die Ferment noemt zijn realtime gespreksanalyse waarbij de agent aanwijzingen krijgt voor het gesprek op basis van de inhoud van wat de klant zegt of de manier waarop de klant communiceert.

Wordt AI onze beste vriend?

kunstmatige intelligentieDeborah Nas, hoogleraar strategisch design bij TUDelft en ondernemer, legt uit waarom AI naast veel enthousiasme ook de nodige weerstanden oproept. Ons beperkte referentiekader zit regelmatig in de weg. Zo zou de introductie van het schrift ervoor zorgen dat mensen zich niets meer hoefden te herinneren, zouden kranten mensen in een isolement plaatsen omdat er geen weetjes meer zijn uit te wisselen en zou internet ons dom maken. Angst voor het onbekende is een sterkere emotie dan vreugde, aldus Nas en ze meldt dat ook journalisten daaraan bijdragen door vooral negatieve dingen over technologie op te pikken. Soms houden fabrikanten moedwillig rekening met onze gekke vooroordelen en voorkeuren: zo had de eerste Tesla nog een grille in de neus, terwijl een elektrische auto geen koeling nodig heeft.

kunstmatige intelligentie

Nas bracht ook even orde aan in de chaos van de verzamelterm AI. Machine learning is een vorm van kunstmatige intelligentie – daarbij train je vooraf geprogrammeerde software aan de hand van data – en deep learning is een subvorm van machine learning waarbij de structuur van de software zoveel mogelijk op onze hersenen lijkt. Deze laatste vorm is beter in staat verschillende processen naast elkaar uit te voeren en bijvoorbeeld rekening te houden met context. Je kunt je voorstellen dat een e-mail over printerbenodigdheden spam is wanneer je niets nodig hebt; maar als je printer aangeeft bijna leeg te zijn, ligt dat anders. Inzicht in de context is cruciaal voor AI. De Chiwawa muffin challenge is hiervan een goed voorbeeld.

kunstmatige intelligentie

Kunstmatige intelligentie nog in kinderschoenen

Nas schetst grote en ingrijpende ontwikkelingen voor de komende tien jaar. Voorbeelden: een Shazam voor kleding, dynamic pricing op basis van een veelheid aan variabelen zoals voorraad en conversie, een magazijn waarin geen mensen meer werken, het volledig geautomatiseerd testen van nieuwe software. Daarbij vraagt zij zich af: wie gaat over vijf of tien jaar nog bellen met het contactcenter: mensen of voice assistants? Haar tip: de ontwikkelingen op het vlak van AI gaan erg snel. Als je nu niet instapt, heb je straks een achterstand die moeilijk in te halen is.

Wat kan je nu al toepassen?

Welke AI-technologie kan je vandaag al inzetten in klantcontact? Bram Lenten van Conversationals laat zien dat onze contactcenters de afgelopen jaren zijn veranderd in complexe organisaties, samengesteld uit allerlei eilandjes van kanalen, processen en skills. Vermoedelijk komen er nog meer kanalen aan in de toekomst en tegelijkertijd zijn de chatbots van nu nog niet goed in staat te doen wat we zeggen of te begrijpen wat we bedoelen. Lenten pleit ervoor nog eens goed te kijken naar je online servicepagina. Kan je klant daar direct vragen stellen, zelf dingen regelen en gemakkelijk zijn weg vinden? De grootste uitdaging zit in het herkennen van de klantvraag, zodat je die informatie kunt gebruiken: voor routering naar het juiste antwoord of de juiste agent of voor het ondersteunen van die agent. Een andere uitdaging is om de klant zoveel mogelijk te helpen binnen één platform – dus voorkom een overstap van bijvoorbeeld web naar smartphone. De overstap van bellen naar chat (beiden op je smartphone) kan bijvoorbeeld prima geregeld worden en vraagherkenning kan hierbij helpen, zoals hij via een voorbeeld laat zien. Zijn tip: kies voor high impact, low effort (ook wel bekend als laaghangend fruit).

Hoe een chatbot je uit de puree kan helpen

Paul de Vries liet zien wat er kan gebeuren als je je traditioneel ingerichte klantenservice (telefoon en e-mail) uitbreidt met een nieuw kanaal zoals WhatsApp. De Vries is social media manager bij Decathlon, een (online) retailer met 1.420 winkels in 46 landen, waarvan 13 winkels in ons land. In een paar maanden tijd was WhatsApp goed voor 85 procent van alle klantcontacten. Dat klinkt fijn, maar hoe ga je er mee om als het verkeer in korte tijd explodeert van 4.000 naar 30.000 berichten per maand? Decathlon moest kiezen tussen extra mensen of investeren in het automatiseren van de meest gestelde vragen. Gezien de groeiambities van het bedrijf werd het laatste als meest structurele oplossing gezien. Na drie maanden ontwikkeltijd kon de nieuwe chatbot zo’n 20 procent van de vragen afwikkelen.

De tips van De Vries: onderschat de inzet van WhatsApp niet, klant verwachten dat je net zo snel reageert als hun beste vriend. Het ontwikkelen van een chatbot kost tijd en ook onderhoud is nodig. Decathlon kijkt dagelijks naar de missers van de chatbot en voegt correcte informatie toe. En als laatste: zorg er oor dat de klant weet dat er een chatbot is en laat de communicatie aansluiten op de tone of voice die je voor ogen hebt. Alexander de Ruijter van OBI4wan voegde daar als tip aan toe: ‘don’t try to boil the ocean’: ofwel zet bots alleen dáár in, waar ze echt iets kunnen toevoegen.

1.500 chatbot-applicaties

Klantcontact ontkomt niet aan innovatie en AI hoort daarbij, aldus Peter Jongeneel (Business Development manager, Content Guru). Bedrijven dienen te beseffen dat kinderen technologie veel sneller omarmen dan hun ouders. De voorspelling van Gartner dat in 2020 circa 85% van de contacten tussen bedrijven en hun klanten straks geautomatiseerd verloopt via digitale kanalen is dus meer dan alleen toekomstmuziek. De kunst is om op het juiste moment in te stappen in nieuwe technologie, maar met 1.500 chatbot-applicaties is dat niet eenvoudig. Een goed contactcenterplatform stelt je in staat gemakkelijk te integreren met allerlei nieuwe software, waaronder applicaties die nodig zijn om data te verwerken. Zijn tips: houd een helder doel voor ogen, neem de tijd voor het selectieproces van de beste oplossing en betrek medewerkers bij het proces.

Moet je kunnen lachen om een chatbot?

Aan het eind van de dag gingen Geeske te Gussinklo (Directeur Klantenservice Federatie), Celeste Kettler (data scientist KPN) en Henry van Veldhuizen (product manager Kamer van Koophandel) de discussie aan. We hebben op dit moment 8.000 vacatures in klantcontact; maakt dat de chatbot tot een welkome oplossing, vroeg Te Gussinklo zich af. En moet je een chatbot trainen op het gebied van humor? Ja, omdat klanten een chatbot altijd testen met grappig bedoelde vragen over huwelijkse staat, geslacht, de zin van het leven en voorspellingen over voetbaluitslagen. Nee, omdat die kunstjes geen waarde toe voegen, zo was ook te horen. Het vermogen om grappig uit de hoek te komen kan wel bijdragen aan een hogere funfactor en daarmee verhoog je wellicht de NPS. Om over na te denken.

Contactcentermanager, haak aan

De KSF zou graag zien dat de contactcentermanager zich (nog) meer met de toepassing van technologie gaat bezighouden. Dat is bevorderlijk voor het innovatietempo, want Te Gussinklo hoort in de markt veel juichende verhalen maar als ze doorvraagt blijkt de concrete toepassing van bijvoorbeeld AI tegen te vallen. Aanhaken is ook om een andere reden belangrijk. De tendens is dat de overheid steeds verder gaat in het beschermen van de consument. Zo zijn er bijvoorbeeld wetten in voorbereiding op het gebied van het internet of things. Opletten dus, en zorgen dat je zelf aan de knoppen van de technologie zit zodat het geen ‘natuurverschijnsel’ is dat je overkomt.

Een verkorte versie van dit artikel verscheen eerder op Klantcontact.nl

Chatbots zetten de klok weer terug

De klantcontactsector heeft al een tijd een nieuw speeltje. Het heet ‘chatbot’. Steeds meer bedrijven kiezen voor deze vorm van automatisering. Dat staat echter haaks op het streven naar excellente customer experience. Bovendien waarschuwt Gartner dat een aanzienlijk deel van de chatbots die nu worden ingezet, over een paar jaar de prullenbak alweer in kunnen.

Op dit moment is de toepassing van chatbots in contactcenters een hype. Bij bezoek aan een website tref je steeds vaker een online chatvenster aan. Zit aan de andere kant van dat schermpje een mens of een algoritme? Vaak wordt na een paar vragen snel duidelijk of we te maken hebben met een mens of een bot. Is de hype rondom chatbots terecht en vormt deze technologie een waardevolle aanvulling?

Vergelijkbaar met FAQ

Eerst een kijkje bij recente artikelen die bijdragen aan de hooggespannen verwachtingen rondom chatbots. Naser Bakhshi van Deloitte Consulting geeft op Emerce.nl een overzicht van verschillende soorten chatbots en de voordelen die bedrijven met de inzet van chatbots kunnen behalen. Hij deelt ze in op basis van ‘vermogens’. De eenvoudigste bot is ‘scripted’ en signaleert bepaalde kernwoorden of -zinnen in een gesprek waarop vooraf vastgestelde antwoorden worden gegeven. Bakhsi vergelijkt deze botvariant met het presenteren van een soort FAQ-functie.

Op de tweede plaats ziet Deloitte de bots die de intentie van de klant kunnen herkennen, omdat ze via machine learning in staat zijn relaties tussen woorden te analyseren. En op de derde plaats zijn er virtuele agenten, die begrijpen wat een mens probeert te bereiken met de interactie en zelf een gesprek kunnen voeren. Of die vorm bestaat, wordt in het midden gelaten, net als de definitie van ‘een gesprek voeren’.

Processen verbeteren

Volgens Deloitte kunnen bedrijven met bots hun processen verbeteren. De kwaliteit van de klantinteractie kan omhoog omdat bots 24/7 actief zijn en altijd consistente antwoorden geven. Deloitte stelt ook dat bedrijven efficiencywinst kunnen boeken: bots nemen agents werk uit handen. Klanten worden eerder te woord gestaan en medewerkers kunnen zich focussen op de complexere taken. En de derde verbetermogelijkheid ziet Deloitte op het gebied van customer centricity; met geautomatiseerde dialogen krijgen bedrijven een beter zicht op de gestelde vragen, de kwaliteit van de antwoorden en wat er leeft bij de consument.

Dat bots 24×7 in de weer zijn, is een voordeel. Het geven van consistente antwoorden lijkt een voordeel, totdat de processen of de context veranderen waardoor een ander antwoord nodig is. Bij een eenvoudige en overzichtelijke chatbotfunctie is het doorvoeren van aanpassingen makkelijk uitvoerbaar. Het is de vraag of dit ook het geval is bij complexe organisaties die grote kennissystemen in huis hebben.

Ook de claim van Deloitte dat een chatbot bijdraagt aan efficiency en customer centricity roept vragen op. Als een organisatie op de servicepagina’s al een FAQ-sectie heeft staan (al dan niet doorzoekbaar), is een chatbot daarop een aanvulling. Net als een FAQ-sectie zal ook een chatbot niet uitputtend kunnen informeren, maar het verschil is dat aan de klant een extra kanaal wordt aangeboden waarbij vooraf niet zichtbaar is waartoe de chatbot wel en niet in staat is.

Die onzichtbare beperking is zelfs aan de orde bij een chatbot die wordt gepresenteerd als deskundig op een gebied, denk aan het boeken van vliegtickets. Chatbots zullen regelmatig ‘conversaties’ moeten doorsturen naar een medewerker. De kans dat een klant teleurgesteld wordt en dat een medewerker een gesprek moet overnemen is dus groot. En daar gaat de efficiencywinst.
Uit onderzoek van Teleperformance blijkt dat vooral jongere consumenten het geen probleem vinden om zaken te doen met chatbots. Maar misschien herinnert u zich nog de hoogtijdagen van de keuzemenu’s? Dat was vooral handig voor de organisatie; de consument vond het maar niks.

Klant als proefkonijn

Het inzetten van technologie waarvan vooraf duidelijk is dat die in een groot aantal gevallen niet succesvol is, staat haaks op de focus die contactcentermanagers proberen te leggen op het overtreffen van verwachtingen: excellente service en prettige klantbeleving bieden. Bedrijven die chatbots inzetten, zetten op dit vlak de klok een jaar of tien terug, zo blijkt uit het voorbeeld dat CustomerFirst opvoert.

Bij Reaal wordt gebruikgemaakt van de chatbot van Embot.ai. Daar lag het oplospercentage bij de introductie op 35 procent. Volgens de verzekeraar moet dat percentage gaandeweg naar 70 procent. Interessant is dat Reaal koos voor automatisering van de 70 meest gestelde vragen. Wat die vragen zijn, weet de klant niet vooraf (dat is een belangrijk verschil met een FAQ-overzicht). De kans is dus groot dat de klant die vol enthousiasme een vraag aan de chatbot stelt, tijdens de dialoog teleurgesteld raakt.
Ook Deloitte stelt met droge ogen dat je bij de introductie van een chatbot ‘de klantverwachtingen moet managen – kondig aan dat ze met een bot praten en dat die nog niet zo slim is’. De klant blootstellen aan dit leerproces roept op z’n minst vragen op. Waarom wordt de chatbot niet achter de schermen getraind?

Moment of truth

Met name bedrijven waar het moment of truth een rol speelt, zoals in de reiswereld, nemen met de inzet van chatbots een risico, aldus Don Fluckinger, journalist bij TechTarget. Hij haalt Jason Baker aan, senior vice president of operations bij Entertainment Benefits Group (EBG) dat discounttickets voor 61 werknemers van 40.000 werkgevers regelt. Het bedrijf heeft meerdere contactcenters. EBG streeft naar ‘persoonlijk en memorabele ervaringen’, aldus Baker. Hij zegt: “A chatbot – I understand the reason behind it, and, depending upon the type of environment, it might make sense – but in the travel and entertainment industry, you have to have the personalized touch with all interactions.”

De huidige generatie chatbots maakt de belofte van een menselijk gesprek niet waar, aldus techjournalist Thomas van Manen in zijn artikel in CustomerFirst. Chatbots zijn tot nu toe alleen geschikt voor conversaties die neerkomen op ‘vooraf uitgestippelde klikpaden’. Afwijking van het vooraf gedefinieerde script leidt tot het einde van het gesprek of menselijk ingrijpen.

Ook Bart van der Mark van Cognizant, die tijdens Chatbot Conference van Entopic sprak, benadrukt dat bots goed zijn in één activiteit – zoals het boeken van een vliegticket. Zijn advies: “Maak het niet complex. Want standalone bots die de intentie van de klant tijdens een normale conversatie geheel begrijpen en hem volledig kunnen servicen zijn er niet.”
Adfiz, de branchevereniging van onafhankelijke financiële adviseurs, is zelfs heel conservatief in de voorspellingen: het duurt nog tien jaar voordat adviesrobots volwaardige adviesgesprekken kunnen voeren met klanten.

In de prullenbak

Vermoedelijk ontwikkelt de chatbottechnologie zich sneller dan Adfiz inschat; het is belangrijk dat bedrijven ‘aangesloten’ blijven op deze ontwikkelingen. Volgens Gartner zal in 2022 70 procent van de klantcontacten afgehandeld worden met de inzet van machine learning-toepassingen, chatbots of mobile messaging. Tegen 2022 zal 20 procent volledig door AI worden afgehandeld. Dat betekent dat er de komende jaren nog een behoorlijke slag moet worden gemaakt.

Gartner verwacht ook dat rond 2022 telefonisch klantcontact ongeveer 10 procent van alle customer service-interacties zal uitmaken – al zullen medewerkers nog in vier op de tien gevallen betrokken zijn bij klantcontact. Let wel, tegenover de huidige opmars van chatbots staat dat in 2020 vier van de tien chatbottoepassingen gelanceerd in 2018 vervangen zal zijn, aldus het onderzoek- en adviesbureau. Contactcentermanagers die nu aan de slag gaan met chatbottechnologie kunnen hun CFO dus al vast inlichten: over een paar jaar is er vermoedelijk een tweede generatie chatbots beschikbaar.

Blackbox

Wat voor klantcontactmedewerkers geldt, is ook van toepassing op chatbots: het oplospercentage is de belangrijkste graadmeter voor succes. Bedrijven die chatbots inzetten, moeten beseffen dat ze een digitale medewerker toevoegen aan hun frontoffice die hoogstens goed is in één taak, maar zelfs daarbij een afbreukrisico oplevert: chatbots zijn een blackbox waarvan niet duidelijk is wat de uiteindelijk effecten zijn op de ervaring van de klant.

Dit artikel verscheen eerder op Klantcontact.nl

Wachten op kunstmatige intelligentie die context begrijpt

De afgelopen twee jaar zijn zowel spraakherkenning als spraaksynthese enorm verbeterd. Ook het aanbod aan spraakgestuurde systemen, dat twee jaar geleden nog werd gedomineerd door Siri, Cortana en Google Assistant, heeft zich verder ontwikkeld: zo is in twee jaar tijd Amazon’s Alexa marktleider geworden. Het enige wat nog ontbreekt is begrip van de context – een absolute voorwaarde om spraakbesturing echt tot een leidende technologie te maken. Een update over chatbots en virtuele assistenten.

Spraakherkenning heeft een nauwkeurigheid bereikt waarbij het verschil met mensen grotendeels is weggevallen. De Chinees-Engelse vertaalmachine iFlytek maakt minder dan 2 procent fouten, mede dankzij de 4,5 miljard spraakfiles die per dag aan het systeem worden toegevoegd. iFlytek is een startup uit 1999, opgezet door een doctoraalstudent van een regionale universiteit in Hefei, China. Ook Google haalt met gemak 95 procent. Maar de grootste stap voor spraaktechnologie moet nog gezet worden. En dat is de stap naar grootschalige toepassing door consumenten, bijvoorbeeld door het gebruik van virtuele assistenten.

Ecosystemen in aanbouw

Hoewel drie van de vier platformen (Siri, Cortana en Google Assistant) al enige tijd aanwezig zijn, heeft met name de komst van Amazons Alexa voor een versnelling gezorgd. In de consumentenmarkt is zichtbaar dat de ecosystemen rondom de spraakassistenten groeien. Amazon’s Alexa werkt naadloos samen met andere hardware (denk aan Sonos of Hue), met online contentplatformen zoals Spotify en met digitale platformen zoals IFTTT. Naast de samenwerkingsverbanden met hardwareproducenten (waarmee ongemerkt het Internet of Things tot stand komt) kennen de assistenten ook ‘skills’ (Alexa) of ‘actions’ (Google) – geautomatiseerde interacties die met een druk op de knop aangezet kunnen worden. Zo kan Alexa op verzoek boeren laten of zelfs een boerwedstrijd organiseren, maar er zijn ook nuttiger skills zoals ‘find my phone’. Ook de concurrenten van Amazon werken ondertussen hard aan hun eigen ecosystemen, maar Amazon heeft met de meeste skills een voorsprong.

Goed in spraakverwarring

Deze ontwikkelingen wekken de indruk dat spraakgestuurde interacties met systemen goed verlopen, maar de werkelijkheid is anders. Google, Alexa of Siri missen nog steeds de intelligentie om de context te begrijpen, wat zichtbaar wordt in een demo waarbij Google, Alexa en Siri elkaar niet herkennen als ‘collega’s’ en evenmin begrijpen dat ze bij hun groepsgesprek in een oneindige loop belanden. Daar staat tegenover dat spraakassistenten er prima in slagen om onderling volkomen abstracte dialogen aan te gaan. Ook het geven van gevatte antwoorden op lastige vragen (de zogenaamde easter eggs) is voor de meeste systemen geen probleem. De assistenten gaan ook de mist in als ze moeten luisteren terwijl mensen door elkaar (of door muziek) heen praten. Zo is Alexa uitstekend in staat om op verzoek een specifieke Spotifytrack af te spelen, maar is ze tijdens dat afspelen wel slechthorend: wil je Alexa vragen naar het volgende nummer te zappen, dan moet je je stem verheffen.

Hardware gedreven

Anders dan Alexa zijn Siri en Google ingebouwd in smartphones, tablets en pc’s en dat zou een voordeel kunnen zijn, ware het niet dat Siri op je mobiele device niet met spraak geactiveerd kan worden. Siri’s spraak klinkt bovendien minder goed dan die van Alexa (dat kan verklaard worden doordat Alexa zich tot de grotere talen beperkt terwijl Siri ook Nederlands spreekt). Siri heeft daarnaast de sterke neiging om als respons op een vraag met een webpagina te komen – begrijpelijk omdat Siri deel uitmaakt van apparaten met een scherm. Het verschil tussen Siri en Alexa komt ook op een andere manier tot uiting: Alexa is (als los apparaat) een verkoop-hit, terwijl Siri ‘ontdekt’ moet worden in een Apple device.

amazon installed base and skills

Hooggespannen verwachtingen

Of het nu met of zonder spraak is, de verwachtingen ten aanzien van geautomatiseerde dialogen zijn enorm. Capgemini verwacht dat de spraak-assistent in retail de komende drie jaar een ‘dominante factor’ wordt in de klantinteractie. De verwachtingen zijn hooggespannen en leiden dan ook tot hysterische uitspraken als “Klanten die een spraakgestuurde assistent gebruiken, zijn bovendien bereid om tot 500% meer uit te geven dan tot nu toe het geval is via deze vorm van interactie.” Die hooggespannen verwachting is vooral gebaseerd op voorkeuren van consumenten en dus niet op gedrag: grofweg een kwart (24%) van de respondenten gebruikt tegenwoordig liever een spraakgestuurde assistent dan een website, aldus de onderzoekers. De komende drie jaar zal dit percentage stijgen tot 40%. Cap brengt de toename in het verwachte gebruik van spraakassistenten direct in verband met een verdere daling van het bezoek aan winkels. Met een spraak-assistent kan je immers online aankopen doen – het is online shoppen, maar dan spraakgestuurd. Volgens Cap gebruikt op dit moment een derde van de respondenten (35%) spraakgestuurde assistenten voor het doen van boodschappen en de aanschaf van huishoudelijke artikelen of kleding. Andere populaire uitgaven zijn het bestellen van een maaltijd (34%) en het doen van betalingen (28%).

Bankkantoor vervangen door chatbot

De hype rondom chatbots en virtuele assistenten moet met de nodige relativering moet worden bekeken. In Zweden hebben de grootste banken hun kantorennetwerk uitgedund en ingezet op chatbots. Hoe blij consumenten ook zijn met de mogelijkheden rondom selfservice en online bankieren, in Zweden was het eindresultaat in ieder geval niet dat de klanttevredenheid toenam. Het kunnen identificeren van de klant, het begrijpen van de vraag en het herkennen van emoties is allemaal mogelijk, maar niet voldoende.

swedish banks swedish banks

Het aangaan van een volwaardige, dus betekenisvolle dialoog blijft namelijk nog een hele uitdaging. Allereerst: het enige verschil tussen spraakgestuurde assistenten zoals Siri en Alexa en een chatbot is dat de chatbot tekstgebaseerd werkt – de vertaalslag van spraak naar tekst blijft achterwege. In het bedrijfsleven wordt al gesproken over conversational service en conversational commerce, maar chatbots zijn nog niet in staat tot een dialoog.

Chatbots zijn nog behoorlijk dom

De intelligentie beperkt zich tot het begrijpen van de ingevoerde vraag en het genereren van het bijbehorende standaardantwoord (eventueel voorzien van klantgerelateerde gegevens die uit systemen worden opgehaald, denk aan boekingen of bestellingen). Zelfs chatbots die verder doorontwikkeld zijn, zoals Mitsuku, lopen gemakkelijk vast (of eindigen met standaardantwoorden) omdat ze niet met context kunnen omgaan. Een goed voorbeeld van gebrek aan intelligentie is de chatbot van Transavia, die via Facebook Messenger aangeeft dat je ‘direct kunt starten’. Als je een vraag intikt in het Nederlands, komt er eerst een vraag in welke taal je wilt communiceren. Als je geen antwoord geeft, komt de chatbot ook niet met eigen initiatief; als je een ticket naar NYC vraagt, laat de reactie zien hoe de bot werkt.

chatbot chatbot

Chatbots en virtuele assistenten kunnen nog niet anticiperen, ze kunnen niet creatief denken, niet zelf bepalen uit welke systemen ze welke informatie moeten halen, niet bepalen welke controlevragen ze moeten stellen in welke situatie. Soms is het zelfs nodig om te weten wie (in een bepaalde ruimte met meerdere sprekers) iets zegt.

alexa

Wachten op contextgevoelige AI

Kortom, bots missen het vermogen om context te kunnen begrijpen. Context is ook het tussen de regels door kunnen lezen en het kunnen combineren van eerder vergaarde kennis of elders aanwezige kennis of informatie. Veel van die informatie is wel beschikbaar, maar niet gemakkelijk te vinden, laat staan bruikbaar. Aan een klant vragen of het hotel kindvriendelijk moet zijn heeft geen zin als de chatbot had kunnen weten dat de klant geen kinderen heeft: bijvoorbeeld uit een eerdere conversatie of uit klantgegevens. De vraag ‘wie van mijn vrienden is wel eens op Corsica geweest?’ is bijvoorbeeld te beantwoorden met een check van Facebook, maar de kans dat op deze manier een sluitend en correct antwoord wordt gevonden, is niet zo groot. De ontwikkelaars van Ally Assist van Ally Bank hebben wel geprobeerd toe te werken naar een ‘gecontextualiseerde user experience’. Klanten van de Ally Bank hebben de optie om te chatten of te spreken en Ally Assist houdt rekening met eerdere interacties. De assistent onthoudt eerdere vragen (en antwoorden) en presenteert informatie op maat. Zelfstandige virtuele agents zoals Alexa moeten het doen met een internetverbinding en de opgeslagen dialoog. Alexa is bijvoorbeeld niet in staat om als stand alone oplossing aan technische trouble shooting te doen.

Context: grote technologie-uitdaging

Het is vooral deze veelheid aan context die gedurende een conversatie kan veranderen die het lastig maakt: in welke systemen moet de chatbot zoeken? Omgekeerd geldt voorlopig de wet dat een chatbot beter is in zijn taak als dat een gespecialiseerde taak is.

Het betekent ook dat we de komende jaren veelvuldig te maken zullen krijgen met chatbots en virtuele assistenten die ons proberen te helpen, maar daar volstrekt in falen. Daarom is dit artikel van Arjan van Hessen (Telecats/TU Twente) relevant: hij vraagt zich af of het niet tijd wordt voor fatsoensregels voor onze omgang met virtuele assistenten. Alexa kan je het zwijgen opleggen door te zeggen ‘Alexa, stop’, maar ‘Alexa, shut up’ werkt even goed. Hoe weinig ontwikkeld ze ook zijn, we kunnen de assistenten en bots op dit moment wel degelijk beschouwen als een soort robots waar we in de toekomst nauw mee gaan samenwerken, -wonen en –leven.

context

‘Een robot met de wil te overleven’

‘Levensechte robots die tot leven komen’ – dat is de wens van David Hanson, ceo en oprichter van Hanson Robotics. Samen met twee van zijn robots was Hanson in Nederland tijdens IBC2017, een beurs op het gebied van media, entertainment en technologie.

robotsWat doet robotontwikkelaar Hanson op een media- en entertainmentbeurs? Op termijn, aldus de uitleg van Hanson, zullen robots ingezet worden in media; zowel voor het presenteren van programma’s als model voor computeranimaties. Hanson timmert hard aan de weg met zijn robots die “emoties tonen en karakter hebben”. Zijn doel is dan ook: “bringing robots alive as true as possible” – als realistische wezens, die het vermogen hebben zich aan te passen, die intelligent en ‘bewust’ zijn, en beschikken over creativiteit, en die zelfs de wil hebben te overleven. En die natuurlijk ethisch besef hebben en die zich emotioneel met mensen kunnen verbinden. Of alle kwaliteit die hij opsomt ook te realiseren zijn, valt te bezien. Wat Hanson betreft is de grootste uitdaging in kunstmatige intelligentie (AI) het creëren van een vorm van intelligentie die de menselijke intelligentie evenaart of zelfs overstijgt. Hanson is er dan ook van overtuigd dat we als mensen enorm zullen profiteren van ‘super-intelligentie’.

Het fysiek zichtbaar maken van AI in robots – iets waar we ons gemakkelijker mee kunnen identificeren dan met een stuk software – draagt volgens Hanson bij aan de dialoog die we over AI moeten voeren. Dat is nodig, want door de convergentie van verschillende technologieën – denk aan rekenkracht, sensortechnologie, cloud, algoritmen op het vlak van spraakherkenning en deep learning – zullen robots binnen afzienbare tijd ‘tot leven’ komen. Het creëren van levensechte robots brengt natuurlijk “ethische en angstaanjagende” issues met zich mee, iets waar Hanson verder weinig aandacht aan wil besteden.

Wat kan Sophia?

Hanson demonstreerde twee robots: Einstein en Sophia. De meest geavanceerde versie van Sophie vereist veel rekenkracht en draait daarom op een cloudplatform. De standalone versie van Sophia draait op twee ingebouwde compacte Intel NUC-computers, elk voorzien van een i7-processor. Sophia kan nog niet zo veel. Ze kan wel een dialoog opstarten met Einstein, waardoor deze zijn kunstjes kan laten zien, en een aantal vragen van de verzamelde pers beantwoorden. Daarbij is niet duidelijk hoe het antwoord dat Sophia geeft tot stand komt. Als een journalist vraagt ‘is er bepaalde make-up die je aanbeveelt’, volgt als antwoord ‘zo treurig, ik kan niet leven zonder’. Is daarmee geprobeerd de vraag zo goed mogelijk te beantwoorden, is de ondertoon vooraf geprogrammeerd of krijg je hetzelfde antwoord als je Sophia vraagt naar haar favoriete automerk?

Op de vraag ‘heb je dit antwoord voorbereid’ volgde als antwoord ‘dat zou kunnen’. Ook kan Sophia niet reageren op een lange monoloog (bedoeld om context te schetsen), gevolg door een vraag. Na een verhandeling over de drie robotwetten van Asimov en de vraag ‘wat vind je er van?’ volstaat Sophia met alleen het opsommen van die drie wetten.

Maar ondanks al deze tekortkomingen is Sophia al wel een eind op weg als het gaat om convergentie van verschillende technologieën. Ze beschikt over gelaatsuitdrukkingen en is dankzij een Realsense camera van Intel in staat objecten met haar blik te volgen, maar ook gebaren van mensen te herkennen. Sophia’s verbale interactie draait op spraakherkenning van Google (wanneer er een internetverbinding aanwezig is) en natuurlijke taalverwerking, deep learning en symbolisch denken (het kunnen redeneren met abstracte, theoretische begrippen zoals cijfers of relaties tussen begrippen). De meeste technologieën die in Sophia zijn ingebouwd, hebben zich de afgelopen twee tot drie jaar enorm sterk ontwikkeld. Spraaktechnologie mist nog contextuele vermogens, maar is in technisch opzicht even goed in het herkennen van gesproken taal als een mens.

Next steps

Creaties zoals Sophia moeten zich verder ontwikkelen. Hanson geeft desgevraagd aan dat Sophia nog steeds een kleuter is en voorlopig nog dus niet in staat is de uitreiking van de MTV-awards te presenteren. Maar de ontwikkelaars van Hanson Robotics zijn wel bezig met een versie die zichzelf lopend kan voortbewegen en die ook over tastzin beschikt. Zo’n volgende ontwikkelslag kan Hanson Robotics niet alleen, dat is de reden dat er wordt samengewerkt met technologiebedrijven zoals Intel (voor de rekenkracht) en Google (voor onder meer de spraaktechnologie). Bijzonder is dat Google al eerder betrokken was bij robotontwikkelaar Boston Dynamics. Afgelopen zomer heeft moederbedrijf Alfabet de robottak verkocht aan het Japanse Softbank, bekend van de servicerobot Pepper.

Onderdeel van dat ecosysteem is tevens een cloudplatform – door Hanson aangeduid als het ‘unconsious’ deel van AI – waar robots zoals Sophia kennis kunnen delen met andere robots in het veld en waar bijvoorbeeld ook gewerkt kan worden aan de uitbreiding van de skills van AI. Denk aan het toevoegen van nonverbale vermogens aan virtuele assistenten, die tot nu toe alleen uit de voeten kunnen met gesproken taal of geschreven tekst. Ook zou zo’n ecosysteem kunnen bijdragen aan de interoperabiliteit van verschillende systemen, aldus Hanson.

Maak kennis met professor Einstein

robotsHet grootbrengen, opvoeden en onderwijzen van Sophia kost veel tijd en geld. Begrijpelijk dus dat Hanson Robotics ook voor inkomsten moet zorgen. Daarom kwam Hanson niet alleen met Sophia naar Nederland, maar had hij ook professor Einstein meegenomen. Einstein is nog geen halve meter hoog en is met een consumentenprijs van nog geen 200 dollar bedoeld als consumentenproduct, gericht op entertainment en educatie. Einstein kan spreken, luisteren, vragen beantwoorden, zich (schokkerig als een echte robot) voortbewegen en 50 verschillende gelaatsuitdrukkingen laten zien.

De robot functioneert in combinatie met de zogenaamde STEIN-O-MATIC-iPad-app, waar populairwetenschappelijke onderwerpen worden behandeld in combinatie met educatieve games. Ook Einstein is verbonden met de cloud, waardoor nieuwe informatie en functionaliteit gemakkelijk kan worden toegevoegd. Dat klinkt mooi, maar fabrikanten van connected poppen en knuffelbeesten zijn tot nu toe niet zo serieus omgegaan met privacy, security en betrouwbaarheid. Of deze ‘connected’ Einstein wel veilig en betrouwbaar is, zal dus nog moeten blijken.

Tien zorginnovaties die bijdragen aan productiviteitswinst zorgprofessional (2)


Technologische en sociale innovatie (anders organiseren en werken) kunnen helpen om de zorg efficiënter te organiseren. Die efficiencyslag is noodzakelijk, omdat we richting 2030-2040 bij ongewijzigd beleid te maken krijgen met een zeer sterk vergrijsde samenleving en een zeer krappe arbeidsmarkt. Er is niet alleen onvoldoende menskracht om aan de vraag naar zorg te voldoen, het zorgsysteem wordt ook steeds minder betaalbaar. KPMG heeft berekend dat er in 2040 per jaar 180 miljoen uur zorg nodig is, terwijl er tegen die tijd – bij de huidige omstandigheden – maar 80 miljoen uur zorg geleverd kan worden. De grootste uitdaging voor de komende jaren is om tegemoet te komen aan de groeiende vraag naar zorg met een tekort aan zorgprofessionals.

Tien innovaties die bijdragen aan productiviteit

Toii ging op zoek naar tien concrete en succesvolle innovaties in de zorg: voor cure en care, voor zowel de intra- als extramurale zorg, en voor verschillende doelgroepen. Criterium: de toegevoegde waarde zit in het vergroten van de productiviteit van de zorgprofessional. Dit is het tweede deel van een tweeluik over zorginnovatie.

 

6. Robots in de zorg

Met grote regelmaat keert de vraag terug of de zorg gebaat is bij de inzet van robots. Daarbij moet je de verleiding weerstaan om primair te reageren: ‘in de zorg kan je mensen niet vervangen door robots’. De kansen liggen eerder in het uit handen nemen van bepaalde taken – en dat hoeft zich niet te beperken tot zorg-specifieke taken. In de zorg gaat relatief veel geld naar overhead zoals backoffice en staf. Meer dan de helft van de IT-beslissers in zorginstellingen denkt serieus na over de inzet van robots. Maar de meeste instellingen vinden de investeringen voor een grootschalige inzet van robotica en domotica nog te hoog. Deze conclusies trekt Quint Wellington Redwood uit een marktonderzoek genaamd Outsourcing van IT in de Zorg 2017. Volgens onderzoeker Angelique Boekee, Client Director Health & Life Sciences bij Quint, geven de geïnterviewden (IT-beslissers in de zorg) aan dat een toekomst zonder robotica & domotica niet meer denkbaar is. Sommige instellingen zijn al begonnen.

zorginnovatie
Op het vlak van zorginhoudelijke processen is al de nodige ervaring opgedaan met de inzet van robots. Bijvoorbeeld voor logistieke ondersteuning (rondbrengen eten en drinken), het houden van toezicht, of het bieden van sociale ondersteuning. Paro is een robotdier in de vorm van een zeehondenjong dat wordt ingezet binnen verpleeg- en verzorgingshuizen vanwege zijn positieve effecten op de gedrags- en psychologische symptomen van dementie. Een belangrijk onderdeel van de interactie tussen robotdieren en dementiepatiënten blijkt tactiele interactie te zijn. Paro is nog wel voor verbetering vatbaar, aldus onderzoek, maar in grote lijnen wel els effectief wordt beschouwd door zorgprofessionals en leken. De zeehondrobot Paro is onder zijn vacht bedekt met tactiele sensoren en geeft feedback op aanraking met visuele en auditieve prikkels, maar is niet in staat de aanraking te interpreteren en produceert zelf ook geen aanraking. Verbetering is met name mogelijk in de kwaliteit van de interactie, niet alleen ter voorkoming van overprikkeling, maar ook om de interactie intelligenter en daarmee realistischer te maken: denk aan biofeedback en het herkennen van intenties.

Pepper Robots, ontwikkeld door Softbank Robotics, worden in Japan niet alleen in bedrijven maar ook in huizen ingezet. Ook in Europa krijgt Pepper (kosten circa 30.000 euro) voet aan de grond. Zo heeft Centre Hospitalier Regional La Citadelle (een ziekenhuis met vestigingen in Luik en Oostende) de robot ingezet voor receptietaken en voor het begeleiden van patiënten naar de juiste afdeling. Pepper spreekt twintig talen en kan een onderscheid maken tussen mannen, vrouwen en kinderen.

 

7. Virtual reality beperkt belasting patiënt

Ook al leven we steeds langer, tijd is en blijft een schaars goed, ook voor zorgprofessionals. Meer kunnen doen in de zelfde beschikbare tijd is dus een interessante uitdaging. Een manier om een zorgproces efficiënter te laten verlopen is om de behandeling van patiënten te vergemakkelijken. Dat is bijvoorbeeld relevant bij tandartspatiënten met angst – iets wat voorkomt bij enkele honderdduizenden Nederlanders (al zijn er ook schattingen die hoger liggen). Virtual Reality (VR) reduceert de pijn- en angstsensatie, waardoor een behandeling minder problematisch hoeft te zijn.

zorginnovatieEr zijn meer voorbeelden bekend van succesvolle inzet van VR bij pijnbestrijding: onder meer bij behandeling van brandwonden. De toepassing van VR in combinatie met natuur wordt momenteel onderzocht door Karin Tanja-Dijkstra van de VU Amsterdam, die van NWO budget kreeg voor een herhaalonderzoek naar de stress-reducerende werking van een natuurlijke omgeving. Eerder deed zij onderzoek naar het effect van muziek op stress en angst in de wachtkamer van een tandarts en een huisarts. Het draaien van klassieke muziek in deze wachtkamers blijkt gevoelens van angst en stress te reduceren. Ook als je niet van klassieke muziek houdt, heeft dit toch een rustgevende werking. Daarnaast worden experimenten gedaan met onrustbestrijding in de ouderenzorg met behulp van VR.

 

8. Medicijntoediening op afstand

zorginnovatieIn de thuiszorg bestaan strikte protocollen voor medicatie-toediening aan cliënten. Dat is niet zo vreemd, want in de thuiszorg zijn er verschillende rollen en verantwoordelijkheden en kunnen er verschillende fouten worden gemaakt: het verkeerde medicijn toedienen of een verkeerde dosis, toedienen op een verkeerde dag of verkeerd tijdstip, het toepassen van een verkeerde gebruiks- of toedieningswijze of simpelweg vergeten. De arts en de apotheek zijn verantwoordelijk voor de medicatie, maar de thuiszorgmedewerker kan de patiënt helpen: met aanreiken van de juiste medicijnen, met toedienen door een gediplomeerde ziekenverzorgende of verpleegkundige of het volledig in beheer nemen van de medicatie.

Voor cliënten die meerdere medicijnen naast elkaar gebruiken, wordt over het algemeen gewerkt met baxter rollen: een manier van verpakken van medicijnen waarbij de medicijnen per innamemoment in een apart zakje zit. Soms moeten de medicijnen er uit worden gehaald om te worden gebroken of opgelost. Als er wijzigingen plaatsvinden, moet een volledige baxterrol terug naar de apotheek of moeten bepaalde medicijnen worden weggelaten. Het toedienen of aanreiken van medicijnen kan in bepaalde, geschikte situaties ook op afstand. Bijvoorbeeld door de inzet van een videoverbinding, zodat toezicht mogelijk is, en door gebruik van een online dispenser die bovendien feedback en alerts geeft. De begeleider of verzorgende zet de medicatie uit, neemt een foto en stuurt deze via een tablet of mobiele telefoon naar een collega elders of bijvoorbeeld naar een zorgcentrale. Daar controleert een daartoe bevoegde begeleider of verpleegkundige de medicatie en dosering en tekent digitaal voor gezien. Op deze manier kan op afstand efficiënt en veilig een controle plaatsvinden tussen uitzetten en toedienen van risicovolle medicatie. Het systeem voldoet volledig aan de eisen van de zorginspectie. De resultaten van de controle worden direct digitaal vastgelegd en zijn daarmee te allen tijde en op iedere plek terug te vinden.

 

9. Combineren van domotica en data

De automatische medicijntoediening met online feedback is een voorbeeld van domotica waarbij een extra apparaat wordt ingezet dat fysieke zorgtaken overneemt. Er is ook een wereld te winnen met het (proactief) inzetten van monitoring van gedrag via sensoren. Onderzoekers van de Universiteit van Missouri hebben een systeem ontwikkeld dat tot drie weken van tevoren kan voorspellen of ouderen vallen. Camera’s houden bij hoe snel iemand loopt en hoe groot zijn stappen zijn. De wetenschappers kwamen erachter dat een oudere een kans van 86 procent heeft om binnen drie weken te vallen als hij zich 5 centimeter per seconde langzamer voortbeweegt dan voorheen. Ook zagen ze dat mensen die kortere stappen gaan nemen, 50 procent kans hebben om binnen drie weken te vallen. Zorginstelling Careyn maakt in een pilot gebruik van draadloze bewegingssensoren die bij senioren thuis worden geplaatst. De sensoren van Sensara meten en analyseren bewegingspatronen en vergelijken dit met bestaande datasets. Als er afwijkingen worden gevonden, slaat het systeem alarm.

 

10. Slimme luier

In zorginstellingen heeft bijna de helft van de cliënten last van ongewild urineverlies. De zorg voor mensen met incontinentie een zware belasting voor zorgprofessionals: die moeten nu nog regelmatig handmatig de status van de luier controleren door in de intieme zone van de cliënt te voelen. Ook het grote aantal onnodige (nachtelijke) verschoningen en lekkages zorgen voor extra druk op personeel.

De slimme luier bevat een sensor die continue veranderingen in het vochtniveau van de luier tot op de millimeter nauwkeurig registreert; informatie hierover is realtime en draadloos beschikbaar voor de zorgprofessionals via een app. Door de nauwkeurige informatie kunnen zorgmedewerkers de slimme luier gebruiken om de zorg beter te plannen: er wordt tijd (onnodige controlehandelingen en ‘herstelwerk’ na doorlekken) en materiaal bespaard. Zorginstelling Philadelphia heeft de primeur om met de luier te gaan werken.

Lees ook deel 1 van dit tweeluik over technologietoepassingen in de zorg, die een direct positief effect hebben op de productiviteit van zorgprofessionals. Reacties zijn welkom via de reactiemogelijkheid of via Twitter: @ToiiNL.

Een chatbot die de bocht uitvliegt – de grenzen van kunstmatige intelligentie

kunstmatige intelligentieRelevantie is het sleutelwoord voor sales, service en marketing. Waar het bij sales en marketing gaat om het doen van het juiste aanbod, moet customer service gericht zijn op het doen van de juiste dingen op het juiste moment: personalisatie is de hoogst mogelijke vorm van klantgerichtheid. En om service gepersonaliseerd te maken heb je data nodig. Kunstmatige intelligentie (AI) helpt om die data om te zetten in de best passende acties, maar de inzet van AI is niet zonder risico’s. Rob Walker, Vice President Decisioning & Analytics bij Pegasystems: “Als een systeem kan doen alsof het iets begrijpt, begrijpt het systeem dat dan ook?” Ofwel: wat gebeurt er als je AI inzet, maar het niet meer begrijpt?

Walker vroeg zich in een interview in online vakblad Customer Relations & Technology in 2012 al af wanneer er een tipping point komt in de bereidheid van consumenten om hun data (meestal ongemerkt) af te staan aan organisaties. Nu bedrijven steeds meer aan de slag gaan met kunstmatige intelligentie, neemt het vermogen van bedrijven om beslissingen op die data te baseren toe. Walker, zowel informaticus als gepromoveerd filosoof, pleit voor een onderscheid tussen AI die transparant is en AI die ondoorzichtig is. In het eerste geval is volstrekt duidelijk op basis van welke regels het systeem tot beslissingen komt. In het tweede geval is er sprake van een black box. In veel situaties komt de analysekracht van bedrijven al akelig dicht in de buurt van die black box. Facebook maakt op basis van 10 likes betere inschattingen over jou dan je collega’s, zo legde hij uit. Bij 300 likes kent Facebook jouw voorkeuren beter dan je partner. Facebook is inmiddels in staat om geslacht en leeftijd vrijwel foutloos te voorspellen.

Facebook is ‘small data’

De Facebook-voorbeelden gaan in feite over ‘small data’, aldus Walker – het is niets vergeleken met big data. Hoe kan je AI dan nog controleren of beslissingen herleiden? Walker komt met een voorbeeld van een antenne die NASA inzet bij ruimtevaartuigen. De ideale antenne met de eigenschappen werd ontwikkeld door AI. NASA is blij met het resultaat, maar weet nog steeds niet waarom het ontwerp van het AI-systeem de beste functionerende antenne is.

kunstmatige intelligentieMicrosoft kwam in maart 2016 met de chatbot Tay naar buiten. Tay kreeg ook een twitteraccount en bleek zich op dat medium na verloop van tijd te ontpoppen – het resultaat van machine learning – als een racist die geen moeite had met genocide. Stel je voor, aldus Walker, dat deze chatbot was ingezet voor customer service. Zowel de antenne van NASA als Tay roepen de vraag op in hoeverre AI zichzelf kan uitleggen – of in hoeverre de organisatie die er gebruik van maakt de werking kan uitleggen. Voor Walker is het duidelijk: AI kan niet zonder menselijke supervisie. En daarnaast pleit hij voor het grondig testen van AI, ook op bias. Daarmee kan je voorkomen dat AI – dus ook die vriendelijke chatbot – dingen gaat doen die jouw bedrijf grote schade toebrengen. Dat geldt niet alleen voor chatbots, maar vooral ook voor de inzet van algoritmen.

GDPR dwingt bedrijven tot openheid

De komende jaren wordt het vraagstuk rondom AI alleen maar complexer. De nieuwe privacywetgeving GDPR dwingt bedrijven open te zijn over hoe ze data verwerken, maar AI heeft daarin nog geen plekje. Dat is met name een probleem voor ondoorzichtige AI. Op het moment dat een organisatie systemen inzet waarvan de werkingsmechanismen niet geheel bekend is (of nog sterker, ook de uitkomsten niet volledig voorspelbaar zijn, zoals bij chatbot Tay) ontstaat er een risico. Technologie, ook AI-aangedreven tools, wordt meestal ingekocht van leveranciers die niet tot nauwelijks een rol spelen bij de praktische inrichting van systemen. Dat laatste is aan de klant in samenwerking met een system integrator. Klantorganisaties proberen marketing en service menselijk te houden, maar het is de vraag of we dat station niet al lang gepasseerd zijn.

Data is het nieuwe goud, maar dat was het al lang. We krijgen via AI wel steeds meer en krachtiger mogelijkheden om er iets mee te doen. Het is de vraag of bedrijven aan hun eigen klanten kunnen uitleggen waarom hun AI-toepassingen niet creepy (of juist wel creepy) zijn. Daarom is de meest praktische oplossing wellicht dat bedrijven aan klanten gaan vragen hoeveel voordeel ze willen, in ruil voor het inleveren van data en privacy. Een tweede oplossing kan zijn dat bedrijven hun klanten gaan voorlichten over de wijze waarop ze AI inzetten. Of wordt het tijd voor een nieuw soort disclaimer: “Dit aanbod/advies is mede tot stand gekomen op basis van kunstmatige intelligentie”?

[dit artikel verscheen eerder op Klantcontact.nl]

Een robot met gevoel

kunstmatige emotionele intelligentieHet wordt ook wel de vierde industriële revolutie genoemd: de totale digitalisering van de samenleving. In de digitale economie doen mensen steeds vaker zaken met systemen, software en algoritmen in plaats van met andere mensen. Kunstmatige intelligentie staat daarbij centraal. Binnenkort staan we voor de vraag of we accepteren dat een robot beschikt over kunstmatige emotionele intelligentie. 

Na de efficiencyslag van de derde industriële revolutie (de opkomst van de eerste automatiseringsgolf) brengt ook de vierde industriële revolutie veel kansen met zich mee. Met data als grondstof en software als machine kunnen we informatie veel beter benutten. De keerzijde is dat hardware en software zich zo snel hebben ontwikkeld, dat computers ook veel taken kunnen overnemen die voorheen exclusief aan mensen waren voorbehouden. Optimisten stellen dat iedere technologische revolutie voor het verdwijnen van banen heeft gezorgd, maar ook nieuwe werkgelegenheid heeft gecreëerd. Sommigen hebben het bij die vierde revolutie over nieuwe banen zoals ‘head of humanity’ – want ook voor de verdere ontwikkeling van kunstmatige intelligentie zijn mensen nodig.

Van hulpmiddel naar vervanger

In zijn boek ‘The Rise of the Robots’ legt Martin Ford haarfijn uit waarom de vierde industriële revolutie anders is dan de voorgaande drie revoluties. De computer verandert de komende jaren van een ‘complementair hulpmiddel’ in een ‘vervanger’ van de mens. Het ontstaan van nieuwe technologiebanen kan niet compenseren dat grote groepen op de arbeidsmarkt – inclusief hoogopgeleide kenniswerkers – hun voorsprong op de computer zullen verliezen. Ford is relatief behoudend: hij voorspelt dat kunstmatige intelligentie over tien tot twintig jaar tot maatschappelijke ontwrichting zal leiden door grootschalig verlies van werkgelegenheid. Hij zegt er meteen bij dat veel Silicon Valley-ondernemers denken dat die toekomstscenario’s al over vijf tot tien jaar aan de orde zijn.

We doen al jaren zaken met systemen

Het grote onderscheid tussen mensen en kunstmatige intelligentie is dat de laatste variant nog niet beschikt over empathisch vermogen en evenmin in staat is creatief te denken. Daarom lijkt de computer vooralsnog geen bedreiging voor beroepen waar intensieve interactie met mensen centraal staat – iets wat ook Ford in zijn boek betoogt. Maar hoe belangrijk ze ook mogen zijn, de interacties tussen mensen (klant en leverancier, patiënt en arts, student en docent) bevatten ook altijd eenvoudiger, repeterende en routinematige elementen. Veel daarvan is in de afgelopen jaren al geautomatiseerd: denk aan het zelf inchecken van passagiers en bagage bij luchthavens, de ontwikkeling van online selfservice bij klantenservice, de opkomst van e-learning en het zelf regelen van bankzaken via apps en websites. Ook het ingewikkelde werk aan de ‘achterkant’ van die interactie – zoals het verwerken van schadeclaims of het opstellen van analyses en adviezen – wordt in toenemende mate geautomatiseerd. Wat overblijft, zijn de interacties tussen mensen waar onvoorspelbaarheid, creativiteit en empathie een rol spelen. Je kunt het ook omdraaien: waar de huisarts nu nog zelf een diagnose stelt, kan hij straks terugvallen op een systeem en wordt zijn taak beperkt tot het tonen van empathie. Totdat kunstmatige emotionele intelligentie zijn intrede doet.

De computer begrijpt wat ik bedoel

Of we het als mens accepteren dat ‘systemen’ onze emoties en intenties gaan begrijpen, is de vraag, maar er wordt in ieder geval aan gewerkt. Watson Engagement Advisor – ja, een telg uit de IBM Watson kwekerij – is in staat in natuurlijke taal te communiceren. Watson heeft daarvoor 300 miljoen Engelse woorden gelezen en begrijpt natuurlijke taal inclusief de nuances. Watson gebruikt bovendien deep learning. IBM stelt dat dit alles voldoende is voor het herkennen van de achterliggende intentie van een vraag, ongeacht hoe die vraag wordt gesteld.

 

kunstmatige emotionele intelligentie

 

In bovenstaand voorbeeld – can I change my flight? – is het de intentie dat de vlucht wordt gecancelled. Watson kan uiteraard veel aanvullende vragen stellen om dichter bij de juiste beslissing te komen – ben je een trouwe klant? Zijn er nog andere zaken om rekening mee te houden? Wat moet Watson bijvoorbeeld doen als de klant meldt dat hij een fervent blogger is? Wanneer Watson tot het inzicht komt dat hij niet alle informatie met voldoende zekerheid kan verwerken, zet hij de vraag door naar een menselijke collega. Watson kan rationeel gezien dus een heel eind komen, maar mist nog wel dat wat hem onderscheidt van mensen: emotionele intelligentie.

De computer begrijpt wat ik voel

Juist in intensieve interacties tussen mensen is empathie een van de belangrijkste zaken om tot het juiste begrip van de ander te komen. Wanneer systemen in staat zijn de juiste ‘emotionele’ informatie te verzamelen – denk bijvoorbeeld aan de ooguitdrukking, spraaksnelheid en volume, lichaamshouding – kunnen ook zij tot een beter begrip komen. Deze tweede tak van sport wordt affective computing genoemd – of kunstmatige emotionele intelligentie. Analistenbureau Markets and Markets voorspelt dat de markt voor affective computing over drie jaar (in 2020) 42 miljard dollar zal omvatten. De belangrijkste toepassingsgebieden: retail, zorg, overheid en defensie; met name op die plaatsen waar informatie moet worden verzameld, waar wordt samengewerkt en waar informatie wordt verstrekt. Tien jaar geleden verschenen de eerste houterige chatbots op het toneel. Virtuele assistenten of chatbots zijn tegenwoordig in staat om op basis van tekst het sentiment in een dialoog met een mens te beoordelen.

Kunstmatige emotionele intelligentie

kunstmatige emotionele intelligentieOp dit moment wordt op Carnegie Mellon University hard gewerkt aan de eerste ‘chatbot met sociaal inzicht’, genaamd SARA. Die naam staat voor Socially-Aware Robot Assistant en SARA is in staat om sociaal gedrag te herkennen in conversaties. SARA verwerkt realtime visuele informatie (lichaamstaal, gelaatsuitdrukking), intonatie, volume en snelheid van de spraak en verbale informatie (spraakherkenning) van de gesprekspartner. Bij het bepalen van de respons wordt er zowel rationeel als sociaal geanalyseerd. Wat is de beste oplossing voor het vraagstuk dat is voorgelegd? En wat is de beste manier om de respons te geven: met welke gelaatsuitdrukking, lichaamstaal en stemgebruik? Daarna wordt de respons via een Natural Language Generation module uitgesproken op een manier die aansluit bij de gesprekspartner.

Software is eating the world

Gaan mensen accepteren dat een robot invoelend gedrag vertoont? De attitude ten aanzien van nieuwe technologie kan snel veranderen zoals dit beroemde filmpje uit 1999 laat zien. De acceptatie van ‘kunstmatige intelligentie met gevoel’ zal afhangen van kwaliteit, geloofwaardigheid en vertrouwen. We zijn de afgelopen jaren al een heel eind opgeschoven van mensen naar machines: denk aan bankzaken (van kasmedewerker tot mobiele app), informatie verzamelen (van bibliothecaris of encyclopedie-redacteur naar internet) en het nemen van aankoopbeslissingen (van letterlijke mond-tot-mondreclame naar klantbeoordeling op een webpagina). We vertrouwen op gegevens op ons scherm in plaats van op het oordeel of vermogen van een levend medemens. En in plaats van ervaringen met echte mensen te delen, delen we data via systemen. Software is eating the world.

Pikant detail is dat de conversaties die nu worden gevoerd in customer service het ideale leermateriaal zijn voor de invoelende robot. Veel van deze gesprekken worden digitaal vastgelegd, inclusief schermhandelingen. Daarnaast wordt vaak aan klanten gevraagd een oordeel te geven over de interactie in de vorm van een klanttevredenheidscijfer. Op deze manier lijken contactcentermedewerkers mee te werken aan de automatisering van hun eigen werk. Wellicht geldt dat straks voor meer beroepen.

De toekomst van facilitaire contactcenters

facilitaire contactcenters
parking bot

Bedrijven maken zich op voor een nieuwe golf aan automatisering. De inzet van virtual reality, kunstmatige intelligentie en chatbots staan daarbij bovenaan de verlanglijstjes, aldus een nieuwsbericht van Oracle. Ook klantcontact gaat de komende tijd opnieuw ingrijpend veranderen. De rol van de live agent wordt niet minder belangrijk, in tegendeel. Maar het volume aan live contacten zal afnemen. Dat zet de businesscase voor outsourcing van klantcontact naar facilitaire contactcenters – de dienstverleners waar bedrijven hun klantcontact kunnen onderbrengen – in een ander perspectief.

Volgens klantcontactexpert Hans Bach ligt de belangrijkste uitdaging van facilitaire contactcenters in het focussen op toegevoegde waarde. Om hun onderscheidend vermogen op peil te houden zullen ze meer moeten doen dan het leveren van betere operationele resultaten. Ook het leveren van innovatieve kracht beschouwt Bach als opdracht. In een analyse in CustomerFirst schrijft hij bovendien dat medewerkers binnen nu en vijf jaar ‘andere dingen gaan doen’ – zoals het goedkeuren van beslissingen die genomen zijn door geautomatiseerde systemen. ICT wordt door Bach vooral gezien als middel ter ondersteuning van agents – bijvoorbeeld in de vorm van realtime monitoring en gespreksanalyse. Hij relativeert dan ook de opkomst van automatisering van klantcontact. Het argument: kunstmatige intelligentie is nog niet in staat is de vraag achter de vraag (de intentie) van de klant te begrijpen.

Hij gaat echter voorbij aan het feit dat veel interacties weldegelijk verder te automatiseren zijn. Met die doorlopende automatisering als een van de leidende trends verwacht ik dat de komende drie jaar zichtbaar gaat worden dat het verdienmodel van facilitairen begint af te brokkelen. Er zijn verschillende trends die duidelijk maken wat de effecten zijn van de digitalisering van interacties op outsourcing.

 

Technologieleveranciers krijgen andere rol

Om te beginnen een uitstapje naar de IT-industrie, waar outsourcing zo ongeveer is uitgevonden. Tot enkele jaren geleden zetten de grote IT-dienstverleners volop in op langdurige en grootschalige contracten met waarden oplopend tot honderden miljoenen dollars. Klassieke outsourcing kwam neer op leveren van diensten voor het beheer van software, werkplekken of infrastructuur, gebaseerd op schaalvoordeel en standaardisatie: ‘your mess for less’. In veel gevallen werd daarbij personeel van de opdrachtgever of vorige dienstverlener overgenomen.

Die tijden zijn echter aan het veranderen. De grote IT-dienstverleners staan voor een grote transformatie. Steeds meer onderdelen van het klassieke portfolio van IT-dienstverleners worden geautomatiseerd: de automatisering van IT. IT-outsourcingcontracten worden steeds korter, meer flexibel en komen vaker in handen van kleinere niche-spelers. Het is niet ondenkbaar dat IBM of Accenture (nu beiden nog circa 375.000 medewerkers) over een paar jaar in omvang gehalveerd zijn. Deze bedrijven zijn dan ook hard bezig met zowel reorganiseren als het opbouwen van nieuwe business, bijvoorbeeld in kunstmatige intelligentie en customer experience.

 

Klantinteractie blijft vatbaar voor automatisering

Die doorlopende automatisering is ook zichtbaar in klantcontact. In de jaren negentig viel de rol van de telefoniste weg door de opkomst van automatische routering (ACD, IVR); daarna kwam online selfservice op, gevolgd door e-commerce. Met de inzet van bots en spraakherkenning wordt opnieuw een deel van de interactie tussen klant en bedrijf geautomatiseerd, wat leidt tot inzet van minder mensen.

Vergelijkbare veranderingen zijn zichtbaar in de retail, waar nu vooral online modellen voor de groei zorgen. In combinatie met fintech ontstaan toepassingen voor frictieloos betalen (geen kassa meer nodig). De digitalisering van klantcontact en transacties schuift steeds meer op in de richting van mobiele, geïntegreerde app-platforms (Facebook Messenger, LINE en WeChat). Binnen WeChat draaien al meer dan 500 bots voor bestellingen, reserveringen, transacties, communicatie, nieuwsvoorziening en entertainment.

facilitaire contactcenters

Kostenbesparing is een van de drivers van verdere digitalisering, maar ook om een andere reden zijn bedrijven gebaat bij uitbreiding van digitale interacties. Ze zijn relatief gemakkelijk te sturen en leveren data op. Dat geldt ook voor live interactie, maar de slag van spraak naar bruikbare business intelligence is voorlopig nog een stuk ingewikkelder.

 

Effecten digitalisering al jaren zichtbaar op arbeidsmarkt

Dat digitalisering in BtC-dienstverlening doorzet, is ook te zien aan de ontwikkeling van werkgelegenheid. In de financiële sector zouden tussen 2014 en 2019 15.000 banen verdwijnen, aldus een analyse van UWV uit 2014. We kennen inmiddels de krantenkoppen over ontslagen bij ABN AMRO en ING. In april 2016 concludeerde werving- en selectiebureau Hays dat van de professionals in de financiële sector 60 procent verwacht dat de werkgelegenheid in de sector verder afneemt. 40 procent van hen denkt zelfs dat in 2030 zijn of haar functie niet meer bestaat. Cloudsoftware en kunstmatige intelligentie worden door 80 procent van de financiële professionals als bedreiging voor de werkgelegenheid gezien.

Ook de reissector is een goed voorbeeld van digitalisering. Tussen 2007 en 2013 daalde het aantal banen in de reissector van 18.740 tot 14.100. Sinds de laatste twee jaar stijgt het aantal banen weer, maar is het accent verschoven naar online marketeers en e-commerce managers. Kortom: het draait ook daar niet om menselijke customer service, maar om IT.

 

Gedrag van consumenten

De tweede trend gaat over het gedrag van consumenten. Volgens KIRC is (wereldwijd) het volume aan live contacten sinds 2014 afgenomen, ten gunste van de volumes aan online selfservice: beide volumes zijn nu even groot. Het gebruik van e-mail (waar medewerkers de afwikkeling verzorgen) daalt geleidelijk; het aantal bedrijven dat het e-mailkanaal ‘sluit’ neemt toe, terwijl app care groeit. 2016 was het jaar waarin (in de VS) het aantal Millennials het aantal babyboomers oversteeg. In ons land ligt de piek van de vergrijzing in 2035; halverwege de jaren 20 van deze eeuw zal het relatieve aandeel babyboomers voor het eerst gaan dalen. Hoewel de kanaalvoorkeuren van consumenten uiteindelijk vooral afhangen van de situatie (en in mindere mate van de leeftijd), zullen jongere generaties zoals Millennials en generatie Z wel steeds zwaarder hun stempel drukken op online interactie.

Ondertussen neemt het aantal mobiele abonnementen toe, net als het aantal interacties. In 2017 zullen er 8,3 biljoen mobiele messages worden verstuurd, waarvan 90 procent gelezen kan worden in minder dan 3 minuten. De helft van de consumenten verwacht tegenwoordig dat bedrijven 24×7 klaar moeten staan om vragen van klanten te beantwoorden. Meer dan de helft (bijna 64 procent) vindt daarbij dat bedrijven bereikbaar zouden moeten zijn via messaging apps. Die tekstgebaseerde online communicatie is het perfecte vertrekpunt voor automatisering.

 

Kosten van klantinteractie

De mogelijkheid om onderscheidend vermogen te realiseren op prijs of product neemt al jaren af. In sectoren als energie, telecom en e-commerce hebben enorme consolidatieslagen plaatsgevonden. Als spelers zoals Amazon of Alibaba de Europese markt voluit gaan bewerken, neemt de concurrentie in e-commerce nog verder toe. Bedrijven kunnen dus vooral het verschil maken in toegevoegde waarde zoals snelheid en kwaliteit van customer service. Omdat in customer service de complexiteit van het live contact doorlopend stijgt (en daarmee de duur en de kosten), blijft de noodzaak om verdere kostenbesparingen door te voeren belangrijk. Dat wat geautomatiseerd kan worden, zal geautomatiseerd worden.

Na IVR’s, online selfservice en e-commerce websites zijn bedrijven nu bezig met de volgende stap in automatisering. De Zweedse bank Swedbank is er in geslaagd 80 procent van alle standaardvragen af te handelen via chatbot Nina, goed voor 30.000 contacten per maand. Omgerekend is dat – afhankelijk van de gemiddelde gespreksduur – 20 tot 30 FTE op maandbasis. TacoBot van Taco Bell is in staat bestellingen volledig zelfstandig af te handelen.

 

Wanneer komt de omslag in facilitair klantcontact?

De totale Nederlandse markt omvat nu ruwweg 87.000 werkplekken; het aantal werkzame personen in de sector is ongeveer het dubbele. Uit het rapport van Hans Bach komt naar voren dat de facilitaire markt nog groeit van 642 miljoen euro in 2016 naar 691 miljoen euro in 2017. De grote vraag is wanneer die groei gaat omslaan als gevolg van veranderende keuzes van hun opdrachtgevers, waarbij technologie – naast medewerkers – een tweede ‘productiefactor’ wordt bij het afwikkelen van contacten. Dat sommige spelers anticiperen, blijkt uit het partnership dat Webhelp recent aanging met Recast.AI.

Mijn indruk is dat alle seinen op groen staan: de consument heeft geen bezwaren tegen chatbots, de technologie is beschikbaar. Het volume aan live contacten zal afnemen, en het verwerken van minder calls met een hogere complexiteit vraagt om een hoger opleidingsniveau en meer training. Dat staat haaks op het businessmodel van facilitairen – schaalvoordeel gebaseerd op standaardisatie. Tel daarbij op het streven van bedrijven naar innovatie, versnelling, customer centricity en een betere aansluiting op interne IT- en dataprocessen. Al deze ontwikkelingen zullen elkaar de komende tijd gaan versterken. De snelheid waarmee bedrijven op deze ontwikkelingen inspelen, zal bepalend zijn voor de toekomst van de klassieke, grootschalige facilitaire contactcenters. Dat ze in omvang zullen afnemen en door een transformatie heen moeten, staat vast.

Een goed gesprek van mens tot robot

dsc00040We praten wat af in ons leven. Een van de belangrijkste (en ook meest ingewikkelde) dingen die een mens kan, is communiceren. We hebben hiervoor de beschikking over sociale vaardigheden, verbale uitdrukkingsvaardigheid (woordenschat, grammaticale kennis) en invoelend vermogen (om taal van een ander, maar ook de non-verbale communicatie te begrijpen). We herkennen ook gezichten, zodat we iemand als persoon kunnen plaatsen: onze leidinggevende, ons kind, onze vrienden. Er is voor mensen weinig reden om die communicatie te automatiseren, al zijn er ouders die hun kinderen toevertrouwen aan ‘connected‘ speelgoed waarmee ze interactie kunnen aangaan.

Voor bedrijven ligt dat anders. Zij automatiseren graag zo een zo groot mogelijk deel van de interactie met klanten. Verschillende wetenschappers en softwareontwikkelaars zijn met bezig om de afzonderlijke bouwstenen van menselijke communicatie te vatten in algoritmen en geautomatiseerde systemen. Wat heb je nodig om een goed gesprek te voeren met een computer of robot?

Spraakherkenning

Allereerst moet de computer menselijke, natuurlijke taal kunnen herkennen. Deze technologie is inmiddels goed doorontwikkeld. Computers kunnen gesproken tekst vrijwel net zo goed omzetten in geschreven tekst als professionele transcribeerders. Dat spraakherkenning goed werkt, kan je testen met Siri of Google’s assistent op je eigen smartphone of de demo van Google’s Deepmind. De ‘last mile’ is echter nog lastig. Het gaat daarbij om het begrijpen van context, maar ook om het correct plaatsen van punten en komma’s. Spraakherkenning zou wellicht verbeterd kunnen worden als het gecombineerd wordt met systemen die liplezen.

Liplezen is voor mensen een flinke uitdaging. Een geoefende professional komt niet verder dan 60 procent correcte herkenning. LipNet, een systeem ontwikkeld door wetenschappers van Oxford University, haalt 93 procent accuratesse. De ontwikkelaars zien onder andere mogelijkheden op het vlak van ‘stil dicteren’, maar stellen ook dat spraakherkenning er verder mee verbeterd kan worden. LipNet werd getraind met bijna 29.000 video’s, gecombineerd met de juiste tekst. Het algoritme kan analyseren tot op losse letters. LipNet werd onder meer gefinancierd door DeepMind, de kunstmatige intelligentie-tak van Google.

Met wie spreek ik? Gezichtsherkenning

Gezichtsherkenning bestaat al geruime tijd. Het wordt bijvoorbeeld toegepast bij de douane van Schiphol voor identificatiedoeleinden. In de selfserviceomgeving van de luchthaven wordt nu al de scan van het paspoort vergeleken met het portretbeeld van de passagier, maar Schiphol wil nog een stap verder gaan en gezichtsherkenning uitbreiden over het gehele traject van vertrekhal tot in het vliegtuig.

Het herkennen van emoties
Robot Han van Hanson Robotics
Robot Han van Hanson Robotics

Emoties spelen een belangrijke rol in beslisprocessen van mensen. Interessant dus voor bedrijven die iets willen verkopen. Dat begint al bij marketing, wat probeert in te spelen op ons gevoel. Bij het beslissen over een aankoop worden moties en rationele afwegingen tegen elkaar afgezet. Wanneer een systeem de emotie van een klant kan herkennen, ben je al halverwege de portemonnee van die klant. In 2012 werden de eerste veelbelovende resultaten geboekt met een algoritme waarmee de computer de vorm van de mond van een computergebruiker kan koppelen aan de emoties (geluk, verdriet, angst, woede, walging en verbazing) die de gebruiker voelt. Het algoritme was zelflerend: het werd beter naarmate er meer voorbeelden werden aangereikt.

Volgens de analisten van MarketsandMarkets wordt er ook nu nog steeds veel geld in technologie voor emotiedetectie gepompt: 22 miljard dollar tot 2020. Bedrijven doen hun best om systemen te ontwikkelen die emoties kunnen aflezen van gezichten. Emotient werd begin dit jaar overgenomen door Apple – het zou zo maar kunnen dat je iPhone over een tijdje naar je gezicht kijkt en dat Siri bij het beantwoorden van je vragen rekening houdt met je gemoedstoestand.

Microsoft biedt een emotie-API aan, waarbij de API boosheid, zorgen, afgrijzen, angst, blijdschap, verdriet en verrassing gewogen kan beoordelen. Deze API kan je zelf testen door een foto te uploaden. Het idee achter de API is dat de uitkomst (de waarschijnlijkheid dat een bepaalde emotie aan de orde is) als input voor een ander systeem kan worden gebruikt. Er zijn nog tientallen andere oplossingen ontwikkeld voor emotie-detectie. Een daarvan is Affectiva, een oplossing die aan de hand van camerabeelden van oogopslag en wenkbrauwen op basis van machine learning real time emoties kan benoemen. De software wordt onder andere gebruikt door game developers en filmmakers om de beleving van de gebruiker verder te personaliseren.

Informatie uit emoties kan ook via spraakherkenning worden geanalyseerd. Spraaktechnologie kan behoorlijk goed overweg met de vier basis-emoties (boos, blij, bang en bedroefd) door te kijken naar een groot aantal eigenschappen van de spraak, waaronder toonhoogte, intonatie, tempo en volume.

Het kunnen vertonen van empathisch gedrag is met al deze technologie nog niet gerealiseerd. Daarvoor is empathie te complex: een systeem kan bijvoorbeeld nog geen onderscheid maken tussen een grapje, sarcasme of cynisme. Empathie is voor een groot deel ook cultureel bepaald. Het staat onder invloed van religie, land en taal.

Impliciete kennis en begrip van de context

Waag het niet een persoonlijke vraag aan Siri of een andere assistent te stellen – ‘Wat vind je dat mij beter staat, een hoed of een pet?’ of ‘Waarom ben ik altijd te laat voor mijn afspraken?’. De virtuele assistenten kunnen alleen overweg met de informatie die door de ontwikkelaars wordt aangeboden of ontsloten. Toen Watson de kennisquiz Jeopardy won, beschikte dat systeem over een extreem uitgebreide dataset. Zo’n dataset blijft echter expliciete kennis (denk aan het internet of een gesloten database zoals alle medisch-wetenschappelijke literatuur) die bovendien actueel moet worden gehouden.

Voor zinvolle persoonlijke interacties is ook impliciete kennis nodig. Die categorie kennis zit alleen in hoofden van mensen. Ook hebben kunstmatige intelligentie-systemen veel moeite met ambigue informatie. Het voorbeeld dat Arjan van Hessen aangeeft (Jan ziet Marie met een verrekijker) is een mooi voorbeeld. Een systeem zal ambigue zinnen moeten herkennen en in staat moeten zijn de juiste contextuele informatie te vinden (of op te vragen aan de gebruiker).

De sprekende computer: text-to-speech

Tot slot: een computer die je verbaal wilt laten communiceren met mensen, zal zelf ook tekst naar spraak moeten kunnen omzetten. Ook deze spraaksynthese-technologie is enorm verbeterd. Waar voorheen met blokjes spraak werd gewerkt (waardoor een sprekende computer nogal kunstmatig en houterig over kwam) worden nu veel kleinere eenheden geanalyseerd, gecodeerd en gebruikt om spraak te produceren.

Op weg naar de uncanny valley

De oplossing die alle bovenstaande technologieën weet te combineren in bijvoorbeeld een robot met een levensecht uiterlijk, een goede motoriek en realistische gelaatsuitdrukkingen, komt dicht in de buurt van Westworld. Het is niet ondenkbaar dat over een paar jaar het onderscheid tussen mensen en robots – bijvoorbeeld bij toepassing van videoconversaties – op het eerste oog moeilijk te maken is. Naarmate het verschil tussen robots en mensen kleiner wordt, komt de ‘uncanny valley‘ steeds meer op de voorgrond: een afkeer van robots, omdat ze te veel menselijke trekjes krijgen.