Prof. Jan Bosch
Het afgelopen jaar heb ik verschillende discussies meegemaakt die voor een groot deel neerkwamen op “waarom is dit product zo dom? De domheid werd gedefinieerd door het gebrek van het systeem om te anticiperen op acties van gebruikers, het onvermogen om te leren om beter te functioneren in een specifieke context of de totale afhankelijkheid van de gebruiker die activiteiten initieert door het systeem, zelfs als het volkomen duidelijk was wat er gedaan moest worden. Enkele voorbeelden.
Een vertegenwoordiger van een bedrijf dat radars bouwt vertelde het verhaal van een klant die vroeg waarom de radar, eenmaal geplaatst op een specifieke locatie, na 2 minuten, 2 uur, 2 dagen en 2 maanden nog steeds hetzelfde functioneerde. Waarom leerde de radar niet van zijn context en verbeterde hij zijn vermogen om objecten te detecteren door te weten wat de statische elementen in de omgeving zijn en dat te gebruiken om nieuwe objecten beter te onderscheiden?
Een gebruiker van een routeplanningssysteem klaagde over het feit dat hij vaak te laat kwam op vergaderingen omdat hij niet proactief werd gewaarschuwd voor files die er niet waren toen hij de dag ervoor de verwachte reistijd opzocht. Waarom waarschuwt het systeem me niet, klaagde hij, voor een onverwachte file door een ongeluk of zo, zodat ik eerder kan vertrekken?
Een bedrijf dat dure, hightech apparatuur gebruikte, klaagde over het feit dat het systeem zich niet kon aanpassen en hun zeer voorspelbare werkschema niet onder de knie kreeg. De apparatuur had tijd nodig om zich aan te passen tussen verschillende soorten gebruik en ook al draaide het bedrijf dag na dag vrijwel hetzelfde schema, het systeem leerde niet om zelf de herconfiguratie en daaropvolgende aanpassing te starten.
Al deze systemen zijn gebouwd volgens de specificaties die werden opgesteld voordat de ontwikkeling begon. Ze zijn allemaal met vlag en wimpel geslaagd voor de validatie- en verificatietests. En toch slagen ze er niet in om klanten en gebruikers tevreden te stellen en bieden ze beduidend minder efficiëntie en effectiviteit dan ze zouden kunnen.
'We have a set of tools that can help address the stupidity of products'
In het tijdperk van AI hebben we een aantal hulpmiddelen in onze gereedschapskist waarmee we de domheid van producten kunnen aanpakken. Door verschillende vormen van leren en experimenteren te gebruiken, kunnen we gedrag in systemen opnemen om patronen te detecteren, hypotheses te ontwikkelen over de consistentie van deze patronen, experimenten uit te voeren met proactief systeemgedrag, het effect van het experiment te meten en er vervolgens van te leren.
Een theoretische AI-onderzoeker kan beweren dat dit reinforcement learning is en in de kern is dat een juiste conclusie. Het zou echter ook in strijd zijn met het Einstein-principe om alles zo eenvoudig mogelijk te maken, maar niet eenvoudiger. De belangrijkste uitdaging bij het slimmer maken van systemen is niet het basisprincipe van reinforcement learning, maar eerder ons vermogen om de bovengenoemde activiteiten en gedragingen in systemen te realiseren zonder veiligheids- of beveiligingsrisico’s te veroorzaken, zonder de gebruiker te irriteren (herinner je je Clippy?), de stochastische aard van feedback te beheren en ons te richten op die dingen die daadwerkelijk waarde toevoegen voor de gebruiker.
Toch verwachten klanten steeds meer dat hun producten elke dag dat ze ze gebruiken beter worden. Ik wil dat mijn auto, mijn telefoon, mijn computer, mijn apps en mijn wearables elke dag beter worden. Ik wil dat mijn apparaten van mij en mijn gedrag leren om mij meer waarde te bieden door zich daaraan aan te passen. Om dit te bereiken is het niet genoeg om DevOps in te voeren en A/B-tests uit te voeren, maar het vereist ook volledig autonoom experimenteren door systemen met snelheden waar R&D-organisaties simpelweg niet aan kunnen tippen.
Onze systemen moeten ons niet aansporen tot ander gedrag, zoals veel sociale media-apps geneigd zijn te doen, maar proactief handelen namens ons en in ons voordeel. Ik wil dat de systemen die ik gebruik en waar ik mee omga de leiding nemen en de last van het altijd maar onthouden en initiëren van activiteiten van mijn schouders halen, zodat ik me kan richten op de dingen waar ik uniek goed in ben. Stop alsjeblieft met het bouwen van domme systemen en concentreer je op het toevoegen van slim, proactief gedrag in plaats van de zoveelste functie.
Blijf op de hoogte
Ontvang onze maandelijkse updates
