Datamining onder de loep II - RCM

26
Datamining
onder de loep II
Door Erik Hoeksema
Datamining, of knowledge discovery in databases, maakt het mogelijk nieuwe kennis uit gegevens te halen. In twee artikelen wordt
het hoe, wat en waarom van datamining uitgelegd. Deel I verscheen in het vorige nummer van KM.
de literatuur zijn verschillende
voorbeelden te vinden hoe een
datamining-exercitie zou moeten
worden uitgevoerd, al zijn deze vaak
gericht op het technische aspect.
Zie hiervoor het kader op de volgende pagina. Een standaard model
dat ook de organisatorische implicaties in ogenschouw neemt ontbreekt echter.
In
Complex proces
Dit gebrek aan een standaard proces is
een van de problemen voor de acceptatie van datamining.Dat een dergelijk
model er nog niet is, heeft verschillende oorzaken.Ten eerste is datamining
een complex proces dat voor veel verschillende doeleinden, en dus op veel
verschillende manieren, kan worden
toegepast. Ten tweede werd datamining in het verleden vooral door technici gebruikt. Deze technici wisten
vaak wél wat een dataminingproces
inhield, in tegenstelling tot de commerciële gebruikers, maar hadden
weinig behoefte hun kennis vast te
leggen. Hierin schuilt daarentegen de
kracht van een procesmodel.Een standaard stelt de verschillende partijen
beter in staat met elkaar te communiceren over datamining, waardoor het
proces voor de commerciële gebruiker begrijpelijker en beter beheersbaar wordt.
KM 2000, nummer 3
Datamining is veelal moeilijker dan
gedacht en de aandacht gaat te vaak
uit naar de verkeerde factoren. De
literatuur over datamining betreft
het overgrote deel de tools die worden ingezet. Dit terwijl - volgens de
META-Group [1] - slechts vijftien
procent van de datamining-uitgaven
naar de tools gaan. Randy Kerber
van NCR beaamt dat de tools niet
het belangrijkste zijn:‘De succesfactoren van datamining worden
bepaald door in de eerste plaats de
mensen, in de tweede plaats de kwaliteit van de gegevens en pas op de
derde plaats de tools. De mensen
zijn cruciaal omdat datamining veel
ervaring behelst en daarbij een
lange leercurve heeft.’ Bedrijven die
datamining toepassen zouden hun
focus dus meer moeten richten op
de mensen die zich ermee bezig
houden in plaats van op de aankoop
van een tool. Volgens Shivakumar
Vaithyanathan van IBM kan datamining pas echt een succes worden als
er een specifieke behoefte aan kennis bestaat in de organisatie. ‘Een
dataminingproces moet worden
voorafgegaan door het stellen van
de zogenaamde business-vraag en
een kosten/baten-analyse.’ Tot nog
toe werd deze business-vraag echter
wel eens overgeslagen en werd met
datamining begonnen omdat de
concurrenten eraan deden of omdat
een aantal technici in een bedrijf de
techniek interessant vonden. Het is
echter belangrijk dat er een draagvlak in de organisatie bestaat. ‘Voor
een echt succes moet een specifiek
project voor een specifiek probleem
worden opgezet, waarbij ontwikkelaars en eindgebruikers met elkaar
samenwerken.’
CRISP-DM (CRoss-Industry Standard
Process Model) is een van de eerste
aanzetten tot een model. Het is een
initiatief van een viertal bedrijven,
NCR, ISL, DaimlerBenz en het
Nederlandse OHRA. Het bestaat uit
een aantal delen die nog niet allemaal geconcretiseerd zijn. De CRISPmethodologie beschrijft een dataminingproces op een aantal niveaus:
het fasen-niveau, het generieketaken-niveau, het gespecialiseerdetaken-niveau en de procesinstantie.
Het doet meer denken aan een raamwerk dan aan een stappenplan, daar
van details wordt geabstraheerd.‘Dit
is ook de bedoeling. Ten eerste wil
het management, waar het model
meer voor bedoeld is, niet te veel
details lezen en ten tweede moet
het proces voor verschillende situaties inzetbaar zijn’, aldus Randy
Kerber.‘Een gedetailleerd procesmodel zou te veel onnodige discussie
losmaken.’
27
Figuur 1 illustreert de vier lagen van
het model. De bovenste twee lagen
worden in de CRISP-specificatie
beschreven. De stappen uit deze
lagen moeten voor iedere toepassing van het proces op de eigen situatie worden afgebeeld. Het CRISPmodel moet de kwaliteit van de
communicatie rond een dataminingproces verbeteren. Als de verschillende partijen weten wat ze kunnen
verwachten en kunnen verwijzen
naar het model, moet de kans op
succes kunnen worden vergroot.
Het probleem is dat de meerderheid
van de industrie dit procesmodel
niet ondersteunt. Volgens Ronny
Kohavi van Blue Martini Software
moeten ook de grote database-verkopers als Oracle en Microsoft aan
een dergelijk initiatief meewerken
om het beoogde effect te bereiken.
Een ander initiatief dat nog steeds in
ontwikkeling is, is dat van de active
templates. Een active template is
een door hyperlinks navigeerbare
informatiestructuur die acties, resultaten en documenten integreert [2].
Het moet het hergebruik van eerder
gedaan werk faciliteren, zorgen voor
het beter vastleggen van de resultaten, gebruikte methoden en denkprocessen en een beter begrip van
de business bewerkstelligen, om zo
tot een meer interactieve, open en
begrijpelijke omgeving voor datamining te komen.
Integratie in de business
Een andere belangrijke factor voor
het slagen van een dataminingproject wordt vaak het bestaan van een
echte vraag uit de organisatie
gezien. Omdat deze vraag niet uit de
lucht komt vallen, is het nodig om
bewustzijn van de mogelijkheden
bij de mensen te kweken. Vaak
wordt ook vergeten om de gevonden resultaten toe te passen en om
te zetten in gerichte acties. Kortom,
het proces is niet genoeg in het
bedrijfsproces geïntegreerd. Het antwoord op deze problemen is volgens Berry en Linoff [3] een iteratieve toepassing van datamining, zij
noemen dit de ‘positieve kringloop’:
1. Identificeer business-problemen
en gebieden waar data-analyse
meerwaarde kan opleveren.
2. Verander de gegevens in informatie met handvatten voor actiedatamining.
Het proces
Bij een datamining-exercitie kunnen meestal een aantal stappen worden
onderscheiden. Een dataminingproces is echter elke keer verschillend,
omdat het erg afhangt waarvoor datamining wordt toegepast en het een
iteratief proces is. Stappen kunnen dus worden herhaald, wat vaak
gebeurt door bijvoorbeeld meerdere technieken op de dataset los te laten,
of er moet worden teruggegaan naar een eerdere stap. Gedurende het
hele proces is het belangrijk goed vast te leggen wat er wordt gedaan; dit
voorkomt dat bij een itererende stap werk wordt herhaald.
Grofweg kunnen we de volgende stappen onderscheiden:
1. Opstartfase. Volgens experts werkt datamining het beste als er een
specifiek probleem is dat moet worden opgelost. Voordat er aan de
werkelijke datamining-exercitie begonnen wordt, is het raadzaam om
eerst een projectplan op te stellen, waarin een omschrijving van het
probleem, een kosten/baten-analyse, de doelen en de succescriteria
zijn opgenomen.
2. Gegevensoriëntatie. Deze fase behelst het selecteren van de data om
het probleem op te kunnen lossen, het verkennen van de data om er
een ‘gevoel’ voor te krijgen en het beschrijven van de data.
3. Gegevenspreparatie. Nadat de juiste gegevens zijn geselecteerd,
moeten ze worden geprepareerd voor de werkelijke analyse. De
gegevens moeten worden opgeschoond, omdat er altijd waarden ontbreken en er fouten in zitten. Hier kunnen dan bijvoorbeeld gemiddelden voor worden ingevuld, of men kan besluiten de waarde niet in
beschouwing te nemen. Ook moeten de gegevens in de juiste vorm in
één tabel worden gegoten en moeten er vaak transformaties op de
tabel plaatsvinden. Deze zijn nodig om extra informatie toe te voegen,
zoals ratio’s en sommaties (bijvoorbeeld per klant) en om eventueel
de distributie van de attributen te veranderen.
4. Modelleringsfase. In deze stap wordt het algoritme op de gegevensset losgelaten. Vaak wordt in het tool, dat ook van hulp kan zijn in de
vorige fase, een techniek geselecteerd, waarna een aantal parameters
moet worden ingesteld en de tabel kan worden gemined. Het is aan te
raden eerst de set op te delen en te testen op een deelverzameling,
zodat een indicatie kan worden verkregen wat goede modellen zouden kunnen zijn. Deze kunnen dan op de hele database worden losgelaten. Volgens de statistiek moeten de gegevens vervolgens worden
verdeeld in een trainingset en een testset. Op de trainingset wordt het
model ‘getraind’ en met de testset kan vervolgens worden gekeken of
het model werkt. Classificeert het model bijvoorbeeld een record uit
de testset in de juiste categorie? Zo ja, dan werkt het waarschijnlijk
ook op een ‘nieuw’ record.
5. Evaluatiefase. Hier moet worden afgevraagd of het vereiste doel
behaald is en of herhalingen nodig zijn. Nuttig is een document op te
stellen met een beschrijving van het verloop van het proces. Wat is er
waar fout gegaan?
6. Actiefase. Voor de gevonden resultaten moet een strategie worden
bepaald. Er moet gezorgd worden dat de informatie bij de juiste personen terechtkomt en dat acties worden genomen om het probleem
op te lossen.
3. Onderneem acties op basis van de
informatie.
4. Meet de resultaten van de acties
en gebruik deze gegevens voor de
ontwikkeling van nieuwe inzichten en verbetering van het proces.
Volgens Ronny Kohavi kan deze
kringloop in het bedrijfsproces worden geïntegreerd door middel van
een workflowsysteem. ‘Een eindgebruiker moet zijn vraag kunnen stellen, waarna het systeem de vraag
dirigeert naar de betreffende per-
soon die hem kan beantwoorden.
Het antwoord moet vervolgens
weer terecht komen bij de persoon
met het probleem.’
Thierry Zamorra van het direct marketingbureau FusionDM vindt het
oude dataminingproces eenvoudig
te langdradig. ‘Verticale applicaties
kunnen dan ook een aanvulling zijn
op de traditionele manier van datamining, door de hiermee gevonden
kennis te verspreiden aan de gebruikers.’ Meer over verticale applicaties
is te vinden in de paragraaf Tools.
KM 2000, nummer 3
28
Datamining moet volgens de meeste
experts dus als een apart proces in
het bedrijf worden ingericht, al is de
vorm ervan uiteraard erg afhankelijk
van de toepassing waarvoor datamining wordt gebruikt. Datamining in
de ad-hoc vorm vereist een andere
inbedding dan de online variant. Bij
die laatste is datamining onderdeel
van het primaire proces, doordat bijvoorbeeld de call centermedewerkers afhankelijk zijn van de informatie
die het dataminingproces oplevert.
Tools
Een aantal jaren geleden begonnen
bedrijven met het maken van datamining tools, die technieken herbergden die erg veel weg hadden
van de reeds bestaande statistische
technieken. De term datamining
beloofde veel meer dan de naam statistiek, waardoor datamining en hun
tools populair werden en even werd
vergeten dat het eigenlijk statistiek
was wat men toepaste. De datamining-hype zette alles in een stroom-
kelen van een tool en zo groeiden
de twee verschillende markten, die
van statistische en die van datamining tools, naar elkaar toe. De tools
van toen boden echter lang niet de
Grote leveranciers van datamining tools
Bedrijf
SAS Software
SPSS
Silicon Graphics
IBM
Thinking Machines
HNC Software
Angoss
Sentient Machine Research (nl)
Data Distilleries (nl)
NeoVista
functionaliteit en de gebruikersvriendelijkheid die nu wordt geboden. Het laden van de verschillende
gegevens uit het datawarehouse was
vroeger een lastig karwei, terwijl de
tegenwoordige tools ODBC-compa-
Phases
CRISP
Process Model
Generic tasks
Specialized tasks
Mapping
Process Instances
CRISP Process
Figuur 1
Het CRISP-DM model.
versnelling en de research-inspanningen namen zienderogen toe.
Hierdoor zijn in de loop der jaren
een grote hoeveelheid tools op de
markt gekomen [4], voornamelijk in
de vorm van suites, pakketten waarmee een breed scala aan problemen
kan worden aangepakt. Ook de
bedrijven die uit de statistische hoek
komen, zoals SPSS, begonnen door
de datamining-golf met het ontwik-
KM 2000, nummer 3
erg veel van elkaar in prestatie als
het gaat om precisie van modellen.
Afhankelijk van de context zijn er
wel wat verschillen. Bij de Darwin
tool van Thinking Machines bijvoor-
tible zijn en dit probleem veel kleiner is [5]. Ook de visualisaties en de
gebruikers-interface zijn over het
algemeen sterk verbeterd. De grote
tool-fabrikanten, zoals IBM, SAS, SPSS
en Silicon Graphics proberen deze
visualisaties steeds interactiever te
maken om zo de gebruikersvriendelijkheid nog verder te vergroten. De
tegenwoordige datamining tools,
met name de grote, verschillen niet
Pakket
Enterprise Miner
Clementine
MineSet
Intelligent Miner
Darwin
Verschillende verticale oplossingen
Knowledgeseeker
DataDetective
DataSurveyor
Retail Decision Suite
beeld, wordt de hardware meegeleverd. Darwin presteert het beste als
het om heel grote datasets gaat [6].
Dit tool maakt gebruik van parallelle
processoren, waardoor de modellen
sneller kunnen worden doorgerekend, en heeft een hele lichte client
component. Als de crux echter bij
service ligt, kan beter voor een groot
bedrijf worden gekozen en is IBM
Intelligent Minor of SAS Enterprise
Miner een goede keuze.
De meeste tools draaien op de
meest bekende platforms als UNIX
en NT en zijn inzetbaar in een
client/server-omgeving, waardoor
verschillende analisten op hun
werkstation analyses uit kunnen
voeren en de berekeningen op de
server worden gedaan. Fabrikanten
proberen de zwaarte van de applicatie aan de clientkant echter steeds
kleiner te maken, zodat het straks
mogelijk is via de web-browser te
minen en kennis nog makkelijker
kan worden verspreid.
Volgens de experts kunnen en moeten de tools echter nog een stuk
worden verbeterd. Datamining is
nog steeds een arbeidsintensief proces, vooral bij het schoonmaken van
de gegevens en bij het bouwen van
modellen. Omdat de tools geen kennis van de werkelijke wereld hebben, weten ze niet vanzelf het verschil tussen de soorten variabelen
en beschouwen ze bijvoorbeeld de
Amerikaanse postcodes als een continu getal. Gelijkende postcodes
kunnen echter fysiek een eind uit
29
elkaar liggen. Om de tools op dit
soort problemen te laten anticiperen is een uitdaging voor de fabrikanten. Ook is het datamodel waarop kan worden gemined erg beperkt.
De tabel waarop wordt gemined
moet één geaggregeerde tabel zijn.
Hierdoor is het vaak lastig de resultaten weer terug te voeren naar de
werkelijke records. Ronny Kohavi:
‘Vandaag de dag moeten we van de
store naar de star en dan naar de platte tabel. Ik denk dat we moeten kunnen minen direct van het star-schema, dus zonder het uitvoeren van een
join.’ Met de star doelt hij op de database-schema’s die het product zijn
van een datawarehouseproject.
Een andere kwestie van datamining
is het integreren van dataminingfunctionaliteit in verticale tools en
applicaties. ‘De early majority kijkt
naar dingen als return on investment en de kans op succes van een
project. Om datamining door de
early majority te laten accepteren
moet je laten zien dat je:
1. Er grote concurrentievoordelen
mee kunt behalen;
2. De productiviteit van een kritische succesfactor kunt vergroten;
3. De totale operationele kosten
kunt verminderen.
De manier om dit te doen is om je
product verticaal te maken. Dit is
dan ook waar verschillende bedrijven mee bezig zijn.
Verticale applicaties
Omdat de traditionele datamining
klaarblijkelijk in de praktijk een aantal nadelen heeft en er zodoende
vraag is naar een specifiekere, makkelijker toepasbare tool die beter in
het bedrijfsproces valt te integreren,
worden er steeds meer verticale
tools ontwikkeld voor toepassingen
als e-commerce en CRM (Customer
Relationship Management). CRM,
een nieuwe hype, kan worden gebruikt om (realtime) marketing-campagnes te creëren aan de hand van
de gecombineerde gegevens van de
online gebruiker en zijn historische
gegevens. Datamining is één van de
bouwstenen van dit pakket. Blue
Martini Software heeft een dataminingmodule als onderdeel van zijn ecommercepakket. Het pakket stelt
een e-commercewinkel in staat om
zijn klanten één-op-één aanbiedingen te doen en het klantenbestand
en het productenassortiment bij te
houden. Het veranderen van de tools
om zo te integreren in verticale applicaties voor bijvoorbeeld e-commerce
is echter niet zonder problemen. De
redenen hiervoor zijn de volgende:
Opgekocht
ISL Clementine
Hyperparallel
Thinking machines
Bedrijf
SPSS
Yahoo
Oracle
• Dure componenten. Datamining
is meestal slechts één van de vele
componenten in een verticaal
tool, maar een datamininglicentie
is meestal erg prijzig en hierdoor
is het moeilijk een betaalbaar verticaal product te maken.
• Weinig experts. Er zijn te weinig
mensen met genoeg expertise van
alle applicaties die geïntegreerd
moeten worden.
• Meerdere systemen. Meerdere
systemen van verschillende fabrikanten, met verschillende interfaces, moeten worden geïnte-
Website
www.acm.org/sigkdd/
www.kdnuggets.com/
www.cs.bham.ac.uk/~anp/TheDataMine.html
www.upside.com/texis/mvm/story?id=36d4613c0
www.almaden.ibm.com/cs/quest/publications.html
www.crisp-dm.org/
www.eecs.wsu.edu/~hillol/pubs.html
www.megaputer.com
greerd, waardoor dit een lastig
proces kan zijn. Ook zijn, zoals
eerder al gesignaleerd, er voor de
meeste datamining tools geen
API’s gedefinieerd.
Een oplossing van dit probleem zou
kunnen komen van het bedrijf
MegaPuter. Dit bedrijf levert zogenaamde componenten, COM-objecten, waarmee specifieke applicaties
modulair kunnen worden gebouwd
en dus maar voor enkele componenten in plaats van een hele suite
moet worden betaald. Ook dit initiatief mist echter de steun van de
grote spelers en heeft daardoor een
geringe kans op succes.
Toekomst
De laatste jaren zijn in de dataminingbedrijfstak de kleine bedrijven
steeds meer opgeslokt door de gro-
Datum
Juni 1999
Eind 1998
Maart 1999
tere bedrijven die dataminingfunctionaliteit niet als een alleenstaand pakket willen verkopen, maar als onderdeel van een compleet business intelligence pakket of een verticale applicatie.Volgens Robert Groth - consultant en auteur van boeken over datamining - blijven er maar een vier- of
vijftal spelers over op de zogenaamde
horizontale toolmarkt en dit zullen
de huidige grote toolmakers worden.
De zojuist geschetste trend is de laatste tijd dan ook al tot uiting gekomen in de overnames van dataminingbedrijven door grotere spelers.
Opmerkingen
SIGKDD - Special Interest Group on Knowledge
Discovery in Data and Datamining
Voor alles wat met datamining te maken heeft,
inclusief nieuwsbrief
Informatie over research
Artikel over datamining en privacy
Index artikelen IBM Almaden instituut
Informatie over CRISP-DM standaard
Technische artikelen over datamining
COM and OLE in Datamining: Perspectives, benefits and
implementations, Yuri Slenko en Sergie Ananyan, 1997
KM 2000, nummer 3
30
Deze zullen de dataminingcomponent integreren in hun kernactiviteiten. Op de lange termijn zal het voor
sommige toepassingen zo zijn dat
datamining aan de buitenkant niet
meer zichtbaar is. Ook Microsoft
doet aan dataminingactiviteiten. Het
heeft haar OLE DB-specificatie voor
SQL Server uitgebreid met een open
interface om het mogelijk te maken
SQL Server met datamining tools en
applicaties te integreren. ‘Het eindresultaat voor de klant is dat deze
technologie, die meestal duur en
gecompliceerd was, nu een deel kan
worden van de business’, zegt Barry
Goffe van Microsoft [7]. Het domein
van datamining belooft sterk te
groeien door de verdere uitbreiding
van het web en de vele e-commercewinkels. De vraag is of er genoeg
ruimte blijft voor kleine bedrijven
die actief zijn in de markt.‘Deze zullen bepaalde niches moeten ontdekken om te kunnen blijven opereren,
en dit houdt in dat ze hun product
tijdig zullen moeten aanpassen en
verbeteren’, aldus Thierry Zamorra.
Een verdere uitdaging lijkt het verder automatiseren van het marketingproces en de tools nog makkelijker te maken zodat de kans op succes verder kan worden vergroot. Pas
dan zal datamining echt volwassen
zijn.
[5] ODBC: Open DataBase Connectivity;
een standaard database connectieprotocol.
[1] Data mining for fool’s gold, Craig
Stedman. Computer World, december
1997.
[7] Microsoft Plan to Bring Datamining
to the masses. Information week,
25 mei 1999.
[6] An evaluation of High-end Data
Mining tools for Fraud selection, Dean
W. Abbot, I. Philip Matkovsky en John F.
Elder. 1998.
[2] Active templates: Comprehensive
Support for the Knowledge Discovery
Process, Randy Kerber, Hal Beck,
Tej Anand en Bill Smart. American
Association for Artificial Intelligence,
1998.
[3] Data Mining Techniques, For
Marketing, Sales and Customer
Support, Michael J.A Berry en Gorden
Linoff. Wiley Computer Publishing,
1997).
[4] Zie de website KDnuggets voor een
overzicht: www.kdnuggets.com.
Dit artikel is een bewerking van het in
Technieuws 37/9 verschenen artikel
Datamining klaar voor de massa?
De auteur is stagiair bij het kantoor
van technisch-wetenschappelijke
attachés bij de Nederlandse ambassade
in San Mateo, Californië.