Denken Over Data

Mijn naam is Richard Steijn en ik ben dol op data dingen. In deze blog deel ik mijn ideeën, ervaringen, hersenspinsels en wat al niet meer over dit onderwerp.

Bezoek ook eens de website van Vaiper, mijn bedrijf.

Categorie: Onderwijs

  • Managementinformatie: Wat is waar?

    Managementinformatie: Wat is waar?

    In iedere organisatie van enige omvang speelt het uitwisselen van informatie een belangrijke rol.  Het komt dan ook geregeld voor dat er van bepaalde informatie verschillende versies circuleren. Stel je voor: Een hogeschool slaat van alle ingeschreven studenten informatie op in een centraal inschrijfsysteem. Daarnaast gebruikt iedere faculteit haar eigen op zichzelf staande studievolgsysteem (voor de niet ingewijden: een systeem waarin studieresultaten worden bijgehouden).  Ook hierin is informatie over studenten opgeslagen die oorspronkelijk bij instroom is overgenomen van het centrale inschrijfsysteem. Zowel in het inschrijfsysteem, als in het studievolgsysteem kunnen vanaf dat moment onafhankelijk van elkaar wijzigingen worden aangebracht op de studentgegevens. Het is dientengevolge heel goed mogelijk dat in beide systemen tegenstrijdige informatie rondom een bepaalde student is opgeslagen. Dit voorbeeld is slechts het topje van de ijsberg. Soortgelijke problemen doen zich voor bij medewerkers die zowel in het HRM systeem, het financiële systeem en soms ook in het studievolgsysteem (docenten) staan opgeslagen. En nog een (uit eigen ervaring): Als studenten die ingeschreven staan bij faculteit A een cursus volgen bij faculteit B dan wordt de betreffende cursus in het studievolgsysteem van beide faculteiten opgenomen.

    En dan rijst nu de vraag: Wat is waar? Je zou kunnen zeggen dat dit op zich geen interessante vraag is. De student kan immers netjes zijn studie doorlopen en daar is het ons toch allemaal om te doen. Dit is op zich waar. Het punt is alleen dat wanneer we managementinformatie willen gaan afleiden, we voor een dilemma staan. Deze managementinformatie is geen doel op zich maar speelt een belangrijke rol in de kwaliteitscyclus (en uiteindelijk ook in het accreditatieproces). Als de juiste mensen op het juiste moment kunnen beschikken over de juiste managementinformatie, kunnen er beter gestuurd worden.  Misschien doorloopt de student zijn studie dan wel wat sneller, of sluit zijn kennis beter aan op de arbeidsmarkt, om maar eens wat te noemen.

    Hoe voorkomen we dat er onduidelijkheid bestaat over welke informatie we moeten gebruiken voor het afleiden van managementinformatie?

    Een antwoord hierop is Master Data Management (MDM). Het komt er dan op neer dat van alle niet transactionele informatie er een centrale administratie wordt aangewezen die als leidend beschouwd wordt binnen alle werkprocessen in de organisatie. Het decentraal wijzigen van gegevens die onder het MDM regime vallen is dan dus vloeken in de kerk. Dit betekent uiteraard wel dat alle werkprocessen en geautomatiseerde systemen hierop geënt moeten zijn. Dit is geen sinecure. Teruggrijpend naar de bovenstaande voorbeelden moet er dan MDM worden toegepast op de entiteiten Student, Medewerker en Cursus. Als er gekozen is voor een data warehouse als middel voor het verkrijgen van managementinformatie is het laden ervan door MDM een stuk eenvoudiger geworden. Transactionele data uit de verschillende bronsystemen kan dan relatief eenvoudig aan de entiteiten gekoppeld worden die onder MDM vallen.

    Veel organisaties “kiezen” noodgedwongen voor een alternatief voor MDM. Namelijk door voor het verzamelen van brondata voor managementinformatie te kiezen voor een bronsysteem dat als leidend gezien moet worden. Deze leidende data wordt dan eventueel nog aangevuld met data uit niet leidende bronnen. Dit levert in de praktijk bijna per definitie problemen op met betrekking tot het aan elkaar koppelen van data uit verschillende bronsystemen. Het kan in dat geval haast niet anders dan dat de trukendoos open moet om toch maar zoveel mogelijk data wel te kunnen koppelen. Tijdens dit koppelproces zal naar alle waarschijnlijkheid bepaalde data afkomstig uit niet leidende systemen, genegeerd worden. In het beste geval zijn alle betrokkenen (van eigenaren van de bronsystemen tot aan eindgebruikers van de managementinformatie) het eens over de gekozen aanpak. Maar uiteindelijk zullen slechts weinigen kunnen overzien wat de gevolgen zijn van de toegepaste trucs voor de kwaliteit van de managementinformatie die hieruit voortkomt. Waarschijnlijk zijn dit alleen die personen die verantwoordelijk zijn voor de technische realisatie ervan. De verantwoordelijkheid voor datakwaliteit wordt op deze manier bij de verkeerde personen gelegd. Hoe dan ook: deze praktijk komt zeer veel voor.

    Bij het ontbreken van MDM pleit ik ervoor om in ieder geval alle brondata ‘as is’ te bewaren met een tijdsstempel. Namelijk het is best mogelijk dat we bijvoorbeeld door voortschrijdend inzicht bedenken dat het koppelen van data uit verschillende bronnen toch anders moet verlopen. Als we data historisch hebben bewaard, kunnen we met terugwerkende kracht deze nieuwe manier van koppelen alsnog gaan uitvoeren. Een data warehouse ingericht volgens principes als Data Vault  en Anchor Modelling is hier heel geschikt voor.

    We zijn nu op de helft. Als we eenmaal zover zijn dat de we brondata bij elkaar hebben gezocht, moet er nog managementinformatie van gemaakt worden.  In de volgende blogpost ga ik hier wat dieper op in.

  • Accreditatie in het onderwijs en de PDCA Cyclus

    Accreditatie in het onderwijs en de PDCA Cyclus

    Accreditatie is in hoger onderwijsland een heet hangijzer. O.a. de bekostiging en het imago van de instelling of opleiding hangen hier van af dus eens in de zes jaar is het weer tijd om de bloemetjes buiten te zetten. Het accreditatieproces wordt veelal ervaren als een grote inspanning. Begin dit jaar is door de NVAO het nieuwe accreditatiestelsel voor instellingen in het hoger onderwijs geïntroduceerd. De focus dit nieuwe stelsel is verschoven van kwaliteitsborging naar kwaliteitsverbetering. Daarnaast zou het de administratieve last voor onderwijsinstellingen wat moeten verlichten, met name door de introductie van een instellingstoets kwaliteitszorg. Een onderwijsorganisatie die op deze toets een positieve beoordeling behaalt, komt in een ander (lichter) accreditatie regime terecht voor haar opleidingen, waarvoor dus minder informatie aangeleverd hoeft te worden. Voor meer info zie kijk hier.

    Instellingen en opleidingen moeten voor accreditatie twee typen informatie aanleveren. Enerzijds moet tekstuele informatie worden geleverd zoals diverse beleidsstukken rondom kwaliteitszorg, een kritische zelfreflectie en niet kwantificeerbare bewijzen van deugdelijkheid van de onderwijskwaliteit. Anderzijds zal ook de nodige getalsmatige onderbouwing geleverd moeten worden om de effectiviteit van de kwaliteitszorg aan te tonen. Zeker nu focus nadrukkelijker op kwaliteitsverbetering komt te liggen zal een opleiding des te meer moeten kunnen aantonen hoe zij deze kwaliteitsverbetering dan wel denkt te kunnen meten en vervolgens hierop te acteren.

    Een accreditatie kost meer tijd en moeite naarmate kwaliteitszorg een slechter geïntegreerd onderdeel van het werkproces is. Als kwaliteitszorg door de gehele organisatie structureel aangepakt zou zijn, zou het opleveren van de juiste informatie voor de auditcommissie niet zo’n grote last zijn. Beleidsplannen kunnen dan zo van de plank getrokken worden en de getallen die bewijzen dat deze plannen werken kunnen vlot berekend worden. Namelijk de data die een organisatie gebruikt om kengetallen te berekenen die de effectiviteit van haar kwaliteitszorg inzichtelijk maken voor de auditcommissie zou dezelfde moeten zijn als waarop de organisatie de haar processen stuurt. Als dit niet het geval is, dan zou men zich moeten realiseren dat er kennelijk iets mis is met het ‘Check’ deel in de PDCA cyclus die het hart van het stelsel van kwaliteitszorg vormt. Dien ten gevolge kan aan het ‘Act’ deel ervan ook geen goede invulling gegeven worden, wat weer tot de conclusie leidt dat men kwaliteitszorg niet op orde heeft.

    Bovengenoemd scenario treedt typisch op als men de accreditatie als een zesjaarlijkse verplichte exercitie ziet waarin men even door een hoepeltje moet springen en na het bereiken van een positief oordeel weer rustig achterover kan leunen.

    Om de (verbetering van) kwaliteit van een onderwijsproces te kunnen meten zal op regelmatige basis aan zowel aan de input als aan de output kant gemeten moeten worden. Informatie aan de output kant kan worden vergeleken met een norm om zo te bepalen of men op koers ligt. Hierbij dient te worden opgemerkt dat veel processen op zich weer op te delen zijn in deelprocessen. Op alle niveaus kan gemeten en vergeleken worden.

    Op het niveau van opleiding kun je wat betreft input bijvoorbeeld denken aan het vastleggen van informatie rondom instroom van studenten zoals: de gevolgde opleidingsvorm, nationaliteit, leeftijd, vooropleiding, geslacht etc. Wat betreft output kun je denken aan informatie rondom uitstroom zoals: uitstroom met/zonder diploma, moment van uitvallen, doorstroom naar betaalde baan of vervolgopleiding, tevredenheid over de opleiding etc.

    Op cursusniveau kun je aan de inputkant denken aan het vastleggen van informatie rondom bestede FTE’s per werkvorm (hoorcollege, werkcollege, stage etc.), bepaalde karakteristieken van docenten zoals: specialisme, type aanstelling, nationaliteit en studenten gebonden aspecten zoals: hoofdopleiding, nationaliteit, major of minor cursus, cursus wel niet verplicht etc. Aan de outputkant valt in dit verband te denken aan het werkelijke aantal contacturen tussen student en docent, het werkelijk aantal besteedde uren door student en docent, studenttevredenheid over: cursusmateriaal, deskundigheid van de docent, didactische vaardigheden van de docent, bereikbaarheid van de docent, studielast etc.

    Met name de informatie aan de outputkant van processen is doorgaans lastig of zelfs onmogelijk op een later tijdstip (bij een accreditatie) te bepalen. Het is daarom zaak om te meten en vast te leggen zo snel dit mogelijk is. Deze regel moet ‘ingebakken’ zijn in ieder proces in de organisatie. Maar dat alleen is niet genoeg. Als het meten van de kwaliteit per geval (bijvoorbeeld per cursus) weer op een andere wijze gebeurt en wordt vastgelegd, resulteert dit alsnog in heel veel werk als je dit soort informatie wilt bundelen in een overzicht of kengetal. Daarom is het nodig dat er een algemeen geldende werkwijze van evaluatie wordt gehanteerd, over de verschillende processen heen. De verzamelde data kan dan weer op een centrale plek worden bewaard, en bijvoorbeeld via een data warehouse worden ontsloten voor de organisatie. Deze werkwijze moet organisatiebreed gedragen worden en helder zijn vastgelegd. Dit is dan meteen een mooi document om aan de auditcommissie te overhandigen. Dit kan mijns inziens alleen maar werken als iedereen in de organisatie het belang hiervan inziet en de managementinformatie die hierdoor beschikbaar komt ook kan gebruiken om de eigen processen bij te sturen op het moment dat het nodig is en niet alleen en niet alleen voor de accreditatie. Het accreditatieproces is op deze manier het logische verlengde van de hele kwaliteitszorgcyclus.

  • Lean en diplomering in het hoger onderwijs

    Lean en diplomering in het hoger onderwijs

    Onlangs woonde ik een bespreking bij waarin gebrainstormd werd over het toepassen van Lean principes op verschillende processen in het hoger onderwijs.

    Ook het proces rondom (terechte of onterechte) diplomering, dat momenteel erg in de belangstelling staat, kwam ter sprake. Nu zijn managementtechnieken op zich niet helemaal mijn stiel maar de managementinformatie die er onvermijdelijk bij komt kijken is dat wel. Daarom heb ik besloten hier toch maar eens een schrijfsel aan te wagen. De nadruk ligt hier met name op kengetallen die een rol spelen terwijl het o zo belangrijke managen van werkprocessen schandelijk onderbelicht blijft.

    Laten we beginnen met het kernachtig beschrijven van de hoofdgedachte achter Lean: Het continue verbeteren van het werkproces zodanig dat er in de loop der tijd steeds meer waarde richting de klant gaat met steeds minder middelen. Om deze almaar groeiende waarde richting de klant te realiseren geeft het management de gehele organisatie een zogenaamde Challenge. Het is dan de bedoeling dat de medewerkers van de organisatie met vereende krachten deze uitdaging aangaan. Op de achtergrond geeft het management hier sturing aan. Binnen dit kader is veel ruimte voor eigen initiatief van de medewerkers. De intrinsieke motivatie van de medewerkers en het zelforganiserend vermogen van de organisatie wordt op deze manier gestimuleerd. Verder is Lean management doel gestuurd in tegenstelling tot probleem gestuurd. Dit wil zeggen dat men zich niet dient te richten op het oplossen van problemen die bestaan in de huidige situatie maar dat de focus moet liggen op het bereiken van de Challenge.

    Als we dit alles vertalen op het proces “hoger onderwijs” moeten we ons eerst afvragen: Wie is de klant? Is dit de individuele student? Of het bedrijfsleven? Of is het de samenleving? En wat is het product (waarde richting de klant)? Cursussen? Gediplomeerde studenten? Verschillende zienswijze n zijn mogelijk maar laten we voor nu even aannemen dat de klant van het hoger onderwijs de Nederlandse samenleving is. Deze wil (en betaalt ervoor) dat het hoger onderwijs zoveel mogelijk gediplomeerde studenten aflevert.

    Afgaand op de nieuwsberichten is men bij sommige opleidingen wat doorgeschoten in het streven naar het afleveren van zoveel mogelijk gediplomeerde studenten. Dit is op zich wel een begrijpelijke ontwikkeling, omdat de onderwijsinstellingen voor iedere afgestudeerde student geld ontvangen. Kennelijk is er bij de betreffende opleidingen vooral gestuurd op het kengetal “Aantal gediplomeerde studenten”. De onderwijsinspectie concludeerde echter dat er in bepaalde gevallen toch iets te gemakkelijk een diploma is uitgereikt. Het niveau van de betreffende afgestudeerden bleek te laag. Ondanks de financiële prikkels die de overheid zelf in deze richting geeft, is het kengetal “Aantal gediplomeerde studenten” toch niet het juiste gebleken. Als we hier de Lean filosofie op los laten, zou het volgende een mooie Challenge zijn voor een onderwijsorganisatie:

    Lever de komende vier jaren 10% meer goed opgeleide studenten af dan de afgelopen vier jaren voor dezelfde kosten.

    Merk op dat in deze Challenge er zowel kwantitatieve als kwalitatieve eisen worden gesteld. Merk ook op dat het maximeren van de inkomende geldstroom geen rol speelt in deze Challenge. Merk tenslotte op dat in de Challenge, geheel in lijn met de Lean gedachte, niet gesproken wordt over het oplossen van de problemen die spelen in huidige situatie.

    Stel je streeft deze uitdaging na als onderwijsorganisatie, wat is dan een nuttig kengetal dat je kunt gebruiken om te bepalen of je nog op koers ligt? Om deze vraag goed te kunnen beantwoorden wil ik eerst nog wat dieper ingaan op de precieze redenen waarom de onderwijsinspectie bepaalde opleidingen precies afgekeurd heeft. Dit komt met name omdat de betreffende opleidingen de Wet op het Hoger onderwijs en Wetenschappelijk onderzoek (WHW) niet goed hebben nageleefd. In de WHW staat o.a. dat iedere opleiding een Onderwijs en Examenregeling (OER) moet hebben en wat hier minimaal in moet staan. In een OER moeten zaken beschreven zijn zoals de doelstelling van de opleiding, welke tentamens er zijn, in welke volgorde ze moeten worden afgelegd, te behalen studiepunten, de regels voor vrijstellingen, de nakijktermijn van tentamens, de geldigheidsduur van behaalde tentamencijfers, de rol de examinator en de examencommissie etc. Kortom: De OER beschrijft alle spelregels waaraan zowel de student als de onderwijsinstelling zich moeten houden voor de aaneengesloten periode die een student verbonden is aan de opleiding. Het is een belangrijk document waaraan de student rechten kan ontlenen.

    De door de inspectie afgekeurde opleidingen hielden zich niet in alle gevallen aan hun eigen OER. Zo viel het in bepaalde gevallen op dat een student binnen een bepaald tijdsbestek ineens ongeloofwaardig veel studiepunten heeft ontvangen. Dit wijst erop dat er iets niet in de haak was met de wijze waarop en het tempo waarin tentamens beoordeeld worden. Ook kwam het voor dat studenten die hun studie hadden onderbroken om in het bedrijfsleven te gaan werken en na een tijd de studie weer wilden hervatten, vrijstellingen kregen op basis van opgedane praktijkervaring zonder dat onderbouwd was waarom deze vrijstellingen gerechtvaardigd waren. Ook kwam het voor dat eindresultaten waren goedgekeurd door andere dan de hiervoor aangewezen personen. Met behulp van de OER is na te gaan wat hier fout is gegaan.

    Het hebben van een goede OER en het hiernaar handelen is dus grote mate bepalend voor wat de inspectie ziet als de kwaliteit van de opleiding. Terugkomend op de vraag, wat een nuttig kengetal is om te bepalen of je als onderwijsorganisatie nog op koers ligt om de eerder genoemde Challenge te behalen, kom ik op de volgende:

    Het gemiddelde (bijvoorbeeld per cohort) van de minimaal benodigde tijd die studenten nodig hebben om de beoogde eindkwalificatie te halen conform de OER.

    Hoe lager dit kengetal hoe beter. Bovenstaande definitie zegt iets over zowel kwantiteit (gemiddelde benodigde tijd) als kwaliteit (conform de OER). Er komt wel heel wat bij kijken om een dergelijk kengetal ook daadwerkelijk en op regelmatige basis te kunnen uitrekenen. Mijns inziens is hier het gebruik van een geautomatiseerd systeem ter ondersteuning van workflow van de processen zoals beschreven in de OER onontbeerlijk. Zo’n OER ondersteunend systeem (OEROS) kan naast ondersteunend ook in zekere mate sturend worden gebruikt. Hieronder een simpel voorbeeld:

    Een opleiding heeft als regel dat een tentamencijfer pas geldig is als deze in het OEROS als zodanig is geregistreerd. In het OEROS kan alleen een gebruiker die als lid van de examencommissie geregistreerd staat het cijfer de status geldig geven. Het cijfer kan alleen worden ingevuld door de in het systeem bekende (eerste, tweede, derde, …) beoordelaar van het betreffende vak. Een diploma kan pas worden uitgeprint als voor alle vakken die volgens de OER gevolgd moeten zijn een geldig eindcijfer is geregistreerd.

    Een OEROS brengt het geautomatiseerd berekenen van ons kengetal binnen handbereik en dat is waar we naar toe willen. Met een systeem alleen komen we er natuurlijk niet. Het kan alleen werken als er ook een gezonde invuldiscipline is. De al eerder genoemde intrinsieke motivatie van de medewerkers is hier van wezenlijk belang voor het punctueel en eerlijk bij houden van het studentdossier.

    Ik besef ook dat het volledig operationaliseren van het kengetal niet eenvoudig zal zijn. Het is bijvoorbeeld al lastig om in sommige gevallen te bepalen bij welk cohort iemand hoort. Dit speelt bijvoorbeeld bij studenten die halverwege de studie een uitstapje naar het bedrijfsleven hebben gemaakt en enkele jaren later de studie weer voortzetten. Extra lastig wordt het als je beseft dat veel opleidingen geregeld aanpassingen aanbrengen in de OER. Soms geldt een OER slechts een jaar, soms voor een cohort. Het is dus vaak lastig om te bepalen welke OER er op een bepaald moment geldt voor een student. Dit is een complex probleem dat eerst moet worden opgelost wil de door mij voorgestelde benadering gaan werken. Lees ook dit stuk eens voor een goede beschouwing over dit onderwerp.

    Een ander punt is het door mij voorgestelde kengetal suggereert dat een opleiding kwalitatief goed is als maar netjes alle formele regels gevolgd worden. Het volgens de regels handelen (procedurele kwaliteit) is natuurlijk maar de helft van het verhaal. Naast procedurele kwaliteit is er ook nog zoiets als inhoudelijke kwaliteit. Ook hiervoor kan een kengetal gedefinieerd worden volgens de Lean gedachte. Iemand een suggestie?