Meten van burgerschapscompetenties: een tussenstand Geert ten Dam1, Femke Geijsel1, Guuske Ledoux2, Rene Reumerman1 1 Instituut voor de Lerarenopleiding (ILO) 2 SCO-Kohnstamm Instituut Universiteit van Amsterdam Paper ten behoeve van de Onderwijs Research Dagen 6, 7 en 8 juni 2007 te Groningen Disclaimer (Delen uit) dit paper niet verspreiden of reproduceren zonder voorafgaande toestemming van het Instituut voor de Lerarenopleiding (ILO), [email protected] Meten van burgerschapscompetenties: een tussenstand 1. Inleiding De school is één van de omgevingen waarin jongeren burgerschap (kunnen) leren. In de afgelopen jaren is in vrijwel alle Europese landen burgerschap, al dan niet als apart vak, in het onderwijs geïntroduceerd (Eurydice, 2005). Eén van de koplopers was Engeland, waar eind jaren negentig ‘citizenship education’ als een van de vijf cross-curriculaire thema’s in het Nationale Curriculum werd opgenomen (Crick, 1998; Kerr, 1999). In 2000 kreeg burgerschapsvorming een vaste plaats in het onderwijs aan leerlingen van vijf tot elf jaar, en in 2002 werd het een nieuw vak voor leerlingen van elf- tot zestien. In Frankrijk is in 2001 voor de ‘lycées’ (15 tot 18 jaar) het nieuwe verplichte vak ‘éducation civique, juridique et sociale’ ingevoerd dat voortbouwt op de ‘éducation civique’ voor jongere leerlingen in het ‘collège’ (11 tot 14 jaar) (Onderwijsraad, 2003, p.42). Nederlandse scholen zijn vanaf 2006 verplicht een aanbod op burgerschap te verzorgen. In de manier waarop dat gebeurt en de invulling die aan burgerschap wordt gegeven, zijn scholen vrij (Ministerie van Onderwijs, Cultuur en Wetenschappen, 2005, zie ook Veugelers, 2006). Met het begrip ‘burgerschap’ doelen we op de bereidheid en het vermogen van mensen om deel uit te maken van een gemeenschap en daar een actieve bijdrage aan te leveren (vgl. Onderwijsraad, 2003). Over het ‘waarom’ van burgerschapsvorming zijn inmiddels boekenkasten vol geschreven. Over pedagogisch-didactische manieren om aan de gewenste doelen gestalte geven, is aanmerkelijk minder bekend (zie Schuitema, ten Dam & Veugelers, 2007). Gegevens over de effecten van het werken aan burgerschapsvorming in het onderwijs zijn helemaal nauwelijks voorhanden. Dit is zowel vanuit maatschappelijk als wetenschappelijk oogpunt een belangrijke lacune. Er ontbreekt niet alleen inzicht in datgene wat jongeren aan burgerschap leren op school, maar ook in de verschillen tussen scholen en tussen leerlingen onderling. Daarnaast hebben we vrijwel geen kennis over de elementen waaruit het brede begrip burgerschap is opgebouwd, evenals over de onderlinge verhouding tussen die elementen. Het ontbreken van empirische gegevens over burgerschapsvorming, heeft onder andere te maken met het ontbreken van geschikte meetinstrumenten. In Nederland is een paar jaar geleden een inventarisatie gemaakt van alle beschikbare instrumenten voor het meten en evalueren van sociale competentie (ten Dam, Volman, Westerbeek, Wolfgram & Ledoux, 2003).i Onder de noemer sociale competentie is tevens gekeken naar aspecten van burgerschap. De conclusie luidde dat de in omloop zijnde Nederlandstalige instrumenten niet of slechts zijdelings raken aan burgerschap, en in het laatste geval uitsluitend betrekking hebben op deelaspecten ervan (bijv. sociaal-communicatieve vaardigheden of attituden als ‘betrokkenheid bij anderen’). Veelal ontbreken gegevens over betrouwbaarheid en validiteit. Slechts één instrument is expliciet gericht op burgerschap. Dit Instrument Cross Curriculaire Competenties (Van der Wal, 2002) is gebaseerd op instrumenten die gebruikt zijn voor internationaal vergelijkend onderzoek, in het bijzonder de vragenlijst van de IEA Civic study. In deze IEA Civic study van Torney-Purta (2002; Torney-Purta, Lehmann, Oswald & Schlulz, 2001) ligt het accent op de kennis van leerlingen op het terrein van burgerschap, nodig voor politiek engagement, en op hun democratische attitude.ii Dit dekt echter slechts een deel van onze invulling van burgerschap. In dit artikel beschrijven we de ontwikkeling van een (gestandaardiseerd) meetinstrument voor burgerschap van jongeren in de leeftijd van elf tot zestien jaar als doel van onderwijs. In de hiernavolgende paragraaf gaan we eerst in op de discussie over 2 burgerschapsvorming en de bijdrage die het onderwijs daaraan kan leveren. We trekken daaruit conclusies ten aanzien van het meten van burgerschap. Vervolgens specificeren we onze onderzoeksdoelstelling. In de daarop volgende paragrafen verantwoorden we de stappen die we achtereenvolgens genomen hebben bij de constructie van het meetinstrument. 2. Burgerschapsvorming en onderwijs In algemene zin heeft burgerschap betrekking op de bereidheid en het vermogen van mensen om actief deel uit te maken van een samenleving. Om burgerschap meetbaar te maken, moet zowel een typering worden gegeven van de samenleving waar het om gaat, als van het vermogen om daarin te kunnen participeren. In de literatuur over burgerschap ligt het accent doorgaans op participeren in een democratische en pluriforme karakter van de samenleving (zie bijv. Kerr, 1999; Glass, 2000; Holmes, 2001; Naval, Print, & Veldhuis, 2002; Print & Coleman, 2002; Gordon, 2003; Haste, 2004; Torney-Purta, 2004). De moderne samenleving stelt specifieke eisen aan burgers. ‘Adequaat participeren’ betekent niet je gedragen volgens een vaste set normen, maar juist het flexibel kunnen omgaan met verschillen en verschillende (keuze)mogelijkheden (vgl. Giddens, 1996). In de geïndividualiseerde samenleving moeten jongeren leren om richting te geven aan de eigen ontwikkeling in wisselwerking met de omgeving en anderen. Daarnaast is het mede richting kunnen bepalen van de samenleving een wezenlijk aspect van burgerschap in een democratie. Burgerschap behelst meer dan participeren in een gegeven samenleving. Burgers moeten daaraan ook een eigen, kritische, bijdrage kunnen leveren (Wardekker, 2001). Voor een te ontwikkelen meetinstrument voor burgerschap moet vervolgens het vermogen om als burger in een democratische en pluriforme samenleving te handelen, nader worden gespecificeerd. Schuitema, ten Dam en Veugelers (2007) geven in een reviewstudie naar burgerschapseducatie een overzicht van de vaardigheden, kennis en attituden waarover burgers zouden moeten beschikken. Voorbeelden van vaardigheden zijn kritische denkvaardigheden, vaardigheden om van perspectief te kunnen wisselen, en communicatieve vaardigheden (bijv. Battistoni, 1997; Beane 2002). Met betrekking tot de kenniscomponent gaat het om inzicht in het functioneren van een democratische samenleving (bijv. Kerr, 1999; Hicks, 2001). Meer specifiek wordt kennis over regering, grondwet en burgerrechten benadrukt. Belangrijke attituden zijn respect, tolerantie, verantwoordelijkheid, betrokkenheid bij de samenleving, en het waarderen van verschillen tussen mensen (bijv. Grant; 1996; Cogan & Morris, 2001; Veugelers & de Kat, 2003). Ten slotte wordt ‘reflectie’ als een belangrijke component van burgerschapseducatie gezien (bijv. ten Dam & Volman, 2003). De genoemde vaardigheden, kennis en attituden zijn algemene aanduidingen voor componenten van burgerschap waaronder verschillende, deels conflicterende, opvattingen over burgerschap en burgerschapsvorming schuil gaan. Vanuit een pedagogische optiek onderscheidt Biesta (2006; Lawy & Biesta, 2006) twee visies op burgerschap: burgerschap-als-uitkomst en burgerschap-als-praktijk. De eerste visie werpt de blik op de toekomst. Burgerschap wordt gezien als een status die individuele jongeren bereiken nadat ze een bepaald ontwikkelingstraject hebben doorlopen. Centraal staat de vraag wat jongeren aan kennis, vaardigheden en houdingen moeten verwerven om later als burger aan de samenleving te kunnen deelnemen. Aan het onderwijs de taak deze elementen te onderwijzen in een ‘burgerschapscurriculum’. Een voorbeeld van deze benadering is de 3 klassieke formeel-juridische invulling van burgerschap, ofwel staatsburgerschap, is (zie bijv. Westheimer & Kahne, 2004). ‘Burgerschap-als-praktijk’ blijft bij het heden. Ook jongeren nemen deel aan het maatschappelijke leven, en zijn dus feitelijk al burger. In plaats van burgerschap te zien als de uitkomst van een individueel leertraject los van de activiteiten waarvoor wordt geleerd, stelt burgerschap-als-praktijk dat jongeren leren om burger te zijn door deel te nemen aan allerlei sociale en culturele praktijken die hun alledaagse leven uitmaken (gezin, vrije tijd, werk, school) en waarin ze interacteren met anderen (Lawy & Biesta, 2006). In onze samenleving gaat dit leren-in-context om ‘democratie leren’. Democratie wordt vervolgens ingevuld als ‘a mode of associated living’ (Dewey, 1966), en niet zozeer als een politiek systeem. In de woorden van De Winter: “…deze manier van leven (wordt) onder meer gekenmerkt door de bereidheid democratisch gezag te aanvaarden, door sociale rechtvaardigheid, het vermogen zich te verplaatsen in de positie van anderen, de erkenning dat mensen het recht hebben om van elkaar te verschillen, de bereidheid om anderen in hun waarde te laten, niet te discrimineren en door de wil om conflicten langs vreedzame weg op te lossen.” (De Winter, 2004, p.7). Vanuit deze gedachtegang moet onderwijs in burgerschap zich richten op het stimuleren van de sociale en kritische vermogens van jongeren (Lawy & Biesta, 2006). Idealiter zou de school zou hiervoor een ervaringsplaats moeten zijn. Een plaats waar jongeren democratische ervaringen kunnen opdoen èn een plaats waar jongeren gestimuleerd worden om te reflecteren op de ervaringen die ze elders opdoen. Bovenstaande visie op burgerschap is bovenal een visie op hoe jongeren burgerschap leren en derhalve relevant voor de analyse van burgerschapsvorming op school en de ontwikkeling van burgerschap bij leerlingen in de leeftijd van elf tot zestien jaar. Door te handelen in reële situaties, of dat nu is in inspraak- en overlegsituaties, in curriculum-gerelateerde onderwijssituaties of op het schoolplein, leren jongeren de wereld om zich heen kennen en interpreteren. Ze ontwikkelen zo bovendien een beeld van zichzelf in relatie tot die wereld, van de eigen mogelijkheden, voorkeuren, opvattingen enzovoorts. Burgerschapsvorming impliceert dus identiteitsontwikkeling (Haste, 2004; vgl. Holland, Lachicotte, Skinner & Cain, 1998). De uitkomst daarvan is niet op voorhand gegeven. Voor de opgave waarvoor wij ons gesteld hebben, het ontwikkelen van een gestandaardiseerd instrument voor het meten van burgerschap, gaat het echter om de effecten van burgerschapsvorming. Zo’n instrument is niet gericht op betekenisgeving als proces, maar op de beoogde uitkomsten van het werken aan burgerschap in het onderwijs. Zonder dat we een eenduidige lijn veronderstellen tussen hetgeen in onderwijs aan leerlingen wordt aangereikt en de burgerschapsontwikkeling van jongeren, willen we met een meetinstrument wel de relatie kunnen leggen tussen burgerschap van jongeren en de school als één van de plaatsen waar jongeren burgerschap leren. Het willen vastleggen van de beoogde uitkomsten van burgerschapsvorming impliceert het maken van normatieve keuzen. Niet de betekenissen die jongeren zelf geven aan burgerschap vormen de kern van het te ontwikkelen meetinstrument, maar datgene wat maatschappelijk gewenst is. We moeten dus bepalen wat leerlingen in een democratische en pluriforme samenleving zouden moeten leren. Als uitgangspunt voor het meetbaar maken van burgerschap van jongeren nemen we hun alledaagse leefwereld. Het gaat ons om hun feitelijke burgerschapssituaties en hun handelen in de schoolse context. Wat zijn daarin kenmerkende praktijken en activiteiten? Voor welke sociale opgaven staan jongeren? En wat zijn in dat kader dan de benodigde burgerschapscompetenties? Vanuit het perspectief van burgerschap-als-praktijk kiezen we voor de competenties die leerlingen nodig hebben om ‘nu’ te kunnen handelen als jonge 4 burger en zo ervaringen op te doen waarover ze kunnen reflecteren; en niet zozeer voor wat leerlingen moeten leren voor toekomstig burgerschap. De focus op burgerschapscompetenties vormt het tweede uitgangspunt. We maken een onderscheid tussen het vermogen van jongeren om als burger te kunnen handelen en het handelen zelf. De kennis, vaardigheden, attituden en reflectievermogen van jongeren op het brede terrein van burgerschap zijn weliswaar verankerd in hun alledaagse burgerschapssituaties, maar deze bagage valt niet samen met het handelen van jongeren als burger. De (gesitueerde) kennis, vaardigheden, attituden en vermogen tot reflectie van jongeren, vormen het arsenaal waaruit ze kunnen putten. Hoe jongeren met behulp daarvan feitelijk handelen is afhankelijk van de specifieke context, de (machts)verhoudingen daarbinnen en de interactie met anderen. Het analytische onderscheid tussen handelen en het vermogen tot handelen zien we ook in het DeSeCo-project (Definition and Selection of Competencies) van de OECD (Rychen & Saganik, 2003). Deze vijfjarige studie beoogt een theoretische fundament te leggen voor het meten van de competenties die burgers in een democratische, Europese, samenleving nodig hebben voor ‘a succesful life and a well-functioning society’. In het DeSeCo-project worden drie sleutelcompetenties geïdentificeerd en geoperationeerd: ‘interacting in socially heterogeneous groups’, ‘acting autonomously’, ‘using tools interactively’. Alhoewel de drie sleutelcompetenties ieder een eigen focus hebben, sluiten ze elkaar niet uit maar overlappen elkaar deels. Het begrip ‘competentie’ verwijst in de OECD-studie naar het vermogen van mensen om adequaat te handelen in uiteenlopende contexten. De onderliggende, interne structuur van een competentie wordt vervolgens uitgewerkt in termen van de componenten ‘kennis’, ‘vaardigheden’ en ‘attituden’, nodig voor het vervullen van sociale taken (vgl. ten Dam e.a., 2003). Rychen en Salganik (2003) stellen voorts dat er niveaus onderscheiden moeten kunnen worden in competenties. Bij niveaus doelen zij op de mate van mentale complexiteit: in hoeverre is iemand in staat te reflecteren op een sociale situatie en op de (on)mogelijkheden om daarin adequaat te handelen? Dit veronderstelt dat het reflectievermogen een andere rol speelt als component van een competentie dan kennis, vaardigheden en attituden. De stap naar het ontwikkelen van een meetinstrument is in het DeSeCo-project niet meer gemaakt. Het derde uitgangspunt dat we hanteren voor het ontwikkelen van meetinstrument voor burgerschapscompetenties, betreft de wijze waarop we omgaan met verschillen tussen leerlingen. In veel discussies over ‘competentie’ wordt erop gewezen dat competentie samenhangt met de specifieke, leeftijdsgebonden ontwikkelingsfasen van kinderen/jongeren. Van een adolescent mag je wat anders verwachten dan van een jong kind: meer kennis, een betere beheersing van vaardigheden, een hoger reflectieniveau, meer uitgekristalliseerde attitudes. We kiezen er echter niet voor om verschillende instrumenten te maken voor verschillende leeftijden. Door één instrument te ontwikkelen voor leerlingen in de leeftijd van elf tot zestien jaar, is mogelijk de leeftijdsgebonden aspecten van burgerschapscompetentie een uitkomst te laten zijn van de empirische gegevens die met dat meetinstrument worden verkregen. We kunnen op deze wijze eventuele niveauverschillen die samenhangen met leeftijd vaststellen. In hoeverre is het vermogen van oudere leerlingen om adequaat te handelen in specifieke sociale situaties groter dan dat van jongeren leerlingen? Ook maakt het gebruik van één meetinstrument het mogelijk de ontwikkeling van burgerschapscompetenties van leerlingen in de tijd te volgen. We kunnen zo antwoord krijgen op de vraag of de onderscheiden componenten van burgerschapscompetentie zich verschillend ontwikkelen naarmate leerlingen ouder worden. Zo zou het bijvoorbeeld kunnen zijn dat attitude relatief ongevoelig is voor leeftijd, terwijl reflexiviteit dat juist wel is. Ook zou verondersteld kunnen worden dat de onderscheiden componenten van burgerschapscompetentie wellicht op jonge leeftijd nog 5 veel meer met elkaar verweven zijn dan op oudere leeftijd. Door één meetinstrument te ontwikkelen voor alle leerlingen kunnen we tevens nagaan in hoeverre burgerschapscompetentie samenvalt met andere type verschillen tussen leerlingen, zoals bijvoorbeeld die in cognitief vermogen (vgl. Rychen & Salganik, 2003). We vatten het voorgaande kort samen ter specificatie van de onderzoeksdoelstelling een instrument te ontwikkelen voor het meten van burgerschapscompetenties. Uitgangspunt van burgerschapsvorming is de feitelijke burgerschapspraktijk van jongeren: burgerschap heeft betrekking op de wijze waarop jongeren deelnemen aan de sociale en culturele praktijken in hun dagelijks leven. Dit houdt in dat de invulling die in een evaluatie- of meetinstrument aan burgerschap wordt gegeven voor (verschillende groepen) jongeren herkenbaar moet zijn en vanuit het perspectief van de samenleving betekenisvol. Vanwege het handelingsperspectief dat besloten ligt in de feitelijke burgerschapspraktijk van jongeren, dient een instrument voor het meten van burgerschap zich voorts te richten op het meten van competenties van jongeren. De constituerende componenten van competenties zijn kennis, vaardigheden, attituden en reflectie. Vanuit het perspectief van de feitelijke burgerschapspraktijk van jongeren, moeten deze componenten gesitueerd worden in specifieke sociale situaties die zich in hun dagelijkse leven voordoen. 3. Bestaande meetinstrumenten De vraag doet zich nu voor in hoeverre er al meetinstrumenten beschikbaar zijn die aan onze uitgangspunten tegemoet komen. Meetinstrumenten voor burgerschap zijn schaars. Vrijwel alle gestandaardiseerde instrumenten die in onderzoek en/of onderwijs worden gebruikt, meten deelaspecten van het bredere begrip burgerschap. Zo zijn er meetinstrumenten gericht op kritisch denken als belangrijke vaardigheid van burgers (zie bijv. Ennis, 2003), instrumenten met de focus op morele oordeelsvorming (bijv. Thoma, Narvaez, Rest & Derryberry, 1999), instrumenten gericht op sociale vaardigheden (bijv. Beelman, Pfingsten & Lösel, 1994; Englund, Levy, Hyson, Sroufe e.a., 2000), en instrumenten waarin aandacht wordt besteed aan betrokkenheid bij anderen (bijv. Watson, Battistich & Solomon, 1997). Met uitzondering van de instrumenten voor het meten van sociale vaardigheden, zijn de reeds ontwikkelde meetinstrumenten veelal gericht op burgerschapspraktijken die spelen bij oudere leerlingen (‘high school en college students’). Zowel de beperkte focus van de beschikbare instrumenten als de gerichtheid op oudere leerlingen, maakt dat ze voor ons doel – het meten van burgerschapscompetenties van jongeren in de leeftijd van elf tot zestien jaar – niet voldoen. Reeds enkele jaren loopt het internationale IEA-onderzoek naar ‘Civic Knowledge and Engagement at Age Fourteen’ (Torney-Purta, Lehmann, Oswald & Schlulz, 2001). Dit onderzoek bouwt voort op een international IEA-studie naar ‘Civic eduction’ uit de jaren zeventig (Torney, Oppenheim & Farnen, 1975), waaraan ook Nederland heeft deelgenomen. In de jaren negentig is in 28 landen de vervolgstudie van start gegaan. Uitgangspunt bij dit onderzoek was dat het leerlingen leren over burgerschap door deel uit te maken van en betrokken te zijn bij een gemeenschap en door de ontwikkeling van een eigen identiteit binnen die groep. Om inzicht te krijgen in die gemeenschap, is een model vormgegeven waarin vooral ouders, school, de peer groep, de informele gemeenschap (jeugdcentra en –clubs, werkomgeving) en de formele gemeenschap (gerelateerd aan de politiek) bepalend zijn voor de gemeenschap van de gemeenschap waar de leerling deel van uit maakt. Het ontwikkelde instrument bestaat uit 6 een test en een survey. De test is bedoeld om kennis over de inhoud van democratie, burgerschap en overheid en vaardigheid om politieke informatie te interpreteren te meten. Uit de resultaten blijkt dat verschillen tussen leerlingen in kennis van democratie hoofdzakelijk tot verschillen in thuisachtergrond kunnen worden teruggebracht, hetgeen in lijn is met resultaten van andere studies. De survey heeft betrekking op: - de mate waarin leerlingen begrip hebben van de concepten democratie, burgerschap en de overheid; - de attituden van leerlingen met betrekking tot de natie, de overheid, immigranten en de politieke rechten van vrouwen; - betrokkenheid bij de maatschappij; - huidige en toekomstige politieke activiteiten van leerlingen. Hoewel de intenties van het onderzoek anders doen verwachten, en ook Biesta (2007) het onderzoek van Torney-Purta e.a. (2001) noemt als hij aangeeft dat onderzoek laat zien dat leerlingen vooral leren van de alledaagse situaties waaraan ze feitelijk deelnemen, concluderen we dat het IEA-onderzoek vooral informatie opgeleverd heeft over de wijze waarop leerlingen naar hun omgeving en de toekomst kijken. Voor ons doel geeft het te weinig inzicht in het vermogen van jongeren om te handelen in voor hen betekenisvolle sociale situaties. Dit heeft deels te maken met het gegeven dat er over een groot aantal landen vergelijkbare data diende te worden verzameld. Het instrument is daardoor relatief ongevoelig voor contextspecificiteit. 4. Constructie van het meetinstrument Burgerschapscompetenties Selectie van sociale taken en componenten Competenties hebben betrekking op het vermogen van mensen om adequaat te handelen in uiteenlopende contexten. Voor de constructie van een instrument voor het meten van burgerschapscompetenties nemen we, zoals aangegeven, de sociale taken die jongeren in hun dagelijks leven moeten kunnen vervullen als aangrijpingspunt. Het vermogen om adequaat te handelen is vervolgens uitgewerkt in termen van de onderliggende, interne structuur van een competentie: de constituerende componenten. Vanuit de context van een specifieke sociale taak moet het te ontwikkelen instrument inzicht geven in de mate waarin jongeren over de componenten (attituden, kennis, reflectie en vaardigheden) beschikken die nodig zijn om specifieke sociale taken adequaat te kunnen vervullen. Het meten van burgerschapscompetenties als onderwijsdoel impliceert dat deze componenten in het onderwijs (verder) ontwikkeld moeten kunnen worden. Om te komen tot een selectie van de sociale taken die tezamen representatief en betekenisvol zijn voor burgerschapspraktijken van jongeren in de leeftijd van 11-16 jaar, is een literatuurstudieiii verricht. De review geeft een overzicht van de terreinen waarop burgers adequaat moeten kunnen handelen. Deze terreinen zijn door ons samengevat in de vorm van vier sociale taken: ‘democratisch handelen’, ‘maatschappelijk verantwoordelijk handelen’, ‘omgaan met conflicten’ en ‘omgaan met verschillen’. Deze samenvatting is op twee manieren gevalideerd. Allereerst zijn de sociale taken gelegd naast de thema’s die naar voren komen in de Nederlandse discussie over burgerschapsvorming in het onderwijsbeleid, namelijk: de parlementaire democratie, de verzorgingsstaat, de rechtstaat en de multiculturele samenleving (CHMV, 2001). We beschouwen de sociale taken als een voor jongeren herkenbare uitwerking van deze thema’s. Ten tweede zijn de sociale taken voorgelegd aan een expertgroep, bestaande uit leerkrachten van het basisonderwijs en het voortgezet onderwijs, een medewerker van de Inspectie van het onderwijs, wetenschappelijk onderzoekers op het terrein van onderwijskunde en/of 7 burgerschapsvorming. De expertgroep heeft de vier sociale taken beoordeeld als zijnde representatief en betekenisvol voor burgerschapspraktijken van jongeren in de leeftijd van 11-16 jaar. In een volgende stap is voor iedere sociale taak gedefinieerd wat de competentie is die jongeren daarvoor nodig hebben. Om deze competentie meetbaar te maken, is gebruik gemaakt van de onderliggende, interne structuur van het begrip competentie: de componenten kennis, attituden, vaardigheden en reflectievermogen. Deze componenten zijn inhoudelijk uitgewerkt ten aanzien van de relaties tussen personen (de interpersoonlijke dimensie) en het maatschappelijk functioneren van personen (de maatschappelijk dimensie). Voor een uitgebreide beschrijving van de ontwikkeling van het conceptuele schema verwijzen we naar ten Dam e.a. (2003; ten Dam & Volman, 2007). De uiteindelijke vaststelling van de kennis, vaardigheden, attituden en reflectie die kenmerkend kunnen worden geacht voor het adequaat kunnen vervullen van de betreffende sociale taak, is tot stand gekomen op basis van intersubjectieve beoordeling: meerdere onderzoekers hebben los van elkaar een inhoudelijke selectie gemaakt, deze vervolgens met elkaar vergeleken en op basis van consensus vastgesteld. Tot slot zijn conceptuele definities geformuleerd per component per sociale taak. Zo slaagden we erin de voor een sociale taak benodigde kennis, vaardigheden, attituden en reflectie contextspecifiek te formuleren. Met ‘communicatieve vaardigheden’ wordt bijvoorbeeld in de context van ‘omgaan met conflicten’ iets anders bedoeld dan in de context van ‘democratisch handelen’. De aldus tot stand gekomen definities zijn ter validering aan de expertgroep voorgelegd. Een samenvatting van de definities is weergegeven in Tabel 1. 8 Tabel 1. Conceptuele definities burgerschapscompetenties per component per sociale taak Democratisch handelen Het aanvaarden van en bijdragen aan een democratische samenleving. Maatschappelijk verantwoord Handelen Medeverantwoordelijkheid nemen voor de leefgemeenschappen waartoe men behoort. Omgaan met conflicten Betreft (lichte) conflictsituaties of belangentegenstellingen waarbij het kind zelf ‘partij’ is. Omgaan met verschillen Bij ‘verschillen’ denken we hier met name aan sociale, culturele, religieuze en uiterlijke verschillen. Attitude Wil recht doen aan iedereen, ieders stem horen, dialoog aangaan en meerderheids- en minderheidsstand-punten respecteren, en wil een actieve, kritische bijdrage leveren. Wil zich sociaal rechtvaardig opstellen, is bereid tot zorg en hulp, en wil de ander en het milieu niet schaden door het eigen gedrag. Sociaal rechtvaardig = niemand uitsluiten, zorgen dat iedereen mee kan doen. Wil conflicten oplossen, is bereid het standpunt van de ander serieus te nemen bereid samen naar een acceptabele oplossing te zoeken. Heeft belangstelling voor andermans opvattingen en leefstijl, wil die respecteren en daarover communiceren, is bereid eigen opvattingen en leefstijl niet als enige waarheid te zien. Kennis Weet wat democratische principes zijn en wat het handelen volgens die principes inhoudt: *(grond)rechten * het horen van ieders stem etc. Reflectie Denkt na over (on)democratische kwesties, kwesties van (on)macht en (on)gelijke rechten. Vaardigheden Kan het eigen standpunt naar voren brengen, luisteren naar de standpunten van anderen en deze serieus nemen. Kent sociale regels. Sociale regels zijn wettelijke of ongeschreven regels voor het sociaal verkeer. Denkt na over groepsprocessen (belangen, -tegenstellingen; sociale cohesie), het effect van het eigen handelen op anderen (grenzen van keuzevrijheid; een ander niet tot last zijn), sociale processen (inen uitsluiting). Denkt na over hoe het conflict heeft kunnen ontstaan, over de eigen rol daarin en die van de ander, en over mogelijkheden om conflicten te voorkomen of op te lossen. Kan zich sociaal rechtvaardig opstellen, zich aan spelregels houden, iets bijdragen aan het collectief belang en weet te voorkomen dat de ander of het milieu geschaad wordt door het eigen gedrag. Denkt na over aard en gevolgen van verschillen tussen mensen, beweegredenen van zichzelf en anderen in relatie tot achtergronden van gedrag, over processen van in- en uitsluiting, en over gedragsregels in verschillende sociale situaties. Kan zich bewegen in onbekende sociale situaties, kan met allerlei mensen/kinderen samenwerken, en kan met sociale spanningen omgaan. Tot dit laatste rekenen we ook het afwijzen van intolerant en discriminerend gedrag. Weet dat overleg met de ander een goede manier is om het conflict op te lossen, dat de hulp van anderen kan worden ingeroepen en dat fatsoensregels in acht moeten worden genomen. Weet dat culturele verschillen bestaan, heeft kennis van sociale gedragsregels in verschillende sociale situaties, weet wanneer er sprake is van vooroordeel en discriminatie. Kan duidelijk maken wat het van iets vindt, kan rustig blijven, kan escalatie tegengaan, kan naar de ander luisteren en zich in de ander verplaatsen. Zowel de keuze van de sociale taken als de operationele definities van deze taken en de constituerende componenten zijn normatief. Het gaat hier om een gekozen normativiteit. In paragraaf 2 hebben we aangegeven dat burgerschap voor ons betekent ‘adequaat kunnen participeren in een democratische en pluriforme samenleving’. Van burgers mag verlangd worden dat ze zich kunnen bewegen in diverse - meer en minder heterogene contexten, zoals de klas, het schoolplein, thuis, de straat, de sportclub enzovoorts. De normen die daarbij in het geding zijn behoeven echter niet zomaar, onbereflecteerd, overgenomen te worden. We benadrukken het belang van ‘kritische participatie’ door een expliciete plaats te geven aan reflectie als een van de constituerende componenten van burgerschapscompetenties. 9 Selectie van geschikte meetmethoden Bij de keuze voor geschikte meetmethoden hebben we ons laten leiden door de volgende overwegingen. Allereerst is het te ontwikkelen instrument bedoeld voor de evaluatie van burgerschapscompetenties bij grote groepen leerlingen. We hebben daarom gekozen voor een test en een survey. Een test is mogelijk voor de component kennis, omdat kennis verbaal gedemonstreerd en dus schriftelijk getoetst kan worden. Voor de componenten attituden, vaardigheden en reflecties ligt een survey voor de hand, waarbij de respondenten gevraagd worden naar de oordelen over de burgerschapscompetenties van zichzelf of anderen. Dergelijke oordelen zijn per definitie subjectief. Uit de literatuur op het terrein van de sociale competentie van leerlingen blijkt dat beoordelingen door leeftijdsgenoten niet stabiel zijn omdat elke ‘beoordelaar’ vanuit het eigen normatieve kader kijkt naar het gedrag van de beoordeelde (zie bijvoorbeeld Halberstadt, Denham, Dunsmore, 2001) en er derhalve bij discongruente oordelen geen maat is voor het bepalen van het gelijk van de een of de ander. Zo speelt de positie van de leerling in de klas een rol bij de manier waarop hij/zij door klasgenoten wordt beoordeeld: etniciteit, sekse, jonger zijn dan de rest van de klas en een minderheidsstatus in de klas, blijken de scores te beïnvloeden (zie Raver & Zigler, 1997; Englund e.a., 2000). Bij leerkrachtbeoordelingen spelen voor een deel vergelijkbare problemen als bij beoordelingen door leeftijdgenoten. Een belangrijk probleem bij leerkrachtoordelen is verder dat deze afhankelijk zijn van de context. De score van dezelfde leerling zal in een gemiddeld hoog sociaal competente klas lager uitvallen dan in een gemiddeld minder sociaal competente klas. Bij het gebruik van zelfbeoordeling is de vraag op welke leeftijd van leerlingen betrouwbare oordelen over welke terreinen verwacht kunnen worden. Voor zelfbeoordeling is een zekere distantie nodig, die zich ontwikkelt met de leeftijd (door uitbreiding van relevante ervaringen) en met de cognitieve vermogens. De meeste zelfbeoordelinginstrumenten worden gebruikt voor adolescenten (zie Ledoux & Overmaat, 2002). Een manier om het hoofd te bieden aan de gesignaleerde problemen met betrekking tot subjectiviteit, wordt door Raver en Zigler (1997) gezocht in het combineren van verschillende meetwijzen. Echter, dit maakt niet alleen de meetprocedure tijdrovender, ook blijken oordelen van verschillende beoordelaars (bijvoorbeeld de leerling zelf en de leerkracht) vaak niet sterk te correleren (Renk & Phares, 2004). Voor de vraag welk oordeel uiteindelijk prevaleert bestaan geen eenduidige criteria. We hebben de volgende keuzen gemaakt. De componenten attitude en reflectie achten we alleen meetbaar via het zelfoordeel van leerlingen. Het vaardigheidsaspect van burgerschapscompetenties kan zowel gemeten worden door leerlingen te vragen te oordelen over de eigen-bekwaamheid (self-efficacy), als door anderen om hun oordeel te vragen. We hebben leerkrachten en medeleerlingen (peers) gevraagd om een beoordeling van de burgerschapsvaardigheden van een leerling. We beogen daarmee niet tot een intersubjectief oordeel over de burgerschapscompetenties van leerlingen te komen. Het werken met verschillende beoordelaars biedt de mogelijkheid om in de constructiefase van het meetinstrument na te gaan welke (in)congruenties zich voordoen wanneer verschillende beoordelaars worden ingeschakeld voor het meten van vaardigheden en op basis hiervan een weloverwogen keuze te maken. Bij de zelfrapportages van leerlingen nemen we de factor sociale wenselijkheid in het onderzoek mee. Daarnaast achten we het van belang om het subjectieve, normatieve aspect van leerkracht- en peerbeoordeling waar mogelijk zichtbaar te maken. Hiertoe verzamelen we gegevens over achtergrondkenmerken van leerlingen (SES, etniciteit, sekse), de context van de school (bijv. denominatie, ‘kleur van de school’), en de mate waarin de beoordelaar een goede band met de leerling heeft, zodat kan worden gecontroleerd in hoeverre dit de beoordeling beïnvloedt. 10 Naast de kennistest en de (zelf-)beoordelingen ten aanzien van attitude, reflectie en vaardigheden met betrekking tot de vier sociale taken, wordt in het project nagegaan hoe burgerschapscompetentie (het vermogen van de leerling) zich verhoudt tot ‘burgerschapsgedrag’ van de leerlingen; het handelen dat wordt waargenomen door de leerkracht op school. In dit artikel rapporteren we echter alleen over de constructie van het meetinstrument voor burgerschapscompetenties van leerlingen (met controle op een aantal achtergrondvariabelen en sociaal-wenselijkheid); een analyse van de congruentie met leerkracht- en peerbeoordeling en van de relatie met burgerschapsgedrag als criteriumvariabele zal in een volgende publicatie worden gepresenteerd. Constructie van de items en item-format Voor het meten van de componenten attitude, vaardigheden en reflectie is gekozen voor Likert-schalen (vierpuntsschaal). Voor de kennis-component zijn multiple-choice items geformuleerd (met drie antwoordmogelijkheden, waarvan één het juiste antwoord). Voor het formuleren van de items is per component van specifieke werkwoordvormen gebruik gemaakt: - attitude-items: vinden, willen, bereid zijn; - kennis-items: weten/ begrijpen/inzicht hebben in wat je het beste kunt doen; - vaardigheden-items: goed zijn in ….; - reflectie-items: nadenken over ... (zie Stokking e.a., 2004). De items zijn overwegend prosociaal geformuleerd. Om antwoordtendentie tegen te gaan, zijn bij de componenten attituden en vaardigheden ook enkele negatieve items geformuleerd met inhoudelijk toegevoegde waarde voor de te construeren schaal. Bij de component reflectie zijn dummy-items geformuleerd om antwoordtendenties tegen te gaan. Om leesvaardigheidsproblemen zo veel mogelijk het hoofd te bieden is ervoor gekozen de items te formuleren op het taalniveau van leerlingen uit groep 7/8, ervan uitgaande dat dit niveau ook voor de VMBO-leerlingen geschikt is. Voorts is in de itemformulering inhoudelijke neutraliteit betracht met het oog op leerlingen van verschillende sekse en culturele achtergrond. In de eerste fase van de constructie van het meetinstrument zijn de items voorgelegd aan twintig leerlingen van het basisonderwijs en het voorgezet onderwijs met behulp van de ‘hardop-denk methode’. Tevens zijn met vijf leerkrachten interviews gehouden. Centraal stond de begrijpelijkheid en eenduidigheid van de items. In de ‘hardop-denkgesprekken met leerlingen’ zijn verschillende antwoordformats uitgeprobeerd, waaronder de varianten mee oneens-mee eens, niet/wel van toepassing op mij, past niet/wel bij mij. De laatste variant bleek het meest bruikbaar. In de interviews met de leerkrachten is nagegaan of de bevraagde vaardigheden en gedragingen van leerlingen herkenbaar zijn voor leraren en hoe veel tijd het beantwoorden van de vragenlijst in beslag nam. Op basis van deze kwalitatieve studie is de eerste versie van de leerlingvragenlijst en de leerkrachtvragenlijst gemaakt waarmee we de pilotfase zijn ingegaan. In totaal bestond deze leerlingversie uit 233 items, exclusief de opgenomen schaal voor sociale wenselijkheid (12 items) en achtergrondvariabelen (33 items). In Tabel 2 worden per component per sociale taak het aantal items met voorbeelditems gepresenteerd. 11 Tabel 2. Items per component per taak van burgerschapscompetentie Sociale taken Democratisch handelen Maatschappelijk verantwoord handelen Omgaan met conflicten Omgaan met verschillen Democratisch handelen Maatschappelijk verantwoord handelen Omgaan met conflicten Omgaan met verschillen Democratisch handelen Maatschappelijk verantwoord handelen Omgaan met conflicten Omgaan met verschillen Democratisch handelen Maatschappelijk verantwoord handelen Omgaan met conflicten Omgaan met verschillen Voorbeelditem per component per sociale taak Aantal items Attitude: Hoe goed past de uitspraak bij jou? De uitspraak past helemaal niet/niet erg/wel wat/helemaal bij mij. Als iemand in de klas het ergens mee oneens is, moet hij/zij de kans krijgen om dat uit te leggen. Als ik met vrienden in het park een picknick heb gehad, is het normaal dat we de rommel opruimen. Als ik ruzie heb dan... ben ik bereid een oplossing te zoeken waar we allebei tevreden mee kunnen zijn. Verschillen in culturen maken het leven leuker Kennis: Meerkeuze-items: Streep steeds het beste antwoord aan In Nederland bestaan verschillende kranten en televisiezenders. Dat is belangrijk omdat… a. meer journalisten zo een baan hebben b. we verschillende soorten informatie kunnen krijgen c. we zo meer te weten komen over het leven van de mensen die ons land leiden Toen je boos was, heb je de buurman flink uitgescholden. Wat kun je nu het beste doen? a. aan je ouders vragen of zij het weer goed willen maken b. zelf sorry zeggen tegen de buurman c. gewoon weer vriendelijk doen en er niet meer over praten Je vriendengroep pest jouw vriendelijke buurvrouw. Dat vind je vervelend, maar je wilt ook geen ruzie. Wat kun je het beste doen? a. je doet net of je niet bij de groep hoort als je ziet dat ze het weer doen b. het aan je vader of moeder vertellen c. tegen je vrienden zeggen wat je niet leuk vindt en waarom Thuis bij Esra, een Turks meisje, is het gewoonte de schoenen uit te doen. Anouk die bij Esra gaat spelen, hoeft dat thuis niet. Wat kan Anouk het beste zeggen? a. "Ik ben de gast, dus ik mag zelf weten of ik mijn schoenen uittrek of niet" b. "Ik ben de gast, dus ik houd me aan de regels van dit huis" c. "Ik doe mijn schoenen uit, want ik wil geen ruzie" Reflectie: Hoe vaak denk jij hierover na? (bijna) nooit, heel af en toe, vrij vaak, vaak - of de regering genoeg luistert naar mensen die veranderingen willen - wat jij kan doen om te zorgen dat er minder gepest wordt op school 20 23 14 13 12 9 8 10 15 15 - achteraf bij ruzies: of je genoeg hebt gedaan om de ruzie op te lossen - hoe het komt dat sommige kinderen zichzelf beter vinden dan een ander Vaardigheden: Hoe goed ben je in…. ik ben hier helemaal niet/niet zo/best welheel goed in - vasthouden aan je eigen mening, als je echt gelijk hebt - anderen uit laten spreken - je aanpassen aan de wensen van anderen 16 25 - bij een ruzie: de ander vragen te stoppen met ruziemaken - je normaal gedragen in een onbekende omgeving 13 17 10 13 De mate waarin leerlingen zich in hun antwoorden laten leiden door sociale wenselijkheid is gemeten door middel van inhoudelijk extreem geformuleerde items en meet slechts impression management’: het proces waarbij een individu tracht de indruk die hij/zij bij 12 anderen teweeg brengt, onder eigen controle te houden (Goffman, 1959). De items hebben het antwoordformat van de attitude-items (past bij mij, etc.). Ook lijkt de inhoud van de items op die van de attitude-items overeenkomstig de vier sociale taken en de items worden tussen de attitude-items geplaatst in de leerlingenvragenlijst. Voorbeelditems zijn: ‘De mening van anderen neem ik altijd serieus’ (betreft democratisch handelen) en ‘Ik doe altijd mijn best heel aardig te zijn tegen mensen die anders zijn dan ik’. Om te toetsen in hoeverre de ontwikkelde items verwijzen naar de onderscheiden theoretische concepten is een reeks pilotstudies ondernomen. In dit paper rapporteren we over resultaten van de eerste en tweede pilotstudie, gericht op voorlopige schaalconstructie. Op basis van deze resultaten vinden momenteel een derde en vierde pilotstudie plaats om te komen tot definitieve schaalconstructie. Hierover zullen we in een later stadium publiceren. 5. Methode Twee pilotstudies hebben achtereenvolgens plaatsgevonden. De eerste pilotstudie vond plaats in de periode november 2005-maart 2006, de tweede pilotstudie volgde in de periode oktober-december 2006. Onderzoeksgroep De data van pilot 1 en 2 zijn gezamenlijk geanalyseerd. Het databestand bestaat uit de gegevens van 1934 leerlingen. Bijna driekwart van de leerlingen (72.1 %) zit op een school in het primair onderwijs, de overige leerlingen (27.9 %) zitten op een school voor voortgezet onderwijs. Net iets meer dan de helft van de leerlingen is jongen (52.0 %), de rest is uiteraard meisje. De leerlingen is ook gevraagd naar het geboorteland van de ouders en naar welke taal er thuis het vaakst gesproken wordt; de verdeling hiervan is weergegeven in Tabel 3. Tabel 3. Verdeling van leerlingen naar geboorteland ouders en thuistaal Geboorteland Beide ouders in Nederland 1 of 2 ouders in Turkije 1 of 2 ouders in Marokko 1 of 2 ouders in Suriname 1 of 2 ouders in de Antillen 1 of 2 ouders in overige Westerse landen 1 of 2 ouders in Afrikaanse landen 1 of 2 ouders in Aziatische landen Missing Aantal leerlingen 966 (50.0 %) 148 (7.7 %) 174 (9.0 % 141 (7.3 %) 69 (3.6 %) 119 (6.2 %) 83 (4.3 %) 88 (4.9 %) 146 (4.9 %) Thuistaal Nederlands Turks Marokkaans Andere talen Missing Aantal leerlingen 1272 (65.8 %) 105 (5.4 %) 98 (5.1 %) 208 (10.8 %) 251 (13%) Analyse In de analyses ligt de nadruk op het optimaliseren van de betrouwbaarheid en constructvaliditeit per component van burgerschapscompetentie, namelijk attitude, kennis, reflectie, vaardigheden. De analyses zijn uitgevoerd overeenkomstig de richtlijnen van o.a. Muthèn en Muthèn (2000) en Oort (1998), bestaande uit achtereenvolgens exploratieve factor analyses en confirmatieve factoranalyses waarbij nagegaan wordt of er sprake is van schending van eendimensionaliteit ten gevolge van relaties tussen items onderling (itemtype schender), het item en een andere factor (trektype schender) en het 13 item en een groepsvariabele (groepstype schender). Bovendien is in de analyses rekening gehouden met de genestheid van de structuur. De exploratieve factoranalyse dient ter oriëntatie op de factorstructuur in de gegevens en de betrouwbaarheid van de items, op basis waarvan extreem zwakke items verwijderd of gereviseerd kunnen worden en eventueel zwakke factoren genegeerd of verwijderd. De exploratieve factoranalyses in onderhavig onderzoek betroffen principale componenten analyses (PCA) en betrouwbaarheidsanalyses (Cronbach’s Alpha) over de items per sociale taak (democratisch handelen, maatschappelijke verantwoordelijkheid, omgaan met verschillen en omgaan met conflicten) over de data van pilot 1 aangaande de componenten attitude, vaardigheden en reflectie. De analyses zijn ook toegepast per component per sociale taak. Er is geen rekening gehouden met de genestheid van de data en zijn de items voor het meten van sociaal wenselijkheid en de achtergrond- en controlevariabelen buiten beschouwing gelaten. Itemreductie heeft plaatsgevonden op basis van de Alpha's en corrected item totaal correlaties, hoge ladingen (PCA) op de bedoelde schalen en lage ladingen op onbedoelde schalen (per cel, per kolom en per rij van de matrix). Uiteindelijke keuzes zijn gemaakt op basis van de dekking van de inhoud en de gestelde prioriteiten van het theoretische kader, met de operationele definities als leidraad. Zo is bij de analyses van de items per component per sociale taak niet alleen unidimensionaliteit het uitgangspunt geweest. Omdat per component per sociale taak meerdere onderwerpen aan de orde komen (zie de operationele definities in Appendix 2), is ook nagegaan of er betekenisvolle subfactoren in de factorstructuur herkenbaar waren. Indien dit het geval was, is ervoor zorg gedragen dat in de uiteindelijke schaal items van de verschillende subschalen zijn opgenomen. De confirmatieve factoranalyses (CFA) dienen om na te gaan in hoeverre de structuur in de data overeenstemt met de (theoretisch) bedoelde structuur. Hiertoe zijn per component van burgerschapscompetenties CFA’s uitgevoerd met behulp van het programma Mplus (Muthèn & Muthèn, 2004). Ter indicatie van de betrouwbaarheid is de verklaarde variantie van het item door de bedoelde factor als maat genomen. Daarbij is als ondergrens gehanteerd dat de variantie elk item voor liefst meer dan 40 %, doch minimaal 30 % verklaard dient te worden door de bedoelde factor. Voor de kennisitems is bovendien gekeken naar de P-waarde (de proportie antwoorden goed) c.q. de moeilijkheidsgraad van het item. Ter indicatie van de constructvaliditeit is uitgegaan van de passing van het optimale model. Voor goede fit hanteren wij conform Bollen en Long (1993) als vuistregel dat de RMSEA (root mean square error of approximation) groter moet zijn dan .05, de CFI (comparative fit index) en de TLI (Tucker Lewis index) groter dan .95. Voor deze drie maten geldt dat zij relatief minder gevoelig zijn voor de steekproefgrootte. Daarnaast wordt bij attitude, reflectie en vaardigheden gekeken naar de SRMR (standardized root mean square residual) met als vuistregel <.05 voor een redelijke fit; en bij kennis naar de WRMR (weighted root mean square residual met als vuistregel <1.00 voor een goede fit. Voor de Chi-kwadraat test geldt officieel een significantie van p>.05 als vuistregel voor een passend model, maar deze test is zeer gevoelig voor de steekproefgrootte. Gezien de relatief grote steekproef in onze analyses bestuderen we de Chi-kwadraat alleen in geval van verbetering in fit bij vergelijking van geneste modellen. Bij het passend krijgen van een model hanteren we het uitgangspunt dat de betekenis van het construct gedekt dient te zijn door de inhoud van de items onder voorwaarde dat de items hoog moeten laden op de bedoelde factor en niet op de andere factoren (crossloadings, oftewel trektype schending van de eendimensionaliteit) en bovendien mogen de items gegeven de relatie die deze hebben met de bedoelde factor geen hoge onderlinge relaties hebben (itemtype schending van de eendimensionaliteit). Daarnaast mogen de items geen hoge relatie hebben met de achtergrondvariabelen 14 gegeven de relatie van die achtergrondvariabelen met de bedoelde factor(en). Een dergelijke groepstype schending van de eendimensionaliteit van de factor wordt ook wel aangeduid als Differential Item Functioning (DIF), c.q. itembias: een item uit een bepaalde schaal is dan relatief moeilijker of makkelijker te beantwoorden voor een bepaalde groep leerlingen dan verwacht mag worden op basis van de gemiddelde score op de schaal van alle leerlingen samen. Als potentiële biasing variabelen zijn gehanteerd: - het geboorteland van minimaal 1 van de ouders met 7 dummievariabelen, namelijk Turkije, Marokko, Suriname, Antillen, overige Westerse landen, Afrikaanse landen, Aziatische landen met Nederland als basiscategorie; - de thuistaal met drie dummievariabelen, namelijk Turks, Marokkaans en alle andere talen, wederom met Nederlands als basiscategorie; - sekse van de leerling; - schooltype met primair en voortgezet onderwijs; - de mate van sociale wenselijkheid (op basis van CFA over de 12 ontwikkelde extreme items is een schaal van 6 items geconstrueerd). Bij het bepalen van te verwijderen items op basis van schending zijn in de analyses met Mplus (Muthèn & Muthèn, 2004) de zogenaamde ‘modificatie indices’ (MI) en de ‘expected parameter change’ (EPC) als informatie gebruikt. De MI geeft aan of de restrictie die aan het model gegeven is (bijvoorbeeld de lading van een item op een factor), al dan niet vrijgelaten moet worden gegeven. De minimum waarde voor een significante MI is 6.640. Vrijlaten betekent het pad toestaan, leidend tot een nieuwe schatting van de parameter, waarbij de chi-kwadraat test een significante verbetering van de fit ten opzichte van de oude schatting laat zien (chi-kwadraat met 1 vrijheidsgraad (df) >3.86). De EPC geeft aan hoe hoog deze schatting van de parameter wordt als de restrictie opgeheven zou worden. Het streven in de analyses is per component (attitude, kennis, reflectie, vaardigheden) een 2e orde-factor te construeren die per component de relatie tussen de vier factoren betreffende de sociale taken verklaard. Hiertoe wordt per component de passing van een 2e orde factormodel vergeleken met de passing van het 4-factormodel (een model dat het onderscheid tussen de vier sociale taken per component representeert) en het 1factormodel (waarbij de items rechtstreeks op de component laden en het onderscheid tussen de vier sociale taken niet in de structuur van de data wordt gerepresenteerd. Vervolgens zijn de achtergrondvariabelen als covariaten toegevoegd aan het vier factormodel, zodat per component per sociale taak kan worden nagegaan in hoeverre correlaties van item-residuen met achtergrondvariabelen significant zijn, gegeven de correlaties van de factoren met de achtergrondvariabelen, wijzend op DIF, c.q. itembias. Bij deze analyses worden de ‘estimated standard errors’ (Est./S.E) bestudeerd. Deze schattingen zijn te interpreteren als z-waarden, waarmee de parameterschattingen getoetst zijn: een z-waarde hoger dan 2.56 (tweezijdig getoetst) indiceert een significante correlatie. Ook wordt gekeken naar de schattingen van de gestandaardiseerde parameters (StdYX) die de correlatie indiceren. Items voor welke de correlaties significant waren, zijn verwijderd. 6. Resultaten Als resultaat van de analyses ter optimaliseren van de betrouwbaarheid en constructvaliditeit presenteren we per component van burgerschapscompetentie (attitude, kennis, reflectie, vaardigheden) de fitmaten van de uiteindelijke modellen (1-factor, 4- 15 factor en 2e-orde factormodel), op basis van de resultaten van de CFA’s en verwijdering van gebiasde items. Dit wordt gevolgd door de presentatie van uiteindelijke model en de correlaties van met de covarianten (de achtergrondcontrolevariabelen). Uitgaande van de 2e-orde factormodellen worden daarna correlaties gepresenteerd tussen de vier componenten van burgerschapscompetentie. na het en de Resultaten voor de component attitude In Tabel 4 worden de passingsmaten (zie vorige paragraaf voor de toelichting) weergegeven van de CFA-modellen voor de 1 factoroplossing (CFA 1F), de 4factoroplossing (CFA 4F) en de 2e orde factoroplossing (2e orde CFA met 4F) aangaande attitude als component van burgerschapscompetentie. Het 1F-model is genest in het 4Fmodel en in het 2e orde model waardoor de fitmaten globaal met elkaar vergeleken kunnen worden. Tabel 4: Drie modellen en passingsmaten voor 17 items betreffende de component attitude (N=1743; schatter MLR) Model* Aantal items Chi-kwadraat df p-sign. RMSEA SRMR CFI CFA 1F 17 753.35 119 .000 .055 .050 .84 CFA 4F 17 208.80 113 .000 .022 .026 .98 2e orde CFA met 4F 17 213.31 115 .000 .022 .027 .98 * geschat volgens maximum likelihood parameter schattingsmethode met 48 scholen als clusters TLI .81 .97 .97 De fit indices in Tabel 4 laten zien dat het 4-F model en het 2e orde model beide een goede representatie van de structuur in de data weerspiegelen en duidelijk beter passen dan de 1-factor oplossing. Verder blijkt er slechts sprake van een marginale verslechtering van de fit van het 2e orde factormodel ten opzichte van het 4-factormodel; onvoldoende om het 4 factormodel te verkiezen boven het gewenste 2e orde factor model. Tevens blijkt dat van oorspronkelijk 60 items (zie Tabel 2), slechts 17 items behouden zijn gebleven in het uiteindelijke model. Van deze items kan gesteld worden dat zij unidimensioneel verwijzen naar een van de vier onderscheiden factoren, waarbij een 2 e orde factor recht doet aan de hoge correlatie tussen de vier factoren. In Tabel 5 wordt de 2e orde factoroplossing weergegeven. 16 Tabel 5: Ladingen (stdYX), modificatie indices (MI) en expected parameter changes (EPC) van de items per sociale taak bij het tweede orde factor model voor de component attitude Factoren FATDH: attitude democratisch handelen met items: StdYX ATDH22 ATDH25 ATDH26 ATDH28 .572 .567 .476 .590 ATMV40 ATMV44 ATMV51 ATMV54 ATMV56 ATMV461 .417 .394 .529 .609 .503 .513 ATCO72 ATCO75 ATCO80 ATCO81 .626 626 .690 .514 ATVE84 ATVE86 ATVE94 .606 .796 .580 FATDH FATMV FATCO FATVE .744 .960 .778 .706 MI FATMV: attitude maatsch. verantwoord handelen met items: FATOC: attitude omgaan met conflicten met items: FATVE: attitude omgaan met verschillen met items: Hoofdfactor attitude met subfactoren: Hoogste en laagste EPC (crossloading van item met andere factor) FATCO BY ATMV51 FATVE BY ATMV40 Hoogste en laagste EPC tussen items gegeven relatie met eigen factor ATDH26 WITH ATDH25 ATMV61 WITH ATDH25 stdYX EPC 9.966 19.321 -.201 .230 12.943 8.396 .094 -.066 De gegevens in Tabel 5 laten zien dat de attitude-items goed laden op de factoren per sociale taak. Verder blijkt dat de factor ‘attitude maatschappelijk verantwoord handelen’ (FATMV) bijna optimaal laadt op de hoofdfactor attitude. Dit houdt in dat de hoofdfactor attitude inhoudelijk het meest verwant is aan de factor ‘attitude maatschappelijk verantwoord handelen’ en dat de andere drie typen attituden hiermee sterk samenhangen (.71-.78). Door middel van afzonderlijke analyse van de hoofdfactor met de onderscheiden achtergrondvariabelen is inzicht verkregen in de correlaties van de hoofdfactor met deze variabelen. De resultaten zijn weergegeven in Tabel 6. 17 Tabel 6: Correlaties hoofdfactor attitude met achtergrond variabelen d.m.v. afzonderlijke analyses per achtergrondvariabele Achtergrond variabele Hoofdfactor attitude Geboorteland een van de ouders: (Nederlands als basiscategorie) Turkije .07 Marokko .11** Suriname .02 Antillen .01 Overige Westerse landen -.03 Afrikaanse landen .05 Aziatische landen .10** Taal die thuis gesproken wordt: (Nederlands als basiscategorie) Turks .02 Marokkaans .06 Anders .01 Llsekse (1=jongen; 2=meisje) .26** Schooltype (1=primair en 2=voortgezet onderwijs) -.11* Sociaal wenselijkheid .97** * tweezijdig significant bij p<.05 ; ** tweezijdig significant bij p<.01 De correlaties wijzen uit dat kinderen van wie een of beide ouders uit Marokko of een Aziatisch land afkomstig is, gemiddeld een iets hogere score hebben op de component attitude dan de kinderen wiens ouders beide uit Nederland afkomstig zijn. Verder blijken meisjes gemiddeld hoger te scoren wat betreft hun burgerschapsattitude dan jongens. Opvallend is verder dat de leerlingen in het voortgezet onderwijs lager scoren op attitude dan de leerlingen in het primair onderwijs. Het meest in het oog springt tot slot de correlatie met de factor ‘sociale wenselijkheid’ van 97 procent. Kennelijk hangt de burgerschapsattitude van de leerlingen sterk samen met het geven van sociaal-wenselijke antwoorden. Resultaten voor de component kennis In Tabel 7 worden de passingsmaten weergegeven van de CFA-modellen voor de 1 factoroplossing (CFA 1F), de 4-factoroplossing (CFA 4F) en de 2e orde factoroplossing (2e orde CFA met 4F) aangaande kennis als component van burgerschapscompetentie. Tabel 7: Drie modellen en passingsmaten voor23 items betreffende de component kennis (N=1899) Model* Aantal items Chi-kwadraat df p-sign. RMSEA WRMR CFI CFA 1F 23 117.27 32 .000 .037 1.447 .90 CFA 4F 23 87.86 31 .000 .031 1.254 .94 2e orde CFA met 4F 23 87.41 31 .000 .031 1.259 .94 * geschat volgens maximum likelihood parameter schattingsmethode met 48 scholen als clusters TLI .93 .95 .95 De fit indices in Tabel 7 laten, net als bij de component attitude, zien dat het 4-F model en het 2e orde model beide een goede representatie van de structuur in de data weerspiegelen en duidelijk beter passen dan de 1-factor oplossing. Verder blijkt er slechts sprake van een marginale verslechtering van de fit van het 2e orde factormodel ten opzichte van het 4- 18 factormodel; onvoldoende om het 4 factormodel te verkiezen boven het gewenste 2e orde factor model. Tevens blijkt dat van oorspronkelijk 39 items (zie Tabel 2), 23 items behouden zijn gebleven in het uiteindelijke model. Van deze items kan gesteld worden dat zij unidimensioneel verwijzen naar een van de vier onderscheiden factoren, waarbij de 2e orde factor recht doet aan de hoge correlatie tussen de vier factoren. In Tabel 8 wordt de 2e orde factoroplossing weergegeven. Tabel 8: Ladingen (stdYX), modificatie indices (MI) en expected parameter changes (EPC) van de items per sociale taak bij het tweede orde factor model voor de component kennis Factoren FKEDH: kennis democratisch handelen met items: StdYX KEDH228H KEDH229H KEDH230H KEDH231H KEDH234H KEDH237H KEDH238H KEDH239H .524 .537 .453 .460 .562 .699 .622 .704 KEMV243H KEMV244H KEMV246H .241 .543 .688 KECO250H KECO251H KECO252H KECO253H KECO254H KECO255H KECO257H .657 .463 .585 .566 .459 .602 .662 KEVE259H KEVE261H KEVE262H KEVE266H KEVE267H .363 .719 .338 .434 .493 FKEMV: kennis maatschap. verantwoord handelen met items: FKEOC: kennis omgaan met conflicten met items: FKEVE: kennis omgaan met verschillen met items: Hoofdfactor kennis met subfactoren: FKEDH FKEMV FKECO FKEVE .807 .927 .935 .913 MI stdYX EPC Geen modification indices boven the minimum value De gegevens in Tabel 8 laten zien dat de kennis-items goed laden op de factoren per sociale taak. Verder blijkt dat de vier factoren evenwichtig vertegenwoordigd zijn in de hoofdfactor kennis, waarbij dient opgemerkt dat de factor kennis met betrekking tot democratisch handelen iets minder wordt verklaard vanuit de hoofdfactor (.81) dan de andere drie factoren (.91-.94). 19 Door middel van afzonderlijke analyse van de hoofdfactor met de onderscheiden achtergrondvariabelen is inzicht verkregen in de correlaties van de hoofdfactor met deze variabelen. De resultaten zijn weergegeven in Tabel 9. Tabel 9: Correlaties hoofdfactor kennis met achtergrond variabelen d.m.v. afzonderlijke analyses per achtergrondvariabele Achtergrond variabele Hoofdfactor attitude Geboorteland een van de ouders: (Nederlands als basiscategorie) Turkije -.15** Marokko -.17** Suriname -.12** Antillen -.15** Overige Westerse landen -.07* Afrikaanse landen -.12* Aziatische landen -.002 Taal die thuis gesproken wordt: (Nederlands als basiscategorie) Turks -.15** Marokkaans -.14** Anders -.17** Llsekse (1=jongen; 2=meisje) .27** Schooltype (1=primair en 2=voortgezet onderwijs) -.009 Sociaal wenselijkheid input matrix niet positief definiet * tweezijdig significant bij p<.05 ; ** tweezijdig significant bij p<.01 De correlaties wijzen uit dat kinderen van wie een of beide ouders uit Turkije, Marokko, Suriname, Antillen, andere Westerse landen of Afrika afkomstig zijn, gemiddeld een iets lagere score hebben op de component kennis dan de kinderen wiens ouders beide uit Nederland afkomstig zijn. Ook blijken kinderen wiens thuistaal niet Nederlands is, gemiddels lager te scoren op de kennis-schalen dan de kinderen wiens thuistaal Nederlands is. Opnieuw blijken meisjes gemiddeld hoger te scoren wat betreft hun kennis als component van burgerschapscompetentie dan jongens. Het negatieve effect van schooltype dat bij attitude het geval was, is evenwel bij kennis niet significant. Er is echter ook geen positief effect: het kennispeil neemt niet toe in het voortgezet onderwijs ten opzichte van het basisonderwijs. De correlatie met de factor ‘sociale wenselijkheid’ blijkt tot slot niet berekend te kunnen worden omdat de matrix niet positief definiet bleek. Resultaten voor de component reflectie In Tabel 10 worden de passingsmaten weergegeven van de CFA-modellen voor de 1 factoroplossing (CFA 1F), de 4-factoroplossing (CFA 4F) en de 2e orde factoroplossing (2e orde CFA met 4F) aangaande reflectie als component van burgerschapscompetentie. Tabel 10: Drie modellen en passingsmaten voor29 items betreffende de component reflectie (N=1662) Model* Aantal items Chi-kwadraat df p-sign. RMSEA WRMR CFI CFA 1F 29 2763.59 377 .000 .062 .054 .85 CFA 4F 29 951.75 371 .000 .031 .029 .96 e 2 orde 29 975.79 373 .000 .031 .030 .96 CFA met 4F * geschat volgens maximum likelihood parameter schattingsmethode met 48 scholen als clusters TLI .84 .96 .96 20 De fit indices in Tabel 10 laten, net als bij de component attitude en kennis, zien dat het 4F model en het 2e orde model beide een goede representatie van de structuur in de data weerspiegelen en duidelijk beter passen dan de 1-factor oplossing. Verder blijkt er opnieuw slechts sprake van een marginale verslechtering van de fit van het 2e orde factormodel ten opzichte van het 4-factormodel; onvoldoende om het 4 factormodel te verkiezen boven het gewenste 2e orde factor model. Tevens blijkt dat van oorspronkelijk 71 items (zie Tabel 2), 29 items behouden zijn gebleven in het uiteindelijke model. Van deze items kan gesteld worden dat zij unidimensioneel verwijzen naar een van de vier onderscheiden factoren, waarbij de 2e orde factor recht doet aan de hoge correlatie tussen de vier factoren. In Tabel 11 wordt de 2e orde factoroplossing weergegeven. 21 Tabel 11: Ladingen (stdYX), modificatie indices (MI) en expected parameter changes (EPC) van de items per sociale taak bij het tweede orde factor model voor de component reflectie Factoren FREDH: reflectie democratisch handelen met items: StdYX REDH152 REDH153 REDH158 REDH159 REDH163 .579 .568 .670 .691 .621 REMV169 REMV170 REMV175 REMV177 REMV181 REMV185 .625 .599 .681 .631 .703 .667 RECO188 RECO190 RECO191 RECO193 RECO195 RECO197 RECO199 RECO200 RECO202 .747 .703 .700 .692 .676 .644 .712 .693 .671 REVE206 REVE208 REVE210 REVE211 REVE213 REVE215 REVE216 REVE217 REVE220 .666 .610 .554 .661 .660 .688 .677 .702 .645 FREMV: reflectie maatsch. verantwoord handelen met items: FREOC: reflectie omgaan met conflicten met items: FREVE: reflectie omgaan met verschillen met items: Hoofdfactor reflectie met subfactoren: FREDH FREMV FRECO FREVE Hoogste en laagste EPC (crossloading van item met andere factor) FREMV BY REDH163 FREMV BY REDH158 Hoogste en laagste EPC tussen items gegeven relatie met eigen factor REDH159 WITH REDH158 REVE217 WITH REVE208 .815 .963 .805 .875 MI stdYX EPC 24.066 15.857 .286 -.235 43.026 28.301 .131 -.092 De gegevens in Tabel 11 laten zien dat de reflectie-items goed laden op de factoren per sociale taak. Verder blijkt net als bij de component attitude, dat de factor ‘reflectie maatschappelijk verantwoord handelen’ (FREMV) het hoogst laadt op de hoofdfactor reflectie: de hoofdfactor reflectie is inhoudelijk het meest verwant aan de reflectie ten aanzien van het maatschappelijk verantwoord handelen en de andere drie typen reflecties hangen hiermee sterk samen (.81-.88). 22 Door middel van afzonderlijke analyse van de hoofdfactor met de onderscheiden achtergrondvariabelen is inzicht verkregen in de correlaties van de hoofdfactor met deze variabelen. De resultaten zijn weergegeven in Tabel 12. Tabel 12: Correlaties hoofdfactor reflectie met achtergrond variabelen d.m.v. afzonderlijke analyses per achtergrondvariabele Achtergrond variabele Hoofdfactor attitude Geboorteland een van de ouders: (Nederlands als basiscategorie) Turkije .14** Marokko .20** Suriname .11** Antillen .06 Overige Westerse landen .06* Afrikaanse landen .06 Aziatische landen .07** Taal die thuis gesproken wordt: (Nederlands als basiscategorie) Turks .09 Marokkaans .17** Anders .09** Llsekse (1=jongen; 2=meisje) .11** Schooltype (1=primair en 2=voortgezet onderwijs) -.06 Sociaal wenselijkheid .54** * tweezijdig significant bij p<.05 ; ** tweezijdig significant bij p<.01 De correlaties wijzen uit dat kinderen van wie een of beide ouders uit Turkije, Marokko, Suriname, andere Westerse landen of Azië afkomstig zijn, gemiddeld een iets hogere score hebben op de component reflectie dan de kinderen wiens ouders beide uit Nederland afkomstig zijn. Ook blijken kinderen wiens thuistaal Marokkaans of anders dan Nederlands of Turks is, gemiddels hoger te scoren op de reflectie-schalen dan de kinderen wiens thuistaal Nederlands is. Net als bij attitude en kennis blijken meisjes gemiddeld hoger te scoren wat betreft reflectie als component van burgerschapscompetentie dan jongens. Het negatieve effect van schooltype dat bij attitude het geval was, is net als bij kennis ook niet bij reflectie aan de orde: leerlingen in het voorgezet onderwijs denken gemiddeld genomen niet vaker of minder vaak na over onderwerpen die verwijzen naar burgerschap. Tot slot blijkt er sprake van een matige tot redelijke samenhang met de factor ‘sociale wenselijkheid’. Resultaten voor de component vaardigheden In de analyses van de component vaardigheden is gebleken dat de items met betrekking tot democratisch handelen niet naar 1 maar naar 2 factoren verwijzen: enerzijds het naar voren brengen van de eigen mening en anderzijds het naar de ander kunnen luisteren. Daarnaast bleek dat de items van de bedoelde factoren met betrekking maatschappelijk verantwoord handelen en omgaan met conflicten, zo hoog met elkaar samen te hangen dat deze 2 factoren zijn samengevoegd tot 1 factor. In Tabel 13 worden de passingsmaten weergegeven van de CFA-modellen voor de 1 factoroplossing (CFA 1F), de 4-factoroplossing (CFA 4F) en de 2e orde factoroplossing (2e orde CFA met 4F) aangaande de inschatting van de eigen vaardigheden als component van burgerschapscompetentie. 23 Tabel 13: Drie modellen en passingsmaten voor 16 items betreffende de component vaardigheden (N=1776) Model* Aantal items Chi-kwadraat df p-sign. RMSEA WRMR CFI CFA 1F 16 883.77 104 .000 .065 58 .85 CFA 4F 16 315.67 98 .000 .035 .032 .96 2e orde 16 317.02 100 .000 .035 .032 .96 CFA met 4F * geschat volgens maximum likelihood parameter schattingsmethode met 48 scholen als clusters TLI .82 .95 .95 De fit indices in Tabel 13 laten, net als bij de component attitude, kennis en reflectie, zien dat het 4-F model en het 2e orde model beide een goede representatie van de structuur in de data weerspiegelen en duidelijk beter passen dan de 1-factor oplossing. Verder blijkt er de fit van het 2e orde factormodel net zo goed te zijn als het 4-factormodel; wat betekent dat we het gewenste 2e orde factor model geschikt kunnen achten. Tevens blijkt dat van oorspronkelijk 53 items (zie Tabel 2), 16 items behouden zijn gebleven in het uiteindelijke model. Van deze items kan gesteld worden dat zij unidimensioneel verwijzen naar een van de vier onderscheiden factoren, waarbij de 2e orde factor recht doet aan de hoge correlatie tussen de vier factoren. Hier dient echter bij opgemerkt dat in tegenstelling tot de situatie bij attitude, kennis en reflectie, de vier factoren niet verwijzen naar de vier oorspronkelijke bedoelde sociale taken. In Tabel 14 wordt de 2e orde factoroplossing weergegeven. 24 Tabel 14: Ladingen (stdYX), modificatie indices (MI) en expected parameter changes (EPC) van de items per sociale taak bij het tweede orde factor model voor de component vaardigheden Factoren FEFDH1: vaardigheden democratisch handelen 1 met items: StdYX EFDH98 EFDH100 EFDH102 .672 .543 .691 EFDH101 EFDH106 .607 .653 EFMV114 EFMV116 EFMV118 EFCO126 EFCO130 EFCO132 .653 .613 .623 .529 .638 .624 EFVE134 EFVE135 EFVE138 EFVE142 EFVE150 .593 .550 .485 .592 .567 FEFDH1 FEFDH1 FMVCO FEFVE .428 .856 .945 .893 MI FEFDH2: vaardigheden democratisch handelen 2 met items: FMVCO: vaardigheden maatsch. ver. handelen samen met omgaan met conflicten met items: FEFVE: vaardigheden omgaan met verschillen met items: Hoofdfactor vaardigheden met subfactoren: Hoogste en laagste EPC (crossloading van item met andere factor) FMVCO BY EFDH101 FMVCO BY EFVE135 Hoogste en laagste EPC tussen items gegeven relatie met eigen factor EFVE138 WITH EFVE135 EFVE135 WITH EFVE130 stdYX EPC 11.353 13.908 .878 -.340 20.038 12.223 .102 -.070 De gegevens in Tabel 14 laten zien dat de reflectie-items goed laden op de vier onderscheiden factoren, hoewel deze factoren dus niet verwijzen naar de oorspronkelijke vier sociale taken. Verder blijkt net als bij de component kennis, dat democratisch handelen -met name de eerste factor: de eigen mening naar voren kunnen brengen (FEFDH1)- het minst sterk vertegenwoordigd is in de hoofdfactor vaardigheden (een lading van .43), terwijl de tweede factor van democratisch handelen (kunnen luisteren naar anderen), de combi maatschappelijk verantwoord handelen met omgaan met conflicten, en omgaan met verschillen wel hoger laden (.86-.95). Daarbij is opnieuw (net als bij attitude en reflectie) maatschappelijk verantwoord handelen (dit keer in combinatie met omgaan met conflicten) de belangrijkste subfactor voor de hoofdfactor vaardigheden. Door middel van afzonderlijke analyse van de hoofdfactor met de onderscheiden achtergrondvariabelen is inzicht verkregen in de correlaties van de hoofdfactor met deze variabelen. De resultaten zijn weergegeven in Tabel 15. 25 Tabel 15: Correlaties hoofdfactor vaardigheden met achtergrond variabelen d.m.v. afzonderlijke analyses per achtergrondvariabele Achtergrond variabele Hoofdfactor attitude Geboorteland een van de ouders: (Nederlands als basiscategorie) Turkije .14** Marokko .12** Suriname .03 Antillen -.01 Overige Westerse landen -.01 Afrikaanse landen .03 Aziatische landen .11** Taal die thuis gesproken wordt: (Nederlands als basiscategorie) Turks .08** Marokkaans .10** Anders .02 Llsekse (1=jongen; 2=meisje) .18** Schooltype (1=primair en 2=voortgezet onderwijs) -.02 Sociaal wenselijkheid .84** * tweezijdig significant bij p<.05 ; ** tweezijdig significant bij p<.01 De correlaties wijzen uit dat kinderen van wie een of beide ouders uit Turkije, Marokko, Aziatische landen afkomstig zijn, gemiddeld een iets hogere score hebben wat betreft het inschatten van de eigen burgerschapsvaardigheden dan de kinderen wiens ouders beide uit Nederland afkomstig zijn. Ook blijken kinderen wiens thuistaal Marokkaans of Turks is, gemiddels hoger te scoren wat betreft het inschatten van de eigen burgerschapsvaardigheden dan de kinderen wiens thuistaal Nederlands is. Net als bij attitude, kennis en reflectie blijken meisjes gemiddeld hoger te scoren wat betreft reflectie als component van burgerschapscompetentie dan jongens. Opnieuw is geen significant verschil is tussen de leerlingen uit primair en voortgezet onderwijs. Tot slot blijkt er sprake van een sterke samenhang met de factor ‘sociale wenselijkheid’. Net als bij burgerschapsattitude hangt de burgerschapsvaardigheid zoals ingeschat door de leerling zelf sterk samen met het geven van sociaal-wenselijke antwoorden. Schaalgemiddelden en samenhang Uitgaande van de geconstrueerde 2e orde factoren zijn schaalscores berekend en is de correlatie tussen de vier componenten van burgerschapcompetentie berekend. De schaalscores worden weergegeven in Tabel 16. Tabel 16. Schaalgemiddelden voor de componenten van burgerschapscompetentie Attitude Kennis Reflectie Vaardigheden Gemiddelde 3.27 .69 2.35 3.09 Standaard deviatie .43 .19 .61 .44 N 1920 1915 1899 1903 26 Leerlingen scoren gemiddeld het hoogst op attituden. Ook de eigen vaardigheid schatten de leerlingen behoorlijk hoog in. Reflecteren doen leerlingen gemiddeld af en toe. Verder scoren de leerlingen gemiddeld een 7 op de kennistoets. De samenhang tussen de scores op de vier componenten wordt weergegeven in Tabel 17. Tabel 17. Samenhang tussen de componenten van burgerschapscompetentie Attitude Kennis Reflectie Vaardigheden Attitude Kennis .27** Reflectie .45** -.03 Vaardigheden .65** .16** . 48** ** significantieniveau p< 0.01 (tweezijdig getoetst); N=minimum 1897; maximum 1920) Naar blijkt hangen de vier componenten onderling zwak tot redelijk samen, behalve de componenten kennis en reflectie. De mate waarin leerlingen kennis hebben van democratische principes, sociale regels, hoe je met conflicten omgaat en met verschillen tussen mensen, hangt gemiddeld genomen niet samen met de mate waarin leerlingen nadenken over democratische kwesties, groepsprocessen, conflicten en aard en gevolgen van verschillen tussen mensen. De componenten kennis en attituden en kennis en vaardigheden vertonen een zwakke samenhang: naarmate leerlingen meer kennis hebben van democratische principes, sociale regels, hoe je met conflicten omgaat en met verschillen tussen mensen, is hun belangstelling en bereidheid om hieraan een positieve bijdrage te leveren over het algemeen ietwat groter en beschikken ze ook over iets meer democratische en sociaalmaatschappelijke vaardigheden en over vaardigheden om om te gaan met conflicten en met verschillen tussen mensen. De samenhang tussen reflectie en attitude en tussen reflectie en vaardigheden is redelijk. Naarmate leerlingen meer nadenken over democratische kwesties, groepsprocessen, conflicten en aard en gevolgen van verschillen tussen mensen is hun belangstelling en bereidheid om hieraan een positieve bijdrage te leveren groter en beschikken ze in het algemeen ook over meer vaardigheden op deze domeinen. Tot slot blijken attitude en vaardigheden het sterkst met elkaar in verband te staan: leerlingen die belang hechten aan het naleven van democratische principes, sociaalmaatschappelijke normen, het voorkomen en oplossen van conflicten en een goede omgaan tussen mensen gegeven de verschillen tussen mensen, beschikken in het algemeen ook over meer vaardigheden op deze gebieden. 7. Conclusies en discussie Voor het optimaliseren van burgerschapsvorming in het onderwijs is het van belang om inzicht te hebben in de kwaliteit van de burgerschapscompetenties van leerlingen. Hiertoe zijn evaluatie-instrumenten nodig. In dit paper hebben we een onderzoek beschreven ter ontwikkeling van een instrument voor het meten van burgerschapscompetenties van leerlingen in de leeftijd van 10 tot 16 jaar. Met dit instrument beogen we op termijn evaluatieve uitspraken te kunnen doen over de burgerschapscompetenties van leerlingen: het vermogen van leerlingen om als burger in een democratische en pluriforme samenleving te handelen. Tevens willen we nagaan of deze meting van 27 burgerschapscompetentie een geschikte effectmaat is voor de mate waarin en wijze waarop het onderwijs (scholen en docenten) invloed kan uitoefenen op de burgerschapsvorming van hun leerlingen. Bij de ontwikkeling van het instrument is uitgegaan van de opvatting dat leerlingen leren om burger te zijn door deel te nemen aan allerlei sociale en culturele praktijken die hun alledaagse leven uitmaken (gezin, vrije tijd, werk, school) en waarin ze interacteren met andere mensen en hun omgeving. De alledaagse leefwereld vormt dus het aangrijpingspunt. Wat zijn daarin kenmerkende praktijken en activiteiten? En wat is in die context nodig aan burgerschapscompetenties? Uit beschikbare literatuur zijn vier sociale taken afgeleid die het burgerschap van leerlingen kenmerken: democratisch handelen, maatschappelijk verantwoord handelen, omgaan met conflicten, en omgaan met verschillen. Voor iedere sociale taak is vervolgens gedefinieerd wat leerlingen aan attitude, kennis, reflectie en vaardigheden nodig hebben. Deze componenten, die tezamen het vermogen van de leerling tot het handelen als burger bepalen, zijn ten slotte geoperationaliseerd op itemniveau. In dit paper is verslag gedaan van de werkwijze en resultaten van de confirmatieve factoranalyses ter optimalisering van de betrouwbaarheid en constructvaliditeit per component van burgerschapscompetentie. De analyses zijn uitgevoerd over een gegevensbestand waarin de data van twee pilotstudies in het basis- en voortgezet onderwijs werden gecombineerd.iv Met betrekking tot de resultaten van het verrichte onderzoek ten behoeve van de instrumentconstructie, concluderen we ten eerste dat we er in geslaagd zijn om betrouwbare schalen te construeren voor de componenten attitude, kennis en reflectie van burgerschapscompetentie, met in achtneming van het onderscheid tussen de vier sociale taken. Voor de component vaardigheden ligt dit iets anders. Ook hier is weliswaar sprake van betrouwbare schalen, maar deze verwijzen niet alle naar de vier vooraf onderscheiden sociale taken. Voor de sociale taak democratisch handelen blijken twee van elkaar te onderscheiden vaardigheden van belang: het eigen standpunt naar voren kunnen brengen en het kunnen luisteren naar de mening van de ander. Daarnaast blijken de vaardigheden die het vermogen tot maatschappelijk verantwoord handelen en omgaan met conflicten mede bepalen, vrijwel samen te vallen. Onze doelstelling was niet alleen om betrouwbare, maar ook valide schalen te construeren. Onze analyses tot dusver hebben tot een grote reductie van het aantal oorspronkelijke items geleid. Van de oorspronkelijk 233 items zijn er 85 behouden gebleven. De overige items zijn verwijderd op basis van te geringe bijdrage in het verklaren van variantie, te geringe lading op de bedoelde factor dan wel hogere lading op een onbedoelde factor, dubbele ladingen op meerdere factoren of op basis van ‘differential item functioning’ (DIF): correlatie van het item met een achtergrond- of controlevariabele, gegeven de correlatie tussen deze achtergrond- of controlevariabele en de variabele waartoe het item behoort. Bij itemreductie doet zich uiteraard de vraag voor in hoeverre de inhoud van de overgebleven items per schaal nog wel voldoende representatief is voor het te meten concept. We hebben daartoe de inhoud van de items per schaal zorgvuldig vergeleken met de oorspronkelijke conceptuele definities die eerder in dit paper werden samengevat in Tabel 1. De resultaten van deze exercitie zijn tevens besproken met de expertgroep. Met betrekking tot de component attitude hebben we twee lacunes geconstateerd. Het element ‘actief en kritische willen bijdragen’, dat onderdeel uitmaakt van een democratische attitude, bleek niet meer in de overgebleven items gerepresenteerd te zijn. Hetzelfde gold voor het attitude-element ‘is bereid eigen opvattingen en leefstijl niet als enige waarheid te zien’, behorende bij de sociale taak omgaan met verschillen. Voor beide schalen is besloten nieuwe items te formuleren. De 28 betrouwbaarheid en validiteit van deze nieuwe items worden momenteel getest in een vierde pilotstudie onder 650 leerlingen in het basis- en voorgezet onderwijs. Een tweede conclusie die we trekken, betreft de beoogde samenhang tussen de onderscheiden sociale taken. We zijn geslaagd in het construeren van 2e orde factoren per component van burgerschapscompetentie. De sociale taken per component hangen steeds minstens 70 procent samen met de betreffende component, gegeven de schattingen van de gestandaardiseerde parameters zoals in gepresenteerde meetmodellen naar voren komt. Een uitzondering vormt democratisch handelen bij de component vaardigheden: de subfactor ‘eigen standpunt naar voren kunnen brengen’ hangt slechts voor 40 procent samen met de hoofdfactor vaardigheden. Deze schaal wijkt inhoudelijk dan ook af van de andere vaardigheidsschalen omdat de ‘ik-persoon’ centraal staat in plaats van ‘de ander’. Verder kan worden geconstateerd dat maatschappelijke verantwoordelijk handelen bij alle vier de componenten veel aandacht naar zich toe trekt: deze sociale taak hangt voor meer dan 90 procent samen met de respectievelijke componenten. Een voorzichtige verklaring zou kunnen zijn dat de sociale taak ‘maatschappelijk verantwoord handelen’ meer dan de andere sociale taken de burgerschapscompetentie van de leerling kenmerkt. Dit zullen we nader onderzoeken, onder andere door de burgerschapscompetentie van leerlingen te relateren aan criteriumvariabelen zoals het burgerschapsgedrag. Ten derde blijken attitude, kennis, reflectie en vaardigheden als de vier componenten van burgerschapscompetentie onderling zwak tot redelijk met elkaar samen te hangen. Dit kan heel voorzichtig worden opgevat als een eerste, doch gedeeltelijke onderbouwing van de assumptie dat attitude, kennis, reflectie en vaardigheden tezamen verwijzen naar de burgerschapscompetentie van een leerling. Daarbij valt vooral op dat de component kennis het minste samen blijkt te hangen met de andere componenten. Het is verrassend dat kennis en reflectievermogen van de leerlingen zelf helemaal niet met elkaar blijken samen te hangen. Kennis is gemeten als ‘dingen weten’, reflectievermogen als ‘mate van nadenken over dingen’. Zou het zo zijn dat leerlingen die al veel weten, geen reden zien om er nog over na te denken? Of zou het zo zijn dat de dingen (onderwerpen) waarnaar gevraagd wordt bij het onderdeel kennis van een andere orde zijn dan de onderwerpen bij het onderdeel reflectie? Om hier meer over te weten te komen, is vervolgonderzoek van belang waarbij met leerlingen wordt gesproken over de betekenissen die zij zelf geven aan de inhoud van de items (zie ook Van der Niet, ten Dam, Geijsel & Admiraal, paper ORD 2007). Aan de andere kant valt met name de relatief sterke samenhang tussen de componenten attitude en vaardigheden op. Deze twee componenten vertonen ook op een ander vlak een overeenkomst: namelijk een grote samenhang (.97 en .84) met de opgenomen schaal voor het meten van de neiging tot sociaal-wenselijke antwoorden. Een conclusie zou kunnen zijn dat attitude en inschatting van eigen vaardigheden te gevoelig zijn voor sociaal-wenselijkheid om in de vorm van een vragenlijst te worden gemeten. Alvorens we een dergelijke conclusie trekken, gaan we eerst nadere analyses van de gegevens verrichten waarbij we de oordelen van de leerlingen over de eigen vaardigheid willen vergelijken met de oordelen van anderen (klasgenoten en docenten) over hun vaardigheid. Tevens hebben we in een derde pilot extra schalen en itemformuleringen voor sociaal-wenselijkheid opgenomen. Over de vergelijking van de zelfoordelen van de leerlingen met de klasgenoten- en docentenoordelen, evenals de resultaten van de derde pilot, hopen we in de nabije toekomst te publiceren. Beschouwen we, tot slot, de vier componenten als een eerste voorzichtige indicatie van de burgerschapscompetentie van leerlingen, dan indiceren de gemiddelde scores dat 29 de leerlingen de eigen competentie redelijk op orde is, vooral als het gaat om de attitude en de inschatting van de eigen vaardigheden. De gemiddelde 7 op de kennistoets indiceert dat leerlingen in de leeftijd van 11-16 jaar redelijk goed op de hoogte zijn van regels en afspraken die we als burgers onderling hanteren in onze maatschappij, maar ook dat er winst te halen is. Dit laatste geldt ook voor de mate waarin leerlingen aangeven te reflecteren. We hopen met vervolgonderzoek de komende jaren in staat te zijn helder te krijgen of en hoe het onderwijs erin slaagt hieraan bij te dragen. Literatuur Battistoni, R. M. (1997) Service learning and democratic citizenship. Theory into Practice, 36 (3) 150-156. Beane, J. A. (2002) Beyond self-interest: a democratic core curriculum. Educational Leadership, 59 (7) 25-28. Beelman, A., Pfingsten, U., & Lösel, F. (1994). Effects of training social competence in children: a meta-analysis of recent evaluation studies. Journal of Clinical Child Psychology, 23 (3), 260-271. Biesta, G. (2006). Waar wordt democratie geleerd? In: M. de Winter, Th. Schillemans & R. Janssens (red.), Opvoeding in democratie (pp. 51-62). Amsterdam: Uitgeverij SWP. Biesta, G. (in press). Education and the democratic person: towards a political conception of democratic Education. Teachers College Record. Bollen, K. J., & Long, J. S.(Eds.). (1993) Testing Structural Equation Models. Newbury Park, CA:Sage. Cogan, J., & Morris, P. (2001) The development of civics values: an overview. International Journal of Educational Research, 35 (1) 1-10. Commissie Historische en Maatschappelijke Vorming (2001). Verleden, heden en toekomst. Advies aan de minister van OC&W. Enschede: SLO. Crick, B. (1998). Education for Citizenship and the Teaching of Democracy in Schools: Final report of the advisory group on citizenship. London: QCA. Dam, G. ten, & Volman, M. (2003). A life jacket or an art of living. Inequality in social competence education. Curriculum Inquiry, 33 (2), 117-137. Dam, G. ten, & Volman, M. (2004). Critical thinking as a citizenship competence: teaching strategies. Learning & Instruction, 14, 359-379. Dam, G. ten, & Volman, M. (2007). Educating for adulthood or for citizenship: social competence as an educational goal. European Journal of Education, 42 (2), 281-298. Dam, G. ten, Volman, M., Westerbeek, K., Wolfram, P., & Ledoux, G, m.m.v. Peschar, J. (2003). Sociale competentie langs de meetlat. Den Haag: Transferpunt Onderwijsachterstanden. Dewey (1966) [1916]. Democracy and Education. New York: The Free Press. Englund, M.M., Levy, A.K., Hyson, D.M., Sroufe, A. (2000). Adolescent social competence: Effectiveness in a group setting. Child Development, 71 (4), 1049-1060. Ennis, R. H. (2003). Critical thinking assessment. In D. Fasko, Jr. (Ed), Critical Thinking and reasoning: Current research, theory, and practice (pp 293-313). Cresskill, NJ: Hampton press, Inc. Eurydice (2005). Citizenship education at school in Europe. Survey. Brussel: European Commission. 30 Giddens, A. (1996) Modernity and Self-Identity: Self and Society in the Late Modern Age (Cambridge: Polity Press). Glass, R.D. (2000). Education and the ethics of democratic citizenship. Studies in Philosophy and Education, 19, 275-296. Goffman, E., (1959). The Presentation of Self in Everyday Life. New York: Doubleday. Gordon, E.W. (2003). Urban education. Teachers College Record, 105 (2), 189-207. Grant, R. W. (1996) The ethics of talk: classroom conversation and democratic politics. Teachers College Record, 97 (3), 470-482. Halberstadt, A.G., Denham, S.A., Dunsmore, J.C. (2001). Affective social competence. Social Development, 10 (1), 79-119. Haste, H. (2004) Constructing the citizen. Political Psychology, 25 (3), 413—439. Hicks, D. (2001) Re-examining the future: the challenge for citizenship education. Educational Review, 53 (3) 229-240. Holland, D., Lachicotte, W., Skinner, D., & Cain, C. (1998). Identity and agency in cultural worlds. Cambridge, MA: Harvard University Press. Holmes, M. (2001). Education and citizenship in an age of pluralism. In D. Ratisch & J. Viteritti (Eds.), Making good citizens, p. 187-212. New Haven & Londen: Yale University Press. Kerr, D. (1999) Changing the political culture: the Advisory Group on Education for Citizenship and the teaching of democracy in school. Oxford Review of Education, 25 (1/2), 274-285. Lawy, R., & Biesta, G. (2006). Citizenship-as-practice: the educational implications of an inclusive and relational understanding of citizenship. British Journal of Educational Studies, 54 (1), 34-50. Ledoux, G. & Overmaat, M. (2002). Op zoek naar succes. Een onderzoek naar basisscholen die meer en minder succesvol zijn voor autochtone en allochtone leerlingen uit achterstandgroepen. Amsterdam: SCO-Kohnstamm Instituut. Muthén, L. K., & Muthén, B. 0., (2000) Cursusboek Mplus. Muthèn, L.K., & Muthèn, B.O. (2004). Mplus: The comprehensive modeling program for applied researchers. User’s guide, 3rd ed.. Los Angeles: Muthèn & Muthèn. Ministerie van Onderwijs, Cultuur en Wetenschappen (2005). Wetsvoorstel 29959 ‘Bevordering actief burgerschap en sociale integratie’. Den Haag: Ministerie van Onderwijs, Cultuur en Wetenschappen. Naval, C., Print, M. & Veldhuis, R. (2002). Education for democratic citizenship in the new Europe: context and reform. European Journal of Education, 37 (2), 107-128. Niet, M., van der, Dam, G., ten, Geijsel, F., & Admiraal, W. (2007, Juni). Diversiteit in burgerschapscompetenties van jongeren: herkomst-, SES-, sekse- en leeftijdverschillen. Groningen: Paper gepresenteerd tijdens de Onderwijs Research Dagen (ORD). Onderwijsraad (2003). Onderwijs en burgerschap. Advies. Den Haag: Onderwijsraad. Oort, F.J. (1998). Schending van vraagzuiverheid en eendimensionaliteit. In: Van den Brink, W.P. & Mellenbergh,G.J. Testleer en testconstructie (p. 247-268). Amsterdam: Boom. Print, M., & Coleman, D. (2003). Towards understanding of social capital and citizenship education. Cambridge Journal of Education, 33 (1), 123-149. Raver, C.C., & E.F. Zigler. 1997. Social competence: An untapped dimension of Head Start's success. Early Childhood Research Quarterly, 12, 363-385. Renk, K., & Phares, V. (2004).Cross-informant ratings of social competence in children and adolescents. Clinical Psychology Review, 24,239-254. Rychen, D.S., & Salganik, L.H. (2003). Key Competencies for a successful life and wellfunctioning society. Göttingen: Hogrefe & Huber Publishers. 31 Schuitema, J. A., ten Dam, G. & Veugelers, W. (in press). Teaching strategies for moral education: a review. Journal of Curriculum Studies. Stokking, K., van der Schaaf, M., Leenders, F., & de Jong, J. (2004). Meten van reflectie bij studenten. Paper gepresenteerd tijdens de OnderwijsResearchDagen (ORD). Thoma S.J., Narvaez D., Rest J., Derryberry P. (1999). Does Moral Judgment Development Reduce to Political Attitudes or Verbal Ability? Evidence Using the Defining Issues Test. Educational Psychology Review, 11 (4), 325-341. Torney-Purta, J. (2002). Patterns in the civic knowledge, engagement, and attitudes of European adolescents: The IEA Civic Education Study. European Journal of Education, 37 (2), 129-141. Torney-Purta, J. (2004) Adolescents’ political socialization in changing contexts: an international study in the spirit of Nevitt Sanford. Political Psychology, 25 (3), 465478. Torney-Purta, J., Lehman, R., Oswald, H., & Shulz, W. (2001). Citizenship and Education in Twenty-Eight Countries: Civic Knowledge and Engagement at Age Fourteen. Amsterdam: International Association for the Evaluation of Educational Achievement (IEA). Torney, T., Oppenheim, A.N., & Farnen, R.F. (1975). Civic education in ten countries: An empirical study. New York: John Wiley and Sons. Veugelers, W. (2006). Democratie leren: Van der Hoeven en De Winter over onderwijs en burgerschapsvorming. Pedagogische Studiën, 83 (2), 156-166. Veugelers, W. and De Kat, E. (2003) Moral task of the teacher according to students, parents and teachers. Educational Research and Evaluation, 9 (1), 75-91. Wal, van der, M. (2002). Instrument Cross Curriculaire Competenties. Groningen: RUG. Wardekker, W. (2001). Schools and moral education. Conformism or autonomy? Journal of Philosophy of Education, 35 , 101-114. Watson, M., Battistich, V., & Solomon, D. (1997). Enhancing student’s social and ethical development in schools: an intervention program and its effects. International Journal of Educational Research, 27, 7, 571-586. Westheimer, J., & Kahne, J. (2004). What kind of citizen? The politics of educating for democracy. American Educational Research Journal, 41 (2), 237-269. Winter, M., de (2004). Opvoeding, onderwijs en jeugdbeleid in het algemeen belang. De noodzaak van een democratisch-pedagogisch offensief. WRR Webpublicatie, nr. 1. Beschikbaar op www.wrr.nl. i In totaal zijn ruim tachtig meetinstrumenten beoordeeld. Nederland heeft tot op heden niet aan deze studie deelgenomen, maar gaat dat wel doen (meting 2009). iii Daarbij is gebruik gemaakt van de volgende trefwoorden (incl. synoniemen en nauw verwante termen): citizenship education, moral education, character education, values education, democratic education, education for life, civic competence, and civic education, social competence, personal and social education, and affective competence. iv In dit paper hebben we er voor gekozen om de items van de uiteindelijke schalen nog niet te presenteren, op een aantal voorbeelditems na (zie eerder in Tabel 2). Reden is dat momenteel nog twee additionele pilotstudies plaatsvinden. De verwachting is dat de definitieve versie van het instrument komende najaar beschikbaar komt. ii 32