Moderne technologie bij assessment en selectie van personeel

Transcriptie

1 Moderne technologie bij assessment en selectie van personeel prof.dr. Marise Ph. Born, Erasmus Universiteit Rotterdam, Instituut voor Psychologie en Vrije Universiteit Amsterdam, Vakgroep Sociale & Organisatiepsychologie dr. Janneke K. Oostrom Erasmus Universiteit Rotterdam Instituut voor Psychologie Workship NIP-congres 9 maart 2012

2 Praktijkvoorbeelden

3 Voorbeeldsituatie

4 Voorbeeldsituatie

5 Veelbruikte instrumenten in Nederland Interviews Cognitive vaardigheidstests Biodata Persoonlijkheidsvragenlijsten Assessment centers

6 Waarom zijn multimediale test populair? Technologische ontwikkeling Internet Multimedia Reacties van kandidaten Functie-relevantie Rechtvaardigheidspercepties

7 Kenmerken 1) Simulaties, waarin belangrijke aspecten van de baan worden gepresenteerd Signs Historisch: a b c d e Samples

8 Kenmerken 2) Videoclips om situaties te presenteren VS.

9 Kenmerken 3) Antwoordformat: meerkeuze (SJT) of openvragen (webcamtest)

10 Kenmerken 4) Scoringsmethoden SJTs: vergeleken met antwoorden referentiegroep (automatisch) Webcamtest: achteraf beoordeeld door experts

11 Enkele voordelen 1) Flexibiliteit in afnames -> minder kosten (Olson-Buchanan & Drasgow, 2006) 2) Situaties zijn gedetailleerd en realistisch (Weekley & Jones, 1997) 3) Kandidaten reageren positief, meer gemotiveerd (Stricker, 1982)

12 Stelling 1 Het maakt echt niet uit of je technologisch geavanceerde tests of klassieke tests gebruikt voor het meten van verschillen tussen mensen. Deze moderne tests zijn oude wijn in peperdure nieuwe zakken en ze hebben ook nog eens een beperkte houdbaarheid.

13 Onderzoek Oostrom et al. (2010) Webcamtest toegevoegde waarde boven kennistest bij voorspellen effectiviteit werkadviseurs Oostrom et al. (2011) Webcamtest toegevoegde waarde boven cognitieve capaciteitentest en persoonlijkheid bij voorspellen studiesucces Christian et al. (2010) Video-SJT voorspelt beter dan papieren SJT

14 Conclusie stelling 1 Het maakt echt niet uit of je technologisch geavanceerde tests of klassieke tests gebruikt voor het meten van verschillen tussen mensen. Deze moderne tests zijn oude wijn in peperdure nieuwe zakken en ze hebben ook nog eens een beperkte houdbaarheid. Onjuist

15 Stelling 2 Geen idee wat multimediale tests meten. Ze zien er fantastisch uit maar er gaat niets, geen enkel psychologisch begrip, achter schuil. Leuke speeltjes voor IT-ers maar als psycholoog heb ik er helemaal niets mee.

16 Onderzoek SJT review door Christian et al. (2010) Construct Percentage 1 Leiderschap 37.50% 2 Heterogeen 33.09% 3 Interpersoonlijke 12.50% vaardigheden 4 Persoonlijkheidstrekken 9.56% 5 Overig 7.35%

17 Onderzoek De Meijer et al. (2010): SJT voor Integriteit Gemiddelde tot hoge relaties met : How I-Think (cognitieve verdraaiingstest; Barriga et al., 2001) Selectiegesprek gericht op integriteit Geen verband met cognitieve capaciteiten

18 Conclusie stelling 2 Geen idee wat multimediale tests meten. Ze zien er fantastisch uit maar er gaat niets, geen enkel psychologisch begrip, achter schuil. Leuke speeltjes voor IT-ers maar als psycholoog heb ik er helemaal niets mee. Onjuist

19 Stelling 3 Multimediale tests leiden tot minder etnische scoreverschillen dan papieren tests.

20 Onderzoek Instrument D-waarden Amerika D-waarden Nederland Intelligentietests 1.00* ** Persoonlijkheidsvragenlijsten * ** Papieren SJT 0.40*? Multimedia SJT 0.31* 0.38** Webcamtest? 0.14*** * Ployhart & Holtz, 2008 ** De Meijer, Born, Van Zielst, Van der Molen, 2010 *** De Soete, Lievens, Oostrom, & Westerveld, submitted

21 Onderzoek Vereiste leesvaardigheden en cognitieve lading van invloed op scoreverschillen (Whetzel, McDaniel, & Nguyen, 2008) Type antwoordformat: SJT kennis (intelligentie) Webcamtest gedrag (persoonlijkheid)

22 Onderzoek Binnen SJTs (Whetzel & McDaniel, 2008): Should do instructie d =.39 Would do instructie d =.34 Binnen webcamtest (De Soete, Oostrom et al.): Uitspreken d 0.10 Uitschijven d 0.30 Transcripten d 0.20

23 Conclusie stelling 3 Multimediale tests leiden tot minder etnische scoreverschillen dan papieren tests. Juist

24 Stelling 4 Multimediale tests, zoals SJTs, zijn eenvoudig te faken.

25 Onderzoek Faken: bewust andere antwoorden geven om positiever te scoren (McFarland & Ryan, 2000) Nguyen, Biderman & McDaniel (2005): should do en would do instructies Twee afnames: eerlijk of niet eerlijk would do d = 0.15 en 0.34 should do d = en 0.45

26 Onderzoek 2. Peeters & Lievens (2005) Studenten, would do instructies Fakers scoorden d = 0.89 hoger dan niet-fakers Verband met cijfers hoger voor niet-fakers (r =.33) dan fakers (r =.09) Faken nadelig voor voorspellende waarde Oplossing: gebruik should do instructies

27 Conclusie stelling 4 Multimediale tests, zoals SJTs, zijn eenvoudig te faken. Onjuist

28 Stelling 5 Deze tests automatiseren psychologen weg. Ze gaan tot werkeloosheid onder psychologen leiden.

29 Evidence-based selecteren is beter, maar in mijn praktijk. Succesvol selecteren is en blijft goeddeels toeval maar geen reden om op te houden met serieus onderzoek.

30 Stelling 5 Deze tests automatiseren psychologen weg. Ze gaan tot werkeloosheid onder psychologen leiden. Juist? Onjuist?

31 Referenties Christian, M.S., Edwards, J.C., & Bradley, J.C. (2010). Situational judgment tests: Constructs assessed and a metaanalysis of their criterion-related validities. Personnel Psychology, 63, De Meijer, L.A.L., Born, M.P., Van Zielst, J. & Molen, H.T. van der (2010). The construct-driven development of a video-based situational judgment test measuring integrity: A study in a multi-ethnic police setting. European Psychologist, 15, De Soete, B., Lievens, F., Oostrom, J.K., & Westerveld, L. (submitted). Alternative predictors in personnel selection for reducing ethnic performance differences: Constructed response multimedia tests vis-à-vis other instruments. McFarland, L., & Ryan, A.M. (2000). Variance in faking across noncognitive measures. Journal of Applied Psychology, 85, Nguyen, Biderman & McDaniel (2005): Olson-Buchanan, J.B., & Drasgow, F. (2006). Multimedia situational judgment tests: The medium creates the message. In F. Drasgow & J.A. Weekley (Eds.), Innovations in computerized assessment (pp. 1-5). Mahwah, NJ: Lawrence Erlbaum. Oostrom, J.K., Born, M.Ph., Serlie, A.W. & Molen, H.T. van der (2010). Webcam testing: Validation of an innovative open-ended multimedia test. European Journal of Work and Organizational Psychology, 19(5), Oostrom, J.K., Born, M.Ph., Serlie, A.W. & Molen, H.T. van der (2010). The role of individual differences in the perceived job relatedness of a cognitive ability test and a multimedia situational judgment test. International Journal of Selection and Assessment, 18, Oostrom, J.K., Born, M.Ph., Serlie, A.W. & Molen, H.T. van der (2011). A multimedia situational test with a constructed-response format: Its relationship with personality, cognitive ability, leadership experience, and academic performance. Journal of Personnel Psychology, 10, Peeters, H., & Lievens, F. (2005). Situational judgment tests and their predictiveness of college students success: The influence of faking. Educational and Psychological Measurement, 65, Ployhart, R.E., & Holtz, B.C. (2008). The diversity-validity dilemma: Strategies for reducing racioethnic and sex subgroup differences and adverse impact in selection. Personnel Psychology, 61, Stricker, L.J. (1982). Interpersonal competence instrument: Development and preliminary findings. Applied Psychological Measurement, 6, Weekley, J.A., & Jones, C. (1997). Video-based situational testing. Personnel Psychology, 50, Whetzel, D.L., & McDaniel, M.A., & Nguyen, N.T. (2008). Subgroup differences in situational judgment test performance: A meta-analysis. Human Performance, 21,

32 Contact Marise Ph. Born Erasmus Universiteit Rotterdam Instituut voor Psychologie en Vrije Universiteit Amsterdam Vakgroep Sociale & Organisatiepsychologie Janneke K. Oostrom Erasmus Universiteit Rotterdam Instituut voor Psychologie