Az összehasonlító ítéletalkotás és a független értékelés két különböző megközelítést képvisel a kritikai gondolkodás kontextusában a minőségértékelésben. Míg az összehasonlító ítéletalkotás a munkapárok relatív összehasonlításán alapul, a független értékelés abszolút kritériumokat használ, amelyeket minden egyes elemre külön alkalmaznak. Mindkét módszer bizonyítottan sikeres az oktatási és kutatási környezetben.
Kiemelt tartalmak
Az összehasonlító ítélet páronkénti összehasonlításokat használ, míg a független értékelés abszolút rubrikákat alkalmaz.
A Bradley-Terry-hez hasonló statisztikai modellek alátámasztják az összehasonlító ítélet megbízhatóságát
A független értékelés dominál a szabványosított tesztelési és tanúsítási környezetben
Az összehasonlító ítélkezés az összesített összehasonlítások révén csökkenti az egyéni értékelői torzítást
Mi az a Összehasonlító ítélet?
Relatív értékelési módszer, ahol az értékelők két elemet hasonlítanak össze, és a jobbat választják ki.
Thurstone összehasonlító ítélőképesség törvényéből fejlődött ki az 1920-as években
Páros összehasonlításokat használ abszolút pontozási skálák helyett
A Bradley-Terry modellre támaszkodik a páronkénti választások rangsorolássá alakításához
Több bírót igényel, akik sok összehasonlítást végeznek a statisztikai megbízhatóság érdekében
Széles körben alkalmazzák az Egyesült Királyság oktatási rendszereiben a diákok írásbeli írásának értékelésére
Mi az a Független értékelés?
Abszolút értékelési megközelítés, ahol minden elemet önállóan, rögzített kritériumok alapján értékelnek.
A hagyományos pszichometriai méréselméletben gyökerezik
Rubrikákat, ellenőrzőlistákat vagy értékelő skálákat használ, amelyeket minden elemre külön alkalmaznak
Lehetővé teszi a közvetlen összehasonlítást az előre meghatározott szabványokkal
A legtöbb szabványosított tesztelési keretrendszer alapját képezi világszerte
Gyorsabb értékelést tesz lehetővé, ha már léteznek egyértelmű referenciaértékek
Összehasonlító táblázat
Funkció
Összehasonlító ítélet
Független értékelés
Értékelés típusa
Relatív (páros összehasonlítás)
Abszolút (kritérium alapú)
Pontozási módszer
A bírák két tétel közül a jobbat választják
Minden tétel egy rögzített rubrika alapján lett pontozva
Statisztikai modell
Bradley-Terry vagy Thurston-féle modellek
Klasszikus tesztelmélet vagy item-válasz elmélet
Bírói munkaterhelés
Magas (sok összehasonlítás szükséges)
Mérsékelt (elemenként egy értékelés)
Elfogultság ellenállás
Határozottan az egyéni bírói elfogultság ellen
Az egyéni értékelői sodródásnak kitett
Legjobb felhasználási eset
Holisztikus minőségértékelés
Szabványokon alapuló tanúsítás
Visszajelzési sebesség
Lassabb az összehasonlítási mennyiség miatt
Gyorsabb a bevált rubrikákkal
Megbízhatósági forrás
Sok összehasonlítás a bírák között
Kalibrált rubrikák és képzett értékelők
Részletes összehasonlítás
Alapvető módszertan
Az alapvető különbség abban rejlik, hogy az egyes módszerek hogyan közelítik meg a minőséget. Az összehasonlító ítéletalkotás során az értékelőknek két elemet kell egymás mellett megvizsgálniuk, és dönteniük kell arról, hogy melyik a jobb, elkerülve az abszolút pontszámok hozzárendelésének nehézségét. Ezzel szemben a független értékelés során az értékelőknek minden elemet egy előre meghatározott kritérium vagy szabvány alapján kell pontozniuk, minden beküldött elemet különálló, elszigetelt esetként kezelve.
Megbízhatóság és következetesség
Az összehasonlító értékelés a páros összehasonlítások hatalmas mennyiségén keresztül növeli a megbízhatóságot, a statisztikai modellek pedig kisimítják az egyéni bírálói sajátosságokat. A független értékelés nagymértékben függ a rubrikák egyértelműségétől és az értékelők képzésétől, ami azt jelenti, hogy a következetesség jelentősen eltérhet az értékelők között, kivéve, ha a folyamatba kalibrációs üléseket építenek be.
Gyakorlati alkalmazások
Az oktatási környezetben az összehasonlító ítélkezés terjedt el az írásbeli portfóliók értékelésében, ahol a holisztikus minőség fontosabb, mint az ellenőrzőlistáknak való megfelelés. A független értékelés továbbra is domináns a szabványosított tesztelésben, a szakmai tanúsításban és minden olyan környezetben, ahol az elfogadás/elmaradás döntéseinek összhangban kell lenniük a rögzített kompetenciaszabványokkal.
Erősségek és korlátok
Az összehasonlító értékelés kiválóan alkalmas olyan árnyalt minőségi különbségek megragadására, amelyeket a rubrikák esetleg nem vesznek észre, de több időt és nagyobb bírálói kört igényel a statisztikai szignifikancia eléréséhez. A független értékelés gyorsaságot és egyértelmű referenciaértékeket kínál, ugyanakkor a komplex munkát egy ellenőrzőlista pontszámmá egyszerűsítheti, amely nem tükrözi az általános minőség nagyobb képét.
Kutatási háttér
Az Egyesült Királyságban végzett tanulmányok kimutatták, hogy az összehasonlító ítélőképesség az értékelők közötti megbízhatóságot összehasonlíthatóvá teszi a hagyományos osztályozással, miközben összességében gyorsabb. A független értékelés évtizedes pszichometriai kutatásokkal támasztja alá érvényességét, különösen olyan keretrendszereken keresztül, mint a Bloom-taxonómia és a modern kompetenciaalapú értékelési modellek.
Előnyök és hátrányok
Összehasonlító ítélet
Előnyök
+Csökkenti az egyéni elfogultságot
+Holisztikus minőséget rögzít
+Erős statisztikai háttér
+Természetes döntési folyamat
Tartalom
−Időigényes beállítás
−Sok bírót igényel
−Nehezebb elmagyarázni
−Több összehasonlításra van szükség
Független értékelés
Előnyök
+Egyértelmű referenciaértékek
+Gyorsabb átfutási idő
+Széles körben érthető
+Könnyen szabványosítható
Tartalom
−Rubrikafüggőség
−Értékelői sodródás kockázata
−Túlegyszerűsíthető
−Kevesebb árnyalat rögzítése
Gyakori tévhitek
Mítosz
Az összehasonlító ítélkezés nem más, mint egy népszerűségi verseny a bírák között.
Valóság
A módszer kifinomult statisztikai modelleket használ számos független összehasonlítás összesítésére, kiszűrve az egyéni torzításokat. Elégséges számú bíróval és összehasonlítással az így kapott rangsorok a valódi minőségi különbségeket tükrözik, nem pedig egyetlen bíró preferenciáit.
Mítosz
A független értékelés teljesen objektív, mivel rubrikákat használ.
Valóság
Még a részletes rubrikák esetén is, az emberi ítélőképesség szubjektívvé válik minden pontozási döntésnél. A rubrikák csökkentik, de soha nem szüntetik meg azokat az értelmezési döntéseket, amelyeket az értékelők hoznak, amikor a kritériumokat a valós munkára alkalmazzák.
Mítosz
Az összehasonlító ítélkezés nem tud visszajelzést adni a tanulóknak.
Valóság
modern implementációk részletes visszajelzést tudnak generálni azáltal, hogy elemzik, mely elemek rangsorolódnak következetesen magasabbra, és azonosítják azokat a tulajdonságokat, amelyek megkülönböztetik a legmagasabb rangú munkákat az alacsonyabb rangú beküldésektől.
Mítosz
A független értékelés elavult az újabb módszerekhez képest.
Valóság
A független értékelés továbbra is az aranystandard a nagy téttel bíró helyzetekben, mint például az orvosi engedélyek, a jogi képesítések és a szabványosított tesztelés, pontosan azért, mert az abszolút szabványok számítanak, amikor életek vagy képesítések a tét.
Gyakran Ismételt Kérdések
Mi a fő különbség az összehasonlító ítélkezés és a független értékelés között?
Az összehasonlító ítéletalkotás során az értékelőknek két tételt kell összehasonlítaniuk, és a jobbat kell kiválasztaniuk, míg a független értékelés során minden tételt egy rögzített kritérium vagy standard alapján pontoznak. Az első relatív, a második abszolút.
Melyik módszer megbízhatóbb a diákok írásának értékelésére?
Az Egyesült Királyság oktatási rendszereiből származó kutatások azt sugallják, hogy mindkettő magas megbízhatóságot érhet el, de az összehasonlító ítéletalkotás gyakran következetesebb eredményeket hoz az értékelők között, mivel megkerüli az abszolút pontozás változékonyságát. A független értékelés ezt szigorú rubrikakalibrációval egyeztetheti.
Hány összehasonlításra van szükség ahhoz, hogy az összehasonlító ítélkezés működjön?
A legtöbb megvalósítás megköveteli, hogy minden elemet legalább 10-15 alkalommal hasonlítsanak össze különböző bírákkal. 30 beküldött pályamű esetén ez nagyjából 200-300 összehasonlítást jelent a statisztikailag értelmes rangsorok létrehozásához.
Teljesen helyettesítheti-e az összehasonlító ítélkezés a hagyományos osztályozást?
Bizonyos esetekben igen. A No More Marking platformot használó iskolák a hagyományos esszéértékelést összehasonlító ítélkezéssel váltották fel. Ez azonban a formatív és holisztikus értékeléshez működik a legjobban, nem pedig a nagy téttel járó minősítéshez.
Miért alkalmazzák még mindig a standardizált tesztek a független értékelést?
szabványosított tesztekhez egyértelmű, az adott kompetenciákhoz kapcsolódó küszöbértékekre van szükség. A független értékelés abszolút referenciaértékeket biztosít a minősítési döntésekhez, míg az összehasonlító ítéletalkotás csak relatív rangsorolást eredményez.
Gyorsabb az összehasonlító ítélkezés, mint a hagyományos értékelés?
Ellentétben az ösztönös megérzéssel, igen. Míg minden összehasonlítás csak másodperceket vesz igénybe, az összesített megközelítés csökkenti a teljes értékelési időt, mivel a bírák gyorsabban döntenek két tétel összehasonlításakor, mint amikor abszolút pontszámokat adnak összetett munkákhoz.
Milyen képzésre van szükségük a bíráknak a független értékeléshez?
Az értékelőknek jellemzően kalibrációs ülésekre van szükségük, ahol gyakorolják a rubrika alkalmazását a mintamunkákhoz, és megbeszélik az eltéréseket. A legtöbb program több órás képzést, valamint folyamatos minőségellenőrzést igényel a következetesség fenntartása érdekében.
Kombinálható-e a két módszer egyetlen értékelésben?
Teljesen egyetértek. Sok oktató a független értékelést alkalmazza a kritériumok szerinti kezdeti szűrésre, majd összehasonlító ítéletet alkalmaz a végső rangsoroláshoz az alapkövetelményeknek megfelelő elemek között. Ez a hibrid megközelítés mindkét módszer erősségeit kihasználja.
Melyik módszer jobb a kritikai gondolkodás értékelésére?
Az összehasonlító értékelés általában holisztikusabban ragadja meg a kritikai gondolkodás minőségét, mivel az általános ítéletet tükrözi, ahelyett, hogy ellenőrzőlista-elemekre redukálná a gondolkodást. A független értékelés akkor működik jól, ha a kritikai gondolkodás összetevői egyértelműen meghatározhatók és elkülöníthetők.
Az összehasonlító ítélkezés az íráson kívüli tantárgyakban is működik?
Igen, alkalmazták már matematikai problémamegoldásban, természettudományos kutatásokban, művészeti portfóliókban, sőt még kódolási feladatokban is. Bárhol, ahol a holisztikus minőség számít, a páros összehasonlítás hasznos rangsorokat generálhat.
Ítélet
Válassza az Összehasonlító Elbírálás módszert, ha számos beküldött anyag holisztikus minőségét értékeli, és így több képzett zsűritaghoz férhet hozzá, akik hajlandóak számos összehasonlítást végezni. A Független Értékelés akkor működik jobban, ha gyors döntésekre van szüksége a megállapított szabványok alapján, például minősítő vizsgák vagy kompetencia-ellenőrzések esetén, egyértelmű és helyes válaszokkal.