Servizio Nazionale Valutazione
Anno Scolastico 2008 - 2009
La Qualità dei Dati del
Campione
Analisi del Cheating
Ufficio Scolastico Regionale - Abruzzo
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Disegno Campionario
Primo Stadio
* Estrazione
Sistematica
Scuole
Ufficio Scolastico Regionale - Abruzzo
* Campionamento
Casuale Semplice
Classi
2
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Disegno Campionario
Secondo Stadio
* Prima Fase:
* Seconda Fase:
Calcolo Peso
Calcolo Peso
Livello Scuola
Livello Classe
* Terza Fase:
Calcolo Peso
Livello Alunno
Ufficio Scolastico Regionale - Abruzzo
3
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Disegno Campionario
Peso di Scuola
* Viene Ricavato in rapporto a:
* Numero Scuole Campionate nella Regione
* Numero Totale Scuole della Regione
* Numeri di Alunni nella Scuola
Ufficio Scolastico Regionale - Abruzzo
4
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Disegno Campionario
Peso Livello Classe
* Viene Ricavato in rapporto a:
* Numero Classi Campionate nella Scuola
* Numero Classi Presenti nella Scuola
Ufficio Scolastico Regionale - Abruzzo
5
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Disegno Campionario
Peso Livello Alunno
* Viene Ricavato in rapporto a:
* Numero Alunni Effettivamente Partecipanti
nella Classe
* Numero Alunni non Partecipanti alla Prova
nella Classe
Ufficio Scolastico Regionale - Abruzzo
6
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Disegno Campionario
Peso Complessivo
* Viene Ricavato dal Prodotto:
* Numero Scuole Campionate
* Numero Classi Campionate nella Scuola
* Numero Alunni Effettivamente Partecipanti
nelle Classi
Ufficio Scolastico Regionale - Abruzzo
7
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Accuratezza dei Dati - Analisi del Cheating
► Controllo Accuratezza Dati
► Scelta Opportuni Indicatori:
Punteggi Medi Classe
Variabilità Rispetto Punteggi
Tassi Non Risposta
Omogeneità Risposte
► Analisi Congiunta Indicatori (Analisi Componenti
Principali)
► Calcolo Coefficienti Cheating per tutta la
Popolazione (Fuzzy Logic)
Ufficio Scolastico Regionale - Abruzzo
8
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione
Comportamenti Opportunistici Evidenti
Passaggio Fondamentale
Procedura Correzione Dati: Editing Statistico
Eliminazione Effetto Distorsivo Dati Anomali
Correzione Dati Anomali
Effettuazione Analisi Dati Netti
Ufficio Scolastico Regionale - Abruzzo
9
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione
Controllo Preventivo Accuratezza
Passaggio Fondamentale
Reale Valore Informativo Analisi Proposte
Individuazione Dati Anomali
Correzione Dati Anomali
Ufficio Scolastico Regionale - Abruzzo
1
0
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione
Individuazione /Correzione Dati Anomali
Passaggio Fondamentale
Definizione Sistema Pesi di Correzione
Valore Originario: Un Punteggio
Coefficiente
Correzione
Attenuazione Effetto Presenza Dati Anomali
Ufficio Scolastico Regionale - Abruzzo
11
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione
Procedure di Correzione
Passaggio Fondamentale
Individuazione Gruppi di Rispondenti
con Caratteristiche Particolari
Stima lncidenza Risultati Rispetto Esiti
Complessivi Prova (Hard Clustering)
Ufficio Scolastico Regionale - Abruzzo
12
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione
Procedure di Correzione
* Fuzzy Logic *
Attribuzione Alunno Rispondente
Punteggio Compreso tra 0 ed 1
Forte Attenuazione Incidenza
Comportamenti Opportunistici
Ufficio Scolastico Regionale - Abruzzo
13
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione
Fase I: Indicatori a Livello Scuola
1. Calcolo Punteggio Medio
(p j)
(Media dei Punteggi di Ciascun Alunno
espressi in termini di Risposte Corrette
fornite)
2. Calcolo Scarto Quadratico Medio (σ j)
(Indicatore di Variabilità del Punteggio Medio)
Ufficio Scolastico Regionale - Abruzzo
14
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione
Fase I: Indicatori a Livello Scuola
3. Calcolo Tasso Mancata Compilazione per
Classe (MJ)
(Valutazione Tasso Medio Adesione Classe alla Prova)
4. Indice Medio Relativo Omogeneità Risposte (E j)
(Indice Eterogeneità/Omogeneità Risposta su
Ciascuna delle Domande)
Ufficio Scolastico Regionale - Abruzzo
15
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione: Fase I
Tavola 1. Valori Medi per Regione Indicatori p j , MC j , E j
pj
σj
MC j
Ej
I M I M I M I M
Abruzzo
Totale
28,58 19,38 5,48
3,79
0,01
0,02
0,50
0,50
28,37 19,34 5,60
3,82
0,01
0,02
0,51
0,50
Ufficio Scolastico Regionale - Abruzzo
16
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione
Fase II: Sintesi Indicatori Livello di Scuola
I quattro indicatori
individuati nella prima fase di analisi
devono essere opportunamente applicati a ciascuna scuola per
individuare la presenza di eventuali dati anomali. Come noto nella
letteratura statistica, è quindi necessario operare un’opportuna
sintesi, se possibile, dei quattro indicatori tale da ottenere
un’informazione di facile utilizzo ed interpretazione, ma che, al
contempo, consenta di rappresentare nella misura massima possibile
la variabilità insita nel fenomeno stesso.
L’analisi delle componenti principali (ACP) permette di conseguire i
suddetti obiettivi operando una riduzione delle dimensioni oggetto
d’interesse.
Ufficio Scolastico Regionale - Abruzzo
17
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
La Qualità dei Dati del Campione: Fase II
Tavola 4. Valori Medi Coefficienti di Cheating
ITALIANO
MATEMATICA
Media
Media
Abruzzo
0,0734
0,089
ITALIA
0,0458
0,091
Ufficio Scolastico Regionale - Abruzzo
18
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Indici di Cheating nelle diverse Regioni: ITALIANO
Ufficio Scolastico Regionale - Abruzzo
19
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Indici di Cheating nelle diverse Regioni: MATEMATICA
Ufficio Scolastico Regionale - Abruzzo
20
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
Codici Identificativi Regione
CODICE
REGIONE
CODICE REGIONE
1
2
3
4
51
54
6
Valle d’Aosta
Friuli Venezia
Giulia
Piemonte
Liguria
Lombardia
Bolzano (It)
Trento
Veneto
Ufficio Scolastico Regionale - Abruzzo
7
8
9
10
11
12
13
Emilia
Romagna
Toscana
Umbria
Marche
Lazio
Abruzzo
CODICE
REGIONE
14
15
16
17
18
19
20
Molise
Campania
Puglia
Basilicata
Calabria
Sicilia
Sardegna
21
SNV
Classe Seconda Scuola Primaria
Anno Scolastico 2008 - 2009
Indici di Cheating nelle diverse Regioni: ITALIANO
Ufficio Scolastico Regionale - Abruzzo
22
SNV
Classe Seconda Scuola Primaria
Anno Scolastico 2008 - 2009
Indici di Cheating nelle diverse Regioni: MATEMATICA
Ufficio Scolastico Regionale - Abruzzo
23
SNV
Classe Quinta Scuola Primaria
Anno Scolastico 2008 - 2009
Indici di Cheating nelle diverse Regioni: ITALIANO
Ufficio Scolastico Regionale - Abruzzo
24
SNV
Classe Quinta Scuola Primaria
Anno Scolastico 2008 - 2009
Indici di Cheating nelle diverse Regioni: MATEMATICA
Ufficio Scolastico Regionale - Abruzzo
25
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
CHEATING: Nota Tecnica “Invalsi”
Indicatore di Propensione al Cheating
Valore compreso tra 0 e 1 che determina il grado di similarità
della Classe considerata al profilo tipico che caratterizza un
comportamento ritenuto opportunistico, cioè un
comportamento che potrebbe aver alterato
il corretto svolgimento della prova.
Effetto del mancato controllo da parte dei Docenti sul
rispetto del Protocollo di Somministrazione e/o l’insieme
delle azioni, che questi ultimi possono mettere in atto,
per facilitare il compito degli Alunni.
Ufficio Scolastico Regionale - Abruzzo
26
Prova Nazionale
Esame Conclusivo Primo Ciclo
Anno Scolastico 2008 - 2009
CHEATING: Nota Tecnica “Invalsi”
Indicatore di Propensione al Cheating
Calcolato per Classe, viene riportato a livello di Scuola tenendo
conto del numero delle classi al’interno di ciascuna Scuola e della
propensione al Cheating per ciascuna disciplina (Italiano e
Matematica). Il risultato finale consiste in un grado di Rischio
Complessivo di Cheating compreso tra 0 e 5.
0 = Nessun Rischio
1 = Rischio Basso
2 = Rischio Medio - Basso
3 = Rischio Medio
4 = Rischio Medio - Alto
5 = Rischio Alto
Ufficio Scolastico Regionale - Abruzzo
27
Scarica

Diapositiva 1 - Ufficio Scolastico Regionale per l`Abruzzo