SISTEMA DI MONITORAGGIO E VALUTAZIONE DEI SERVIZI AGGIUNTIVI NEI LUOGHI DELLA CULTURA STATALI. ANALISI DELLE ATTIVITÀ, MODALITÀ E COSTI DI FUNZIONAMENTO – CIG 2971617FE8 (CUP F51I08000000007) Progetto Definitivo Sommario 1. PREMESSA ........................................................................................................................................................ 5 1.1 La struttura del documento .......................................................................................................... 5 1.2 Il nuovo sistema di monitoraggio e valutazione della performance e della qualità dei servizi al pubblico...................................................................................................................................................... 6 1.2.1 Premessa ................................................................................................................................... 6 1.2.2 La logica di partenza: il processo del valore .................................................................... 6 1.2.3 Fasi del monitoraggio e valutazione ................................................................................... 9 1.2.4 Gli attori: il sistema di relazioni ........................................................................................ 10 1.3 Obiettivi, Fasi di realizzazione e Output di progetto ........................................................ 11 2. RICOGNIZIONE, ANALISI E VALUTAZIONE DI ESPERIENZE DI MONITORAGGIO E VALUTAZIONE IN ATTO PRESSO ALTRE ISTITUZIONI ...................................................................................................................... 15 2.1 Premessa ...................................................................................................................................... 16 2.1.1 Il benchmarking nella cultura ............................................................................................. 16 2.1.2 Obiettivi ................................................................................................................................. 16 2.1.3 Approccio metodologico ..................................................................................................... 17 2.1.4 Metodologia di lavoro ........................................................................................................ 18 2.2 Il repertorio complessivo dei casi individuati ....................................................................... 19 2.2.1 Oggetti di analisi e protocollo di indagine .................................................................... 19 2.2.2 La matrice per l’analisi e sistematizzazione dei casi .................................................... 19 2.2.3 Il campione allargato dei casi analizzati ........................................................................ 20 2.3 I casi studio su cui operare l’analisi puntuale ....................................................................... 23 2.3.1 I criteri per l’individuazione dei casi su cui operare un’analisi puntuale ................... 23 2.3.2 Il campione ristretto dei casi analizzati ........................................................................... 24 2.3.3 Protocollo di indagine e rilevazione delle informazioni ............................................... 25 2.3.4 Caso A: AGENZIA PER IL CONTROLLO E LA QUALITÀ DEI SERVIZI PUBBLICI LOCALI DEL COMUNE DI ROMA ........................................................................................................................... 25 2.3.5 Caso B: FONDAZIONE MUSEI CIVICI DI VENEZIA ......................................................... 31 2.3.6 Caso C: PROGETTO DISTRETTI CULTURALI DI FONDAZIONE CARIPLO ................... 39 2.3.7 Caso D: CESVOT - Centro Servizi per il Volontariato in Toscana .............................. 44 2.3.8 Caso E: Programma “Piani di Valorizzazione della Regione Piemonte” .................. 48 2.3.9 Sintesi delle analisi effettuate ........................................................................................... 52 3. MODELLO DI GOVERNANCE DEL SISTEMA DI M&V ................................................................................ 65 3.1 La Governance interna ............................................................................................................. 65 3.2 Gli attori del sistema ................................................................................................................. 65 3.3 Il sistema di relazioni ................................................................................................................. 67 3.3.1.1 Relazioni duali.................................................................................................................... 69 3.4 L’OCM nel sistema di monitoraggio e valutazione nazionale........................................... 76 3.4.1 La politica di Monitoraggio e Valutazione Nazionale .................................................... 76 3.4.2 L’OCM nell’ottica delle recenti delibere CIVIT .................................................................. 76 3.4.3 L’OCM e il potenziale rapporto con l’UVAL ...................................................................... 79 3.5 OCM nel sistema della performance MiBAC ....................................................................... 79 3.5.1 L’OCM nel quadro delle priorità della DG Valorizzazione .......................................... 79 3.5.2 L’OCM nel quadro degli organismi di monitoraggio e valutazione delle performance interni al Ministero .................................................................................................................................................. 80 4. LINEE GUIDA DEL SISTEMA DI MONITORAGGIO E VALUTAZIONE ....................................................... 82 4.1 Premessa ...................................................................................................................................... 82 4.2 Metodologie per l’implementazione degli strumenti di pianificazione, rilevazione, verifica e valutazione ............................................................................................................................................. 84 4.2.1 Premessa ................................................................................................................................ 84 4.2.2 Sistema informativo aziendale .......................................................................................... 87 4.2.3 Questionario front (SMPQ/EMPQ) ................................................................................... 97 4.2.4 Questionario online (SMPQ/EMPQ) ............................................................................... 117 4.2.5 Obiettivi e criteri per lo svolgimento dei Focus Group (SMPQ/EMPQ) .................. 133 4.2.6 Obiettivi e criteri per lo svolgimento delle Interviste (SMPQ/EMPQ) ..................... 135 4.2.7 Verifiche di I livello: protocollo per la realizzazione di sopralluoghi e ispezioni (SMPQ/EMPQ) 137 4.2.8 Verifiche di I e/o II livello: protocollo per la realizzazione di verifiche a Campione (OCM e DG Val) .............................................................................................................................................. 139 4.2.9 Protocollo di comportamento per il Mystery shopping (SMPQ/EMPQ-OCM)....... 143 4.3 Contenuti e format dei documenti e della reportistica del monitoraggio e valutazione160 4.3.1 Premessa .............................................................................................................................. 160 4.3.2 Piano delle Attività (SMPQ/EMPQ) ............................................................................... 160 4.3.3 Relazione sull’attendibilità del Sistema di Rilevazione e Controllo (SMPQ/EMPQ)165 4.3.4 Rapporto di Gestione (Concessionario) ......................................................................... 166 4.3.5 Relazione di Audit di secondo livello (DG Valorizzazione) ....................................... 174 4.3.6 Relazione di Audit (OCM) ................................................................................................ 175 4.3.7 Relazione di performance semestrale (SMPQ/EMPQ) ............................................... 177 4.3.8 Relazione di performance annuale (SMPQ/EMPQ).................................................... 178 4.3.9 Relazione consolidata annuale (OCM) .......................................................................... 180 4.4 Help desk online ....................................................................................................................... 183 4.5 Caratteristiche del sistema informatico a supporto del sistema di monitoraggio ....... 183 4.5.1 Il Sistema informativo (S.I_VO) ........................................................................................ 183 4.5.2 Il Sistema informatico (S.I_CO) ........................................................................................ 188 4.6 Attività di formazione e informazione ................................................................................. 192 4.6.1 Workshop tecnici: esiti ....................................................................................................... 192 5. LINEE GUIDA PER LE ATTIVITÀ DI FORMAZIONE ................................................................................... 198 5.1 Premessa .................................................................................................................................... 198 5.2 Destinatari ................................................................................................................................. 198 5.3 Metodologia di attuazione .................................................................................................... 199 6. ANALISI DI SOSTENIBILITÀ ECONOMICO FINANZIARIA DEL SISTEMA ............................................... 200 6.1 Premessa, obiettivi e output di sezione................................................................................ 200 6.2 Principi di costruzione del Foglio di Calcolo ....................................................................... 201 6.3 Tutorial per la definizione dei costi...................................................................................... 207 7. DEFINIZIONE DELLA PROCEDURA OTTIMALE PER L’INDIVIDUAZIONE DELLE SMPQ ........................ 212 7.1 Oggetto ..................................................................................................................................... 212 7.2 IPOTESI A) ................................................................................................................................. 212 L’ipotesi contempla la costituzione di un elenco centrale con attribuzione di punteggio all’offerta tecnica (curricula e meta-metodologia) e successiva selezione (a livello centrale o periferico) al massimo ribasso con sommatoria dei punteggi attribuiti alla componente economica). ..................................... 212 7.3 IPOTESI B) .................................................................................................................................. 213 L’ipotesi contempla la formazione di una graduatoria a livello centrale delle società di monitoraggio sulla base di requisiti generali e speciali e sulla base di un’offerta tecnica (curricula e meta- metodologia) ed economica (per prezzi unitari) e successiva individuazione del fornitore a livello periferico con criterio di scelta automatico. ................................................................................... 213 7.4 IPOTESI C) ................................................................................................................................. 213 7.5 La selezione dell’ipotesi .......................................................................................................... 214 1. PREMESSA 1.1 La struttura del documento In accordo con l’importanza di puntare allo “sviluppo e alla standardizzazione delle funzioni e delle modalità di monitoraggio e di valutazione” (PON GAT - POAT MiBAC, p.21) nell’ambito delle regioni CONV e con la necessità di definire strumenti idonei ad innalzare la relativa qualità dell’offerta culturale, con il presente incarico si intende approfondire il lavoro già avviato dalla DG Valorizzazione nell’ottica di sopperire alla carenza di strumenti di misurazione dei risultati inerenti la gestione dei servizi al pubblico nei luoghi della cultura statali, e che in una fase precedente ha portato alla progettazione di un sistema organico di monitoraggio e valutazione per il settore culturale. Rispetto al suddetto sistema, che ad oggi individua puntualmente ruoli, responsabilità, azioni e strumenti con cui si andrà a monitorare e valutare l’intera catena del valore culturale (riconducibile alle due macro funzioni di gestione e valorizzazione del patrimonio culturale statale), il lavoro di cui all’oggetto si pone in assoluta continuità e si caratterizza per essere un progetto esecutivo. Esso, infatti, per ciascuno degli elementi progettuali richiamati dal capitolato e approfonditi in Offerta Tecnica, è chiamato a fornire risposte esaustive al fine di garantire la piena sostenibilità ed efficacia operativa del Sistema. Il presente documento dunque condensa al suo interno l’esito del percorso di ricerca e di assistenza tecnica finalizzata alla realizzazione dell’iniziativa Sistema di monitoraggio e valutazione dei servizi aggiuntivi nei luoghi della cultura statali. Analisi delle attività, modalità e costi di funzionamento che, come richiesto nel Capitolato tecnico della procedura negoziata (CUP F51I08000000007 – CIG 2971617FE8) espletata ai sensi dell’art. 125, comma 11 del Decreto Legislativo 12 aprile 2006 n. 163 e s.m.i., nonché avviata con Lettera di invito (prot. 2778 del 13 luglio 2011) si articola nelle seguenti quattro fasi: A. Realizzazione di attività di ricognizione, analisi e valutazione di esperienze in atto presso altre istituzioni, di monitoraggio e valutazione dei servizi erogati nei luoghi della cultura; B. Elaborazione delle Linee Guida del Sistema di monitoraggio e valutazione; C. Elaborazione di analisi di sostenibilità economico-finanziaria del Sistema; D. Definizione della procedura ottimale per l’individuazione delle Società di Monitoraggio delle Performance e della Qualità. Pertanto, all’interno del presente documento sarà possibile ripercorrere le metodologie e i risultati delle analisi realizzate in relazione a ciascuna fase progettuale sopra richiamate, le quali sono state realizzate nell’arco di 90 giorni dalla data di stipula del contratto secondo il piano di lavoro redatto dalla scrivente e approvato dalla Direzione Generale per la Valorizzazione del Patrimonio Culturale. Alla luce di queste premesse, il presente documento si articola in 6 Capitoli, comprensivi della presente premessa. All’interno del capitolo di premessa (capitolo 1), oltre a richiamare gli elementi di base (lo studio Il nuovo sistema nazionale di monitoraggio e valutazione della performance e della qualità dei servizi al pubblico, 2010) a partire dai quali il presente lavoro prende le mosse (§ 1.2) vengono dichiarati anche gli obiettivi, le fasi e gli output (§ 1.3) del presente lavoro. 5 Il capitolo 2 “Ricognizione, analisi e valutazione di esperienze di monitoraggio e valutazione in atto presso altre istituzioni” realizza un esame comparativo – secondo la logica del benchmarking – delle esperienze e dei Sistemi di Monitoraggio e Valutazione ad oggi esistenti in Italia nell’ambito dei servizi al pubblico gestiti in concessione da soggetti privati. Il capitolo 3 “Linee guida del sistema di monitoraggio e valutazione” definisce le linee guida per l’implementazione delle metodologie e degli strumenti per la rilevazione, la verifica e la valutazione delle attività realizzate dal concessionario, nonché i contenuti e i format dei documenti e della reportistica necessaria allo svolgimento delle attività di monitoraggio e valutazione. Il capitolo 4 “Analisi di sostenibilità economico finanziaria del sistema” definisce invece i parametri e i livelli di sostenibilità economica del Sistema di Monitoraggio e Valutazione. L’analisi, oltre ad effettuare una stima dei possibili costi di gestione del Sistema, si pone anche l’obiettivo di individuare le modalità di copertura dei suddetti costi. Il capitolo 5 “Definizione della procedura ottimale per l’individuazione delle SMPQ”, mettendo a sistema i risultati delle fasi precedenti (in particolare quelle di cui al capitolo 4) individua le modalità attraverso cui sarà possibile procedere alla selezione pubblica delle Società di Monitoraggio e Valutazione delle Performance e della Qualità dei servizi al pubblico nei luoghi della cultura dati in concessione ai privati. In ultimo, il capitolo 6 contiene gli allegati di approfondimento inerenti le fasi precedentemente realizzate. 1.2 Il nuovo sistema di monitoraggio e valutazione della performance e della qualità dei servizi al pubblico 1.2.1 Premessa In questo paragrafo verranno riportati brevemente i concetti di base relativi al Sistema di Monitoraggio e Valutazione dei servizi al pubblico (di seguito “Sistema”) dati in concessione a privati nei luoghi statali della cultura, così come sin qui delineato dalla Direzione Generale per la valorizzazione del Patrimonio Culturale. L’obiettivo del paragrafo è quello di ripercorrere gli elementi costitutivi del Sistema, contribuendo a delineare una mappa concettuale all’interno della quale collocare il presente lavoro che, date le attività attraverso cui si estrinseca, rappresenta una tappa obbligata al fine di garantire concretezza ed operatività al nascente Sistema. Pertanto nelle seguenti sezioni della premessa, si provvederà a recuperare alcuni degli elementi caratterizzanti del Sistema e segnatamente: la logica di costruzione del Sistema, ovvero l’analisi dei processi attraverso cui l’esperienza di valorizzazione e fruizione dei beni e dei servizi culturali produce valore in capo ai molteplici soggetti che partecipano all’esperienza stessa (stazioni appaltanti, utenti ecc.); le fasi attraverso cui esso si estrinseca; gli attori, ovvero l’insieme dei soggetti – e loro reciproche funzioni e responsabilità – c he rientrano nel quadro delle attività previste dal Sistema. 1.2.2 La logica di partenza: il processo del valore Al fine di definire le informazioni che avrebbero dovuto essere oggetto di rilevazione nell’ambito del sistema di concessione dei servizi culturali al pubblico, il modello di Monitoraggio e valutazione, così 6 come definito dalla DG Valorizzazione del MiBAC, si è preliminarmente interessato di ri-costruire la mappa cognitiva (modello ideale) attraverso cui può essere rappresentato il meccanismo di creazione del valore (valorizzazione) derivante dall’erogazione e dal consumo di prodotti/servizi culturali nei luoghi della cultura statali. L’obiettivo di tale esercizio risiedeva nella necessità di individuare, all’interno dell’esperienza del consumo culturale, le fasi (i processi) attraverso cui l’esperienza stessa poteva essere rappresentata (ridotta a modello rappresentativo) e, di conseguenza, isolarne le componenti costitutive permettendo agli analisti di individuare le informazioni che, data la loro significatività, avrebbero potuto essere oggetto di osservazione, verifica e valutazione nell’ambito del Sistema. In questa direzione, rifacendosi alla normativa di settore e in particolare all’Art. 6 del Codice dei Beni Culturali e del Paesaggio – per il quale “la valorizzazione consiste nell'esercizio delle funzioni e nella disciplina delle attività dirette a promuovere la conoscenza del patrimonio culturale e ad assicurare le migliori condizioni di utilizzazione e fruizione pubblica del patrimonio stesso. Essa comprende anche la promozione ed il sostegno degli interventi di conservazione del patrimonio culturale” – il modello di monitoraggio e valutazione ha enucleato i concetti di base – quelli di valorizzazione1 e fruizione2 – sui quali, in linea di principio, il modello stesso poteva essere costruito. Assumendo che i concetti di valorizzazione e fruizione rappresentino i due macro segmenti del processo di creazione del valore nell’esperienza culturale, il passaggio successivo dell’analisi è consistito nell’individuarne gli elementi caratterizzanti (processi e ambiti). Dall’esame è emerso un quadro (vedi figura 1) in cui al concetto di valorizzazione pertengono i processi della Produzione (e dai seguenti ambiti: Input e Processo) e dell’Erogazione (e dai seguenti ambiti: Modalità e Output); mentre al concetto di fruizione pertengono i processi del Consumo (e dai seguenti ambiti: Modalità e Utenti) e degli Effetti (e dai seguenti ambiti: Diretti e Indiretti) determinati dal consumo stesso. Individua le risorse, le modalità e i mezzi attraverso cui io servizi al pubblico vengono erogati, nonché i risultati dell’erogazione 2 Individua l’ampiezza del consumo, le caratteristiche dell’utenza e gli effetti su questa generati dalla valorizzazione 1 7 Figura 1 – Processo di generazione del valore culturale: dalla valorizzazione alla fruizione Fonte: nostra elaborazione da “Il nuovo sistema nazionale di monitoraggio e valutazione della performance e della qualità dei servizi al pubblico” - studio MiBAC (2010) Il modello così ottenuto ha permesso quindi di analizzare il processo di creazione del valore sotto il profilo dei segmenti, dei processi e degli ambiti di osservazione costitutivi, rispetto ai quali di seguito si forniscono brevi descrizioni. Per quanto attiene al segmento della Valorizzazione il modello adottato è composto dal: Processo di Produzione: comprende tutte quelle informazioni e quei dati che attengo al processo di produzione (trasformazione di un certo numero di input in output) di servizi dediti alla valorizzazione. Esso pertanto contempla due distinti ambiti, quali: o Ambito Input: riguarda i fattori produttivi impiegati nella produzione dei servizi; o Ambito Processo: riguarda le variabili riconducibili al processo di trasformazione degli input in output; Processo di Erogazione: comprende tutte quelle informazioni e quei dati che attengono al processo di somministrazione dei servizi di valorizzazione. Esso pertanto contempla due distinti ambiti, quali: o Ambito Output: riguarda la quantità/qualità di “prodotto” erogato nell’ambito del servizio; o Ambito Modalità: riguarda la modalità di erogazione del servizio, quindi tutto ciò che concerne la capacità del servizio di essere conforme alle aspettative di fruizione manifestate dagli utenti; Per quanto attiene al segmento della Fruizione il modello adottato è composto dal: 8 Processo di Consumo: comprende tutte quelle informazioni e quei dati che attengono alle modalità con cui i servizi vengono fruiti. Esso pertanto contempla due distinti ambiti, quali: o Ambito Modalità: riguarda la modalità di erogazione del servizio, quindi tutto ciò che concerne la capacità del servizio di essere conforme alle aspettative di fruizione manifestate dagli utenti3; o Ambito Utenti: riguarda l’utenza dei luoghi e dei servizi culturali sia sotto il profilo quantitativo (numerosità) che qualitativo (composizione, desiderata ecc.). Processo degli Effetti: comprende tutte quelle informazioni e quei dati che attengono agli effetti connessi al consumo di servizi e prodotti culturali. Esso pertanto contempla due distinti ambiti, quali: o Ambito Diretti: riguarda gli effetti che il consumo del servizio genera in capo all’individuo- utente; o Ambito Indiretti: riguarda gli effetti indiretti che il consumo di servizi e prodotti culturali genera sul contesto di riferimento. 1.2.3 Fasi del monitoraggio e valutazione Il Sistema di Monitoraggio e Valutazione, così come definito dallo studio del 2010, prevede l’intervallarsi e il sovrapporsi di differenti fasi realizzative che possono essere rappresentate secondo la logica della catena del valore dove ciascun anello della catena è legato a quello precedente e/o seguente da un legame di senso. Nello specifico il Sistema si sviluppa attraverso cinque fasi/anelli (vedi Fig. 2), alcune delle quali si sviluppano in successione mentre altre si sviluppano in parallelo coinvolgendo un insieme eterogeneo di soggetti che verranno descritti di seguito (vedi § 1.2.4). Figura 2 – Le fasi del Sistema di Monitoraggio e Valutazione Fonte: “Il nuovo sistema nazionale di monitoraggio e valutazione della performance e della qualità dei servizi al pubblico” - studio MiBAC (2010) Si noti come l’ambito delle “Modalità” sia comune al segmento della valorizzazione che a quello della fruizione. Questo infatti deve essere analizzato sotto due linee di analisi differenti: da un lato monitora le modalità di erogazione del servizio, osservando l’operato del concessionario; dall’altro rileva le modalità di consumo del servizio e il rispetto delle aspettative delle aspettative degli utenti. 3 9 Di seguito una breve descrizione di ciascuna fase: Fase della Pianificazione: dove ciascuno dei soggetti deputati definisce, ciascuno in funzione delle proprie responsabilità, il piano delle attività da realizzare per dar vita e/alimentare il rapporto concessorio; Fase della Rilevazione: dove i diversi soggetti deputati raccolgono, ciascuno in funzione delle proprie responsabilità, le informazioni quali-quantitative necessarie ad alimentare gli indicatori riferiti ai diversi ambiti di osservazione (input, processo, output, modalità e utenti). La rilevazione dei dati, essendo di competenza di diversi soggetti, verrà realizzata con strumenti e metodologie variegate ma in accordo con le linee guida prodotte a livello nazionale con l’obiettivo di creare una banca dati uniforme; Fase della Verifica: dove i soggetti deputati verificano la correttezza, la congruità, l’esattezza e pertinenza dei dati rilevati da altri soggetti; Fase della Valutazione: dove i soggetti deputati valutano i dati rilevati mediante analisi comparative finalizzate alla comprensione del fenomeno e alla restituzione del patrimonio conoscitivo conseguito; Fase dell’attribuzione di Premi e sanzioni: dove i soggetti deputati attribuiscono premi e sanzioni in funzione dei dati valutati. 1.2.4 Gli attori: il sistema di relazioni Gli attori del Sistema di monitoraggio e controllo della performance e della qualità sono: Direzione Generale per la Valorizzazione del patrimonio culturale – MIBAC (da ora Direzione generale) Organismo Centrale di Monitoraggio (da ora OCM) Stazione Appaltante Concessionario Società di Monitoraggio della Performance e della Qualità Ciascuno dei suddetti soggetti è chiamato a collaborare al fine della realizzazione e del buon funzionamento del Sistema, in particolare: la Direzione Generale svolge principalmente una funzione di indirizzo nei confronti delle Stazioni Appaltanti e di controllo nei confronti delle SMPQ/EMPQ; l’Organismo Centrale di Monitoraggio (OCM) è un organo collegiale in posizione di indipendenza ed in piena autonomia che svolge un’azione di supervisione dei sistemi di controllo adottati dai Concessionari, un’azione di indirizzo e coordinamento per l’attuazione del Sistema, un’azione di trasparenza dei risultati conseguiti dai Concessionari e in generale dal sistema dei servizi culturali erogati al pubblico; la Stazione Appaltante – rappresenta il “cliente” diretto del corretto svolgimento dei servizi al pubblico e che pertanto è interessata al rispetto delle condizioni contrattuali e al miglioramento della gestione dei servizi – svolge attività di pianificazione, in quanto definisce i documenti di gara e nomina le SMPQ/EMPQ; il Concessionario, soggetto responsabile della corretta gestione dei servizi in concessione; 10 la Società di Monitoraggio della Performance e della Qualità (SMPQ), soggetto nominato dalla Stazione Appaltante e/o interna all’Amministrazione concedente (EMPQ), qualora vi siano le competenze necessarie per poter far fronte ai compiti che essa è chiamata a svolgere. Alla luce di queste argomentazioni, di seguito (Fig. 3) si propone uno schema riepilogativo delle fasi del Sistema di Monitoraggio e Valutazione con l’individuazione dei soggetti che sono responsabili di attività specifiche per ciascuna fase. Figura 3 – Fasi e attori del Sistema di Monitoraggio e Valutazione Fonte: nostra elaborazione da “Il nuovo sistema nazionale di monitoraggio e valutazione della performance e della qualità dei servizi al pubblico” – studio MiBAC (2010) 1.3 Obiettivi, Fasi di realizzazione e Output di progetto In continuità con il lavoro preparatorio già sviluppato il lavoro che qui si propone è chiamato ad elaborare nei dettagli diversi elementi progettuali (i documenti e la reportistica, gli strumenti per la rilevazione, la verifica e la valutazione, il sistema informatico, la sensibilizzazione e la formazione) nonché la formula organizzativa ed economica per il corretto funzionamento del Sistema (governance, costi del sistema, procedure di gara), inquadrandolo nel più ampio contesto delle buone pratiche di settore, per la misurazione della performance di servizi di pubblica utilità (ricognizione di esperienze di monitoraggio diverse – benchmarking). Obiettivo generale del lavoro è pertanto assicurare la piena efficacia del Sistema, sia sul piano della sua capacità di valutare informazioni significative e fornire tempestivamente suggerimenti e correttivi idonei ad assicurare il costante miglioramento dei livelli di servizio, nonché della soddisfazione dell’utenza, trasmettendo così una positiva immagine della gestione del patrimonio culturale statale e della trasparenza della pubblica amministrazione, nel settore in esame. Il lavoro pertanto si qualifica come esecutivo, nella misura in cui definisce aspetti essenziali del processo di rilevazione, elaborazione, reportistica e trasmissione di dati e informazioni tra i diversi soggetti, ed al contempo completa il disegno organizzativo, focalizzando il ruolo dell’OCM e le sue relazioni con gli altri soggetti del Sistema, nonché chiarendo i livelli di controllo e verifica su “controllati” e “controllori”. Con riferimento agli aspetti su cui è necessario un processo di selezione di livello istituzionale (ad es. con riferimento alla procedura di gara nazionale per l‟individuazione di una rosa di soggetti destinati a svolgere le attività di M&V) il lavoro mira a fornire i necessari ed opportuni supporti metodologici per 11 una scelta ponderata e consapevole, attraverso una puntuale verifica dei vincoli normativi ed amministrativi, delle criticità riscontrabili nella prassi di settore, nonché delle implicazioni sulla sostenibilità del Sistema e sui comportamenti degli operatori, ed i benefici (o le complessità) che ne derivano per le stazioni appaltanti. Pertanto in accordo con le finalità del lavoro e con il contratto sottoscritto in data 28 novembre 2011, il progetto si struttura in 4 fasi di lavoro che verranno di seguito descritte. Fase A. Realizzazione di attività di ricognizione, analisi e valutazione di esperienze in atto presso altre istituzioni, di monitoraggio e valutazione dei servizi erogati nei luoghi della cultura. La fase di ricognizione di analoghe esperienze nazionali ed internazionali in tema di monitoraggio e valutazione è finalizzata alla realizzazione di un’analisi di benchmarking per la raccolta e sistematizzazione, all’interno di un quadro conoscitivo complessivo, degli elementi di qualità e di esemplarità del sistema con particolare riferimento agli aspetti legati alla governance, al sistema informativo, agli aspetti gestionali e organizzativi, alle metodologie di misurazione e valutazione adottate, ai costi e, in ultimo, al sistema premiale e sanzionatorio. Tale elaborazione è rivolta a fornire indicazioni puntuali sugli elementi di progettazione oggetto del lavoro, offrendo opzioni e chiarendo le premesse per il successo dell’implementazione del sistema. Tale procedura di lavoro ai articola nelle seguenti attività e nei relativi output: Attività a): repertorio complessivo dei casi analizzati e rapporto finale contenente l’impostazione metodologica e il protocollo di indagine: attraverso i criteri di selezione e le metodologie individuate vengono selezionati un campione allargato di soggetti istituzionali (amministrazioni regionali e locali, nonché laddove necessario, organizzazioni e istituzioni, che hanno implementato un sistema di M&V principalmente orientato al controllo di rapporti concessori, relativi a servizi erogati nei luoghi di cultura) per i quali verranno messi in evidenza e presentati gli aspetti salienti del processo di misurazione, valutazione e controllo soprattutto in relazione alle funzioni critiche (il modello di governance, le metodologie di rilevazione, verifica e valutazione, il sistema informatico e le attività di sensibilizzazione e informazione) e alle caratteristiche dei benchmark partner (la struttura, l’amministrazione e il sistema indagati). Output: repertorio allargato dei casi analizzati (matrice). Attività b): selezione dei casi di studio su cui operare l’analisi: sulla base della matrice ottenuta dall’attività si estrapoleranno i 5 casi di maggiore interesse e si elaborerà per ognuno di essi una scheda di dettaglio che descriva il sistema adottato e gli elementi di successo di ogni oggetto di valutazione; Output: schede dei casi oggetto di studio approfondito. Attività c): documento di restituzione ragionata delle principali evidenze emerse dalle interviste e degli esiti delle analisi, nonché indicazioni per la progettazione del Sistema di M&V: tale attività è finalizzata alla stesura di un documento in grado di riassumere, in modo organico, le evidenze raccolte e di analizzare gli elementi di successo in un’ottica di replicabilità e adattabilità al Sistema di M&V in fase di implementazione. Output: documento di analisi e di rilevazione di indicazioni utili alla progettazione Sistema di M&V. Fase B. Elaborazione delle Linee Guida del Sistema di monitoraggio e valutazione. Tale fase si sviluppa in 5 attività specifiche, quali: 12 Attività a): Modello di governance del Sistema di M&V. Al fine di perfezionare e rendere esecutiva l’attuale struttura di governance del Sistema, si procederà alla costruzione di un percorso di attività strutturato in due fasi: nella prima fase si farà ricorso alle tecniche di c.d. risk management che permettono di valutare puntualmente la capacità del sistema di governance di presidiare le diverse funzioni per cui è stato attivato (in relazione a: la capacità del sistema di governance di presidiare le informazioni, la capacità del sistema di governance di offrire elementi salienti per le decisioni, la capacità del sistema di governance di armonizzare i livelli di performance, la capacità del sistema di governance di valorizzare le buone pratiche sul territorio nazionale); nella seconda fase verranno riportate in un documento intermedio le proposte di modifica di specifici elementi del modello di governance, e verrà illustrato l’impatto di tali proposte sull’attuale sistema di governance, chiarendo così il “costo di adattamento” al nuovo modello. Tale fase sarà condotta in costante relazione con l’Amministrazione, anche al fine di verificare la fattibilità amministrativa di tali eventuali modifiche, nei vincoli di tempo e in linea con le esigenze dell’Amministrazione stessa. Output: Lista dei fattori di rischio, Matrice di verifica della governance, Matrice sulle aree di modifica del sistema di governance Attività b): Indice ragionato, format dei documenti e della reportistica, specifiche di trasmissione. Questa parte del lavoro è volta a definire l’articolazione dei contenuti (indice parlante), del format (quantità e dimensione delle informazioni contenute in ciascuna sezione, paragrafo e sottoparagrafo; aspetto grafico e in generale aspetti relativi alla sequenza ed alla posizione dei contenuti), delle modalità di trasmissione (in termini di processo, calendario, procedura, protocolli tecnici e amministrativi), dei livelli di interconnessione con altri documenti nonché i collegamenti ai dati rilevati ed elaborati da altri soggetti del sistema per quanto riguarda ciascuno dei documenti previsti dal Progetto di Monitoraggio e Valutazione. Nel dettaglio, il lavoro riguarderà i documenti riportati nello schema di seguito proposto dove, per ciascuna area funzionale, si riepiloga la tipologia di documenti da produrre, il soggetto che sarà responsabile della redazione, le finalità del documento, la frequenza con cui andranno redatti e, da ultimo, le date entro cui dovranno essere prodotti e inviati ai soggetti destinatari. A margine di questi documenti verrà predisposto anche un documento di accompagnamento all’OCM contenente indicazioni e orientamenti metodologici e tecnico-operativi per lo svolgimento di attività informazione, formazione e accompagnamento sui temi riguardanti il sistema di monitoraggio e valutazione dei servizi al pubblico nei luoghi della cultura statali. Output: Format dei documenti e reportistica in relazione ai documenti indicati nella tabella seguente e linee guida per lo svolgimento di attività informazione, formazione e accompagnamento da parte dell’OCM. Attività c): Metodologie e strumenti di rilevazione, verifica e valutazione. Il Sistema di M&V si basa su un complesso insieme di metodologie e strumenti per la rilevazione, la verifica e la valutazione dei dati e delle informazioni. In relazione alla tipologia di informazioni che andranno osservate (Input, Processo, Output, Modalità, Utenti, Effetti Diretti, Effetti Indiretti), alle fasi del processo in cui si collocano gli strumenti (Rilevazione/Verifica/Valutazione), alle precipue caratteristiche dei soggetti che dovranno utilizzarli, per ciascuna delle metodologie e degli strumenti contemplati si provvederà a realizzare un protocollo di indirizzo che espliciti gli oggetti, gli approcci, le fasi e i tempi per l’implementazione di ciascuno di essi. Output: Linee guida per le metodologie di rilevazione, verifica e valutazione. Attività d): Criteri per la costruzione della piattaforma informatica centralizzata. La progettazione del sistema informatico (S.I_CO) a supporto del Sistema di M&V sarà 13 necessariamente vincolata alla definizione dell’insieme di informazioni e relazioni che verranno stabilite tra gli attori del Sistema. Pertanto la dotazione tecnologica, funzionale alla gestione del flusso di dati prodotti dovrà essere commisurata alle esigenze di condivisione delle informazioni, sia interne sia esterne al Sistema. Infatti il S.I_CO, inteso come equipaggiamento di hardware e software, deve essere strutturato a partire dal sistema informativo (S.I_VO), inteso come il complesso di informazioni-modalità-risorse essenziali per l‟espletamento delle funzionalità operative del Sistema. A tale proposito verrà realizzato uno studio di fattibilità del S.I_VO contenente le specifiche tecniche del S.I_CO. Output: Linee-Guida per la realizzazione del sistema informatico Attività e): Attività di formazione e informazione (interne ed esterne), la quale si articola in tre sotto attività, quali: o i) Helpdesk on line, secondo le modalità tecniche ed operative da concordarsi con il Committente. In questo ambito si intende progettare una piattaforma online dedicata al Sistema di monitoraggio e valutazione dove ogni soggetto del Sistema (DG Valorizzazione, OCM, Stazioni Appaltanti, Concessionari, SMPQ) ha la possibilità di accedere a diversi livelli della piattaforma (in funzione delle proprie caratteristiche) e scaricare/consultare la documentazione disponibile, nonché le FAQ (Frequently Asked Questions). Output: Progetto piattaforma per la condivisione di informazioni, conoscenze e documenti. o ii) Adeguati supporti informativi e formativi per l’attuazione di n. 2 seminari formativi e n. 3 workshop tecnici riguardanti una o più delle regioni CONV Calabria, Campania, Puglia e Sicilia 3 workshop tecnici: in merito alla realizzazione dei workshop tecnici, essi sono finalizzati a coinvolgere i privati concessionari, le stazioni appaltanti (Direzioni Regionali), le amministrazioni responsabili (Soprintendenze) e la DG Valorizzazione del MiBAC in un processo di sensibilizzazione collegiale verso le novità introdotte dal Sistema e, soprattutto, nella definizione di un piano operativo che illustri a tutti gli attori le reciproche responsabilità e le tempistiche da osservare. Output: Verbali dei workshop. 2 seminari formativi: i seminari di formazione sono rivolti al personale delle Amministrazioni delle Regioni CONV coinvolte nella gestione delle attività di monitoraggio e valutazione dei servizi al pubblico. Output: attività di formazione. o iii) Documento contenente indicazioni ed orientamenti metodologici e tecnico-operativi per l’Organismo Centrale di Monitoraggio (OCM), circa l’attività di informazione, formazione ed accompagnamento che lo stesso potrà essere chiamato a svolgere o coordinare. Il documento contiene indicazioni di tipo sia metodologico, sia tecnico e operativo, per mettere l’Organismo Centrale di Monitoraggio (OCM) in condizioni di assolvere le funzioni di accompagnamento, informazione e formazione che sarà chiamato a svolgere quando il Sistema sarà pienamente operativo. Tale documento conterrà specifici indirizzi sul ruolo di coordinamento scientifico e sulla natura dell’intervento della struttura tecnica, 14 delimitando chiaramente i compiti, i metodi, gli strumenti e gli output di ciascuna funzione, anche in relazione agli altri soggetti del Sistema. Output: Linee guida per l’OCM Fase C. Elaborazione di analisi di sostenibilità economico-finanziaria del Sistema. Tale fase sarà dedicata alla valutazione dei costi del Sistema di Monitoraggio&Valutazione e all’individuazione delle potenziali fonti di finanziamento dello stesso per renderlo il più realistico e operativo possibile in coerenza con l’obiettivo generale del presente incarico. Attività a) Piano economico-finanziario relativo al funzionamento del sistema di M&V. La valutazione dei costi del Sistema sarà realizzata attraverso la puntuale individuazione dei costi a carico di ogni attore coinvolto. L’analisi economica sarà seguita da un’analisi delle dinamiche finanziarie e dalla costruzione di specifici indici economico-finanziari per fornire all’Amministrazione strumenti attraverso i quali verificare l’andamento complessivo del Sistema e verificarne la sostenibilità. A completamento dell’analisi infine verrà condotta uno specifico esame delle strategie di funding, rivolto a individuare le potenziali alternative di finanziamento e i loro strumenti attuativi. Output: piano economico-finanziario. Fase D. Definizione della procedura ottimale per l’individuazione delle Società di Monitoraggio delle Performance e della Qualità (d’ora in poi SMPQ). Costruzione della procedura di gara pubblica finalizzata alla selezione di una rosa di soggetti per lo svolgimento delle attività di monitoraggio e verifica (SMPQ) omogenea applicabile su tutto il territorio nazionale in modo da rendere omogenee sia le caratteristiche dei soggetti partecipanti sia il modus operandi richiesto. La procedura prescelta sarà edificata nel rispetto degli obiettivi di trasparenza, concorrenzialità e celerità della procedura. Attività a) schemi di bando/lettera di invito/avviso attraverso cui selezionare le SMPQ, relativo disciplinare e capitolato d’oneri e tecnico: realizzazione di un’analisi comparativa delle procedure selettive previste dalla normativa vigente che consentono il raggiungimento degli obiettivi enunciati, al fine di individuare l'opzione ritenuta più idonea e strutturare la procedura selettiva individuando compiti e responsabilità in capo ai diversi soggetti coinvolti (livello centrale, stazione appaltante). Output: schemi di bando/lettera di invito/avviso Attività b) modelli delle dichiarazioni richieste ai concorrenti: al fine di semplificare e rendere più agevole la compilazione della documentazione richiesta per la gara saranno predisposti i modelli delle dichiarazioni richieste. Output: modelli delle dichiarazioni richieste ai concorrenti Attività c) documento che illustra la procedura di selezione delle SMPQ e linee guida per la sua attuazione: stesura di un documento di sintesi che illustri la procedura di selezione delle SMPQ individuata. Tale documento sarà corredato da delle linee guida che descriva in maniera dettagliata ed operativa le modalità di attuazione della stessa. Output: documento di sintesi della procedura di selezione e linee guida di attuazione 2. RICOGNIZIONE, ANALISI E VALUTAZIONE DI ESPERIENZE DI MONITORAGGIO E VALUTAZIONE IN ATTO PRESSO ALTRE ISTITUZIONI 15 2.1 Premessa 2.1.1 Il benchmarking nella cultura L’orientamento verso un maggior ricorso al mercato e verso un uso sempre più efficiente delle risorse spingano gli enti responsabili dei beni culturali verso un processo di maggiore responsabilizzazione gestionale. Particolare importanza, in questo senso, riveste la necessità di qualificare un modello gestionale strutturato secondo obiettivi di risultato per i quali sia possibile misurare, ex post ed ex ante, gli esiti, negoziando su di essi le risorse disponibili. Proprio in tale prospettiva va collocata la crescente attenzione dedicata alla ricerca e allo studio di casi di successo da parte degli operatori culturali, finalizzata ad acquisire elementi conoscitivi utili al miglioramento dei processi organizzativi e all’efficacia dei prodotti e dei servizi erogati. L’attenzione al benchmarking, tuttavia, deve essere considerata ancora una tendenza circoscritta, diffusa prevalentemente tra le aziende culturali private (fondazioni, associazioni, etc.) piuttosto che nel settore pubblico dove permangono forti una serie di “resistenze” al confronto. Non è un caso, quindi, che nell’analisi di benchmarking realizzata per il presente lavoro di ricerca – e i cui esiti trovano descrizione nei paragrafi successivi – i casi studio analizzati riguardino principalmente istituzioni private. Le ragioni che possono essere individuate per spiegare il mancato ricorso a momenti di confronto tra e da parte delle aziende pubbliche culturali, possono essere sintetizzate nei seguenti punti: 1. Prevalenza di un approccio autoreferenziale, storicamente facilitato dall’assenza di concorrenza nel mercato in cui operano tali aziende. Da tale situazione deriva una scarsa predisposizione a cercare, tramite il confronto con altre realtà, soluzioni gestionali migliorative; 2. Le aziende pubbliche culturali (e non solo) tendono a considerarsi spesso come soggetti “speciali”, diversi dai loro concorrenti e, quindi, in un certo senso, non comparabili con altre istituzioni; 3. L’attenzione delle aziende pubbliche culturali verso la legittimità dell’operato o l’oggettività dei comportamenti ha prodotto storicamente una minore attenzione alla tempistica dei processi, alla ricerca di massimizzazione delle condizioni di efficacia ed efficienza e, dunque, un modesto interesse per comprendere come tali elementi si andassero a configurare presso altri soggetti aziendali. 2.1.2 Obiettivi La presente indagine di benchmarking si pone l’obiettivo di analizzare buone pratiche relative a sistemi di M&V promossi da enti pubblici e istituzioni private, rivolgendo particolare attenzione a quei sistemi di controllo che mettono al centro della propria attività valutativa i rapporti concessori relativi alla gestione di servizi culturali in luoghi pubblici. Partendo dallo studio di casi esistenti, quindi, l’indagine ha inteso raccogliere ed elaborare gli elementi conoscitivi di effettiva replicabilità e adattabilità nell’esperienza del progetto di Monitoraggio e Valutazione dei servizi aggiuntivi culturali, in relazione a specifiche funzionalità strategiche già segnalate nell’Offerta Tecnica ovvero: 16 la governance, ovvero gli aspetti organizzativi e gestionali connessi al funzionamento del sistema di monitoraggio e valutazione. In particolare le domande di ricerca cui si tenterà di rispondere sono: o quanti soggetti (titolari dei beni, monitoranti, monitorati ecc.) sono coinvolti nel sistema? o che tipo (pubblico, privato, ecc.) di soggetti sono? o Come si relazionano tra loro i differenti livelli di articolazione del sistema di M&V? o Quali soggetti si occupano delle diverse fasi del sistema di M&V, qualora presenti, ovvero della pianificazione, della rilevazione, della verifica, della valutazione e dell’attribuzione di premi e sanzioni? o quali sono i vincoli di relazione (chi controlla chi, chi è scelto da chi, ecc.) tra un soggetto e l’altro? le metodologie di rilevazione, verifica, informazione, premialità/sanzione, cioè gli ambiti di applicazione del sistema M&V, i fenomeni osservati, le modalità e gli strumenti di reperimento dei dati, la definizione dei criteri di penalizzazione e di premialità. In particolare le domande di ricerca cui si tenterà di rispondere sono: o Quali sono gli ambiti di osservazione (tipologie di indicatori) per la valutazione delle performance dei soggetti “monitorati”? o Da chi/come/con quali tempi vengono rilevate le informazioni con cui alimentare gli indicatori del sistema? o Da chi e con quale modalità viene realizzata la verifica delle informazioni rilevate? Il sistema informativo ed informatico del sistema cioè, da una parte, i criteri con cui le informazioni vengono gestite, trattate, allocate, trasferite da un soggetto ad un altro del sistema. Dall’altra, invece, l’attenzione era rivolta alla costruzione del sistema informatico vero e proprio. In particolare le domande di ricerca cui si tenterà di rispondere sono: o Con quali criteri e modalità le informazioni vengono gestite, trattate, trasferite da un soggetto ad un altro del sistema? o Esistono specifiche soluzioni o architetture informatiche per la raccolta, l’elaborazione e l’archiviazione dei dati? Le procedure di selezione dei monitoranti, in altre parole le modalità con cui vengono individuati i soggetti che saranno chiamati ad effettuare rilevazioni dirette, verifiche e valutazioni in merito alle attività del monitorato. In particolare le domande di ricerca cui si tenterà di rispondere sono: o Come vengono individuati i soggetti che saranno chiamati ad effettuare rilevazioni dirette, verifiche e valutazioni in merito alle attività del monitorato? La struttura dei costi, cioè la stima dei costi di funzionamento del sistema di monitoraggio e i relativi criteri di definizione. In particolare le domande di ricerca cui si tenterà di rispondere sono: o Quanto costa il funzionamento del sistema di monitoraggio che si sta osservando? o Come vengono coperti i costi di funzionamento del Sistema? 2.1.3 Approccio metodologico Sebbene, come richiamato nel paragrafo 2.1.1, si registri una crescente diffusione di attività valutative nel settore dei beni e dei servizi culturali in Italia, tuttavia è ancora poco frequente che queste si concretizzino in forme continuative e strutturate di M&V. Tra queste ultime, inoltre, i casi di sistemi aventi 17 come oggetto prioritario la valutazione dei rapporti concessori relativi a servizi di pubblica utilità, erogati in luoghi culturali e non, rappresentano una fattispecie ancora meno diffusa. Ampliando lo sguardo all’ambito internazionale, invece, le differenze sul piano legislativo e normativo che caratterizzano i diversi Stati ha rappresentato un fondamentale ostacolo al reperimento di casi studio di effettivo interesse dal punto di vista della loro applicabilità sul nostro territorio nazionale4. E’ il caso, ad esempio, dei sistemi di governance adottati per l’espletamento delle attività di M&V, laddove i ruoli e le funzioni dei diversi soggetti coinvolti vanno necessariamente contestualizzati all’interno dello specifico quadro normativo del Paese di riferimento. Di conseguenza, stante il carattere “esecutivo” del presente studio, dettato dalla necessità di fornire alla Committenza elementi conoscitivi puntuali e caratterizzati da un significativo margine di applicabilità operativa, si è ritenuto più idoneo e coerente con le finalità descritte nell’Offerta Tecnica concentrare l’attenzione sul territorio nazionale laddove i pur differenti approcci al M&V riscontrati fanno necessariamente riferimento al medesimo milieu giuridico, amministrativo e, non secondariamente, “culturale” in cui si troverà ad operare il Sistema qui progettato. L’esiguità numerica dei potenziali bench partner capaci di rappresentare un modello di riferimento utile alla progettazione del nuovo sistema di M&V per i servizi aggiuntivi culturali nei luoghi della cultura statali, ha consigliato di riconsiderare l’impostazione metodologica dell’analisi che, nell’Offerta Tecnica, era stata individuata nell’approccio best in class. L’utilità di tale approccio, infatti, risiede nella possibilità di analizzare una funzione “critica” specifica alla luce della buona pratica ritenuta, nel merito, la più rappresentativa tra quelle selezionate. Nel suo complesso, tuttavia, i casi studio raccolti dall’azione di ricognizione sul territorio nazionale non fornivano elementi conoscitivi sufficienti a sostenere tale approccio in quanto: 1. Da una parte, alcune funzionalità critiche risultavano “scoperte”, non essendo stati individuati casi di particolare eccellenza da analizzare rispetto, ad esempio, al tema della selezione dei monitoranti e dei sistemi informatici; 2. Dall’altra, rispetto ad altre funzionalità, come il modello di governance, sembrava più opportuno approfondire tutte le diverse impostazioni riscontrate e non limitarsi all’approfondimento di una sola buona pratica, nella prospettiva di fornire al gruppo di lavoro un set di possibili alternative di sviluppo per il sistema di M&V oggetto del presente lavoro. In tale nuova prospettiva, quindi, l’approccio ritenuto più idoneo al perseguimento degli obiettivi previsti per l’indagine di benchmarking, è stato quello comparativo per funzioni: per ciascuna delle funzionalità “critiche” individuate nell’Offerta Tecnica, si è proceduto con l’analisi e il confronto delle differenti impostazioni e prassi operative caratterizzanti i singoli casi studio. In questo modo, l’analisi di benchmarking ha potuto supportare la progettazione del sistema di M&V per i sistemi aggiuntivi culturali nella misura in cui è riuscito a fornire, per ciascuna funzionalità, una serie di indicazioni metodologiche ed operative tanto su eventuali elementi di replicabilità/adattabilità, quanto sulla presenza di possibili opzioni alternative di sviluppo. 2.1.4 Metodologia di lavoro Dal punto di vista metodologico, l’indagine si è articolata in tre passaggi successivi, riassunti qui di seguito: Tuttavia, a scopo meramente indicativo è stato analizzato il sistema di Monitoraggio e Valutazione messo in funzione in Spagna, per quanto riguarda l’area archeologica di Mérida (vedi Box. 4, par. 2.3.9) 4 18 Fase 1: Costruzione del repertorio complessivo dei casi da analizzare. È stata avviata una ricognizione su tutto il territorio nazionale di esperienze e buone pratiche di sistemi di M&V, con particolare riferimento al settore culturale. E’ stato così possibile individuare un primo insieme di otto casi studio caratterizzati dalla presenza di attività di monitoraggio e di valutazione dotate di una certa continuità e dimensione (organizzativa, istituzionale, economica). Fase 2: Selezione del campione ristretto di casi di studio su cui operare l’analisi puntuale. I casi individuati sono stati oggetto di una valutazione più approfondita, principalmente mediante analisi desk integrata, laddove necessario, con brevi interviste ai referenti dei sistemi. Si è così arrivati alla selezione dei cinque casi studio su cui si è concentrata l’attività di analisi e approfondimento, effettuato attraverso interviste in profondità con i responsabili delle strutture. Fase 3: l’analisi e la restituzione ragionata dei risultati emersi. I dati e le informazioni relativi al campione ristretto di casi sono stati elaborati in modo da fornire un insieme di indicazioni di metodo e di processo utili per le fasi successive di progettazione delle linee guida per i servizi aggiuntivi culturali. 2.2 Il repertorio complessivo dei casi individuati 2.2.1 Oggetti di analisi e protocollo di indagine L’analisi di benchmarking si è concentrata su quelle pratiche in cui l’attività di M&V presentasse almeno tre dei seguenti quattro requisiti: 1. Un’attenzione prevalente ai servizi e alle attività di valorizzazione dei beni culturali o, comunque, all’erogazione di servizi di pubblica utilità (sociali, ambientali, etc.). 2. Un carattere tendenzialmente continuativo, escludendo quindi quelle attività concentrate solo in determinati periodi, spesso perché collegate a determinate scadenze di rendicontazione5. 3. Un approccio multidimensionale, non limitato al controllo degli output generati ma esteso anche ad altri livelli (outcome, efficienza, efficacia, etc.). 4. Il coinvolgimento di un organismo di valutazione esterno o, in alternativa, di un soggetto qualificato con la funzione di supporto esterno e di consulente per l’ente/istituto. Sono stati, quindi, esclusi dall’analisi i casi di M&V gestiti completamente in house. La ricognizione è stata svolta tramite analisi desk e la consultazione della letteratura di riferimento, in particolare: documentazione varia di reportistica, bilanci sociali, bilanci di fine mandato, studi di fattibilità, atti istitutivi e manuali di procedure. Laddove ritenuto necessario, si è proceduto con intervista diretta ai referenti delle strutture analizzate. 2.2.2 La matrice per l’analisi e sistematizzazione dei casi Al fine di sistematizzare i dati raccolti, i casi individuati sono stati progressivamente inseriti in un'unica matrice dove è stato riportato lo stato dell’arte per ciascuna delle funzioni critiche di riferimento. E’ il caso, ad esempio, dei report di valutazione prodotti in occasione della rendicontazione di fine mandato (bilanci di fine mandato). In questi casi, infatti, tali iniziative presentano un carattere estemporaneo e solo raramente possono essere ricondotte alla presenza di un preesistente sistema di monitoraggio e di valutazione on going attivo nell’ente/istituto. 5 19 Nella prima colonna (“Ambito di applicazione”), sono stati tenuti distinti i casi in cui il sistema di M&V è orientato esclusivamente a servizi/attività culturali, da quelli caratterizzati per l’attenzione rivolta anche ad altri settori (sociale, sviluppo locale, ambiente, etc.). Nella seconda colonna (“Continuità”), sono stati riportati i dati relativi al carattere continuativo o estemporaneo per le attività di monitoraggio e per quelle di valutazione. Nella terza colonna (“Multi dimensione”), invece, sono stati raccolte le informazioni circa i livelli di indagine del sistema di M&V, con particolare riferimento ai diversi tipi di indicatori considerati. Infine, l’ultima colonna (“Ruolo Valutatore”) sistematizza i casi sulla base della funzione richiesta all’organismo/soggetto tecnico: valutatore esterno indipendente oppure consulente di appoggio per la struttura. Per ciascuno dei quattro ambiti, inoltre, sono riportate le fonti utilizzate per il reperimento delle informazioni, distinguendo tra analisi desk, la consultazione di documentazione e letteratura specialistica oppure l’intervista diretta. 2.2.3 Il campione allargato dei casi analizzati Sulla base di tali criteri, la ricognizione svolta all’interno del territorio nazionale ha portato all’individuazione di otto casi studio particolarmente significativi, di seguito brevemente descritti: Agenzia per il controllo e la qualità dei servizi pubblici locali del Comune di Roma. L'Agenzia è stata istituita dal Consiglio Comunale di Roma nel 2002 e ulteriormente ampliata nel 2007. Essa esercita la propria attività su tutti i Servizi Pubblici Locali del Comune di Roma, comprese quelle di natura culturale come attività museali, mostre, eventi di spettacolo e gestione di siti culturali. L’agenzia costituisce un'esperienza certamente innovativa nel controllo dei livelli di qualità e di quantità degli erogatori di servizi, situandosi in una posizione di terzietà rispetto all’ente e ai privati che hanno in gestione servizi di rilevanza pubblica. Le funzioni dell’Agenzia sono di verifica e monitoraggio della qualità dei servizi e di supporto propositivo e tecnico-conoscitivo nei confronti del Consiglio Comunale, del Sindaco e della Giunta Comunale. Fondazione Musei Civici di Venezia. La Fondazione Musei Civici di Venezia, costituita nel 2008, ha lo scopo di tutelare, conservare, promuovere, valorizzare e gestire il patrimonio culturale dei Musei Civici di Venezia. La Fondazione ha assegnato tramite gara di appalto la gestione integrata dei servizi museali con l’obiettivo dichiarato di ottimizzare e incrementare l’offerta e la fruizione dei suoi beni e delle sue attività. In particolare, il contratto di servizio si caratterizza tra le altre cose per il forte impegno richiesto al soggetto appaltatore nella creazione di un sistema di monitoraggio e valutazione e dei relativi strumenti per la gestione dei flussi informativi con il soggetto appaltante. Programma “Distretti Culturali” di Fondazione CaRiPlo. Il progetto “Distretti Culturali” è uno dei principali strumenti attuativi del Piano d’azione “I beni culturali come volano per la crescita economica e sociale del territorio”, che risponde all’obiettivo strategico che la Fondazione si è data in questo settore e cioè la valorizzazione del patrimonio culturale come fattore di sviluppo 20 del territorio. La peculiarità del percorso intrapreso dalla Fondazione CaRiPlo consiste nella forte attenzione riposta nella valutazione dei processi innescati dal programma, al fine di acquisire elementi conoscitivi fondamentali per la comprensione delle dinamiche di sviluppo locale e per verificare l’eventuale correlazione tra i fenomeni rilevati e le iniziative promosse e sostenute. CESVOT. Il CESVOT – Centro Servizi Volontariato Toscana – opera dal 1997 secondo la normativa nazionale di riferimento ed è attualmente gestito da 23 associazioni di volontariato a valenza regionale. Offre servizi di formazione, consulenza e assistenza alla progettazione, e svolge attività di ricerca, documentazione, promozione e informazione a favore delle oltre 2.500 associazioni di volontariato presenti nel territorio toscano. L’attività di monitoraggio e di valutazione è svolta dal CESVOT attraverso due strumenti: o L’ufficio monitoraggio e valutazione o Il bilancio sociale annuale, ormai giunto alla settima edizione, che ha l’obiettivo di rendicontare e comunicare a tutti gli stakeholder le attività e i servizi svolti secondo il principio di trasparenza e di garanzia dei livelli qualitativi raggiunti. Programma “Piani di Valorizzazione” della Regione Piemonte. I Piani di Valorizzazione nascono dalla volontà della Direzione Musei e Patrimonio Culturale della Regione Piemonte di favorire la nascita e il consolidamento di reti territoriali e urbane con il principale obiettivo di migliorare la fruizione e la gestione del patrimonio culturale. Per tale programma è stato implementato un sistema complessivo di M&V piuttosto innovativo in quanto prevede un livello centrale di controllo e monitoraggio, gestito dalla Regione Piemonte, e un secondo livello – su scala locale – composto dai sistemi di osservazione e rilevamento istituiti da ciascun Piano sul proprio territorio. Fondazione “Per Leggere”. Costituitasi nel 2006, la Fondazione nasce dalla fusione di cinque sistemi bibliotecari del sud-ovest milanese (Abbiategrasso, Corsico, Magenta, Rozzano e il Castanese). La Fondazione si è dotata di un proprio sistema di monitoraggio e di valutazione delle performance delle singole biblioteche, attualmente più di 50, dei livelli di soddisfazione dell’utenza e degli impatti generati sul territorio, in termini di promozione della lettura tra la popolazione. Non si avvale, tuttavia, di organismi esterni di valutazione e tutte le attività di monitoraggio e di controllo sono svolte dal personale della Fondazione stessa. Programma “Bollenti Spiriti”. Si tratta di un programma multi-azione finanziato attraverso l’APQ tra Regione Puglia e Stato, finalizzato a valorizzare il patrimonio di idee e di energie creative dei giovani pugliesi. Di particolare interesse per l’attinenza con il settore delle attività culturali sono due delle linee di azione di programma: “Principi Attivi” – per stimolare le idee imprenditoriali dei giovani – e “Laboratori Urbani”, in cui vengono riqualificati spazi di proprietà comunale per affidarli alla gestione dei giovani locali. Attraverso una collaborazione con l’Università, il centro operativo del programma commissiona periodicamente delle indagini e degli approfondimenti su particolari fenomeni correlabili a tali iniziative mentre l’ampio ricorso agli strumenti del web 2.0 permette agli operatori del territorio che sono stati coinvolti, di pubblicare e far circolare con rapidità e facilità le informazioni relative allo stato di avanzamento del proprio progetto, le criticità, etc. L’attività di monitoraggio e valutazione, tuttavia, non si configura come un sistema complessivo centralizzato ma come un insieme non omogeneo di strumenti, applicati di volta in volta a campi di indagine differenti. 21 Progetto APQ multiazione "Inventare il futuro". Un caso ancora diverso è quello relativo al programma di azioni “Inventare il futuro”. Il progetto si inserisce nell’ambito dell’Accordo di Programma Quadro “Giovani protagonisti di sé e del territorio” ed è promosso dall’Assessorato della Famiglia, delle Politiche Sociali e delle Autonomie locali della Regione Sicilia. Si tratta di una iniziativa della durata di tre anni che intende mettere in campo un ventaglio di azioni territoriali con l’obiettivo di promuovere la crescita culturale e sociale dei giovani siciliani. Proprio per la natura interdisciplinare del progetto e per la complessità delle dinamiche socioculturali interessate, è stata prevista la figura del valutatore esterno con il compito di progettare e implementare, insieme agli altri partner, un sistema di monitoraggio e di valutazione on going. Il sistema, tuttavia, si trova ancora in una fase iniziale di attivazione e presenta importanti lacune per i fini del presente lavoro, con particolare riferimento al piano di valutazione che non è ancora stato completamente definito. Nel complesso, le pratiche individuate compongono un campione di analisi interessante in quanto comprensivo di sistemi di M&V differenti per obiettivi, impostazione metodologica e strumenti di rilevazione. Nella maggior parte dei casi, i sistemi individuati non si limitano al controllo di attività esclusivamente culturali – o inerenti la gestione di beni culturali – ma estendono il proprio raggio di azione a settori diversi come le ricadute socioeconomiche, i risultati turistici, l’impatto ambientale, etc.. Alla prima tipologia possono essere ricondotti i casi della Fondazione Musei Civici di Venezia, della Fondazione “Per Leggere”, nei quali le attività di monitoraggio e di valutazione riguardano solo le attività svolte all’interno dei siti culturali, gli output e outcome prodotti, i livelli di efficienza ed efficacia dei processi organizzativi interni alle strutture culturali (musei, biblioteche, centri di documentazione, aree espositive, etc.). Nei restanti casi individuati, invece, si tratta di sistemi di M&V caratterizzati da più ampi spettri di analisi, comprendenti aree e servizi differenti. Tabella 1- Orientamento ai servizi culturali Solo culturale Fondazione Musei Civici di Venezia Programma Distretti Culturali Fondazione “Per Leggere” Programma regionale di supporto ai “Piani di Valorizzazione” Cesvot – Centro di Servizio per il Volontariato Programma "Bollenti Spiriti" Agenzia per il controllo della qualità di Roma Progetto APQ multiazione "Inventare il futuro" Anche altri ambiti X X X X X X X X Fonti Desk X X X X X X X X Letteratura X X X X X X Intervista X X X X Fonte: ns elaborazione In tutti i casi selezionati, l’attività di monitoraggio e di valutazione ha carattere di continuità, almeno nelle intenzioni dichiarate e formalizzate (ad esempio, nell’atto costitutivo). Fa eccezione il programma “Bollenti Spiriti” della Regione Puglia, per il quale non esiste un sistema di valutazione permanente ma una serie di azioni di carattere sporadico. Tabella 2 - Continuità Monitoraggio Valutazione Fonti 22 Fondazione Musei Civici di Venezia Programma Distretti Culturali Fondazione “Per Leggere” Programma regionale di supporto ai “Piani di Valorizzazione” Cesvot – Centro di Servizio per il Volontariato Programma "Bollenti Spiriti" Agenzia per il controllo della qualità di Roma Progetto APQ multiazione "Inventare il futuro" X X X X X X X X X X X X X Desk Letteratura X X X Intervista X X X X X X X X X X Fonte: ns elaborazione Tutti i sistemi di M&V selezionati svolgono un controllo sulla qualità degli output e degli outcome generati dai servizi in oggetto. Inoltre, sono stati raccolti i dati relativi a sistemi capaci di acquisire informazioni anche su altri livelli di analisi, come gli input della produzione, il grado di efficienza e di efficacia delle organizzazioni, oppure l’analisi qualitativa della customer satisfaction. Tabella 3 - Multi dimensione Input Output Outcome Efficienza Efficacia Altro Desk Fondazione Musei Civici di Venezia Programma Distretti Culturali Fondazione “Per Leggere” Programma regionale di supporto ai “Piani di Valorizzazione” Cesvot – Centro di Servizio per il Volontariato Programma "Bollenti Spiriti" Agenzia per il controllo della qualità di Roma Progetto APQ "Inventare il futuro" X X X X X X X X X X X X X X X X X X X X X X X X X X Fonti Letter. Interv. X X X X X X X X X X X X In fase di definizione Fonte: ns elaborazione Infine, sono prevalenti i casi caratterizzati dalla presenza del valutatore terzo indipendente rispetto ai sistemi di M&V in house dove il coinvolgimento di esperti riguarda solo funzioni di assistenza tecnica al personale interno della struttura. Tabella 4 - Ruolo del valutatore Fondazione Musei Civici di Venezia Programma Distretti Culturali Fondazione “Per Leggere” Programma regionale di supporto ai “Piani di Valorizzazione” Cesvot – Centro di Servizio per il Volontariato Programma "Bollenti Spiriti" Agenzia per il controllo della qualità di Roma Progetto APQ multiazione "Inventare il futuro" Valutaz. Indipend. X X Consulenza tecnica X X X X X X Fonte: ns elaborazione 2.3 I casi studio su cui operare l’analisi puntuale 2.3.1 I criteri per l’individuazione dei casi su cui operare un’analisi puntuale 23 Coerentemente con l’approccio di analisi comparativa adottato, la selezione dei casi su cui operare un’analisi puntuale è stata effettuata sulla base della necessità di confrontare tra loro metodi, approcci, strumenti differenti così da poter fornire al gruppo di lavoro un quadro conoscitivo articolato sulle possibili opzioni di sviluppo del sistema di M&V oggetto del presente lavoro. La scelta dei cinque casi studio, quindi, è stata operata sulla base degli elementi di peculiarità in essi presenti, con l’obiettivo di confrontare – per ciascun tema di analisi – almeno due esperienze differenti. Seguendo tale approccio, sono stati esclusi dalla fase di approfondimento i tre seguenti casi: 1. Programma “Bollenti Spiriti” della Regione Puglia Motivazione: malgrado si tratti di un programma di interventi di dimensioni importanti, le attività di monitoraggio e di valutazione risultano ancora troppo deboli, disomogenee e prive del carattere di continuità necessario a configurare un vero e proprio sistema di M&V. 2. Fondazione “Per Leggere” Motivazione: il sistema di monitoraggio e di valutazione è completamente interno. Inoltre, dal punto di vista del modello di rilevamento e dei sistemi informativi/informatici non offre elementi conoscitivi di particolar rilievo rispetto all’altro caso di una Fondazione operativa privata, la Fondazione Musei Civici di Venezia. 3. Progetto APQ “Inventare il futuro” Motivazione: si tratta di un progetto certamente interessante, ma poiché si trova in una fase di start up, il piano di monitoraggio e di valutazione non è stato ancora formulato in maniera definitiva. 2.3.2 Il campione ristretto dei casi analizzati I cinque casi selezionati per l’analisi puntuale sono: L’Agenzia per il controllo e la qualità dei servizi pubblici locali del Comune di Roma La Fondazione Musei Civici di Venezia Il programma “Distretti Culturali” della Fondazione CaRiPlo Il CesVot - Centro Servizi Volontariato Toscana Il programma “Piani di Valorizzazione” della Regione Piemonte Come si evince dalla tabella sottostante, nel suo complesso il campione consente di confrontare almeno tre casi per ciascuno dei campi di analisi considerati. Rispetto ai temi della governance, del modello di rilevamento, dei costi e delle modalità di selezione dei monitoranti, inoltre, è possibile procedere con la comparazione tra quattro approcci differenti. Tabella 5 - Quadro sinottico bench partner-funzioni Caso studio Governance Rilevamento Sist. Informatico e informativo Selez. Monitoranti Costi X X X Agenzia di controllo di Roma X Fondazione Musei Civici di Venezia X X X X X Programma Distretti Culturali X X X X X 24 Cesvot – Centro di Servizio per il Volontariato Programma regionale di supporto ai “Piani di Valorizzazione” X X X X X Fonte: ns elaborazione 2.3.3 Protocollo di indagine e rilevazione delle informazioni Per le analisi di approfondimento, i dati e le informazioni sono stati acquisiti prevalentemente tramite interviste di profondità ai referenti di ciascun sistema. In particolare, i referenti intervistati sono stati: 1. 2. 3. 4. 5. Paolo Leon, presidente dell’Agenzia per il controllo e la qualità dei servizi del Comune di Roma; Mattia Agnetti, segretario generale della Fondazione Musei Civici di Venezia; Alessandro Rubini, responsabile Progetto Distretti Culturali della Fondazione Cariplo; Referenti diversi del settore Monitoraggio e Gestione Umane del Cesvot Patrizia Picchi, Responsabile Settore Musei e Patrimonio Culturale della Regione Piemonte. Laddove possibile, le analisi sono state integrate attraverso l’analisi della documentazione tecnica direttamente fornita dai referenti intervistati. Per ciascuna esperienza analizzata, si è prodotta una descrizione dettagliata comprensiva dei cinque campi di analisi precedentemente individuati: a. b. c. d. e. Il modello di governance Il modello di rilevamento Il sistema informatico e informativo La selezione dei monitoranti I costi 2.3.4 Caso A: AGENZIA PER IL CONTROLLO E LA QUALITÀ DEI SERVIZI PUBBLICI LOCALI DEL COMUNE DI ROMA DESCRIZIONE L'Agenzia per il controllo e la qualità dei servizi pubblici locali del Comune di Roma è stata istituita dal Consiglio Comunale di Roma con Deliberazione n. 39 del 14 marzo 2002 e in seguito modificata ed ampliata nelle sue funzioni dalla Deliberazione n. 212 del 22 ottobre 2007 e in sostituzione di una precedente Autorità per i Servizi Pubblici Locali del Comune di Roma. L’Agenzia esercita la propria attività su tutti i Servizi Pubblici Locali del Comune di Roma e costituisce un'esperienza certamente innovativa nel controllo dei livelli di qualità e di quantità degli erogatori di servizi, situandosi in una posizione di terzietà rispetto all’ente e ai privati che hanno in gestione servizi di rilevanza pubblica. Le funzioni dell’Agenzia sono sia di verifica e monitoraggio della qualità dei servizi sia di supporto propositivo e tecnico-conoscitivo nei confronti dell’Amministrazione Comunale. L'Agenzia realizza studi, pareri ed esercita un'attività di vigilanza costante per verificare le modalità di erogazione dei servizi e 25 garantire un’informazione tempestiva e documentata sulle condizioni di svolgimento degli stessi; Esprime inoltre pareri preventivi sugli schemi degli atti concessori e autorizzativi, delle convenzioni e dei contratti di servizio e può proporre la modifica delle clausole delle autorizzazioni e delle condizioni tecniche di svolgimento dei servizi. In tali ambiti il parere espresso ha carattere obbligatorio e pubblico, sebbene non vincolante. Le ampliate funzioni dell’Agenzia in termini di verifica e monitoraggio dei servizi rispondono in parte alle esigenze riportate dalla DCC n. 20/2007 “Linee Guida per la predisposizione dei contratti di servizio tra Roma Capitale e i soggetti erogatori di servizi pubblici”, che stabilisce che il contratto di servizio deve offrire all’ente locale sufficienti garanzie circa la corretta esecuzione delle obbligazioni assunte dall’erogatore, adeguati strumenti di valutazione e monitoraggio delle prestazioni rese, nonché idonei strumenti per la tutela e la garanzia dei diritti degli utenti. Per quanto riguarda in particolare i servizi culturali, gli obblighi relativi al monitoraggio e alla valutazione sono contenuti in un’ulteriore documento sempre del 2007 che tra le altre cose specifica: la distinzione tra profili che attengono alla regolazione del servizio erogato al pubblico e quelli che riguardano il rapporto contrattuale tra Amministrazione e gestore; il potenziamento degli strumenti di controllo a disposizione dell’Amministrazione e di tutela dell’utenza e dei lavoratori; MODELLO DI GOVERNANCE Quanti soggetti (titolari dei beni, monitoranti, monitorati ecc.) sono coinvolti nel sistema? I soggetti coinvolti sono: l’Amministrazione Comunale (attraverso le Direzioni titolari dei singoli servizi affidati), i soggetti erogatori e l’Agenzia per il controllo e la qualità dei servizi pubblici locali. Una quarta figura del sistema è la Commissione Paritetica, composta da membri della Direzione Comunale competente del servizio in oggetto e del soggetto incaricato della sua erogazione. Che tipo (pubblico, privato, ecc.) di soggetti sono? L’Agenzia ha carattere pubblico: le cariche direttive (presidente e 2 vice-presidenti) sono nominati direttamente dal Consiglio Comunale. Inoltre, il personale operativo (che non può superare le 12 persone in organico), deve essere composto in prevalenza da risorse umane della Pubblica Amministrazione mentre i collaboratori esterni non possono superare le 3 unità. Gli erogatori dei servizi possono essere organizzazioni private o a carattere misto, pubblico-privato. La Commissione Paritetica è un organismo temporaneo – di durata pari a quella del contratto di appalto – la cui creazione è prevista in tutti i contratti di servizio stipulati dal Comune di Roma dopo il 2007. Come si articola il sistema di M&V nel suo complesso? Il sistema è organizzato su tre livelli: l’erogatore fornisce i dati alla commissione paritetica che li organizza secondo gli indicatori richiesti e li comunica all’Agenzia per una verifica e sistematizzazione. L’Agenzia li analizza e li integra con indagini proprie (customer satisfaction e mystery client), e li comunica e rende pubblici in una relazione annuale al Comune. Quali soggetti si occupano delle diverse fasi del sistema di M&V, qualora presenti, ovvero della pianificazione, della rilevazione, della verifica, della valutazione e dell’attribuzione di premi e sanzioni? 26 Le Commissioni Paritetiche sono preposte alla raccolta dei dati necessari a sostanziare gli indicatori di performance stabiliti dal contratto stesso6, e relativi tanto ai rapporti tra amministrazione e soggetto gestore, quanto ai rapporti con l’utenza. Tale organismo di controllo è tenuto a comunicare periodicamente all’Agenzia i dati raccolti per permettere all’Agenzia stessa di verificare la coerenza rispetto agli impegni assunti in sede contrattuale. L’Agenzia, quindi, svolge la funzione di verifica (rispetto agli obiettivi contrattuali) e di valutazione: oltre al report annuale sullo stato dell’arte dei servizi di pubblica utilità appaltati dal Comune di Roma, l’Agenzia relaziona sui risultati conseguiti e sulle criticità riscontrate, fornendo indicazioni per il miglioramento, anche in report specifici che vengono prodotti secondo le necessità riscontrate. Quali sono i vincoli di relazione (chi controlla chi, chi è scelto da chi, ecc.) tra un soggetto e l’altro? Il rispetto degli obblighi di servizio tra erogatori dei servizi e Comune sono di esclusiva competenza delle singole Direzioni Municipali (nel caso delle attività culturali, la Direzione IV del Comune di Roma). L’Agenzia, invece, si configura come un organismo strumentale dell’Amministrazione Comunale. Il Comune, infatti, nomina gli organi direttivi dell’Agenzia, stanzia le risorse economiche necessarie al suo funzionamento, approva il piano di attività annuale e verifica il bilancio consuntivo delle iniziative svolte. Rispetto al tema della governance del sistema, inoltre, un elemento di debolezza consiste nella dipendenza dell’Agenzia dal livello di efficienza delle Commissione Paritetiche le quali, anche laddove costituite, non sempre si dimostrano all’altezza del compito loro assegnato e, in assenza di meccanismi di controllo tendono a essere più efficaci per i servizi che dipendono da Direzioni attente e sensibili che si fanno carico in modo diretto di seguire le attività di monitoraggio e assicurando così la tempestività e la completezza della comunicazione dei dati dalle commissioni all’Agenzia. MODELLO DI RILEVAMENTO Quali sono gli ambiti di osservazione (tipologie di indicatori) per la valutazione delle performance dei soggetti “monitorati”? Per le finalità del presente lavoro, focalizzato sui servizi aggiuntivi culturali, si sono presi in considerazione gli indicatori e i relativi standard elaborati nell’ambito del contratto di servizio tra il Comune di Roma e Zétema Progetto Cultura s.r.l., società di proprietà di Roma Capitale al 100 % a cui è stata affidata in house, la gestione del suo patrimonio museale ed archeologico. Tabella 6 – Ambiti di osservazione Ambito Indicatore Standard Accessibilità Orari Disabili Customer satisfaction 100% apertura dei Musei secondo gli orari Assistenza per l'accesso ai disabili Risultato ≥ 1,80 standard minimo di qualità7 Secondo le linee guida, ogni attività prevede specifici indicatori dei livelli quali-quantitativi del servizio oltre agli obiettivi di servizio espressi sotto forma di parametri e indicatori tecnico-economici quantificabili, definendo pertanto gli standard qualitativi generali ed eventuali standard specifici, nonché gli obiettivi annuali di miglioramento. 6 Nei questionari per rilevare la customer satisfaction si richiede al visitatore di attribuire ad ogni servizio un valore compreso in una scala da molto soddisfatto (=3) a per niente soddisfatto (=0). La media delle risposte deve raggiungere il requisito minimo previsto dal Contratto di servizio di 1,80, per valutare il servizio sufficiente. 7 27 Erogazione servizi Orari Risorse umane Formazione Tecnologia Accoglienza e Biglietteria Segnaletica Informazioni Dati Customer satisfaction Esterna Dati Portale Accessibilità al web Customer satisfaction Orari Tempi di risposta Contact center Informazioni Customer satisfaction Segnaletica Interna Customer satisfaction Informazioni sul Sistema e sugli eventi ospitati Area Accoglienza Guardaroba Materiale cartaceo Customer satisfaction Condizione Customer satisfaction Prenotazioni Visite Guidate Libreria Condizione Customer satisfaction Orari Prodotti editoriali Servizio Trasparenza prezzi Customer satisfaction Orari Caffetteria Mostre Risorse umane Trasparenza prezzi Customer satisfaction Parametri per la conservazione Durante apertura ordinaria dei musei e durante mostre. Durante apertura strardinarie per eventi: a seconda dei casi Monte ore annuo di frequenza a corsi esterni ed interni qualificati e certificati e di autoformazione pari almeno a quanto previsto dai contratti di lavoro Presenza di impianti tecnologici regolarmente verificati con garanzia di pronto intervento entro almeno 24 ore dalla segnalazione di problemi tecnici. In caso di guasto le biglietterie erogano i biglietti manuali Informazioni aggiornate scritte in italiano e inglese relative a: orari, tariffe dei biglietti e dei servizi (audioguide e visite didattiche), le categorie degli aventi diritto ai ridotti e gratuiti, segnalazione eventuali disservizi, condizioni di accesso, Carta della Qualità dei Servizi Rilevazione oggettiva del numero dei visitatori Risultato ≥ 1,80 standard minimo di qualità. Presenza di stendardi e/o targhe presso l'accesso. Aggiornamento dati su base settimanale o entro 24 ore prima dell'introduzione di un nuovo servizio o evento Mancato accesso massimo 120 ore/anno. Risultato ≥ 1,80 standard minimo di qualità. 95% rispetto degli orari indicati 95% entro 10 secondi risposta disco. 70% entro 3 minuti risposta dell'operatore Presenza costante di almeno un operatore che conosca italiano, inglese, francese, tedesco, spagnolo e giapponese negli orari di apertura. Risultato ≥ 1,80 standard minimo di qualità. Pannelli in lingua italiana e inglese con indicazioni sui servizi essenziali quali ascensori, toilette, caffetteria e librerie Risultato ≥ 1,80 standard minimo di qualità. Presenza costante di almeno un operatore che conosca italiano e inglese negli orari di apertura Tempestività nel rifornimento. Materiale informativo aggiornato almeno in italiano e inglese su: cenni storici e artistici, orari, tariffe, audioguida, didattica, condizioni di accesso, servizi attivati, aperture straordinarie, calendario trimestrale eventi, mostre, didattica Risultato ≥ 1,80 standard minimo di qualità. Servizio gratuito Risultato ≥ 1,80 standard minimo di qualità. Le visite per i gruppi sono fornite entro due giorni dalla richiesta. La prenotazione può essere effettuata tramite contact center Gratuite per le scuole Risultato ≥ 1,80 standard minimo di qualità. 95% rispetto degli orari indicati. È disponibile una guida breve propria di ogni museo Presenza costante di almeno un operatore che conosca italiano e inglese negli orari di apertura I prezzi di tutti i prodotti in vendita sono esposti Risultato ≥ 1,80 standard minimo di qualità. 95% rispetto degli orari indicati. Personale con conoscenza di inglese, oltre all'italiano; conoscenza delle procedure e requisiti HACCP Il listino prezzi di tutti i prodotti in vendita è esposto alla cassa Risultato ≥ 1,80 standard minimo di qualità. 95% rispetto degli standard ambientali definiti dal protocollo internazionale per la conservazioni delle opere (condizioni 28 climatiche quali umidità, temperatura e illuminazione) Customer satisfaction Manutenzione Tempi di intervento Pulizia Apertura straordinaria Reclami e segnalazioni Customer satisfaction Risultato ≥ 1,80 standard minimo di qualità. 95% degli interventi per biglietteria elettronica e contact centre entro 24 ore dalla segnalazione del guasto Risultato ≥ 1,80 standard minimo di qualità. Customer satisfaction Risultato ≥ 1,80 standard minimo di qualità. Risposta Entro 30 giorni Fonte: ns elaborazione L’Agenzia, inoltre, sta da qualche tempo lavorando all’elaborazione di indicatori per la valutazione di aspetti culturali, meno facilmente rilevabili ma considerati cruciali per le funzioni di indirizzo dell’amministrazione pubblica, come ad esempio le attività impostate dal gestore su ampliamento, diversificazione, redistribuzione dei pubblici. Anche in questo caso è imprescindibile una Direzione sensibile perché possa fare propria e condividere con il gestore una visione rispetto ai pubblici: alcuni contratti prevedono almeno in linea teorica l’impegno a rilevare questo aspetto, ma la difficoltà di misurare e valutare gli impatti in questi termini hanno di fatto rallentato l’elaborazione di un pensiero valutativo, e quindi dei relativi indicatori, su questo tema. Da chi/come/con quali tempi vengono rilevate le informazioni con cui alimentare gli indicatori del sistema? L’attività di raccolta dei dati e delle informazioni sulla base del set di indicatori e del piano di monitoraggio predisposto dalle Commissioni Paritetiche viene svolta dall’erogatore. L’Agenzia può integrare tale sistema con proprie attività di indagine di customer satisfaction anche attraverso il rapporto con le rappresentanze dei consumatori, per integrare quanto prodotto dagli erogatori dei servizi. L’indagine viene condotta annualmente con interviste telefoniche (CATI) a un campione rappresentativo della popolazione e sono realizzate attraverso incarichi a aziende specializzate. Le Mystery client sono, invece, svolte con personale interno dell’Agenzia8. Da chi e con quale modalità viene realizzata la verifica delle informazioni rilevate? I dati inviati all’Agenzia dalle commissioni paritetiche riguardano gli indicatori elaborati per ciascun servizio. L’agenzia ne verifica la coerenza rispetto agli standard individuati in sede di contratto di servizio, li integra con indagini proprie di customer satisfaction e li rende pubblici, evidenziando lacune e ambiti di miglioramento del servizio. Un punto di forza sono certamente le indagini sui servizi all’utenza condotti a livello centrale direttamente dall’Agenzia – integrando sempre questionari all’utenza e mystery client – che permettono una verifica diretta, omogenea e costante nel tempo rispetto alla qualità dei diversi servizi al pubblico. Il sistema di sanzioni, pure previsto, è tuttavia di difficile applicabilità: i soggetti erogatori di servizi del Comune di Roma non sono a tutti gli effetti dei privati (tranne Fondazione Musica per Roma, che almeno sotto il profilo formale è soggetto di diritto privato) ma seguono di fatto un modello in house. Trattandosi dunque di soggetti prevalentemente o totalmente di proprietà del Comune di Roma è difficile pensare 8 http://www.agenzia.roma.it/documenti/monitoraggi/439.pdf 29 meccanismi di sanzione/premialità (queste ultime peraltro non possibili, nemmeno dal punto di vista formale, nell’ambito della pubblica amministrazione) che, in assenza di deliberazioni che individuassero le responsabilità dei manager e non dell’intera organizzazione, finirebbero col danneggiare la stessa amministrazione pubblica.9 SISTEMA INFORMATIVO E INFORMATICO Con quali criteri e modalità le informazioni vengono gestite, trattate, trasferite da un soggetto ad un altro del sistema? Data la disomogeneità dei dati derivante dalla varietà dei servizi monitorati non esiste un sistema automatico per la raccolta dei dati, che vengono forniti dalle commissioni in base alle indicazioni formulate dall’Agenzia e in seguito immessi ed elaborati direttamente da personale interno. Dal punto di vista del sistema informativo e della restituzione dei dati, l’Agenzia svolge un’intensa attività di comunicazione, in particolare: Produce una Relazione annuale pubblicata sul sito che riporta nel dettaglio l’attività dell’Agenzia e tutti i dati raccolti per ogni singolo servizio regolato da un contratto con il Comune. Realizza indagini mirate su specifici servizi. Realizza indagini di customer satisfaction relative alla qualità della vita percepita dai cittadini, articolate in sezioni specifiche per ogni area dei servizi pubblici. Fornisce ampia comunicazione dei risultati delle indagini e le rende integralmente accessibili via web. È importante notare che, anche in assenza di valore vincolante, pareri, report e segnalazioni dell’Agenzia sono informazioni totalmente pubbliche e adeguatamente comunicate, un fattore che si rivela decisivo per la sua capacità di incentivare la trasparenza e l’assunzione di responsabilità da parte di tutti i soggetti coinvolti, tanto pubblici che privati. Esistono specifiche soluzioni o architetture informatiche per la raccolta, l’elaborazione e l’archiviazione dei dati? No. SELEZIONE MONITORANTI Come vengono individuati i soggetti che saranno chiamati ad effettuare rilevazioni dirette, verifiche e valutazioni in merito alle attività del monitorato? L’Agenzia rappresenta un organismo autonomo i cui membri (presidente e due consiglieri) sono eletti con voto segreto ogni cinque anni dal Consiglio Comunale. I membri direttivi dell’Agenzia, che in base alle proprie disponibilità finanziarie assume personale (a oggi sono 11 i collaboratori), al termine del mandato non sono rieleggibili. Il Contratto di Servizio prevede ovviamente l’applicazione di sanzioni relative al mancato raggiungimento degli obiettivi attesi, le quali sanzioni molto difficilmente vengono applicate, se non nei casi di gravissima inadempienza per la quale sia possibile attribuire responsabilità al gestore dei servizi (in ambito culturale ciò non è mai avvenuto). 9 30 COSTI Quanto costa il funzionamento del sistema di monitoraggio che si sta osservando? Il bilancio annuale dell’Agenzia si attesta tra 1,5 e 2 milioni di Euro. Va tenuto conto che l’Agenzia monitora tutti i servizi pubblici erogati dalle 28 aziende di servizio pubblico che operano nella capitale, legate da un rapporto di proprietà o contrattuale con il Comune di Roma. Come vengono coperti i costi di funzionamento del Sistema? Le risorse per il funzionamento dell’Agenzia sono stanziate annualmente dal Comune di Roma con apposito capitolo di bilancio. I costi delle commissioni paritetiche dedicate a ciascun contratto di servizio (piuttosto contenuti giacché prevedono un minimo gettone di presenza per i partecipanti alle riunioni della commissione, composta da dipendenti del comune e del soggetto erogatore) sono invece sostenuti paritariamente dall’ente pubblico e dal soggetto erogatore. 2.3.5 Caso B: FONDAZIONE MUSEI CIVICI DI VENEZIA DESCRIZIONE La Fondazione Musei Civici di Venezia, costituita con Deliberazione di Consiglio Comunale di Venezia n° 25 del 03.03.2008, ha lo scopo di tutelare, conservare, promuovere, valorizzare e gestire il patrimonio culturale dei Musei Civici di Venezia, quali strutture permanenti che acquisiscono, conservano, ordinano ed espongono beni culturali per finalità di educazione e di studio, garantendone la pubblica fruizione e l’apertura al pubblico. La Fondazione ha in gestione 11 immobili museali ovvero: Ca’ Rezzonico con scoperto e pertinenze (Cà Wolf Ferrari e Cà Lupelli) Ca’ Pesaro Palazzo Mocenigo Casa di Goldoni Fontego dei Turchi con scoperto e pertinenze Palazzo Giustinian a Murano con scoperto e pertinenze (ex Conterie) Museo del Merletto di Burano Torre dell’Orologio Museo Correr Palazzo Ducale Palazzo Fortuny - Palazzo Pesaro degli Orfei La Fondazione ha assegnato tramite gara di appalto la gestione integrata dei servizi museali con l’obiettivo dichiarato di ottimizzare ed incrementare l’offerta e la fruizione dei suoi beni e delle sue attività. In particolare, il contratto di servizio si caratterizza per il forte impegno richiesto al soggetto appaltatore – il CNS, Consorzio Nazionale Servizi, nella valorizzazione dei siti museali e nel miglioramento dei livelli di soddisfazione del pubblico. Nel bando di gara, infatti, la Fondazione ha richiesto che il futuro aggiudicatario “non solo fornisca servizi di tipo operativo ma anche di tipo gestionale e organizzativo, che richiedono l’esecuzione iterativa di una serie di attività, e, cosa 31 fondamentale, si adattino nel tempo alle mutabili esigenze dei fruitori degli immobili museali”. È da notare, inoltre, che nella valutazione delle offerte tecniche, tra i parametri utilizzati dall’apposita commissione istituita dalla Fondazione, ben 18 punti su 70 (più del 25%) erano assegnati alle proposte formulate dai partecipanti per l’“Organizzazione di iniziative atte a promuovere la conoscenza dei musei anche presso fasce particolari di utenti” e per la “Collaborazione nella realizzazione di iniziative promozionali della Fondazione Musei Civici di Venezia, legate alle collezioni, ai musei e alla città, proposte di itinerari particolari, attività collaterali in occasione di particolari eventi”. Nell'ambito del "5° Forum Nazionale sui Patrimoni Immobiliari Urbani Territoriali Pubblici" promosso da Patrimoni PA net (il laboratorio fondato da FORUM PA e Terotec), l'11 maggio 2011 la Fondazione Musei Civici è stata premiata all'interno di FORUM PA 2011 con il premio "Best Practice Patrimoni Pubblici" dedicato alle esperienze più innovative promosse e sviluppate in partnership tra Enti Pubblici e imprese private per la gestione e la valorizzazione dei patrimoni immobiliari, urbani e territoriali pubblici. Il premio è stato assegnato proprio alla collaborazione tra la Fondazione e il Consorzio Nazionale Servizi per i risultati ottenuti nel corso del 2010: la bigliettazione è incrementata dell’11,7%, come i servizi aggiuntivi, aumentati del 16,4%; i visitatori sono aumentati del 7,6%; sono stati aperti nuovi spazi, come il Museo di Storia Naturale; inoltre il risparmio energetico ha registrato la diminuzione del 24% tra consumi e sostituzioni dei corpi illuminanti; infine sono stati ridotti i tempi di intervento. Particolare attenzione, infine, è stata dedicata all’implementazione di un sistema di monitoraggio e di valutazione on going: a questo fine, il capitolato di gara per la concessione dell’appalto si è caratterizzato per le precise richieste relative a sistemi di controllo e verifica dei risultati. Di particolare rilevanza, inoltre, il richiamo – presente nel medesimo capitolato – ad una esigenza di “flessibilità” richiesta al concessionario, al quale è stato richiesto l’impegno ad integrare/modificare il set di indicatori e le modalità di monitoraggio se richiesto dalla Fondazione. MODELLO DI GOVERNANCE Quanti soggetti (titolari dei beni, monitoranti, monitorati ecc.) sono coinvolti nel sistema? I soggetti che partecipando del sistema di M&V sono tre: la Fondazione come stazione appaltante dei servizi aggiuntivi, il concessionario – selezionata tramite bando, che svolge l’attività di monitoraggio e di rilevamento dei dati primari che alimentano gli indicatori del sistema di M&V – e una terza organizzazione privata con il ruolo di valutatore terzo che svolge anche attività integrative di indagine sul livello di soddisfazione dell’utenza e attività di controllo e verifica dell’operato del concessionario (ispezioni sul campo, interviste, mistery shopping) Che tipo (pubblico, privato, ecc.) di soggetti sono? La Fondazione Musei Civici è partecipata dal Comune che riveste il ruolo di unico Socio promotore. E’ il Comune, nella persona del Sindaco, a nominare i membri del CdA che, a loro volta, scelgono al proprio interno il Presidente. Sia il CNS, Consorzio Nazionale Servizi che l’agenzia individuata per il ruolo di valutatore terzo, invece, sono soggetti di natura privata. Come si articola il sistema di M&V nel suo complesso? 32 Il sistema di M&V si articola su due livelli. Un primo livello di monitoraggio e raccolta dei dati relativi a processi organizzativi e agli output di servizio viene svolto direttamente dal concessionario che trasmette le informazioni alla Fondazione Musei Civici e al Valutatore Terzo. Ad un secondo livello, il Valutatore Terzo utilizza i dati raccolti dalla concessionario e le informazioni raccolte tramite proprie attività di rilevamento per fornire alla Fondazione e alla concessionario stesso gli elementi conoscitivi necessari a verificare i risultati conseguiti, valutare gli elementi di criticità, individuare gli opportuni interventi correttivi. Quali soggetti si occupano delle diverse fasi del sistema di M&V, qualora presenti, ovvero della pianificazione, della rilevazione, della verifica, della valutazione e dell’attribuzione di premi e sanzioni? La Fondazione, il concessionario e il Valutatore Terzo hanno progettato insieme il piano di monitoraggio e di valutazione, definendo in modo condiviso ruoli e responsabilità di ciascuno dei tre soggetti. Le attività di rilevazione sono svolte dalla Stazione Appaltante, per quanto riguarda un set di indicatori relativi agli output di servizio e ai livelli di efficienza di alcuni processi organizzativi e gestionali. Il Valutatore terzo, invece, produce una serie di integrazione rispetto al customer satisfaction. E’ il Valutatore Terzo che si occupa della verifica e della valutazione dei dati raccolti, con i quali alimenta gli incontri periodici con Fondazione e il soggetto concessionario avente come oggetto la valutazione dei risultati conseguiti. Infine, i dati raccolti permettono alla Fondazione di verificare il rispetto degli impegni contrattuali da parte del concessionario al fine di somministrare le eventuali penalità. Non è previsto un sistema di premialità. Quali sono i vincoli di relazione (chi controlla chi, chi è scelto da chi, ecc.) tra un soggetto e l’altro? La figura del Valutatore Terzo è stata prevista nel capitolato di gara per la concessione dei servizi aggiuntivi relativa ai musei civici veneziani. Al concessionario, quindi, è stato richiesto di: 1. Individuare un soggetto idoneo a svolgere le attività di valutazione; 2. A garantire la copertura del costo relativo a tale attività Per ovviare alla criticità rappresentata dal fatto che, in questo modo, la “terzietà” del valutatore sarebbe risultata fortemente compromessa (in quanto il soggetto monitorante/valutatore sarebbe stato scelto e retribuito direttamente proprio dall’organizzazione monitorata/valutata – ovvero il concessionario) e con l’obiettivo di garantire la centralità del ruolo della Fondazione, il meccanismo adottato è stato il seguente: a. Il concessionario trasmette alla Fondazione Musei Civici di Venezia l’importo di 25 mila euro relativo alla copertura dell’attività del Valutatore Terzo; b. La Fondazione stipula un contratto con il Valutatore Terzo, inquadrandolo come proprio fornitore. In questo modo, dal punto di vista formale e contrattuale, il Valutatore Terzo risponde del proprio operato non alla concessionario ma alla Fondazione stessa. MODELLO DI RILEVAMENTO 33 Quali sono gli ambiti di osservazione (tipologie di indicatori) per la valutazione delle performance dei soggetti “monitorati”? Il sistema di controllo prevede che i servizi gestiti da CNS (il concessionario) siano misurati attraverso un sistema di indicatori di performance, articolati per livelli successivi di dettaglio, e che si riferiscono a due aree di monitoraggio della qualità: i risultati del servizio (qualità percepita ed erogata); i processi di erogazione del servizio. Le prescrizioni presenti nel capitolato di gara sono state, a questo proposito, molto precise e articolate, fornendo una chiara descrizione degli indicatori e degli ambiti di applicazione ritenuti imprescindibili e lasciando poi a ciascun proponente la possibilità di integrarli o ampliarli, sempre “attenendosi ai principi di efficacia, chiarezza, semplicità e facilità di gestione dei dati rilevati e imputati al sistema dagli utenti abilitati”. Per ciascuna delle suddette aree di monitoraggio, inoltre, è stato richiesto di costruire un set di indicatori su due livelli: il primo articolato in indicatori specifici, il secondo relativo ad un unico indicatore aggregato generabile dalla somma ponderata dei valori raccolti nel primo livello. Si tratta cioè di un indicatore di sintesi capace di esprimere la qualità complessiva di ciascun servizio. Data la natura dei servizi oggetto di appalto, nella proposta formulata da CNS si è scelto di raggruppare gli indicatori per natura e attinenza, in tre categorie: Categoria 1: Servizio di sorveglianza, coordinamento di tutela del patrimonio ed assistenza al pubblico; Servizio di accoglienza, portineria e biglietteria; Valorizzazione e Promozione del Patrimonio museale; Categoria 2: Servizio di pulizia; Categoria 3: Servizi di piantonamento, vigilanza esterna notturna e teleallarme. Di seguito, si riporta l’elenco degli indicatori per ciascuna categoria: Box 1 - Indicatori significativi per la Categoria 1: SERVIZIO DI SORVEGLIANZA, COORDINAMENTO DI TUTELA DEL PATRIMONIO ED ASSISTENZA AL PUBBLICO; SERVIZIO DI ACCOGLIENZA, PORTINERIA E BIGLIETTERIA; VALORIZZAZIONE E PROMOZIONE DEL PATRIMONIO MUSEALE Soddisfazione utenza interna Soddisfazione a freddo (personale della Fondazione e di CNS) Soddisfazione a freddo (gruppi) Soddisfazione a freddo (clienti business) Soddisfazione utenza esterna Soddisfazione a freddo (stranieri) Soddisfazione a freddo (altri visitatori) Reclami Solleciti Efficacia nella risoluzione di problemi: capacità di risoluzione dei problemi Qualità erogata Velocità di risoluzione dei problemi: capacità di risolvere velocemente i problemi Processo di preventivazione: rispetto dei tempi Processo di preventivazione: conformità preventivi Rispetto delle Istruzioni Operative Processo di consuntivazione: conformità delle schede di consuntivazione Rispetto dei turni previsti Fonte: ns elaborazione 34 Box 2 - Indicatori significativi per la Categoria 2: SERVIZIO DI PULIZIA Soddisfazione a freddo (RUP e DEC) Soddisfazione utenza interna Soddisfazione a freddo (Referenti immobili) Soddisfazione a freddo (dipendenti FMCV) Soddisfazione a freddo (gruppi) Soddisfazione a freddo (clienti business) Soddisfazione utenza esterna Soddisfazione a freddo (stranieri) Soddisfazione a freddo (altri visitatori) Reclami Solleciti Rispetto della qualità attesa ovvero del massimo livello di pulizia e di igiene Qualità erogata Efficacia nella risoluzione di problemi: capacità di risoluzione dei problemi Velocità di risoluzione dei problemi: capacità di risolvere velocemente i problemi Rispetto dei programmi Processo di preventivazione: rispetto dei tempi Processo di preventivazione: conformità preventivi Rispetto delle Istruzioni Processo di consuntivazione: conformità delle schede di consuntivazione Operative Programma operativo dei servizi: rispetto dei tempi di consegna Rispetto dei turni previsti Fonte: ns elaborazione Box 3 - Indicatori significativi per la Categoria 3: SERVIZI DI PIANTONAMENTO, VIGILANZA ESTERNA NOTTURNA E TELEALLARME Soddisfazione a freddo (RUP e DEC) Soddisfazione utenza interna Soddisfazione a freddo (Referenti immobili) Soddisfazione a freddo (gruppi) Soddisfazione a freddo (clienti business) Soddisfazione utenza esterna Soddisfazione a freddo (stranieri) Soddisfazione a freddo (altri visitatori) Efficacia nella risoluzione di problemi: capacità di risoluzione dei problemi Qualità erogata Velocità di risoluzione dei problemi: capacità di risolvere velocemente i problemi Rispetto dei programmi Processo di preventivazione: rispetto dei tempi Processo di preventivazione: conformità preventivi Processo di consuntivazione: conformità delle schede di consuntivazione Rispetto delle Istruzioni Corretta compilazione e conservazione del registro delle attività (correttezza rapportini) Operative Servizi di piantonamento, vigilanza esterna notturna e teleallarme: esecuzione del servizio Servizi di piantonamento, vigilanza esterna notturna e teleallarme: parziale esecuzione del servizio Servizi di piantonamento, vigilanza esterna notturna e teleallarme: adeguatezza divise/dotazioni GPG Fonte: ns elaborazione Ai fini del presente lavoro, sono stati considerati particolarmente significativi alcuni aspetti del sistema di M&V qui analizzato, in modo particolare l’attenzione alla soddisfazione dell’utenza, sia interna sia esterna. Misurazione e controllo della soddisfazione utenza interna Per ogni servizio gestito da CNS, viene misurato il livello di soddisfazione da parte del pubblico. Tale valutazione viene condotta tramite interviste (rilevazione a freddo) sulla soddisfazione dell’utenza interna ovvero gli operatori della Fondazione o della CNS. L’indagine avviene tramite somministrazione di questionari on line strutturati su scale Likert, assegnando in sede di valutazione pesi differenziati in relazione ai differenti gruppi di utenti interni: Dipendenti della Fondazione, Referenti degli immobili, Figure di riferimento dell’Appalto (Responsabile Unico del Procedimento e Direttore dell’Esecuzione del Contratto). 35 Misurazione e controllo della soddisfazione utenza esterna Per ogni categoria di servizi viene misurato l’indicatore di soddisfazione mediante rilevazione a freddo analogamente a quanto descritto per l’utenza interna. Anche in questo caso, si è proceduto con una suddivisione del target di pubblico in 4 cluster principali ovvero: gruppi numerosi, clienti business, stranieri, altri. La metodologia applicata per la rilevazione della soddisfazione esterna è quella Servqual10 e si basa su due indicatori: 1. Il livello di servizio desiderato (o ideale); 2. Il livello di servizio percepito. Il rilevamento dei due livelli viene effettuato mediante una indagine consistente nella somministrazione, con frequenze trimestrali, di un questionario agli utenti costituenti il campione esaminato. Tale questionario è strutturato in domande che indagano i diversi aspetti caratteristici del servizio (dimensioni che caratterizzano la soddisfazione) e per le quali si ottengono due misurazioni di cui al precedente elenco. Per la definizione del campione di utenti vengono in prima istanza definiti i lotti di controllo in termini di numero e di immobili di riferimento; in seconda istanza vengono definiti i raggruppamenti di utenti esterni (clienti business, stranieri, gruppi numerosi, altri) in maniera tale che ogni raggruppamento sia rappresentato e per ognuno vengano individuati soggetti appartenenti a diverse età e sesso. Le dimensioni che in generale caratterizzano ogni tipo di servizio, quindi anche quelli oggetto di indagine, e che vengono valutate in quanto si riflettono statisticamente sulla soddisfazione del cliente/utente sono: efficacia, cioè la capacità di fornire il servizio promesso in modo affidabile e preciso, l'aspetto delle strutture fisiche, delle attrezzature, del personale e dei mezzi di comunicazione; capacità e prontezza di risposta, cioè l'abilità di aiutare i clienti/utenti e di fornire il servizio con prontezza; competenza e cortesia, la competenza e cortesia degli addetti e loro capacità di ispirare fiducia e sicurezza, l'assistenza premurosa e l'attenzione individualizzata fornita agli utenti. Da chi/come/con quali tempi vengono rilevate le informazioni con cui alimentare gli indicatori del sistema? Gli indicatori di sintesi corrispondenti alle tre categorie di indicatori vengono aggiornati con cadenza trimestrale. Con la medesima periodicità vengono svolte anche le interviste al pubblico per misurare il livello di soddisfazione per i servizi erogati. Da chi e con quale modalità viene realizzata la verifica delle informazioni rilevate? La verifica dei dati viene svolta dal Valutatore Terzo, tramite attività ispettive e controlli sistematici dei dati raccolti e trasmessi dalla Stazione Appaltante in un database centralizzato. Gli incontri periodici di 10 Parasuraman, Zeithaml e Berry (1994). 36 confronto tra i tre soggetti coinvolti nel Sistema di M&V (Fondazione, Concessionario e Valutatore) consentono di tenere sotto controllo in forma condivisa e partecipata la qualità e il livello di attendibilità dei dati acquisiti. SISTEMA INFORMATICO E INFORMATIVO Con quali criteri e modalità le informazioni vengono gestite, trattate, trasferite da un soggetto ad un altro del sistema? CNS ha l’obbligo – pena il pagamento di penali – di produrre e trasmettere alla Fondazione un report mensile delle attività svolte e dei risultati conseguiti. La reportistica è stata definita congiuntamente dai due soggetti, nei primi mesi di avvio della collaborazione ma la Fondazione, già dal capitolato di gara, ha esplicitato il proprio diritto a “richiedere in qualunque momento nel corso della durata del contratto, report aggiuntivi o la modifica di quelli precedentemente concordati”. L’attività di reportistica si articola in relazioni mensili. CNS, quindi, deve redigere e consegnare entro 15 giorni dalla fine del mese del periodo di riferimento il rendiconto delle proprie attività, tramite un report articolato in sezioni, una per ciascun servizio. Entro i 15 giorni successivi al termine del mese di riferimento per il controllo, invece, la Fondazione o terzi da quest’ultimo incaricati, emette il Report Mensile di Controllo. Nel documento vengono riportati gli esiti del controllo e le eventuali penali comminate al Concessionario. Esistono specifiche soluzioni o architetture informatiche per la raccolta, l’elaborazione e l’archiviazione dei dati? Il capitolato di bando forniva precise indicazioni anche sulla piattaforma informatica di cui il soggetto appaltatore ha obbligo di munirsi, che vale la pena riportare integralmente: “ 1) L’assuntore dovrà dotarsi di un moderno sistema gestionale informativo. 2) Tale sistema, basato su tecnologia web permetterà l’accesso differenziato e controllato. 3) Il sistema informativo dovrà gestire almeno i seguenti processi: - gestione dei servizi; - gestione richieste straordinarie di intervento; 4) Sono altresì a carico dell’Assuntore le dotazioni hardware necessarie per il corretto utilizzo del proprio sistema informativo. L’Aggiudicatario si impegna a dotarsi di un Sistema Informativo Gestionale per la ricezione delle richieste e segnalazioni ed il monitoraggio dei livelli di servizio, assicurando un costante aggiornamento e caricamento dei dati, nonché la raccolta di tutte le informazioni di ritorno necessarie alla valutazione dei risultati […] 37 Nell’individuare e/o progettare tale sistema, le Imprese concorrenti dovranno tenere conto dei seguenti requisiti minimi richiesti: - Il sistema dovrà consentire la consultazione attraverso la rete web; Il DataBase del Sistema Informativo dovrà essere costruito su una piattaforma relazionale e dovrà consentire un accesso multiplo ai dati; Il sistema dovrà consentire di seguire puntualmente le fasi degli interventi, di gestire un archivio storico e di avere una immediata trasposizione gestionale ed economica degli interventi eseguiti; 5) Il Sistema Informativo resterà di proprietà dell’Aggiudicatario e dovrà essere accessibile alla consultazione, attraverso web, ai funzionari della Fondazione autorizzati ed alla struttura di controllo, in funzione di diversi livelli autorizzativi.” SELEZIONE MONITORANTI Come vengono individuati i soggetti che saranno chiamati ad effettuare rilevazioni dirette, verifiche e valutazioni in merito alle attività del monitorato? Il monitorante è selezionato con gara d’appalto pubblica per la gestione dei servizi integrati nelle sedi museali in gestione alla Fondazione Musei Civici di Venezia, “relativi a sorveglianza, coordinamento di tutela del patrimonio, assistenza al pubblico, accoglienza, portineria, biglietteria, pulizia, vigilanza notturna, e gestione delle emergenze” e la durata del contratto è di 7 anni dall’aggiudicazione. L’appalto si configura dunque come un appalto di servizi (Art. 14 e 15 del D.lgs 163/06). La gara è aggiudicata con il criterio dell’offerta economicamente più vantaggiosa, secondo quanto previsto dall’art. 83 del D. Lgs. 12 aprile 2006, n. 163 in base ai criteri dell’offerta economica (max 30 punti su 100) e dell’offerta tecnica (max 70 punti su 100). Per quanto concerne il sistema di M&V contenuto nell’offerta tecnica, il disciplinare di gara riporta come criteri per l’aggiudicazione: 1. Metodologie ed organizzazione del sistema informativo/informatico di commessa. Sistemi di archiviazione storico-statistiche. Tecnologie utilizzate. Modalità di gestione dei flussi di comunicazione tra il concessionario del servizio e la Fondazione Musei Civici di Venezia (totale punti 15 su 70). Nel dettaglio: Tecnologie utilizzate. Modalità di comunicazione dei dati. Modalità di gestione dei flussi di comunicazione tra l’Aggiudicatario del servizio e FVM; Organizzazione, gestione ed integrazione del/dei sistema/i informativo/informatico di commessa; Reportistica e sistemi di archiviazione storico-statistiche. 2. Indicatori di prestazione del servizio erogato e relativi parametri di riferimento offerti che l’Assuntore propone di utilizzare (tali indicatori dovranno consentire una misura oggettiva del livello quantitativo delle prestazioni effettivamente erogate): (totale punti 8 su 70). Nel dettaglio: 38 Elementi generali del sistema di misura. Controllo e monitoraggio delle prestazioni; Indicatori proposti; Customer satisfaction. Nel capitolato di gara, si dichiara che “al fine di garantire che l’erogazione dei servizi avvenga nel pieno rispetto di quanto previsto nel capitolato di appalto, il Committente si avvarrà di un controllore terzo, il quale potrà elaborare ulteriori sistemi di verifica della qualità del servizio, non compresi nel presente capitolato. I sistemi proposti, dopo l’approvazione della Fondazione, saranno recepiti dal Gestore del Servizio tramite sottoscrizione di apposito atto.” Il Valutatore Terzo, invece, è stato individuato dalla concessionario fase di candidatura, proposto alla Fondazione che ne ha verificato le competenze e, soprattutto, la proposta operativa di sistema di monitoraggio e di valutazione. 2.3.6 Caso C: PROGETTO DISTRETTI CULTURALI DI FONDAZIONE CARIPLO DESCRIZIONE Il progetto “Distretti Culturali” è uno dei principali strumenti attuativi del Piano d’azione “I beni culturali come volano per la crescita economica e sociale del territorio”, che risponde all’obiettivo strategico che la Fondazione si è data in questo settore e cioè la valorizzazione del patrimonio culturale come fattore di sviluppo del territorio. Il progetto intende perseguire la finalità di favorire lo sviluppo di azioni di valorizzazione e gestione delle risorse culturali ed ambientali fortemente integrate con il territorio, capaci di incidere significativamente anche sulla crescita socioeconomica locale. Per perseguire tale obiettivo, la Fondazione ha scelto la strada del sostegno alla costruzione di sistemi integrati di offerta tra le risorse culturali e ambientali dei territori, le infrastrutture e le attività/settori produttivi. Con il Progetto “Distretti culturali”, quindi, la Fondazione sta provando a supportare una serie di esperienze distrettuali basate sulla valorizzazione del patrimonio culturale e sullo sviluppo di connessioni con le altre filiere economiche dei territori. La peculiarità del percorso intrapreso dalla Fondazione Cariplo consiste nella forte attenzione riposta alla valutazione dei processi innescati dal programma, al fine di acquisire elementi conoscitivi fondamentali per la comprensione delle dinamiche di sviluppo locale e per verificare l’eventuale correlazione tra i fenomeni rilevati e le iniziative promosse e sostenute. Per questa ragione, la Fondazione ha richiesto a ciascun territorio candidato di ragionare sul proprio sistema di monitoraggio e di valutazione. Allo stesso tempo, in occasione dell’avvio del primo di tali progetti, il Distretto Culturale della Val Camonica nel 2009, la Fondazione ha messo a bando la selezione di un valutatore esterno con il compito di monitorare e valutare l’andamento del progetto e i risultati conseguiti sia in termini di output di processo e di attività, sia in termini di outcome. MODELLO DI GOVERNANCE Quanti soggetti (titolari dei beni, monitoranti, monitorati ecc.) sono coinvolti nel sistema? 39 Il sistema di M&V vede il coinvolgimento di 3 soggetti: 1. la Fondazione CaRiPlo, in qualità di ente promotore e gestore del progetto “Distretti culturali” e responsabile dell’attuazione della fase di accompagnamento, erogazione del contributo, comunicazione, monitoraggio e valutazione di ogni distretto approvato e del progetto nel complesso; 2. il Referente Operativo individuato da Fondazione CaRiPlo per ciascun Distretto attivato; 3. il Valutatore Terzo, sempre individuato dalla Fondazione. Che tipo (pubblico, privato, ecc.) di soggetti sono? Sono tutti soggetti privati. Come si relazionano i differenti livelli di articolazione del sistema di M&V? Il sistema di M&V è fortemente integrato nel sistema complessivo di governance del progetto “Distretti Culturali” attivato dalla Fondazione Cariplo. Il Gruppo di Valutazione della Fondazione svolge attività di controllo sull’attività del Valutatore Terzo, con cui ha concordato il piano di monitoraggio e le modalità di valutazione sia a livello complessivo (ovvero del progetto nella sua interezza) sia a livello delle singole progettualità territoriali (ovvero ciascun Distretto). I dati che alimentano il sistema di indicatori provengono dai singoli territori, tramite il soggetto capofila – prevalente per informazioni sullo stato di avanzamento fisico e amministrativo degli interventi – e, soprattutto, del Referente Operativo, che ha il compito di relazionare la Fondazione sull’andamento dei processi in atto. Il sistema di M&V, quindi, è stato organizzato in modo da garantire la possibilità alla Fondazione sia di analizzare lo stato di avanzamento dei singoli Distretti, con le loro specificità, sia di ricostruire/aggiornare periodicamente il quadro complessivo relativo a tutti i progetti attivati. Quali soggetti si occupano delle diverse fasi del sistema di M&V, qualora presenti, ovvero della pianificazione, della rilevazione, della verifica, della valutazione e dell’attribuzione di premi e sanzioni? La pianificazione del sistema di monitoraggio e di valutazione è predisposta dal soggetto valutatore in collaborazione con il gruppo di valutazione della Fondazione CaRiPlo. La rilevazione dei dati è svolta nei singoli territori dal soggetto capofila, sulla base di format predisposti dallo stesso Valutatore Terzo che si occupa della sua verifica e della valutazione finale. Nella fase di rilevazione un ruolo fondamentale è svolto dal Referente Operativo, figura appositamente prevista dalla Fondazione per il progetto “Distretti Culturali” e di cui si fornisce più avanti una descrizione maggiormente dettagliata. La Fondazione non prevede, infine, un sistema di premialità né di penalizzazioni: l’eventuale perdita dei contributi della Fondazione non dipende dal mancato perseguimento degli obiettivi previsti – per i quali occorrerà attendere un lasso di tempo medio-lungo trattandosi di dinamiche socio-economiche complesse – ma dall’eventuale inadeguatezza della rendicontazione relativa agli interventi realizzati. Per alcune figure chiave per la sostenibilità complessiva del sistema di governance, si ritiene opportuno procedere con un ulteriore approfondimento descrittivo relativamente alle funzione svolte e agli obiettivi attesi. Fondazione CaRiPlo Per la realizzazione della fase attuativa, ovvero relativa all’effettivo svolgimento degli interventi sul territorio, l’attività di controllo della Fondazione CaRiPlo viene svolta da gruppi differenti di lavoro, ciascuno dei quali segue specifiche attività e produce determinati output sotto la supervisione di un Comitato di coordinamento generale. La struttura organizzativa è rappresentata nello schema seguente. 40 Figura 4 – struttura organizzativa del sistema di monitoraggio per l’attuazione dei progetti di Distretto Culturale Comitato di coordinamento Responsabile del progetto Segretario generale Spo Arte e Cultura Gruppo valutazione Gruppo tecnico Gruppo comunicazione Gruppo procedure Referente operativo dei distretti n. DISTRETTI Distretto 1 GdL RP ente Gdl ente Distretto 2 GdL RP ente Gdl ente Distretto 3 GdL RP ente Gdl ente Distretto … GdL RP ente Gdl ente Legenda - RP: Responsabile progetto; Gdl: Gruppo di lavoro. Il gruppo di valutazione ha il compito di sviluppare e gestire il sistema di monitoraggio e valutazione dei singoli distretti e del progetto “Distretti Culturali” nel suo complesso, rispondendo alle seguenti esigenze: Rendicontare in modo trasparente lo stato di avanzamento e le realizzazioni del progetto; Apprendere criticamente elementi qualificanti, punti critici, fattori di successo del processo di realizzazione dei distretti; Generare conoscenza relativa agli effetti prodotti dai distretti culturali realizzati sul tessuto culturale, economico e sociale dei territori in cui saranno attuati. Inoltre, tre le funzioni a esso demandate vi sono anche: Definizione del piano di monitoraggio del progetto “Distretti Culturali” e dei piani specifici di monitoraggio dei singoli distretti. Predisposizione degli strumenti che il referente operativo di distretto e i Soggetti Capofila dei singoli distretti dovranno utilizzare per aggiornare gli organi del progetto riguardo allo stato di avanzamento dei lavori e delle realizzazioni. Coordinamento delle attività di monitoraggio e valutazione relative ai singoli distretti. Partecipazione agli incontri dell’organo di gestione dei singoli distretti. Raccolta di dati qualitativi sui processi di governance dei singoli distretti. Raccolta di dati quantitativi e qualitativi sulle dimensioni e sulle percezioni dei soggetti beneficiari degli interventi finanziati nell’ambito dei singoli distretti. Raccolta delle informazioni quantitative necessarie e realizzare un’analisi degli effetti dei singoli progetti di distretto sul tessuto culturale ed economico dei territori di riferimento. 41 Redazione di rapporti di monitoraggio semestrali e di rapporti di valutazione finale sui singoli distretti. Realizzazione di un’analisi degli effetti dei singoli distretti sul tessuto culturale ed economico dei territori di riferimento. Redazione di un rapporto di valutazione finale sul progetto “Distretti Culturali”. Il Referente Operativo Per un’efficace conduzione di singoli distretti, la Fondazione ha ritenuto necessario disporre di propri referenti sui territori, con un ruolo di accompagnatori delle attività. Questa figura rappresenta un presidio “soft” sul territorio, in grado di fornire un contatto costante tra il distretto e la Fondazione stessa, uno sguardo “interno” alle dinamiche che tuttavia non ha funzioni espressamente valutative né sanzionatorie ma informative. Il Referente operativo di distretto ha il compito di seguire le attività dei singoli distretti e di svolgere una funzione di raccordo tecnico-operativo tra questi e la Fondazione. Attraverso tale figura, la Fondazione dispone di uno strumento costante di monitoraggio “qualitativo” sullo stato di avanzamento del distretto, che si affianca a quelli messi in campo dal Valutatore terzo. In caso di problemi tecnici, amministrativi, finanziari e gestionali, il Referente operativo fornisce indicazioni agli enti e sollecita in tempo utile l’attenzione della Fondazione in caso di problematiche rilevanti che rischiano di snaturare gli obiettivi del distretto e creare ritardi consistenti nelle attività. Quali sono i vincoli di relazione (chi controlla chi, chi è scelto da chi, ecc.) tra un soggetto e l’altro? Il gruppo di valutazione della Fondazione CaRiPlo ha il compito di verificare l’operato dei Referenti Operativi e del Valutatore Terzo. MODELLO DI RILEVAMENTO Quali sono gli ambiti di osservazione (tipologie di indicatori) per la valutazione delle performance dei soggetti “monitorati”? In linea generale, l’attività di monitoraggio è rivolta allo stato di avanzamento dei singoli interventi previsti, sia di natura materiale come nel caso di restauri o allestimenti di siti culturali e musei, sia di natura immateriale, come attività formative, iniziative di comunicazione, etc. che si stanno svolgendo in questa prima fase triennale di creazione dei Distretti. Si tratta di indicatori di processo standard (tempi, pagamenti, rispetto delle scadenze previste dai singoli piani di lavoro, ecc) applicabili a tutti i territori, pianificati dalla Fondazione, forniti da ciascun Distretto e, successivamente, verificati dal Valutatore Terzo. La forte specificità dei singoli territori coinvolti nel progetto, e delle numerose azioni previste all’interno di ciascuno di essi, richiede poi che il valutatore terzo elabori insieme a ciascun Distretto e di concerto con il Gruppo di Valutazione, un set specifico di indicatori che serviranno a valutare le azioni una volta implementate. Al valutatore terzo, inoltre, la Fondazione ha richiesto di produrre una valutazione controfattuale che avrà per oggetto di analisi gli effetti sui territori delle iniziative promosse dalla Fondazione. Tale livello di attività, tuttavia, è ancora in fase di definizione e si situa in una prospettiva di medio e lungo periodo. 42 Da chi/come/con quali tempi vengono rilevate le informazioni con cui alimentare gli indicatori del sistema? I soggetti capofila di ogni distretto trasmettono al Valutatore Terzo i dati quantitativi e qualitativi (parametri di processo) necessari a verificare il rispetto degli impegni assunti in ciascun piano di lavoro. Le tempistiche di aggiornamento sono definite preventivamente tra valutatore terzo, soggetto capofila e gruppo di valutazione della Fondazione CaRiPlo e dipendono dalla natura degli interventi monitorati e dalle tempistiche di realizzazione. I report semestrali redatti dal Valutatore terzo per la Fondazione hanno, quindi, il compito di fornire un quadro conoscitivo aggiornato sullo stato di avanzamento dei singoli distretti, sia a livello complessivo sia di singolo intervento. Da chi e con quale modalità viene realizzata la verifica delle informazioni rilevate? Le informazioni quanti/qualitative fornite dai soggetti capofila sono integrate dalle osservazioni del Referente Operativo che, ogni tre mesi, deve fornire un report dettagliato sullo stato di avanzamento dei lavori. Non è previsto un sistema di verifica sull’attendibilità dei dati così acquisiti, ne è stato richiesto al soggetto valutatore terzo di svolgere attività ispettive (le quali vengono svolte, a campione, solo sul piano contabile e amministrativo ad opera di una società di revisione dei conti incaricata di volta in volta).11 SISTEMA INFORMATICO E INFORMATIVO Con quali criteri e modalità le informazioni vengono gestite, trattate, trasferite da un soggetto ad un altro del sistema? Il Referente operativo deve produrre un report trimestrale sulle attività dei distretti, contenente la relazione su problematiche specifiche dei distretti. Inoltre, deve tenere un “diario di bordo” annuale sull’andamento dei singoli distretti. I contatti tra il referente e il responsabile di progetto sono comunque quotidiani di modo che, al di là dagli obblighi di reportistica, permettono un controllo stringente sull’andamento dei distretti. Il valutatore terzo produce ogni sei mesi un report in cui descrive i dati di andamento di ogni singola azione di ciascun distretto (andamento della spesa, rispetto dei tempi, eccetera, cioè dati quantitativi e qualitativi che rispondono alle esigenze di monitoraggio standard degli indicatori di processo da parte della Fondazione). Esistono specifiche soluzioni o architetture informatiche per la raccolta, l’elaborazione e l’archiviazione dei dati? Il complesso sistema di M&V implementato per i Distretti Culturali non ha corrispondenza in uno specifico sistema informativo. SELEZIONE MONITORANTI Non si tratta di un elemento specifico dei Distretti Culturali ma di una prassi della Fondazione per il controllo dei fondi erogati nell’ambito della propria attività istituzionale. 11 43 Come vengono individuati i soggetti che saranno chiamati ad effettuare rilevazioni dirette, verifiche e valutazioni in merito alle attività del monitorato? Nel giugno 2009, Fondazione CaRiPlo ha indetto una gara a inviti per la selezione del soggetto più idoneo a svolgere la funzione di valutatore indipendente per il progetto Distretto Culturale della Val Camonica. Al bando sono stati invitati una serie di soggetti con riconosciuta esperienza nel campo dell’indagine statistica, non necessariamente solo in ambito culturale. A ciascun partecipante è stato chiesto di redigere una proposta dettagliata di sistema di M&V per il Distretto Culturale della Val Camonica, evidenziando i margini di replicabilità sugli altri distretti di successivo avviamento. Le procedure di selezione e la valutazione delle proposte è stata condotta direttamente ed esclusivamente dal gruppo di valutazione della Fondazione CaRiPlo. Per i successivi Distretti attivati, la Fondazione CaRiPlo ha ritenuto più opportuno mantenere il rapporto con un unico soggetto valutatore e, di conseguenza, ha incaricato il soggetto già selezionato per il Distretto della Val Camonica di estendere la propria attività agli altri territori (attualmente sono 6 i Distretti in fase realizzativa). COSTI Quanto costa il funzionamento del sistema di monitoraggio che si sta osservando? Non è stato possibile reperire informazioni sui costi del sistema di monitoraggio e valutazione. Come vengono coperti i costi di funzionamento del Sistema? Il costo dell’attività di monitoraggio e di valutazione forniti dal Valutatore Terzo e dal Referente Operativo è totalmente sostenuto dalla Fondazione CaRiPlo. 2.3.7 Caso D: CESVOT - Centro Servizi per il Volontariato in Toscana DESCRIZIONE Il Cesvot – Centro Servizi Volontariato Toscana – è un’associazione di volontariato fondata sul principio della cittadinanza attiva e responsabile, attenta alla partecipazione e aperta alla cultura della solidarietà. Il Cesvot opera dal 1997 secondo la normativa nazionale di riferimento, e attualmente è gestito da 23 associazioni di volontariato a valenza regionale. Offre servizi di formazione, consulenza e assistenza alla progettazione, e svolge attività di ricerca, documentazione, promozione ed informazione a favore delle oltre 2.500 associazioni di volontariato presenti nel territorio toscano. Inoltre,il Cesvot è presente su tutto il territorio regionale con 11 Delegazioni territoriali. L’attività di monitoraggio e di valutazione viene espletata dal Cesvot attraverso due strumenti: L’ufficio monitoraggio e valutazione 44 Il bilancio sociale annuale, ormai giunto alla settima edizione, con l’obiettivo di rendicontare e comunicare a tutti gli stakeholder le attività e i servizi svolti secondo il principio di trasparenza e di garanzia dei livelli qualitativi raggiunti. La struttura organizzativa del Cesvot comprende un livello istituzionale e uno operativo. Il lavoro svolto dagli organi sociali previsti dallo statuto (Assemblea, Collegio dei sindaci revisori, Collegio dei garanti, Comitato direttivo e Presidente) è integrato da quello delle commissioni di valutazione che si occupano della selezione dei progetti presentati mediante bando e da quello realizzato dalle commissioni su tematiche di particolare interesse. La struttura operativa si articola in quattro settori di attività: Formazione e Progettazione; Comunicazione, Promozione e Ufficio stampa; Monitoraggio dei Servizi e Valutazione; Organizzazione e Rapporti con le Delegazioni, Il Cesvot offre i propri servizi attraverso il coinvolgimento delle associazioni di volontariato toscane al fine di supportarle nella gestione ordinaria delle proprie attività, nel sostegno delle organizzazioni medio piccole, e del lavoro di rete. Numerosi gli stakeholder che interagiscono con il Cesvot, tra i quali: associazioni di volontariato, Comitato di gestione e fondazioni bancarie, istituzioni locali, regionali e nazionali, Csvnet, istituzioni che si occupano di percorsi di formazione e comunità locali. MODELLO DI GOVERNANCE Quanti soggetti (titolari dei beni, monitoranti, monitorati ecc.) sono coinvolti nel sistema? Il sistema di M&V del Cesvot vede il coinvolgimento dei rappresentanti delle associazioni aderenti al Centro, supportati da esperti di valutazione di volta in volta coinvolti per le diverse attività di valutazione e di monitoraggio. Se un dato progetto o iniziativa prevedono una significativa ricaduta sul territorio, è previsto il coinvolgimento dell’ente pubblico di riferimento. Che tipo (pubblico, privato, ecc.) di soggetti sono? Principalmente soggetti di natura privata (terzo settore). Come si relazionano i differenti livelli di articolazione del sistema di M&V? Il sistema di controllo del Cesvot si articola su due distinti livelli: 1. Il monitoraggio e la valutazione dei progetti e dei servizi erogati dal Centro, avente lo scopo di monitorare e verificare l’andamento in tempo reale dei servizi erogati e 2. la valutazione delle proposte progettuali esterne, tramite la creazione di apposite commissioni costituite da rappresentanti delle associazioni, da esperti di settore e sovente anche da rappresentanti del Comitato di gestione e da rappresentanti degli enti locali. Il settore Monitoraggio e Valutazione del Cesvot si occupa di coordinare le attività dei due livelli e di garantire la circolazione delle informazioni e la loro sistematizzazione nei report di attività e nel bilancio sociale annuale. 45 1. Il monitoraggio e la valutazione dei progetti e dei servizi erogati dal Centro È la fase che segue la programmazione e che si esplica mediante misurazioni ripetute e continuative di una serie di indicatori, accompagnati da elaborazioni svolte in ufficio, con lo scopo di monitorare e verificare l’andamento in tempo reale dei servizi erogati dal Cesvot, assumendo in itinere informazioni sull’impiego effettivo delle risorse, sullo stato di avanzamento delle attività, sulla produzione e qualità dei risultati e sulla soddisfazione degli utenti. Attraverso le informazioni raccolte, si verifica il lavoro fatto, e i risultati della valutazione diventano così un punto di partenza per la progettazione futura delle politiche di intervento. 2. La valutazione delle proposte progettuali esterne Il lavoro è svolto da commissioni costituite da rappresentanti delle associazioni, da esperti di settore e sovente anche da rappresentanti del Comitato di gestione e da rappresentanti degli enti locali. Quali soggetti si occupano delle diverse fasi del sistema di M&V, qualora presenti, ovvero della pianificazione, della rilevazione, della verifica, della valutazione e dell’attribuzione di premi e sanzioni? Il settore Monitoraggio e Valutazione del Centro si occupa di individuare gli indicatori più idonei a verificare i risultati raggiunti dai servizi svolti direttamente dal Cesvot, pianificando le modalità di rilevamento, verifica e di valutazione dei dati raccolti. Per tali attività il settore si avvale della consulenza di esperti esterni. Rispetto alle attività delle commissioni, invece, gli indicatori per la selezione dei progetti e le modalità di monitoraggio e controllo di quelli finanziati vengono definiti caso per caso, sulla base della tipologia di iniziative promosse. In questo caso, l’attenzione del Cesvot è quella di costituire commissioni al cui interno si trovino tutte le competenze necessarie a garantire l’implementazione di sistemi di M&V idonei ed applicabili. Quali sono i vincoli di relazione (chi controlla chi, chi è scelto da chi, ecc.) tra un soggetto e l’altro? Il Cesvot gestisce il sistema di Monitoraggio e di Valutazione prevalentemente in house ma sotto il controllo delle organizzazioni aderenti che sostengono il Centro. Il bilancio sociale annuale, infatti, risponde proprio all’esigenza espressa da tali soggetti di verificare i livelli di efficacia ed efficienza – oltre agli output e agli outcome prodotti – del Centro. Il Cesvot, inoltre, svolge un’attività di controllo sull’operato delle singole commissioni di valutazione. MODELLO DI RILEVAMENTO Quali sono gli ambiti di osservazione (tipologie di indicatori) per la valutazione delle performance dei soggetti “monitorati”? L’attività centralizzata di monitoraggio e valutazione dei servizi erogati dal Cesvot si basa sull’applicazione di un set di indicatori di output come: - Per le attività di formazione: il numero di iscritti, il numero di persone formate, il rapporto tra ore di insegnamento e numero di allievi, etc. 46 - Per le attività di consulenza, diretta o in modalità remota (on line), il numero di utenti serviti, il numero di contatti, il numero di documenti scaricati dal sito internet, il numero di ore lavorate; Da notare che accanto all’acquisizione di tali dati quantitativi, l’attività del Cesvot si caratterizza per una costante azione di reperimento di informazioni qualitative, a mezzo di questionari di valutazione del livello di soddisfazione somministrati direttamente agli utenti o compilabili direttamente on line. Da chi/come/con quali tempi vengono rilevate le informazioni con cui alimentare gli indicatori del sistema? Per i fini del presente lavoro, si ritiene utile soffermare l’attenzione sulla valutazione svolta in relazione alle iniziative sostenute dal Cesvot ma realizzate da soggetti terzi a seguito di bando di gara. A partire dal settembre 2009, infatti, il Centro ha avviato l’applicazione di un sistema di valutazione dell’impatto sociale prendendo in esame 106 progetti finanziati con il bando Percorsi di Innovazione 2006 e 2007. L’applicazione prevede due modalità di intervento: autovalutazione attraverso la compilazione di un questionario da parte dell’associazione che ha realizzato il progetto (prevista per tutti i progetti); valutazione esterna, attraverso l’intervento dello staff di esperti presso l’associazione e l’intervista ai soggetti coinvolti a vario titolo nel progetto (volontari, beneficiari diretti ed indiretti, partner ecc.) (prevista per i progetti finanziati con un importo superiore a 25.000 euro). Da chi e con quale modalità viene realizzata la verifica delle informazioni rilevate? L’attività di verifica è svolta internamente dal Cesvot, con il supporto di propri consulenti. SISTEMA INFORMATIVO E INFORMATICO Con quali criteri e modalità le informazioni vengono gestite, trattate, trasferite da un soggetto ad un altro del sistema? Il soggetto di riferimento è il Settore Monitoraggio del Cesvot, che si occupa di: a. costruire insieme ai consulenti esterni il piano di monitoraggio dei servizi erogati, individuare gli indicatori significativi e procedere con l’acquisizione e l’elaborazione dei dati; b. supervisionare l’attività di valutazione degli impatti sociali generati dalle iniziative sostenute; c. gestire la produzione del documento di bilancio sociale. I dati e le informazioni acquisite dal Cesvot, quindi, vengono gestite e trattate internamente alla struttura del Centro e trasmesse periodicamente a tutte le organizzazioni aderenti. Il bilancio sociale annuale, invece, è pensato più come strumento di rendicontazione verso i committenti esterni (enti pubblici, fondazioni). Esistono specifiche soluzioni o architetture informatiche per la raccolta, l’elaborazione e l’archiviazione dei dati? 47 L’attività di monitoraggio dei servizi direttamente erogati dal Cesvot non fornisce elementi conoscitivi utili al presente studio in quanto essa viene svolta da un Sistema Gestione Qualità (SGQ) che comprende anche una serie di processi gestionali e di supporto riguardanti tutta la struttura del Cesvot, come la gestione del personale e della documentazione, le procedure per la gestione delle verifiche interne e delle eventuali non conformità. In merito alla monitoraggio e alla valutazione delle iniziative esterne e l’adozione di sistemi di controlli ad hoc sulla base della specificità dei programmi e degli obiettivi, il Cesvot si avvantaggia della collaborazione con organizzazioni che si occupano dello stoccaggio e dell’elaborazione dei dati, come le Università o soggetti privati specializzati. SELEZIONE MONITORANTI Le commissioni che si occupano della valutazione delle proposte progettuali presentate da soggetti esterni sono composte da rappresentanti delle associazioni che fanno parte del Centro, esperti selezionati sulla base del curriculum e, in casi particolari, anche membri delle amministrazioni locali. COSTI Non è stato possibile reperire informazioni sui costi del sistema di monitoraggio e valutazione. 2.3.8 Caso E: Programma “Piani di Valorizzazione della Regione Piemonte” DESCRIZIONE I Piani di Valorizzazione nascono dalla volontà della Direzione Musei e Patrimonio Culturale della Regione Piemonte di favorire la nascita e il consolidamento di reti territoriali e urbane con il principale obiettivo di migliorare la fruizione e la gestione del patrimonio culturale, di integrarlo con gli elementi naturali e ambientali costituenti il paesaggio e con gli operatori economici del territorio, a partire da quelli del sistema dell’accoglienza, della produzione enogastronomica e dell’artigianato. Tramite bandi annuali, la Regione si rivolge a quegli operatori, pubblici e privati, che intendono rilanciare un’azione di sistema capace di aggregare un numero significativo di operatori del proprio territorio attorno ad una strategia di sviluppo condivisa e sostenibile. Tale iniziativa si inquadra all’interno del processo di definizione e attivazione degli standard museali regionali, in particolar modo per quanto riguarda l’ambito relativo al “Rapporto con il territorio”. Dopo aver constatato la “resistenza” da parte della maggior parte degli operatori museali (e culturali in genere) a promuovere o partecipare ad iniziative di rete con il resto del territorio – mantenendo, invece, un atteggiamento fortemente autoreferenziale e tutto concentrato sulla gestione del proprio sito di riferimento – la scelta dell’ente regionale è stata quella di destinare parte delle risorse economiche a disposizione esclusivamente per la costruzione di reti. In termini operativi, per i Piani di Valorizzazione la Regione Piemonte contribuisce alla realizzazione di quelle attività strumentali ad avviare delle sinergie tra operatori diversi di un territorio come: la comunicazione, l’organizzazione di eventi, l’animazione delle reti, etc., mentre nessun supporto è previsto per interventi infrastrutturali sui beni culturali. La peculiarità di tale programma consiste nella forte attenzione dedicata all’accompagnamento in situ e alla valutazione. Nel primo caso, la Regione ha messo a disposizione dei territori un gruppo di consulenti esterni esperti di mediazione territoriale per fornire agli animatori di ciascun territorio un punto di riferimento operativo e tecnico. 48 Rispetto alla valutazione, invece, la Regione ha fin da subito individuato un fattore di criticità proprio nel carattere immateriale delle iniziative promosse e nella conseguente difficoltà a “misurarne” i reali impatti sul territorio. In tale prospettiva, è stato implementato un sistema complessivo di M&V piuttosto innovativo che prevede: 1. Un livello di controllo centralizzato, svolto dalla Regione Piemonte sulla base di un set di linee guida predisposte dall’Osservatorio Culturale del Piemonte e avvalorate dal Nucleo di Valutazione Regionale; 2. L’adozione da parte di ogni Piano di Valorizzazione di un proprio sistema di osservazione, integrato al livello centralizzato, con l’obiettivo di produrre elementi conoscitivi per gli attori partner del territorio di riferimento. Nel 2011 i Piani di Valorizzazione attivi in Piemonte sono 22, a cui si devono aggiungere analoghe sperimentazioni avviate, però, in centri urbani per un totale di 34 territori complessivamente coinvolti. MODELLO DI GOVERNANCE Quanti soggetti (titolari dei beni, monitoranti, monitorati ecc.) sono coinvolti nel sistema? Nel suo complesso, il sistema prevede il coinvolgimento di un insieme diversificato di soggetti: a. La Regione Piemonte, Direzione Musei e Patrimonio Culturale b. Il gruppo di consulenti regionali con il compito di accompagnare l’operato degli animatori di territorio; c. L’Osservatorio Culturale del Piemonte; d. Gli animatori dei singoli Piani di Valorizzazione. Che tipo (pubblico, privato, ecc.) di soggetti sono? Gli animatori del territorio sono persone fisiche incaricate di svolgere le mansioni previste per tale ruolo da tutte le organizzazioni locali partecipanti al Piano di Valorizzazione. Nella maggior parte dei casi, si tratta del rappresentante di un’associazione locale. I consulenti regionali sono esperti in materia di accompagnamento e mediazione territoriale, oltre che di formazione. L’Osservatorio Culturale del Piemonte (OCP) è un protocollo di intesa tra Regione Piemonte, Provincia e Comune di Torino, Fondazione CRT, Compagnia di San Paolo, AGIS Piemonte, IRES Piemonte e Fondazione Fitzcarraldo. Come si relazionano i differenti livelli di articolazione del sistema di M&V? Il sistema prevede l’adozione da parte di ogni singolo Piano di Valorizzazione di un proprio sistema di osservazione dei risultati e degli impatti generati sul territorio dai propri interventi. La Regione Piemonte, tramite l’OCP, coordina le attività di formazione e di accompagnamento dei singoli territori alla realizzazione di tali sistemi di osservazione e svolge attività di monitoraggio complessivo su tutte le iniziative in atto. Quali soggetti si occupano delle diverse fasi del sistema di M&V, qualora presenti, ovvero della pianificazione, della rilevazione, della verifica, della valutazione e dell’attribuzione di premi e sanzioni? 49 Ciascun Piano di Valorizzazione si occupa della definizione del set di indicatori da adottare per monitorare lo stato di avanzamento degli interventi e gli output prodotti, sia quantitativi sia qualitativi. In tale fase, la Regione e l’OCP svolgono un ruolo di consulenza esterna. Le attività di rilevamento vengono svolte direttamente dall’Animatore del Piano, secondo modalità concordate con gli attori locali. L’attività di valutazione è svolta principalmente da OCP e Regione, in un’ottica non sanzionatoria ma di accompagnamento dei territori verso il miglioramento dei livelli di efficienza e di efficacia dei Piani. Infine, la Regione è l’unico ente che può decidere l’eventuale riduzione del contributo sulla base di livelli prestazionali ritenuti insufficienti rispetto agli obiettivi previsti. Quali sono i vincoli di relazione (chi controlla chi, chi è scelto da chi, ecc.) tra un soggetto e l’altro? La Regione individua i Piani di Valorizzare da sostenere tramite valutazione e selezione delle richieste di contributo. Al controllo contabile/amministrativo di base, la Direzione Regionale Musei e Patrimonio Culturale svolge attività di controllo sulle attività promosse dai Piani tramite l’organizzazione di incontri periodici con gli animatori di territorio. Ogni singolo Piano è tenuto a collaborare con l’OCP per le attività di valutazione e di monitoraggio. L’attività dell’OCP risponde in modo esclusivo alla Regione Piemonte così come quella dei consulenti esterni incaricati dell’accompagnamento territoriale. Questi ultimi, inoltre, devono fornire piena collaborazione all’OCP, trasmettendo report periodici (tendenzialmente semestrali ma non è prevista una regolamentazione precisa nel merito) contenete informazioni di carattere qualitativo. MODELLO DI RILEVAMENTO Quali sono gli ambiti di osservazione (tipologie di indicatori) per la valutazione delle performance dei soggetti “monitorati”? Ogni Piano di Valorizzazione deve predisporre il proprio sistema di osservazione che si articola in indicatori specifici, ovvero relativi alla misurazione di fenomeni strettamente correlati alle modalità di azione promosse dal Piano, e in indicatori “generali”, predisposti dalla Regione in collaborazione con l’OCP e che sono comuni a tutti i Piani attivati. Rispetto a questi ultimi, essi si focalizzano su 10 differenti ambiti di indagine, corrispondenti ad altrettanti fenomeni territoriali rilevanti ovvero: Il pubblico dei musei e dei beni culturali Eventi ed iniziative culturali Apporto dell'associazionismo locale alla gestione e valorizzazione del patrimonio culturale e ambientale Partecipazione della comunità locale alla valorizzazione del patrimonio culturale: i volontari Altre esperienze di reti e di sistemi nel territorio Progetti e investimenti finalizzati al recupero e alla valorizzazione del patrimonio culturale ed ambientale Interazione tra i soggetti aderenti al Progetto integrato Partecipazione degli operatori economici Collaborazioni intersettoriali per lo sviluppo turistico Flussi turistici 50 Per ciascun fenomeno è stata predisposta una scheda descrittiva contenente una serie di informazioni e indicazioni operative su quali dati acquisire, gli strumenti da utilizzare e le principali criticità che potrebbero essere incontrate nelle fasi di acquisizione e di valutazione. Più in particolare, per ogni indicatore è stato riportato: a) b) c) d) e) f) g) h) Descrizione del fenomeno da osservare Rilevanza per il PdV Dati da acquisire Campione di riferimento Strumenti per la raccolta dei dati Principali criticità Programmazione delle attività di rilevamento dei dati Check list delle attività Da chi/come/con quali tempi vengono rilevate le informazioni con cui alimentare gli indicatori del sistema? Gli indicatori generali vengono aggiornati con cadenze differenti a seconda della tipologia di dato raccolto: rispetto al pubblico dei musei, l’aggiornamento è mensile mentre lo stato di avanzamento degli investimenti viene misurato con cadenza annuale. L’attività di raccolta è svolta dagli Animatori del Piano, in stretta collaborazione con gli altri partner territoriali, ricorrendo a sistemi di rilevamento differenti: nella prospettiva di fornire un supporto metodologico continuativo, la Regione ha chiesto all’OCP di garantire tale tipo di assistenza agli Animatori. L’OCP, inoltre, svolge una costante attività di monitoraggio delle attività svolte dai Piani attraverso interviste dirette agli animatori e la partecipazione agli incontri operativi più significati organizzati nei vari territori. Con cadenza annuale, viene predisposto un report di sintesi che integra quelli prodotti da ciascun Piano e che viene trasmesso alla Regione Piemonte. Da chi e con quale modalità viene realizzata la verifica delle informazioni rilevate? I dati rilevati non sono oggetto di particolari sistemi di verifica. L’attendibilità delle informazioni fornite viene garantita dal rapporto di costante interazione tra l’animatore, i consulenti regionali, l’OCP e la Regione, mediante l’attività di tutoraggio sul territorio e l’organizzazione di incontri periodici di confronto. SISTEMA INFORMATICO E INFORMATIVO Con quali criteri e modalità le informazioni vengono gestite, trattate, trasferite da un soggetto ad un altro del sistema? Per quanto riguarda il sistema informativo, esso si basa su: 1. Rendicontazione semestrale delle attività svolte da parte degli animatori di rete e trasmessa alla Regione Piemonte; 2. Report annuale dei risultati, sulla base degli indicatori adottati, realizzato dagli animatori di rete; 3. Incontri periodici tra i consulenti, gli animatori e i referenti regionali per confrontarsi su criticità, casi di successo, replicabilità di iniziative su altri territori, iniziative di rete tra i diversi Piani. 51 Esistono specifiche soluzioni o architetture informatiche per la raccolta, l’elaborazione e l’archiviazione dei dati? Un sistema informatico complessivo, che consenta di elaborare insieme i dati relativi ai Piani di Valorizzazione con tutte le altre principali statistiche culturali della Regione – prodotte dall’Osservatorio Culturale del Piemonte – è in fase di progettazione e realizzazione, quindi attualmente non disponibile per un’analisi comparativa. SELEZIONE DEI MONITORANTI Come vengono individuati i soggetti che saranno chiamati ad effettuare rilevazioni dirette, verifiche e valutazioni in merito alle attività del monitorato? A livello locale di singoli Piani di Valorizzazione, è l’animatore il soggetto responsabile del sistema di osservazione interno al Piano. A livello centrale, la Regione ha individuato – sulla base del curriculum professionale – i consulenti esterni che, oltre alle attività di accompagnamento, svolgono anche attività di monitoraggio e valutazione. La scelta dell’OCP, infine, è stata “automatica” in quanto la Regione è partner dell’Osservatorio. COSTI Quanto costa il funzionamento del sistema di monitoraggio che si sta osservando? I costi non risultano quantificabili per l’impossibilità di disaggregare la voce relativa al M&V dai costi complessivi relativi all’attivazione del programma sui Piani di Valorizzazione. Come vengono coperti i costi di funzionamento del Sistema? I costi relativi all’implementazione del Sistema di osservazione di ciascun Piano sono sostenuti dai soggetti territoriali che vi aderiscono. I costi relativi alle consulenze esterne e all’attività dell’OCP sono coperti dalla Regione Piemonte. 2.3.9 Sintesi delle analisi effettuate In linea generale, i casi analizzati differiscono in modo significativo dal punto di vista del modello di governance adottato, del sistema di rilevamento e di quello informativo/informatico mentre, laddove i valutatori/monitoranti siano selezionati con bando (aperto o a inviti), le modalità di selezione e i relativi criteri risultano piuttosto omogenei. Rispetto alla dimensione economica dei sistemi analizzati, invece, la varietà di tipologie e di dimensioni, non permettono una valutazione comparativa degli ordini di costo. Nella matrice si è proceduto con la sistematizzazione delle principali informazioni raccolte dall’analisi di benchmarking, suddivise per le 5 fasi di articolazione dei Sistemi di M&V qui approfondite ovvero: a) Pianificazione: nella matrice si riporta la descrizione della modalità utilizzata da ciascun caso per la definizione del piano di monitoraggio e per la definizione del set di indicatori. b) Rilevamento: in questa sezione si riportano i dati relativi al soggetto che si svolge tale funzione e agli strumenti utilizzati; 52 c) Verifica: i dati qui riportati riguardano il soggetto competente e gli strumenti utilizzati; d) Valutazione: in questa sezione si è proceduto con la descrizione relativa al soggetto competente e agli output previsti; e) Sistema di penalità/premiazione: si indica il soggetto che svolge tale funzione e le relative modalità. Di seguito, invece, vengono riportati i principali risultati dell’analisi di benchmarking emersi dal confronto tra i casi analizzati in relazione agli ambiti di analisi ovvero: i. ii. iii. iv. v. Il modello di governance; Il modello di rilevazione; Il sistema informatico e informativo; La selezione dei monitoranti; I costi MODELLO DI GOVERNANCE Casi a confronto: - Agenzia di controllo della Città di Roma Fondazione Musei Civici di Venezia Progetto “Distretti Culturali” Programma “Piani di Valorizzazione” Il numero di soggetti coinvolti varia di caso in caso. In generale tra il soggetto titolare di una funzione (sia esso pubblico o privato) e l’erogatore del servizio (concessionario) si situa un Valutatore Terzo, rappresentato da un singolo professionista (Cesvot), da agenzie specializzate (Distretti Culturali, Fondazione Musei Civici di Venezia) o da soggetti pubblici o misti comunque dotati di autonomia (Agenzia di Controllo del Comune di Roma, Osservatorio Culturale del Piemonte). I casi analizzati riguardano Sistemi di M&V in cui sono coinvolti soggetti pubblici e privati, ma va rilevato che non sono stati individuati modelli perfettamente sovrapponibili a quello delle concessioni ministeriali poiché non vi è alcun caso di Sistema M&V di servizi pubblici affidati da un soggetto pubblico a uno privato (nel caso dell’ACQSP di Roma gli erogatori dei servizi, benché talvolta soggetti di diritto privato, sono di fatto in house poiché interamente di proprietà comunale). Confrontando i casi analizzati rispetto alle singole fasi di sviluppo del sistema di M&V, si notano interessanti elementi di differenziazione che permettono di prendere in considerazione diverse sfumature di approccio alla governance. 1. I concessionari12, soggetti responsabili della corretta erogazione dei servizi, sono coinvolti con gradi differenti di corresponsabilità anche nelle funzioni di monitoraggio e verifica. Nel caso dei Piani di Valorizzazione del Piemonte essi sono fortemente coinvolti nel processo di pianificazione, oltre che ovviamente di rilevamento dei dati, dal momento che sono tenuti a dotarsi di un proprio sistema di Per chiarezza di esposizione si adottano d’ora in poi le diciture che permettono un raffronto immediato con i soggetti che costituiscono il Sistema di M&V oggetto del presente lavoro. Per “concessionari” si intendono dunque i soggetti incaricati di erogare i servizi (Roma, Venezia), i capofila dei territori responsabili di progetti culturali (Distretti Culturali e Piani di Valorizzazione), anche in assenza di regime contrattuale di natura concessoria. Per “Stazione appaltante” si intendono tutti i soggetti, pubblici o privati, interessati al rispetto delle condizioni contrattuali e al miglioramento della gestione dei servizi (dunque la Fondazione Musei Civici di Venezia, le Direzioni competenti del Comune di Roma, la Fondazione Cariplo, la Regione Piemonte e il Cesvot). Per “Valutatore Terzo” si intendono infine i soggetti pubblici e privati, più o meno indipendenti ma comunque dotati di autonomia, incaricati della valutazione. 12 53 osservazione interno e a produrre un report di valutazione annuale sui risultati conseguiti, in termini di output, outcome, livelli di efficienza ed efficacia. L’attività svolta dall’Osservatorio Culturale del Piemonte, la cui funzione si situa su un piano intermedio tra il valutatore terzo e l’OCM, consiste nell’acquisizione e nella valutazione dei dati raccolti da tutti i territori sulla base di un preciso set di indicatori. L’Osservatorio si occupa inoltre della formazione e della consulenza tecnico-metodologica per supportare i singoli territori nella costruzione dei propri indicatori e nell’individuazione degli strumenti di rilevazione e di elaborazione più idonei. Nel caso di Venezia, il più calzante in questo contesto, il valutatore è chiamato a partecipare, insieme al Concessionario e alla Stazione Appaltante, alla definizione dell’architettura complessiva dei sistema di M&V, all’individuazione degli indicatori più pertinenti e alla definizione delle tempistiche di rilevamento. Per quanto riguarda il caso dei Distretti, invece, i singoli concessionari possono o meno prevedere – e molti lo fanno – la creazione di un SMV proprio, ma è il Valutatore che raccoglie e verifica i dati forniti dai capofila secondo gli indicatori di processo individuati congiuntamente alla stazione appaltante (Fondazione Cariplo). Oltre però alla rilevazione semestrale di tali dati, al valutatore terzo spetta la definizione del sistema di monitoraggio e degli indicatori specifici per ciascuna attività programmata nei singoli distretti13. Tale pianificazione è condotta congiuntamente dal valutatore e dai singoli concessionari, che vengono facilitati all’individuazione degli indicatori più adeguati alle proprie specificità. Nel caso dell’Agenzia di Roma, sono la stazione appaltante (cioè la Direzione che ha competenza del servizio) e il concessionario (cioè l’erogatore del servizio), nella forma della Commissione paritetica, che rilevano e organizzano i dati per comunicarli al valutatore, il quale li verifica integrandoli con indagini proprie. 2. Maggiore è il grado di condivisione tra i soggetti del sistema nella fase di pianificazione, migliori risultano i flussi informativi all’interno dei sistemi di M&V: la scelta della Fondazione Musei Civici di Venezia di intensificare i rapporti di collaborazione con il Concessionario, non relegandolo al ruolo di “erogatore” ma, piuttosto, considerandolo come un vero e proprio partner strategico per il miglioramento dei servizi aggiuntivi nei musei, ha richiesto una differente collocazione del Valutatore Terzo che svolge la sua attività sulla base di un sistema di indicatori frutto del confronto con gli altri due soggetti. Allo stesso modo, l’ACQSP di Roma svolge il proprio ruolo più efficacemente nell’ambito dei servizi museali, cioè laddove è pratica comune la condivisione e la risoluzione dei problemi di pianificazione con la Soprintendente comunale e il concessionario Zétema. 3. L’operatività del Valutatore Terzo e la sua efficacia nell’analizzare le criticità e quindi generare miglioramenti nelle performance oggetto di valutazione sono fortemente condizionate dalla sua possibilità di intervenire concretamente – e non solo sulla carta – con meccanismi di sanzione e premialità14. Laddove applicati con rigore e tempestività15, i meccanismi sanzionatori hanno portato ad un netto miglioramento dei risultati del concessionario. 4. L’azione valutativa non può limitarsi ai dati rilevati e comunicati dal Concessionario ma deve poter essere integrata da attività di verifica e rilevamento diretto da parte del valutatore, come nel caso dell’ ACQSP di Roma e della Fondazione Musei Civici che prevedono indagini specifiche per verificare Va tenuto conto del fatto che il progetto della Fondazione Cariplo ha una complessità tale, di obiettivi ma anche di articolazione nel tempo e nello spazio, che le singole azioni previste dai distretti (che di norma sono decine, culturali e commerciali, per ciascun dei sei distretti a oggi costituiti) non potrebbero essere ridotte a indicatori di valutazione comuni a tutte le realtà. 14 È il caso dell’ACQSP di Roma. 15 Nel caso della FMCV di Venezia l’applicazione rigorosa delle sanzioni previste per il mancato rispetto dei tempi di consegna dei dati da parte del concessionario ha portato quest’ultimo a perfezionare tempestivamente i meccanismi di comunicazione dei dati sino ad allinearli con gli impegni contrattuali. 13 54 (mystery client) e integrare le informazioni con il punto di vista dell’utente (customer satisfaction a campione). Prevedere la possibilità di indagini condotte dal valutatore terzo su dati primari: 1. Garantisce la possibilità di sviluppare iniziative di indagine su fenomeni emergenti non previsti in sede di pianificazione del sistema e dei quali, altrimenti, non risulterebbe possibile acquisire elementi conoscitivi di dettaglio. 2. Riconosce al Valutatore un ruolo di “terzietà” più marcato, poiché la sua funzione non si limita all’acquisizione, elaborazione e valutazione dei dati resi disponibili dal Concessionario – ma può intervenire direttamente nell’analisi dei fenomeni laddove ritenga utile o necessario approfondire alcuni aspetti del servizio. Nella tabella sottostante, per ogni caso è stato schematizzato il ruolo ricoperto dai tre soggetti principali (Stazione Appaltante, Concessionario, Valutatore Terzo) per ciascuna delle fasi di articolazione del sistema di M&V. Tabella 7 – Soggetti, fasi e responsabilità del sistema di monitoraggio nei bench partner Pianificazione Rilevamento Verifica Agenzia Roma Fondazione Musei Venezia Distretti Culturali Piani di Valorizzazione Valutatore Terzo Stazione appaltante (Direzioni del Comune) Concessionario (erogatore) Stazione Appaltante, Concessionario, Valutatore Terzo Stazione Appaltante (Cariplo)/Valutator e Terzo/Concessionari (capofila dei distretti) Concessionari (territori) Valutazione Attribuzione premi/Sanzioni Commissioni paritetiche (Stazione Appaltante/Concessiona rio) Valutatore Terzo (customer, mystery) Concessionario e Valutatore Terzo Valutatore Terzo Valutatore Terzo Prevista difficilmente applicabile Valutatore Terzo e Stazione Appaltante Stazione Appaltante Valutatore Terzo Referente Operativo (aspetti qualitativi) Valutatore Terzo Società di revisione dei conti (a campione) Stazione Appaltante, Concessionario, Valutatore Terzo Stazione Appaltante e Valutatore Terzo Concessionari (territori) Concessionari (Territori), o Stazione appaltante (Regione) e Valutatore Terzo (OCP) Stazione appaltante e Valutatore Terzo Stazione Appaltante (Regione) ma Stazione Appaltante Fonte: ns elaborazione Gli approcci analizzati forniscono un quadro prevalentemente omogeneo, in cui il sistema di M&V consente alla Stazione Appaltante di controllare l’attività del Concessionario e del Valutatore Terzo. Il principale fattore di criticità riscontrato consiste nella difficoltà di coordinare l’attività di monitoraggio svolta dai Concessionari con quelle di monitoraggio/valutazione richieste al Valutatore Terzo. Il rischio, infatti, è duplice: a. da una parte, generare un effetto “ingessatura” a livello procedurale e gestionale, attraverso l’applicazione di sistemi di monitoraggio e di valutazione eccessivamente invasivi e impattanti; b. dall’altra, invece, di regolamentare i rapporti tra il Concessionario e il Valutatore Terzo, in modo da garantire il pieno adempimento dei flussi informativi dal primo al secondo. Al primo caso è possibile ascrivere la Fondazione Musei Civici il cui sistema di monitoraggio e valutazione on going è da poco stato avviato e prevede una forte capacità di controllo da parte del Valutatore terzo: l’intensa attività di confronto tra i soggetti partner – Fondazione, Stazione Appaltante 55 e Valutatore – avrà il compito di controllare la sostenibilità del sistema ed individuare eventuali interventi correttivi. MODELLO DI RILEVAMENTO Casi a confronto - Agenzia di Controllo del Comune di Roma Fondazione Musei Civici Cesvot Piani di Valorizzazione Quali sono gli ambiti di osservazione (tipologie di indicatori) per la valutazione delle performance dei soggetti “monitorati”? Rispetto agli ambiti di applicazione del sistema di M&V, le esperienze analizzate si distinguono per una significativa attenzione alla verifica degli outcome di processo e, in particolare, si registra il crescente interesse per l’acquisizione di elementi conoscitivi sul livello di soddisfazione degli utenti. Il caso più interessante è, ancora una volta, quello relativo alla Fondazione Musei di Venezia, laddove al Valutatore Terzo è stato demandato il compito di individuare e definire un piano di monitoraggio della customer satisfaction tanto dell’utenza esterna (il pubblico dei musei) quanto di quella interna (il personale della Fondazione che si rapporta con il Concessionario). Attraverso interviste a campione, il Valutatore Terzo deve condurre periodicamente delle rilevazioni su tali target al fine di fornire alla Fondazione dati puntuali e aggiornati in merito al grado di soddisfazione dei servizi erogati, sia relativi alla gestione ordinaria (apertura al pubblico, servizi di biglietteria, sorveglianza, segnaletica, etc.) sia a quella straordinaria, connessa a specifici eventi culturali (mostre, concerti, manifestazioni) che possono sottoporre a “stress” le strutture organizzative. Da segnalare, inoltre, l’adozione da parte della Fondazione Musei di due differenti livelli di indicatori: 1. Indicatori specifici relativi a singoli aspetti procedurali, organizzativi e gestionali; 2. Indicatori sintetici generati dalla somma ponderata dei valori raccolti nel primo livello. Si tratta cioè di indicatori che devono poter fornire alla Fondazione Musei Civici un valore di riferimento relativamente alla qualità complessiva di ciascuna macro-area di servizio ovvero: a) Servizio di accoglienza, coordinamento di tutela del patrimonio ed assistenza al pubblico, servizio di accoglienza, portineria e biglietteria, valorizzazione e promozione del patrimonio museale; b) Servizio di pulizia; c) Servizi di piantonamento, vigilanza esterna notturna e teleallarme. Un caso interessante è quello relativo al Cesvot che è stato inserito nel campione ristretto di bench partner per il sistema di monitoraggio e valutazione adottato, fortemente incentrato sui metodi di valutazione relazionale. Si tratta di un approccio che si è ritenuto utile comprendere nella presente indagine di benchmarking per l’attenzione riposta all’acquisizione di informazioni qualitative sul grado di soddisfazione degli utenti dei servizi erogati dal Centro. Il Cesvot organizza incontri periodici, a cadenza semestrale o annuale, a cui partecipano le organizzazioni associate che usufruiscono dei servizi di formazione, assistenza e accompagnamento svolti 56 dal Centro. Durante tali incontri, vengono somministrati questionari di valutazione sulle singole attività e sugli aspetti gestionali e organizzativi, mentre i dati acquisiti vengono elaborati dal Settore Monitoraggio per poi essere pubblicato nel bilancio sociale annuale. Durante tali incontri, inoltre, vengono organizzati momenti di confronto tra gli operatori, al fine di acquisire informazioni di carattere più qualitativo sul grado di soddisfazione percepito, sulle criticità individuate e sul sistema di indicatori utilizzati per la valutazione dei risultati. In altre parole, il sistema di M&V viene concepito come una struttura in costante evoluzione, sulla base dei feedback di volta in volta forniti e condivisi con gli operatori coinvolti. Da chi/come/con quali tempi vengono rilevate le informazioni con cui alimentare gli indicatori del sistema? In tutti i casi analizzati, l’attività di raccolta dei dati è svolta dal Concessionario, anche se il sistema adottato dalla Fondazione Musei Civici di Venezia e dall’Agenzia di Controllo del Comune di Roma prevedono anche un’attività autonoma di indagine da parte del Valutatore Terzo. Le tempistiche variano da caso a caso. Il sistema più “serrato” è certamente quello relativo alla Fondazione Musei Civici di Venezia. La Stazione Appaltante deve trasmettere un report di aggiornamento sull’andamento dei servizi erogati a cadenza mensile, pena il pagamento di precise sanzioni economiche, sulla base di una modulistica prodotta dal Valutatore Terzo in collaborazione con il Concessionario stesso e la Fondazione. Il Valutatore Terzo, invece, deve aggiornare gli indicatori specifici e di sintesi con cadenza trimestrale. Parallelamente a tali attività, tuttavia, è da segnalare l’attenzione della Fondazione ad organizzare incontri mensili con il Concessionario e con il Valutatore per confrontarsi sui dati raccolti dall’attività di monitoraggio ed individuare eventuali interventi correttivi da apportare al sistema. Negli altri casi, invece, non si è riscontrato un sistema di valutazione on going avvicinabile a quello veneziano, in quanto le rilevazioni dei dati vengono svolte da ciascun Concessionario secondo tempistiche proprie, fermo restando l’obbligo di fornire un report di valutazione a cadenza annuale. Da questo punto di vista, le stazioni appaltanti tendono ad organizzare momenti intermedi di confronto con i concessionari, al fine di poter comunque svolgere un’attività di controllo in itinere altrimenti non praticabile. Nel caso del Cesvot e dei Piani di Valorizzazione, ad esempio, si è ormai istituita la prassi di organizzare incontri formativi, di aggiornamento e di verifica con periodicità più serrate, anche se comunque variabili. Da chi e con quale modalità viene realizzata la verifica delle informazioni rilevate? La verifica dell’attendibilità dei dati raccolti dal Concessionario, quando prevista, è affidata al Valutatore Terzo. La Fondazione Musei Civici richiede al Valutatore terzo attività di verifica, anche per mezzo di ispezioni in loco, e l’ACQSP di Roma organizza mystery client per tutti i servizi. Un’esperienza significativa in tal senso è quella rappresentata dal programma piemontese dei Piani di Valorizzazione, laddove l’Osservatorio Culturale può “garantire” l’attendibilità metodologica dei dati raccolti, in quanto fornisce in tal senso un servizio di accompagnamento, tutoraggio e supporto tecnico. Per una visione sistematica delle evidenze emerse dall’analisi, nella tabella sottostante viene schematizzato, per ciascun caso, le responsabilità assunte da ciascun soggetto nelle diverse fasi di funzionamento del Sistema di monitoraggio e Valutazione (Pianificazione, Rilevazione, Verifica, 57 Valutazione, Attribuzione premi e sanzioni) e gli strumenti/documenti che è chiamato ad utilizzare/realizzare. 58 Tabella 8 – Sintesi delle fasi, strumenti e responsabilità del sistema di monitoraggio nei bench partner Bench partner Pianificazione Soggetto responsabile Agenzia di Controllo (Città di Roma) Fond. Musei Civici di Venezia Progetto Distretti Culturali Commissioni paritetiche composte da rappresentanti delle direzioni comunali competenti e del concessionario Valutatore Valutatore Strumenti Rilevazione Soggetto responsabile Concessionario Set di indicatori e le modalità di monitoraggio dei servizi in oggetto. Proposta di piano di monitoraggio e di valutazione che viene rivista e condivisa con Stazione Appaltante e Concessionario Proposta di piano di monitoraggio e di valutazione che viene rivista e condivisa con Stazione Appaltante (Fond. Cariplo) Strumenti Registrazione dati di servizio da parte degli operatori. 1. Modulistica specifica compilata dal personale di sala; Sistemi informatizzati (biglietteria, accesso al sito internet) Valutatore Interviste a campione con metodo CATI; Confronti con associazioni consumatori. Concessionario Modulistica specifica prodotta dal Valutatore e compilata dal Concessionario; Sistemi informatizzati (per la registrazione degli ingressi) Valutatore Interviste a campione con metodo CATI al pubblico; Interviste al personale della Fondazione; Concessionario Modulista specifica prodotta dal Valutatore e compilata dal Concessionario, relativamente allo stato di avanzamento degli interventi. Si ricorda, inoltre, la presenza dei Referenti operativi dei Distretti, che svolgono un'attività di monitoraggio continuativo tramite nterviste agli attori localie la partecipazione ad incontri sul territorio; Verifica Soggetto responsabile Valutazione Strumenti Soggetto responsabile Output Valutatore Report annuale trasmesso alla Stazione Appaltante Valutatore Attività ispettiva. Verifica dei dati inseriti nel database da parte del Concessionario. Valutatore Verifica dell'attendibilità dei dati da parte dell'Osservatorio Culturale del Piemonte all'interno dell'attività di supporto metodologico e tecnico ai singoli territori partecipanti al programma regionale Valutatore Attività ispettiva; Penalità/Premialità Soggetto responsabile Modalità Non prevista Non prevista Valutatore Report trimestrali trasmessi alla Stazione Appaltante e al Concessionario Stazione Appaltante Verifica mensile delle infrazioni compiute dal Concessionario in seguito alle quale la Stazione Appaltante commina le eventuali sanzioni. Non è previsto un sistema di premialità. Valutatore Report semestrali per ciascun Distretto trasmessi alla Stazione Appaltante Non prevista Non prevista 59 Cesvot Programma Piani di Valorizzazione Per ciascuna iniziativa che prevede attività di M&V, il Centro collabora con esperti del settore costituendo apposite commissioni. Ciascun territorio che rientra nel programma Definisce il proprio piano di M&V con la consulenza metodologica dell'Osservatorio Culturale e della Regione, con l'obbligo di inserire gli indicatori preventivamente definiti dalla Regione stessa Stazione appaltante Questionari autocompilati; interviste dirette ai referenti delle organizzazioni beneficiarie del contributo Cesvot; Concessionario Questionari al pubblico; Interviste dirette; Stazione appaltante Interviste agli animatori dei singoli Piani di Valorizzazione; Partecipazione ad incontri sul territorio Non prevista Non prevista Non prevista Non prevista Stazione appaltante Bilancio sociale trasmesso a tutte le organizzazioni aderenti al centro Concessionario Report annuale dei risultati trasmesso alla Stazione Appaltante e all'Osservatorio Culturale del Piemonte Valutatore Report annuale prodotto dall'OCP e destinato alla Regione Piemonte Non prevista Non prevista Non prevista Non prevista Fonte: ns elaborazione 60 SISTEMA INFORMATIVO E INFORMATICO Casi a confronto: - Fondazione Musei Civici di Venezia Agenzia di Controllo del Comune di Roma Cesvot Con quali criteri e modalità le informazioni vengono gestite, trattate, trasferite da un soggetto ad un altro del sistema? I casi analizzati forniscono un ventaglio diversificato di opzioni e di approcci. In linea generale l’analisi di benchmarking ha individuato i seguenti elementi di interesse: 1. Prevale il ricorso a sistemi informativi centralizzati in cui far convergere sia i dati raccolti dai concessionari, sia quelli prodotti dalle eventuali indagini integrative (qualora previste come nei casi di Venezia e Roma) svolte dal Valutatore Terzo. 2. Meno frequente la presenza di un sistema di monitoraggio e valutazione on going che preveda l’elaborazione continuativa di dati e informazioni raccolte dall’attività di monitoraggio. Tranne il caso del Museo Civico di Venezia, la principale tipologia di output prodotto dal sistema di M&V è rappresentato dal report finale annuale delle attività (Cesvot, Piani di Valorizzazione, Agenzia di Controllo del Comune di Roma). 3. Nel caso di Cesvot e del programma dei Piani di Valorizzazione, i momenti di confronto tra gli operatori territoriali – ovvero gli animatori dei singoli Piani – ha la funzione di facilitare la trasmissione di informazioni connesse all’applicazione e gestione dei sistemi di monitoraggio e di valutazione adottati per il proprio territorio. Inoltre, la presenza dell’OCP e della Regione medesima a tali incontri consente di esercitare un’azione di controllo sullo stato di avanzamento dei singoli progetti. Esistono specifiche soluzioni o architetture informatiche per la raccolta, l’elaborazione e l’archiviazione dei dati? In nessuno dei casi analizzati si è riscontrata la presenza di sistemi informatici con funzionalità particolarmente distintive rispetto a quelle previste dai software gestionali. Nel caso di Venezia, però, è opportuno sottolineare le caratteristiche del sistema che sono state richieste fin dal capitolato di gara, non attinenti in modo specifico alla dimensione tecnico/informatica ma di interesse rilevante dal punto di vista dell’impianto organizzativo e gestionale del sistema di M&V nel suo complesso. Nel caso della Fondazione Musei Civici di Venezia, infatti, il sistema informatico doveva: 1. Prevedere un DataBase costruito su una piattaforma relazionale e accessibile in modalità multipla e controllata; In altre parole, doveva essere garantita alla Fondazione la possibilità di accedere in qualsiasi momento ai dati; 61 2. Prevedere un sistema di ricezione delle richieste e segnalazioni ed il monitoraggio dei livelli di servizio, assicurando un costante aggiornamento e caricamento dei dati, nonché la raccolta di tutte le informazioni di ritorno necessarie alla valutazione dei risultati 3. Prevedere un help desk per le comunicazioni tra operatori della Fondazione e Concessionario (ad esempio, per gestire le richieste straordinarie di intervento). In questo modo viene sottoposto a monitoraggio e valutazione anche il livello di efficienza dimostrato Concessionario nel rispondere alle richieste formulate dalla Fondazione; 4. Consentire di seguire puntualmente le fasi degli interventi, 5. Gestire un archivio storico 6. Avere una immediata trasposizione gestionale ed economica degli interventi eseguiti; SELEZIONE MONITORANTI Casi a confronto - Fondazione Musei Civici di Venezia Agenzia di Controllo del Comune di Roma Distretti Culturali Diverse le opzioni offerte dai casi analizzati. Nel caso della Fondazione Musei Civici di Venezia, il Valutatore Terzo è individuato preventivamente dal Concessionario che si accolla i costi delle sue attività (25 mila euro). Tuttavia, non è la Stazione ma la Fondazione a formalizzare un contratto di consulenza con il Valutatore (la Stazione Appaltante doveva assumersi l’impegno fin dalle fasi di candidatura a trasferire alla Fondazione il suddetto importo). In questo modo, il Valutatore viene selezionato dal Concessionario ma risponde del proprio operato esclusivamente alla Fondazione. Nel caso dei Distretti Culturali e dell’ACQSP del Comune di Roma, è la Stazione Appaltante stessa (Fondazione CaRiPlo; Comune di Roma) a selezionare unilateralmente il Valutatore Terzo. Nel primo caso, mediante un bando ad inviti, nel secondo attraverso nomina diretta (con voto segreto) da parte del Consiglio Comunale. In quest’ultimo caso, inoltre, non è prevista la reiterazione del mandato. Come vengono coperti i costi di funzionamento del Sistema? In quattro dei casi analizzati, il costo dell’attività dei Valutatori Terzi è sostenuto dal soggetto promotore/stazione appaltante ovvero: - Il Comune di Roma per l’Agenzia di Controllo; La Regione Piemonte per l’attività dell’OCP; La Fondazione CaRiPlo per il programma Distretti Culturali; Il Cesvot per le organizzazioni coinvolte nella redazione del bilancio sociale e delle diverse attività di monitoraggio e valutazione. Fa eccezione il caso di Venezia, in cui il costo delle attività svolte dal Valutatore Terzo sono a carico del concessionario. Box 4 - Analisi di un sistema di Monitoraggio e Valutazionme internazionale: il caso Mèrida (ES) Il sito archeologico di Mèrida in Spagna A livello internazionale, un bench partner interessante per il sistema di M&V applicato è certamente quello relativo alla gestione e valorizzazione del sito archeologico di Mèrida, in Spagna. Pur tenendo 62 conto delle non trascurabili diversità nel sistema complessivo dei beni culturali tra i diversi contesti nazionali, sia sul piano legislativo, sia su quello normativo e gestionale, si è ritenuto comunque opportuno riportare una descrizione del caso di Mèrida. Il sistema di controllo sulla qualità dei servizi al visitatore qui implementato, infatti, costituisce un’esperienza interessante sotto molti punti di vista, sia per l’applicazione di un set diversificato di strumenti valutativi, sia per l’attenzione dedicata al coinvolgimento attivo del personale interno alle attività di valutazione e monitoraggio. Descrizione generale Il Consorcio de la Ciudad Monumental, Historico-Artistica y Arquelogica de Mèrida, è un ente di diritto pubblico partecipato dal governo regionale, dal Ministero dell’educazione, dalla Provincia Autonoma di Extramadura, dalla Provincia di Badajoz e dal Comune di Mèrida. Il Consorzio è dotato di propria personalità giuridica e ha piena autonomia nella definizione degli obiettivi e dei programmi di attività finalizzati alla gestione, organizzazione per la conservazione, tutela e valorizzazione dell’area monumentale di Mèrida. L’area archeologica di Mèrida è dal 1993 nella Lista del patrimonio dell’Umanità dell’UNESCO, registra una media di 350 mila ingressi all’anno, prevalentemente di provenienza nazionale (93%). Dal punto di vista organizzativo, il consorzio è diviso in due aree di intervento: quella amministrativa e quella scientifica. La prima area si occupa della gestione economica e amministrativa (contratti, autorizzazioni, gestione delle relazioni, etc.). La seconda riguarda le opere di scavo, la conservazione e gestione dei lavori. Entrambe definiscono le proprie linee di sviluppo dell’area e provvedono alla gestione delle attività di valorizzazione. Complessivamente lavorano al Consorzio 90 dipendenti e 4050 lavoratori temporanei, impiegati soprattutto nelle opere di scavo. I servizi ai visitatori sono quasi interamente gestiti in forma diretta, ad eccezione del ristorante gestito da una società specializzata e dai servizi di sicurezza, anch’essi affidati ad una società esterna specializzata. Servizi erogati Il sito archeologico eroga un insieme articolato di servizi al visitatore, i principali dei quali sono: - Vendita dei biglietti per la visita dell’area (totale o parziale), tramite le biglietteria dell’area, il sito web o via mail. - Servizio di audio-guide multilingua, per l’intero percorso nell’area. - Realizzazione di visite guidate, anche in notturna, tramite personale specializzato del Consorzio. - Attività didattiche. - Prestito materiale educativo alle scuole. - Cessione d’uso di aree monumentali per servizi/attività culturali. - Servizio ristorante. - Vendita merchandising e bookshop Sistema di M&V Negli anni, il Consorzio ha fissato una serie di procedure interne al fine di rendere il sistema di monitoraggio e valutazione un effettivo strumento operativo per il management dell’area archeologica. I diversi Dipartimenti in cui si articola il Consorzio devono, ogni anno, ricostruire in modo approfondito le 63 dinamiche e i risultati registrati durante l’anno precedente, definire i nuovi obiettivi e sottoporli all’attenzione/valutazione del Comitato di Pilotaggio composto da tutti i direttori dei suddetti dipartimenti. Sulla base dei dati raccolti e degli obiettivi individuati, tale Comitato ha il compito di allocare le risorse economiche e definire le priorità dell’anno nuovo. In tale processo di definizione degli obiettivi operativi per ciascun dipartimento, il Consorzio promuove la partecipazione attiva da parte di tutti gli impiegati e collaboratori, dando la possibilità a ciascuno di fornire feedback, osservazioni e suggerimenti sulla base della propria esperienza. Tale approccio non è motivato solo dall’opportunità di incrementare la qualità e la dimensione degli elementi conoscitivi raccolti ma anche dalla necessità di responsabilizzare lo staff nella qualità dei servizi erogati. Rispetto al sistema di M&V applicato nell’Area archeologica di Mèrida, per le finalità del presente studio risultano di indubbio interesse alcune specifiche aree di intervento che riguardano il monitoraggio della customer satisfactions, e il controllo della qualità del merchandising. Controllo livello di soddisfazione utenza Per quanto riguarda la qualità dei servizi di visita, il Consorzio prevede un servizio costante di raccolta dei suggerimenti e delle lamentele, attraverso la pagina web e il personale di front-office. Inoltre, è stato predisposto un servizio di raccolta dati che aggiorna un sistema statistico particolarmente ampio, in cui vengono analizzati i profili dei visitatori e le esigenze che questi manifestano durante e dopo la visita. La raccolta delle informazioni si compie per il tramite del personale della biglietteria, che redige pertanto dei moduli prestampati sulle caratteristiche dei visitatori, a campione casuale. Tra gli indicatori utilizzati, vanno segnalati i seguenti: 1. Numero di visitatori dell’area e di partecipanti alle singole iniziative di valorizzazione (ad es. n. di studenti/classi coinvolte nei laboratori didattici; n. di utenti che utilizzano le audio guide, etc.). 2. Livello di soddisfazione espresso dagli utenti per i servizi aggiuntivi e per le singole attività espositive. In questo caso, il valore obiettivo nel 2011 è stato quello di registrare meno di 25 lamentele/anno per il mancato rispetto degli orari di apertura. 3. Variazione dell’offerta di spazi espositivi o di servizi aperti al pubblico. In questo caso, il valore obiettivo minimo è fissato a n.2 nuove risorse museografiche/anno. 4. Attività di conservazione delle collezioni (n° interventi di restauro/anno; n° di oggetti esposti, n° prestiti; etc.) Il comitato di pilotaggio può, inoltre, promuovere la realizzazione di analisi qualitative specifiche tramite interviste dirette (telefoniche o vis a vis), indagini osservanti, etc. Controllo qualità servizio merchandising Un punto di forza particolarmente evidente del Consorzio è la gestione diretta del negozio: i prodotti venduti, infatti, sono sottoposti ad un rigido processo di controllo di qualità. Con riferimento alle riproduzioni, in particolare, il controllo viene effettuato da una figura professionale specifica, una storica dell’arte, che per ciascun pezzo candidato alla vendita esegue un controllo sia sui materiali sia sul processo, investigando in modo particolare se le produzioni vengono realizzate da artigiani locali, come riportato dall’etichetta e in linea con le indicazioni del Consorzio. Il controllore si sofferma anche sulla qualità della riproduzione in senso stretto, verificando cioè l’aderenza all’oggetto originale. Dal 2010, uno degli indicatori utilizzati nella valutazione della qualità del servizio – oltre alla dimensione economica del fatturato generato dalla vendita del merchandising – è quello relativo al numero di 64 nuovi prodotti messi in vendita, con un valore-obiettivo fissato a 10 nuovi pezzi/anno. 3. MODELLO DI GOVERNANCE DEL SISTEMA DI M&V 3.1 La Governance interna Il paragrafo seguente è volto ad illustrare la Governace del Sistema di Monitoraggio e Valutazione dei servizi aggiuntivi nei luoghi della cultura statali. Tale obiettivo si sviluppa attraverso due sezioni: la prima presenta tutti gli attori coinvolti, le loro funzioni, gli strumenti a loro disposizione e la documentazione che devono predisporre; la seconda sezione è invece dedicata alla descrizione delle relazioni che intercorrono tra i diversi attori nel sistema disegnato. 3.2 Gli attori del sistema Gli attori del Sistema di monitoraggio e controllo della performance e della qualità sono: Direzione Generale per la Valorizzazione del patrimonio culturale – MIBAC (da ora Direzione generale) Organismo Centrale di Monitoraggio (da ora OCM) Stazione Appaltante Concessionario Società/Ente di Monitoraggio della Performance e della Qualità (da ora SMPQ16 o EMPQ17) Ciascuno dei suddetti soggetti è chiamato a collaborare al fine della realizzazione e del buon funzionamento del Sistema, in particolare: la Direzione Generale svolge principalmente una funzione di indirizzo nei confronti delle Stazioni Appaltanti e di controllo nei confronti delle SMPQ. In particolare provvede a: o individuare e nominare l’OCM, un organo nazionale di supervisione e indirizzo; o realizzare un controllo di secondo livello a campione sulle SMPQ, verificando il corretto adempimento delle azioni di monitoraggio e controllo a loro assegnate; o monitorare gli andamenti nazionali, attraverso le valutazioni e i documenti prodotti dall’OCM, sulla base dei quali fornisce alle Stazioni Appaltanti raccomandazioni per il miglioramento dei servizi erogati al pubblico. l’Organismo Centrale di Monitoraggio (OCM), organo collegiale in posizione di indipendenza ed in piena autonomia, svolge un’azione di supervisione dei sistemi di controllo adottati dai Concessionari, un’azione di indirizzo e coordinamento per l’attuazione del Sistema, un’azione di Si parla di Società di Monitoraggio della Performance e della Qualità (SMPQ) quando l’Amministrazione responsabile (Stazione Appaltante) provvede a reclutare sul mercato il soggetto incaricato di svolgere le funzioni di monitoraggio e valutazione delle performance realizzate dal Concessionario 17 Si parla di Ente di Monitoraggio della Performance e della Qualità (EMPQ) quando l’Amministrazione responsabile (Stazione Appaltante) provvede ad individuare all’interno della propria struttura le risorse umane ed economiche necessarie a svolgere le funzioni di monitoraggio e valutazione delle performance realizzate dal Concessionario. In tal caso la responsabilità dell’operato dell’Ente (comprese la sottoscrizione dei documenti ufficiali da questo prodotti) ricade in capo al Dirigente responsabile della Stazione Appaltante o di un suo eventuale delegato 16 65 trasparenza dei risultati conseguiti dai Concessionari e in generale dal sistema dei servizi culturali erogati al pubblico. In particolare svolge le seguenti attività: o Azione di supervisione Verifica, a campione, il rispetto e l’attuazione del Sistema adottato (fasi, tempi e modalità) dal Concessionario, l’affidabilità e l’integrità delle informazioni da questo prodotte e il funzionamento dei servizi in concessione, anche attraverso lo strumento del mystery shopping. o Azione di indirizzo e coordinamento: Definisce le Linee guida per la redazione dei documenti a cura del Concessionario, delle SMPQ e della Direzione Generale Promuove iniziative di confronto tra le SMPQ, per condividere approcci, strumenti e criticità del controllo, al fine di garantire uniformità e qualità nell’applicazione del Sistema Diffonde tra le SMPQ innovazioni di approcci e strumenti al fine di garantire processi di miglioramento continuo nell’applicazione del Sistema o Azioni di trasparenza: Promuove analisi comparate dei dati e delle informazioni sulla gestione dei servizi aggiuntivi culturali, degli effetti diretti e indiretti generati e predispone un documento, denominato “Relazione consolidata annuale”, che fornisce una visione d’insieme dell’andamento dei servizi aggiuntivi nel sistema culturale ed evidenzia best-practice e criticità. la Stazione Appaltante – rappresenta il “cliente” diretto del corretto svolgimento dei servizi al pubblico e che pertanto è interessata al rispetto delle condizioni contrattuali e al miglioramento della gestione dei servizi – svolge attività di pianificazione, in quanto definisce i documenti di gara per l’individuazione delle SMPQ o nomina un delegato interno al quale viene affidato il compito di costituire il nucleo di monitoraggio intern (EMPQ) dell’amministrazione. il Concessionario, soggetto responsabile della corretta gestione dei servizi in concessione, ha il compito di: o Erogare i servizi nel rispetto di quanto stabilito nell’Offerta Tecnica. o Monitorare e rilevare costantemente le informazioni di input/processo/output/modalità/utenti. A tal fine il Concessionario deve progettare, aggiornare e gestire un sistema informativo aziendale capace di rilevare, elaborare e rappresentare le informazioni attraverso strumenti di rilevazione ed elaborazione cartacei ed informatici, in grado di fornire una rappresentazione veritiera dei fatti, degli accadimenti e delle informazioni concernenti il servizio in concessione con cadenza almeno settimanale. Il Concessionario deve, inoltre, riportare le informazioni rilevate in un documento, denominato “Rapporto di Gestione”, redatto con cadenza semestrale. o Rendersi disponibile a collaborare con la SMPQ per gli ambiti di rilevazione spettanti a quest’ultima. 66 la Società/Ente di Monitoraggio della Performance e della Qualità (SMPQ/EMPQ), soggetto nominato dalla Stazione Appaltante (attraverso procedura di evidenza pubblica nel caso di SMPQ; attraverso conferimento di incarico ai membri interni dell’Amministrazione18 nel caso di EMPQ), svolge un’attività indipendente e obiettiva di controllo, rilevazione e valutazione dell’attività del Concessionario; in particolare realizza le seguenti attività: o Azioni di controllo Verifica e certifica l’attendibilità del Sistema informativo del Concessionario; a tal fine, la SMPQ realizza un’attività di verifica preventiva sui processi e gli strumenti a disposizione del Concessionario per la gestione e la rilevazione dei dati (Sistema informativo aziendale). I risultati della verifica vengono raccolti in un documento, denominato “Relazione sull’attendibilità del sistema di rilevazione e controllo”; Verifica e certifica l’attendibilità e la validità delle informazioni rilevate dal Concessionario e il rispetto degli obblighi contrattuali da questo sottoscritti nell’Offerta Tecnica, attraverso sopralluoghi ispettivi, verifiche campionarie e lo strumento del mistery shopping. Il risultato di tali verifiche è contenuto in una apposita sezione del documento “Relazione di performance annuale”. o Azione di rilevazione: la SMPQ, oltre a ricevere dati e informazioni dal Concessionario, si occupa direttamente della rilevazione dei dati riguardanti gli effetti diretti e indiretti, le modalità e gli utenti dei servizi aggiuntivi gestiti dal Concessionario. A tale scopo, la SMPQ definisce metodi, strumenti, tempi e fasi necessarie per la rilevazione delle informazioni, riportate in un documento denominato “Piano delle Attività”, che costituisce parte integrante dell’Offerta Tecnica presentata dalla SMPQ alla Stazione Appaltante per l’aggiudicazione del servizio di monitoraggio. Il Piano delle Attività può essere modificato nel corso del tempo a seguito di specifici accordi tra Stazione Appaltante e SMPQ, anche alla luce di nuove indicazioni che perverranno da parte dell’OCM. o Azione di valutazione: la SMPQ valuta sistematicamente i risultati e gli effetti generati dal Concessionario nella gestione dei servizi aggiuntivi. A tal fine, realizza una valutazione semestrale e annuale, sulla base delle informazioni trasmesse dal Concessionario attraverso i due Rapporti di Gestione predisposti nel corso dell’anno e di quelle rilevate direttamente. Le valutazioni sono realizzate attraverso il confronto tra i risultati ottenuti e gli obiettivi dichiarati nell’Offerta Tecnica. 3.3 Il sistema di relazioni L’insieme dei soggetti sopra presentati, con il proprio patrimonio di responsabilità e di funzioni operative, si inscrive all’interno di un universo di processi relazionali che traccia il percorso dei flussi informativi che va da un soggetto all’altro/i del Sistema. Nel caso le Stazioni Appaltanti coincidano con le Direzioni Regionali, queste hanno la facoltà di individuare un delegato interno alle Soprintendenze territoriali le cui strutture sono coinvolte nelle procedure di affidamento dei servizi al pubblico. Tale delegato avrà la facoltà di costituire un eventuale gruppo di monitoraggio interno (EMPQ) – al quale affidare il compito di supervisionare le attività e le performance dei Concessionari – e di autorizzare i documenti ufficiali che quest’ultimo dovrà produrre in adempimento alle procedure stabilite dal Sistema di Monitoraggio e Valutazione della qualità dei servizi al pubblico. 18 67 Per descrivere in maniera efficace il tracciato di tali relazioni, si è provveduto a realizzare un set di figure che da un lato rappresentano l’insieme complessivo di tali relazioni e, dall’altro, focalizzano in maniera puntuale il sistema di relazioni bilaterali tra un soggetto e l’altro del sistema. Alla luce di ciò, la prima figura della serie (fig. 5) mostra il posizionamento e il tracciato complessivo19, ma semplificato, delle relazioni che il Sistema stabilisce tra tutti gli attori in gioco. Tali flussi possono essere di diverso tipo: unidirezionali (che procedono da un soggetto all’altro del Sistema senza che vi sia una contropartita informativa), bidirezionali (che procedono da un soggetto all’altro del Sistema prevedendo una contropartita informativa), pluridirezionali (che procedono da un soggetto a più soggetti del Sistema e viceversa). Partendo dalla base del sistema gerarchico viene rappresentata la possibilità che uno o più siti vengano gestiti in concessione da un Concessionario. Nel grafico non viene rappresentata la possibilità che il medesimo Concessionario abbia attive più concessioni contemporaneamente, con la conseguenza che possa relazionarsi con uno o più monitoranti (SMPQ/EMPQ). Dunque il grafico rappresenta una situazione semplificata dove ad un Concessionario corrisponde solo ed unicamente una Concessione. Ad un livello più alto della gerarchia si rappresenta la possibilità che la SMPQ/EMPQ intrattenga relazioni bidirezionali con uno o Concessionari20 da un lato, e dall’altro che intrattenga relazioni pluridirezionali con gli altri soggetti del sistema (Stazioni Appaltanti, OCM, DG Val). La Stazione appaltante intrattiene regolarmente rapporti con le SMPQ/EMPQ e con il Concessionario, alle quali è legata da vincoli strettamente contrattuali. L’OCM intrattiene rapporti di scambio con la DG Val, con le SMPQ e con i Concessionari. Infine la DG Val, che è sovraordinata rispetto al sistema e ne controlla il corretto funzionamento, intrattiene rapporti diretti sia con l’OCM, sia con le SMPQ. Di seguito (figg. dalla 6 alla 12), per ciascuna delle relazioni bilaterali tra i soggetti, si provvederà a definire le principali caratteristiche (cosa ciascuno da e cosa ciascuno riceve). Ogni soggetto è stato inserito in una casella di testo contrassegnata da uno specifico colore. Per agevolare la lettura del flusso di relazioni, il colore delle frecce è stato coordinato con il colore della casella di testo del soggetto da cui proviene. La direzione del vettore indica invece il verso del flusso informativo. 20 Anche qui la rappresentazione è semplificata. 19 68 Figura 5 - Il sistema di relazioni complessive 3.3.1.1 Relazioni duali La seguente sezione è dedicata alla descrizione delle relazioni duali che si instaurano tra i soggetti coinvolti nel sistema. La prima relazione (fig. 6) che si procede a descrivere è quella che si instaura tra Stazione Appaltante e la SMPQ (EMPQ). Questa relazione consiste nella selezione da parte della Stazione Appaltante della SMPQ per lo svolgimento della funzione di monitoraggio e valutazione della qualità dei servizi offerti dal Concessionario. Nella fig. 7 si rappresenta invece la struttura delle relazioni che si instaurano tra SMPQ e Concessionario. Il Concessionario ha il compito di rilevare le informazioni, previste dall’allega 4B al contratto, e raccoglierle all’interno di un sistema informativo/informatico che la SMPQ deve certificare. La SMPQ è incaricata di verificare e attestare, nella Relazione sull’attendibilità del Sistema di Rilevazione e Controllo, che il sistema adottato dal Concessionario, e i processi ad esso sottesi, rispondano a quanto richiesto dal sistema e siano idonei alla corretta raccolta e rappresentazione delle informazioni in esso contenute. 69 Figura 6 - Relazioni bilaterali: Staz. App/SMPQ Figura 7 - Relazioni bilaterali: SMPQ/Concessionario Una volta ottenuta la certificazione del sistema, il Concessionario ha l’onere di alimentarlo costantemente e di consegnare, alla SMPQ monitorante, il risultato delle attività svolte ogni 6 mesi nel documento denominato “Rapporto di gestione” corredato del foglio di calcolo contenente l’universo dei dati osservati. Il rapporto sui risultati conseguiti nel periodo gennaio – giugno deve essere consegnato entro il 31 agosto, mentre quello sull’intero anno di attività, gennaio – dicembre, va redatto e consegnato alla SMPQ entro il 28 febbraio di ogni anno di concessione. Dal suo canto la SMPQ svolge le attività di rilevazione previste in merito ai servizi offerti dal concessionario e le trasmette all’ OCM (fig. 8) all’interno di documenti semestrali denominato “Relazione di performance semestrale” e “Relazione di performance annuale”. Tali documenti contengono sia le informazioni trasmesse dal Concessionario nei documenti semestrali, la cui veridicità può essere verificata in qualsiasi momento dalla SMPQ, sia le informazioni rilevate direttamente dalla Società di Monitoraggio, attraverso gli strumenti ad hoc preposti. Figura 8 - Relazioni bilaterali: OCM/SMPQ Figura 9 - Relazioni bilaterali: OCM/Conc L’OCM (fig. 8) ha invece il compito di raccogliere le Relazioni di performance di tutte le SMPQ; ciò avviene per far confluire tutte le informazioni provenienti dai concessionari oggetto di monitoraggio in unico centro informativo. L’OCM inoltre (fig. 9) instaura anche rapporti diretti con i Concessionari essendo a tale organo preposta la possibilità di provvedere a verifiche dirette a campione sul loro operato. La fig. 10 illustra invece la relazione di verifica che la DG Val ha nei confronti delle varie SMPQ. La DG può, qualora lo ritenga opportuno, operare delle azioni di verifica nei confronti dell’operato della 70 SMPQ attraverso differenti strumenti. Figura 10 - Relazioni bilaterali: DG Val/SMPQ Figura 11 - Relazioni bilaterali: Staz. App/Conc Per quanto concerne invece la relazione tra Stazione Appaltante e Concessionario (fig. 11) essa nasce al momento della selezione, che avviene tramite procedura di gara, del Concessionario da parte della Stazione. La relazione che così si instaura è regolata dal contratto di concessione che le parti stipulano. In alcuni casi, la Stazione Appaltante può decidere di costruire un ufficio di monitoraggio al suo interno facente funzione di SMPQ. In questi casi le due figure tenderanno a coincidere. Infine, la Stazione Appaltante intrattiene anche rapporti con la DG Val (fig. 12). La DG attraverso le informazioni che raccoglie dal monitoraggio del sistema nazionale fornisce alle Stazioni Appaltanti raccomandazioni per il miglioramento dei servizi erogati al pubblico. Figura 12 - Relazioni bilaterali: DG Val/Stazioni Appaltanti Volendo rappresentare sinteticamente il sistema di relazioni generate all’interno del meccanismo innescato dal Sistema di Monitoraggio e Valutazione di seguito si propone uno schema all’interno del quale accanto a ciascun soggetto vengono elencate le attività che sono tenute a realizzare e, di conseguenza, i soggetti verso i quali vanno predisposte, le fonti informative da utilizzare per la messa in opera delle attività, gli output di progetto previsti e, in ultimo, i destinatari dei medesimi output. 71 Tabella 9 – Quadro sinottico relazioni e Output Soggetto Funzione Attività Soggetto con cui si intrattiene la relazione DG VAL Nomina Individua e nomina l'OCM OCM Indirizzo Monitoraggio degli andamenti nazionali attraverso l'esame della documentazione redatta dall'OCM DG VAL - DG VAL Verifica e controllo Realizzazione di controlli a campione sulle SMPQ SMPQ OCM Verifica e controllo Realizzazione di controlli a campione sui Concessionari Concessionario OCM Indirizzo Promuove iniziative di confronto tra SMPQ SMPQ Fonti documentali necessarie allo svolgimento delle attività 1) Relazione consolidata annuale (OCM); 2) Relazione di Audit di II livello 1) Relazione di performance semestrale/annuale; 2) Rapporto di Gestione; 3) Sistema Informativo dell'SMPQ; 4) Sistema Informativo del Concessionario; 5) Rilevazioni dirette 1)Rapporto di Gestione; 2) Sistema Informativo del Concessionario; 3) Rilevazioni dirette; 4) Sistema Informativo dell'OCM 1) Piano delle Attività Documenti del Sistema Documenti non appartenenti al Sistema Attività previste dal Sistema Destinatario dell'output - Ordine di servizio per lo svolgimento delle attività dell’OCM - OCM - Raccomandazioni - Stazioni appaltanti Relazione di Audit di II livello - - OCM, SMPQ, Stazioni Appaltanti Relazione di Audit - - DG Val, SMPQ, Stazioni Appaltanti, Concessionario - - Incontri SMPQ 72 OCM OCM Indirizzo Diffonde innovazioni di approcci e strumenti tra le SMPQ Valutazione Analisi comparata dei dati e delle informazioni sulla gestione dei servizi aggiuntivi Stazione Appaltante Pianificazione Stazione Appaltante Nomina Stazione Appaltante Valutazione Stazione Appaltante Valutazione Stazione Appaltante Valutazione Definizione dei documenti di gara per la selezione dell'SMPQ Individuazione del gruppo di lavoro interno (EMPQ) per lo svolgimento delle attività di Monitoraggio e Valutazione Valuta i risultati conseguiti dal Concessionario rispetto a quanto dichiarato in Offerta Tecnica Valuta i risultati conseguiti dall'SMPQ rispetto a quanto stabilito in sede contrattuale (cfr Piano delle Attività) Valuta i risultati conseguiti dall'EMPQ rispetto a quanto stabilito dal Piano delle Attività SMPQ 1) Relazioni di performance semestrali/annuale; 2) Sistema Informativo dell'OCM Relazione Consolidata Annuale (sezione dedicata) - - SMPQ SMPQ 1) Relazioni di performance semestrali/annuale; 2) Sistema Informativo dell'OCM Relazione Consolidata Annuale (sezione dedicata) - - Tutti (documento di libera consultazione) SMPQ - - Documenti di gara - SMPQ EMPQ - - Conferimento di incarichi - EMPQ Concessionario - - Delibera di attribuzione premi e sanzioni - Concessionario SMPQ - - Raccomandazioni/Delibera di attribuzione sanzioni - SMPQ EMPQ - - Raccomandazioni - EMPQ 73 Concessionario Pianificazione Concessionario Pianificazione Concessionario Monitoraggio Concessionario Valutazione Concessionario I livelli qualiquantitativi di erogazione dei servizi Progettazione e implementazione del Sistema Informativo (SI) Alimentazione del Sistema Informativo Analisi dei dati raccolti nel Sistema Informativo Rendersi disponibile a collaborare con l'SMPQ/OCM Pianificazione delle Attività di Monitoraggio e Valutazione SMPQ/EMPQ Pianificazione SMPQ/EMPQ Verifica e controllo Verifica e certifica l'attendibilità del Sistema informativo del Concessionario Monitoraggio Attività di rilevazione dei dati di propria pertinenza SMPQ/EMPQ - - - Offerta Tecnica - Stazione Appaltante - - Sistema Informativo - - SMPQ/OCM/DG VAL - - Sistema Informativo - - Concessionario/SMPQ - - Rapporto di gestione semestrale/annuale - - SMPQ - - - - Attività di collaborazione SMPQ/OCM - - Piano delle Attività - - Stazione Appaltante/OCM Sistema Informativo Relazione sull'attendibilità del Sistema Informativo del Concessionario - - OCM/Concessionario - Relazione performance semestrale/annuale (sezione dedicata) - - OCM/Stazioni Appaltanti/Concessionario Concessionario Concessionario 74 SMPQ/EMPQ Verifica e controllo Verifica e certifica l'attendibilità delle informazioni raccolte nel Sistema informativo del Concessionario SMPQ/EMPQ Valutazione I livelli qualiquantitativi di erogazione dei servizi Concessionario Sistema Informativo Rapporto di gestione Relazione performance semestrale/annuale (sezione dedicata) - - OCM/Stazioni Appaltanti/Concessionario Concessionario Sistema Informativo Rilevazioni dirette Relazione performance semestrale/annuale (sezione dedicata) - - OCM/Stazioni Appaltanti/Concessionario 75 3.4 L’OCM nel sistema di monitoraggio e valutazione nazionale Obiettivo di questa sezione è quello di far emergere come la costruzione del sistema di Monitoraggio e Valutazione dei servizi aggiuntivi si instauri coerentemente nel un quadro nazionale di Monitoraggio e Valutazione che è andato costruendosi, a seguito della legge Brunetta del 2009. A tale scopo sarà prima illustrata la normativa quadro che ha costituito la base per la costruzione del sistema di monitoraggio e valutazione Nazionale; successivamente si procederà inserendo l’OCM nel quadro delineato dalle recenti delibere CIVIT; infine, si calerà l’OCM nella realtà strutturata del Monitoraggio e Valutazione interna al MiBAC. 3.4.1 La politica di Monitoraggio e Valutazione Nazionale La costruzione del Sistema di Monitoraggio e Valutazione dei servizi aggiuntivi nei luoghi della cultura statali si innesta in un filone di sviluppo di queste tematiche all’interno della Pubblica Amministrazione e della crescita di sensibilità verso i temi della valutazione delle performance da parte di tutti gli attori coinvolti, sia pubblici che privati. Tali esigenze della PA nascono dal decreto Brunetta (d.lgs. 150/2009) che nel 2009 stabilisce alcune direttive in “materia di ottimizzazione della produttività del lavoro pubblico e di efficienza e trasparenza delle pubbliche amministrazioni”. Tra i principi generali espressi nel titolo II “MISURAZIONE, VALUTAZIONE E TRASPARENZA DELLA PERFORMANCE” – art. 3 comma 1 – la normativa afferma che “La misurazione e la valutazione della performance sono volte al miglioramento della qualità dei servizi offerti dalle amministrazioni pubbliche”; al comma 2 si sancisce che “ogni amministrazione pubblica è tenuta a misurare ed a valutare la performance”; al comma 3 si stabilisce, inoltre, che “le amministrazioni pubbliche adottano modalità e strumenti di comunicazione che garantiscono la massima trasparenza delle informazioni concernenti le misurazioni e le valutazioni della performance”. Al fine di “coordinare e sovrintendere all’esercizio indipendente delle funzioni di valutazione, di garantire la trasparenza dei sistemi di valutazione, di assicurare la comparabilità e la visibilità degli indici di andamento gestionale” all’art. 13 si stabilisce l’istituzione della “Commissione per la valutazione, la trasparenza e l’integrità delle amministrazioni pubbliche”, la CIVIT. La CIVIT ha il compito di indirizzare e coordinare gli Organismi indipendenti e le altre Agenzie di valutazione, di cui all’articolo 14. Tale articolo dispone, infatti, che “ogni amministrazione, singolarmente o in forma associata si dota di un Organismo indipendente di valutazione della performance”. Alla luce della normativa brevemente illustrata ogni Pubblica Amministrazione, tra cui il MiBAC, ha assorbito i principi e dato seguito alle indicazioni in essa contenute istituendo in seno alla propria struttura organismi indipendenti e uffici di monitoraggio e valutazione delle performance. 3.4.2 L’OCM nell’ottica delle recenti delibere CIVIT La CIVIT nasce con il decreto Brunetta e ha il compito di dettare le linee guida e modelli per la attuazione di interventi di monitoraggio e valutazione realizzati da ogni singola amministrazione; verificare la loro corretta attuazione da parte delle amministrazioni; fornire supporto tecnico e metodologico all’attuazione delle varie fasi del ciclo di gestione della performance. A tale scopo nel 2012, la CIVIT, ha emanato tre importanti delibere di indirizzo che risultano strettamente collegate data l’interdipendenza creata dal decreto stesso tra i concetti di trasparenza, performance e qualità per il 76 miglioramento continuo dei servizi offerti dalle pubbliche amministrazioni. Per ognuna delle delibere si illustrano di seguito i principali dettami di interesse per il sistema di monitoraggio delineato nel presente elaborato. La Delibera n. 1/2012 - “Linee guida relative al miglioramento dei Sistemi di misurazione e valutazione della performance e dei Piani della performance” – ha lo scopo di fornire, anche alla luce dell’analisi dei risultati raggiunti dai Sistemi e dai Piani concretamente adottati dalle amministrazioni, ulteriori indicazioni per un “miglioramento dell’attuazione dei principi e degli strumenti previsti”. Nello specifico di particolare interesse rispetto al sistema di Monitoraggio e Valutazione dei servizi aggiuntivi nei luoghi della cultura sono le disposizioni in merito al miglioramento del Sistema di valutazione della performance – “Miglioramento della misurazione e valutazione della performance organizzativa”. Rispetto a tali disposizioni l’OCM risulta adottare una struttura e una metodologia in coerenza con quanto prescritto in merito alla misurazione della performance. Ad esempio, infatti, rispetto ai Modelli di misurazione e strumenti di rilevazione l’OCM rispetta le disposizioni sull’adozione di modelli di misurazione multidimensionali; o in merito alla Misurazione dell'ambito relativo alla soddisfazione degli utenti il sistema qui delineato è in linea con la previsione di modalità interattive per la rilevazione del grado di soddisfazione dei destinatari (customer satisfaction) delle attività e dei servizi. La Delibera n. 2/2012 – “Linee guida per il miglioramento della predisposizione e dell’aggiornamento del Programma triennale per la trasparenza e l’integrità” – è dedicata a fornire ulteriori indicazioni in merito al processo di promozione della trasparenza, legalità e integrità nelle pubbliche amministrazioni, in linea con quanto previsto dal decreto Brunetta. Tali ulteriori disposizioni nascono, oltre che da esigenze emerse nel primo periodo di implementazione del sistema, anche dall’analisi dei Programmi triennali adottati dalle amministrazioni. L’elemento della trasparenza, secondo quanto espressamente indicato nella delibera, deve essere inteso come “strumento per favorire la partecipazione dei cittadini all’attività delle pubbliche amministrazioni ed è funzionale a tre scopi: a) sottoporre al controllo diffuso ogni fase del ciclo di gestione della performance per consentirne il miglioramento; b) assicurare la conoscenza, da parte dei cittadini, dei servizi resi dalle amministrazioni, delle loro caratteristiche quantitative e qualitative nonché delle loro modalità di erogazione; c) prevenire fenomeni corruttivi e promuovere l’integrità”. In particolare l’attività dell’OCM si pone in linea con il primo punto di questa definizione essendo l’organismo centrale di monitoraggio sulla qualità dei servizi aggiuntivi nei luoghi della cultura statali. La delibera 2/2012 prescrive, infatti, in merito alle attività più strettamente collegate con l’OCM, “un ampio ed effettivo coinvolgimento degli stakeholder interni ed esterni nel processo di elaborazione del Programma”; la “descrizione dettagliata della elaborazione ed attuazione delle iniziative volte a favorire la cultura dell’integrità”; l’”implementazione e attuazione dei sistemi di monitoraggio sull’attuazione dei Programmi”. Le indicazioni fornite dalla CIVIT in questa sede brevemente accennate rappresentano linee guida con le quali l’OCM lavorerà in assoluta coerenza. Infine la delibera 3/2012 – “Linee guida per il miglioramento degli strumenti per la qualità dei servizi pubblici” – rappresenta un approfondimento in materia di standard di qualità dei servizi resi al cittadino dalle pubbliche amministrazioni. Tali approfondimenti nascono in risposta alla ricognizione delle principali problematiche emerse dall’analisi dei documenti realizzata dalla CIVIT nel 2011 sulla definizione degli standard di qualità da parte delle amministrazioni. Nello specifico la delibera fornisce 77 “specificazioni relative alle dimensioni della qualità, nonché alle modalità di definizione degli indicatori e dei valori standard”. I principali dettami della delibera, in linea con il Sistema di Monitoraggio e Valutazione in costruito in questa sede, riguardano “una maggiore attenzione al processo di definizione e gestione degli standard di qualità dei servizi, con particolare riferimento, tra l’altro, ai soggetti coinvolti”; “individuazione di dimensioni aggiuntive della qualità in relazione alle specificità dei servizi erogati”; “riferimenti più espliciti al collegamento fra standard di qualità e ciclo di gestione della performance”; “previsione di maggiori informazioni relativamente alle modalità di coinvolgimento degli stakeholder e alla conduzione di indagini sulla soddisfazione degli utenti”. Anche in merito a queste dimensioni l’OCM risulta assolutamente in linea con la visione adottata dal Sistema nazionale e le indicazioni dettate dalla CIVIT. Al fine di riassumere il quadro delineato e verificare il posizionamento delle attività dell’OCM e del sistema di monitoraggio nel suo complesso, rispetto a quanto previsto dalle delibere CIVIT si presenta di seguito una tabella di sintesi che prevede in verticale i principi nazionali in merito a performance, trasparenza e qualità ricavati dalle delibere CIVIT mentre in orizzontale sono rappresentate le attività dell’OCM e del Sistema. Tabella 10. Relazione tra delibere CIVIT e attività Sistema di Monitoraggio e OCM Sistema di Monitoraggio e Valutazione dei servizi aggiuntivi nei luoghi della cultura statali documenti documenti/strumenti Relazione sull’attendibilità del Sistema di Rilevazione e Controllo Rapporto di gestione (semestrale e annuale) Relazione di performance (semestrale e annuale) performance trasparenza SMPQ qualità x Conc. x x SMPQ x x x DG VAL x x Relazione di Audit OCM x x Relazione consolidata annuale OCM x x x Staz. App. x x Relazione di Audit di secondo livello Allegati 4A, 4B e 4C al contratto di concessione Sistema Informativo del Concessionario strumenti Sogg. Responsabile Principi CIVIT Conc. x Sistema informativo Centrale OCM x Questionario online SMPQ x Questionario front SMPQ x Focus Group SMPQ x x Interviste SMPQ x x Sopralluoghi e ispezioni SMPQ x Verifiche a Campione OCM x x SMPQ/OCM x x DG VAL x Mistery shopping Verifiche a Campione (II livello) Premi e sanzioni Staz. App. x x x 78 3.4.3 L’OCM e il potenziale rapporto con l’UVAL Nella rappresentazione del quadro istituzionale nazionale sul tema del Monitoraggio e della Valutazione il soggetto OCM può risultare un elemento strumentale rispetto all’attività dell’UVAL (Unità di valutazione degli investimenti pubblici). L’Unità di valutazione degli investimenti pubblici, opera nel Dipartimento per lo sviluppo e la coesione economica, e “concorre al miglioramento della qualità e dell'efficacia degli investimenti pubblici, al conseguimento degli obiettivi della politica regionale, attraverso diverse attività”, tra le quali: valutazione di politiche, programmi e progetti di sviluppo; produzione e diffusione di metodi e pratiche di valutazione, strumenti di analisi e basi informative. Tale Unità fornisce inoltre “supporto tecnico nelle fasi ex ante, in itinere ed ex post di programmazione – valutazione – attuazione di piani, progetti, programmi, politiche d'intervento” ai soggetti che lo richiedono. L’attività di studio e analisi realizzata dell’UVAL richiede pertanto una importante e affidabile fonte di informazioni che potrebbe, per specifici ambiti di competenza, essere rappresentata dall’OCM. L’Organismo grazie alla grande quantità di informazioni quali-quantitave previste dal sistema è infatti, una volta entrato a regime, essere in grado di fornire, grazie al sistema informativo nazionale che sarà costruito, informazioni puntuali sulle performance dei luoghi della cultura statali avviate al monitoraggio. Oltre a raccogliere informazioni in merito all’attività svolta dal Concessionario le informazioni sono infatti anche dedicate a rilevare, in parte minore, alcune informazioni anche sulla struttura che il concessionario ha in gestione. Inoltre, grazie alle differenti informazioni economico-gestionali richieste al soggetto che riceve il bene in concessione, l’UVAL potrebbe avere tutti gli strumenti per supportare il Ministero, o chi per esso, nella stesura di studi fattibilità di eventuali investimenti nelle strutture, o in generale nel comparto, dei luoghi della cultura e dei servizi aggiuntivi, oggetto di valutazione dell’OCM. 3.5 OCM nel sistema della performance MiBAC 3.5.1 L’OCM nel quadro delle priorità della DG Valorizzazione L’elaborazione del presente sistema di Monitoraggio è stata commissionata dalla DG Valorizzazione del MiBAC. La DG Val ha il compito istituzionale di promuovere la conoscenza, la fruizione pubblica e la valorizzazione del patrimonio culturale con riguardo a tutti gli istituti e luoghi della cultura di pertinenza dello Stato o costituiti dallo Stato. In particolare, la DG ha competenze trasversali rispetto a tutte le altre Direzioni Generali, al Segretariato Generale e rispetto a tutti gli Istituti territoriali. Inoltre essa gode di competenze specifiche per quanto riguarda i temi del “monitoraggio della qualità dei servizi nei luoghi della cultura statali”, come dichiarato nel documento Sintesi descrittiva dei centri di responsabilità - Piano della performance 2012-2014. La realizzazione del Sistema di Monitoraggio qui proposta, e la relativa messa in funzione dell’OCM, si inseriscono non solo nelle competenza dirette della DG Val ma rispondo pienamente anche a priorità ed obiettivi enunciati nel Piano delle Performance 2012-2014 del MiBAC. La DG Valorizzazione, in quanto Centro di Responsabilità Amministrativa, è soggetta alla rappresentazione del suo Albero della Performance (fig. 13) che illustra le priorità politiche, gli obiettivi strategici e operativi che ogni CRA presidia. 79 Figura 13. Albero della Performance della DG Valorizzazione - CRA 13 Il Sistema di Monitoraggio dei servizi aggiuntivi e l’OCM, rientrano in assoluta coerenza nella “Priorità Politica 3” che prescrive di “Migliorare l'efficienza e l'efficacia complessiva dell'attività istituzionale: razionalizzare l'attività gestionale e le istruttorie operative”. Tale priorità politica, come sopra illustrato, si declina attraverso l’“Obiettivo Strategico 75” che prescrive il “Miglioramento della qualità dei servizi e della trasparenza ed integrità dell'azione amministrativa”. 3.5.2 L’OCM nel quadro de gli organismi di monitoraggio e valutazione delle performance interni al Ministero Risulta utile inoltre illustrare come l’OCM e le sue attività possano risultare, oltre che importati per la supervisione ed il miglioramento dell’offerta dei servizi aggiuntivi, anche funzionali ad organismi e uffici già esistenti in seno al Ministero. Nello specifico si intende illustrare le relazioni funzionali che potrebbero innestarsi tra OCM e OIV MiBAC, da un lato, e OCM e Ufficio Studi MiBAC dall’altro. In merito alla prima relazione funzionale proposta, secondo quanto prescritto dal decreto Brunetta, nel 2010, è stato istituito l’Organismo Indipendente di Valutazione (OIV) del MiBAC che, come illustrato dalla stessa normativa ha il compito di: monitorare il funzionamento complessivo del sistema della valutazione, della trasparenza e integrità dei controlli interni ed elabora una relazione annuale sullo stato dello stesso; comunicare tempestivamente le criticità riscontrate ai competenti organi interni di governo ed amministrazione, nonché alla Corte dei conti, all'Ispettorato per la funzione pubblica e alla Commissione per la valutazione, la trasparenza e l'integrità delle amministrazioni pubbliche (CIVIT); validare la Relazione sulla performance e ne assicura la visibilità attraverso la pubblicazione sul sito istituzionale dell'amministrazione; 80 garantire la correttezza dei processi di misurazione e valutazione, nonché dell'utilizzo dei premi, secondo quanto previsto dal Decreto Lgs. 150/09, dai contratti collettivi nazionali, dai contratti integrativi, dai regolamenti interni all'amministrazione, nel rispetto del principio di valorizzazione del merito e della professionalità; proporre, sulla base del Sistema di misurazione e valutazione della performance, all'organo di indirizzo politico-amministrativo, la valutazione annuale dei dirigenti di vertice e l'attribuzione ad essi dei premi; è responsabile della corretta applicazione delle linee guida, delle metodologie e degli strumenti predisposti dalla CIVIT; promuovere e attesta l'assolvimento degli obblighi relativi alla trasparenza e all'integrità; verificare i risultati e le buone pratiche di promozione delle pari opportunità. Rispetto a tali funzioni l’OCM, in quanto centro di raccolta e valutazione dei dati e delle informazioni sul sistema dei servizi aggiuntivi nei luoghi della cultura statali, può risultare un importante strumento per la rilevazione delle informazioni per la valutazione delle performance in tale ambito: ciò sia rispetto alla valutazione della performance organizzativa che a quella del personale. La messa a sistema delle informazioni detenute dall’OCM potrebbe dunque risultare un prezioso elemento di condivisione delle informazioni e potrebbe creare un circolo virtuoso per il presidio di questo ambito di attività del Ministero. La potenziale sinergia che potrebbe nascere risulterebbe estremamente funzionale all’ottimizzazione delle risorse e alla divisione delle competenze, temi entrambi cari all’odierno dibattito sulla Pubblica Amministrazione. Per quanto concerne invece la seconda relazione, grazie alla prospettiva di costruire un sistema informativo nazionale per la raccolta dati circa i risultati delle concessioni nei luoghi della cultura statali, tali informazioni possono costituire preziosa linfa informativa per l’Ufficio Studi del MiBAC. L’Ufficio, istituito nel ’75, ha oggi il compito di svolgere attività di ricerca “su aspetti storico-istituzionali, giuridici, organizzativi, economici e sociali connessi con le attività di tutela e valorizzazione dei beni culturali e con la promozione della cultura”. Le informazioni raccolte e monitorate dall’OCM possono quindi risultare strumentali all’attività di presidio e conoscenza del sistema delle performance dei luoghi della cultura che oggi viene svolto, seppur non sistematicamente, dall’Ufficio Studi. La costruzione di un flusso informativo strutturato, che partendo dall’OCM raggiunga l’Ufficio Studi, può rappresentare quindi un ulteriore elemento di crescita per il sistema delle conoscenze interne al Ministero attuato per il tramite di strutture (come l’OCM) trasversali ad una pluralità di soggetti e funzioni (vedi figura seguente). Figura 14. Flussi informativi tra OCM-OIV e OCM-Ufficio Studi 81 4. LINEE GUIDA DEL SISTEMA DI MONITORAGGIO E VALUTAZIONE 4.1 Premessa Il Sistema di M&V si basa su un complesso insieme di metodologie e strumenti per la pianificazione, la rilevazione, la verifica e la valutazione dei dati (e delle informazioni) che l’attività di produzione, erogazione e consumo – intesa sia sotto il profilo quantitativo (ad es. il numero di fruitori), sia qualitativo (ad es. la tipologia di fruitori, le esternalità prodotte dal consumo) – di servizi dati in concessione nei luoghi della cultura statali è in grado di generare. Tali informazioni per loro natura coprono ambiti diversi (Input, Processo, Output, Modalità, Utenti, Effetti Diretti, Effetti Indiretti21) e pertanto richiedono l’impiego di strumenti e metodologie di osservazione, rilevazione, verifica e valutazione differenziate in capo a diversi soggetti facenti parte del Sistema. Inoltre, accanto a tali strumenti e metodologie, i soggetti coinvolti nel Sistema sono tenuti a produrre periodicamente una serie di documenti che hanno strutture, finalità, ambiti di osservazione diversi a seconda del soggetto che lo realizza e della fase del Sistema (cfr § 1.2.3) in cui esso si colloca. Alla luce di ciò, onde consentire ai vari soggetti coinvolti nelle attività del Sistema di portare a termine le attività di loro responsabilità, in questa sezione verranno fornite le linee guida per: l’implementazione degli strumenti e metodologie per la rilevazione e la verifica di dati e informazioni (§ 4.2); la predisposizione dei documenti previsti per ciascun soggetto nel quadro del funzionamento del Sistema di Monitoraggio e Valutazione qui predisposto (§ 4.3). Di seguito si propone una matrice sintetica dove per ciascuna fase e ciascun soggetto del Sistema vengono riportati i documenti di pertinenza e, laddove esiste, il collegamento tra i documenti e le metodologie/strumenti previsti. 21 Per un richiamo sulle differenze tra i vari ambiti si veda il § 1.2.2 82 Tabella 11 - Quadro sinottico fasi/soggetti/documenti/strumenti e metodologie Area funzionale di appartenenza Soggetto Responsabile Documento da produrre Finalità Strumenti e metodologie di riferimento Frequenza di redazione Date entro cui i documenti vanno presentati Pianificazione SMPQ/EMPQ Piano delle attività Pianificare le attività, le modalità e gli strumenti di rilevazione dei dati Questionari online/front, Focus Group, Interviste, Sopralluoghi e ispezioni, Mystery shopping Ad inizio attività Rilevazione Concessionario Rapporto di Gestione Raccoglie le informazioni di gestione rilevate dal Concessionario Sistema Informativo Aziendale Cadenza semestrale Entro il 28 febbraio e 31 agosto Verifica DG Valorizzazione Relazione di Audit di secondo livello Controllo di secondo livello (a campione) sulle SMPQ Verifiche a campione In caso di riscontrata irregolarità Entro 30 gg dall'accertamento Verifica OCM - Organismo Centrale di Monitoraggio Relazione di Audit Verifica (a campione) del Sistema Informativo del Concessionario - Cadenza annuale Entro il 30 aprile Verifica SMPQ/EMPQ Relazione sull'attendibilità del sistema di rilevazione e controllo Certifica l'attendibilità del Sistema Informativo del Concessionario - Una tantum Entro 30 gg dall'affidamento del servizio di monitoraggio e valutazione Valutazione OCM - Organismo Centrale di Monitoraggio Relazione Consolidata Annuale Analisi comparate dei dati e delle informazioni raccolte a livello nazionale - Cadenza annuale Entro il 30 giugno Valutazione SMPQ/EMPQ Relazione di Performance annuale - Cadenza annuale Entro il 31 marzo dell'anno successivo Valutazione SMPQ/EMPQ Relazione di Performance semestrale - Cadenza semestrale Entro il 30 settembre dell'anno in corso Valuta i risultati del Concessionario nella gestione dei servizi al pubblico Evidenzia al Concessionario gli interventi correttivi necessari per un migliroamento della gestione al fine di evitare le penalità - 83 4.2 Metodologie per l’implementazione degli pianificazione, rilevazione, verifica e valutazione strumenti di 4.2.1 Premessa All’interno della tabella seguente si rappresenta in maniera sintetica l’insieme degli strumenti e delle metodologie di osservazione contemplati dal sistema – suddivisi per fase di utilizzo e per soggetto responsabile. Tabella 12 - Sintesi delle metodologie e degli strumenti Pianificazione Rilevazione Verifica di I livello Verifica di II livello Sistema informativo aziendale (Conc) Questionario online (SMPQ/EMPQ) Protocollo per la realizzazione di sopralluoghi e ispezioni (SMPQ/EMPQ) Protocollo per realizzazione di verifiche a Campione (DG) - Questionario front (SMPQ/EMPQ) Protocollo per realizzazione di verifiche a Campione (OCM) - - Obiettivi e criteri per lo svolgimento dei Focus Group (SMPQ/EMPQ) Protocollo di comportamento per il Mistery shopping (SMPQ/EMPQ-OCM) - - Obiettivi e criteri per lo svolgimento delle Interviste (SMPQ/EMPQ) - - Metodologie e strumenti Fonte: ns elaborazione Osservando la matrice sintetica sopra proposta si noti come gli strumenti di verifica siano distribuiti su due diversi livelli. Il primo livello di verifica è quello effettuato dagli enti preposti (SMPQ/EMPQ, OCM) direttamente sui dati e/o sulle attività svolte dal Concessionario; il secondo livello è quello effettuato prevalentemente dalla DG Valorizzazione sui dati e/o sulle attività di Monitoraggio svolte dalle Amministrazioni concedenti e/o dalle SMPQ/EMPQ. L’obiettivo della presente sezione di studio è quello di definire, per ciascuno dei suddetti strumenti e metodologie, un protocollo di indirizzo – che stabilisca gli oggetti, gli approcci, le fasi, i tempi di realizzazione e le modalità di trasmissione delle informazioni – per la loro implementazione operativa. Prima di definire tali linee guida preme illustrare sinteticamente (vedi tab. 13), per ciascuno dei soggetti responsabili (Concessionario, Organismo Centrale di Monitoraggio, Società di Monitoraggio della Performance e della Qualità), gli ambiti (e i sotto ambiti) osservati da ciascuno strumento considerato22. Per il dettaglio degli ambiti e degli indicatori specifici per ogni tipologia di servizio contemplati dal Sistema di monitoraggio e valutazione si rimanda all’allegato 1 presente nella sezione allegati (Capitolo 6) del presente rapporto 22 84 Tabella 13 – Quadro sinottico ambiti/strumenti/soggetti Questionario front Focus Group Interviste Sopralluoghi e ispezioni Verifiche a Campione Mistery shopping Verifiche a Campione Processo Output Modalità Verifica di II livello Verifica di I livello Conc. SMPQ SMPQ SMPQ SMPQ SMPQ OCM SMPQ/OCM DG VAL Personale X - - - - X X - X Costi X - - - - X X - X Materiali X - - - - X X - X Spazi X - - - - X X - X Tecnologie X - - - - X X - X Aggiornamento Professionale X - - - - X X - X Innovazione Tecnologica X - - - - X X - X Manutenzione X - - - - X X - X Ambiti specifici di ciascun servizio (es. Ore e giorni di servizio, Ore di disponibilità del servizio, Numero di laboratori, Numero di visite guidate, Numero di prodotti in offerta, Numero di pubblicazioni ecc.) X - - - - X X - X Fatturato X - - - - X X - X Tempestività X X X - - X X X X Personale - X X - - X X X X X X X Sotto Ambiti Soggetti Input Rilevazione Questionario online Ambiti Pianificazione Sistema Informativo del Concessionario Livello di osservazione Lingue X X X - - X Ambiti specifici (ad es. semplicità di utilizzo di apparati informativi, affollamento degli spazi, funzionamento degli apparati, pulizia, chiarezza, contenuti didattici/informativi, prezzo, durata, qualità dei cibi, prestigio ecc.) X X X - - X X X X Modalità di pagamento X X X - - X X X X Numero X - - - - X X - X Profilo - X X - - - - - X Fidelizzazione - - X X X - - X X Mediazione - - X X X - - X X Accesso - - X X X - - X X Effetti sul museo - - - X X - - - X Utenti Effetti Diretti Effetti Indiretti 85 Effetti sul contesto - - - X X - - - X Fonte: ns elaborazione Alla luce del quadro sinottico appena presentato nelle pagine seguenti verranno predisposte le linee guida metodologico-operative per l’implementazione degli strumenti considerati. 86 4.2.2 Sistema informativo aziendale 4.2.2.1 LO STRUMENTO Il sistema informativo si configura come un insieme di elementi che elaborano, scambiano ed archiviano dati con lo scopo di produrre e distribuire informazioni alle persone che lavorano nei vari livelli della struttura aziendale. Esso è composto dai seguenti elementi: un patrimonio di dati; un insieme di procedure per l’acquisizione ed il trattamento di dati e la produzione di informazioni; un insieme di persone che sovrintendono a tali procedure; un insieme di mezzi e strumenti necessari al trasferimento, archiviazione di dati e di informazioni; un insieme di principi generali, di valori e di idee di fondo che caratterizzano il sistema e ne determinano il comportamento. In altre parole il sistema informativo è un sistema di trasformazione, perché trasforma i dati (input di fattori) in esso inseriti, in informazioni (output informativo), che rappresentano il prodotto finale del sistema stesso. Le finalità che esso soddisfa possono essere molteplici. In linea di massima si può dire che esso viene implementato: per supportare le attività operative (semplificando il lavoro impiegatizio); per produrre informazioni di routine per il controllo e la programmazione delle attività aziendali (sistema di reporting direzionale); per supportare le decisioni che non riguardano attività di routine (funzione di supporto ai decision makers). Il patrimonio dei dati può essere organizzato con tecniche semplici o elementari, nel qual caso si parla di archivi o files, oppure, attraverso tecniche più complesse, ed in tal caso si parla di database. La progettazione di un database, ha l’obiettivo di raccogliere dati tra loro correlati, organizzati e codificati in modo da poterli aggiornare e renderli immediatamente disponibili. 4.2.2.2 AMBITI DI OSSERVAZIONE Come mostrato in tabella 13, le informazioni che devono essere monitorate dal sistema informativo aziendale del Concessionario – i quali costituiscono parte integrante dei contratti sottoscritti tra Concessionario e Amministrazione concedente a seguito dell’aggiudicazione delle gare per l’affidamento dei servizi – riguardano espressamente gli ambiti relativi a Input, Processo, Output, Modalità e Utenti23, da cui discendono specifici indicatori24. Per un dettaglio degli ambiti e degli indicatori puntuali si vedano rispettivamente gli allegati 1, 2, 3 nella sezione Allegati della presente relazione 24 Si tratta di variabili quantitative o parametri qualitativi che registrano un certo fenomeno, ritenuto appunto “indicativo” di un fattore di qualità 23 87 All’interno della sezione Input, il Concessionario è tenuto a monitorare e rendicontare l’insieme dei fattori produttivi che esso stesso impiega per la realizzazione dei servizi nei diversi siti in cui sono attivi25. I fattori produttivi sopra citati fanno riferimento a: il personale impiegato i costi di produzione generali del servizio i materiali impiegati per la realizzazione del servizio gli spazi a disposizione per la realizzazione del servizio le tecnologie utilizzate. La sezione Processo contiene informazioni riguardanti le dimensioni che intervengono sui fattori produttivi (input) permettendo loro di produrre degli output di servizio. Tali dimensioni riguardano i processi di miglioramento che intervengono sulle risorse umane (aggiornamento professionale, formazione generale e specifica, etc…) al fine di ridurre i costi o migliorare i livelli di servizio, in termini di quantità e/o qualità del servizio, oppure i processi di miglioramento che intervengono sui mezzi tecnologici (update dei sw, sostituzione hw, etc…) al fine di ridurre i costi o migliorare i livelli di servizio, in termini di quantità e/o qualità del servizio. Pertanto si può dire che i processi sopra richiamati fanno riferimento a: l’aggiornamento professionale dei soggetti chiamati a realizzare il servizio; l’innovazione tecnologica che interviene nella realizzazione del servizio; la manutenzione che viene effettuata sui mezzi tecnologici e gli strumenti utilizzati per la realizzazione del servizio. La sezione Output attiene alla “quantità” di servizio erogato per ciascuno dei servizi osservati – ad es. l’ammontare di ore e/o giorni di servizio, la quantità di materiali prodotti, di servizi occasionali erogati, la varietà dell’offerta (come ad es. la gamma dei prodotti offerti nei negozi museali), indicazioni specifiche relative ai peculiari output delle attività (come nel caso dei piani di marketing per l’attività di marketing e pianificazione), l’ammontare del fatturato prodotto. La sezione Modalità riguarda tutte le informazioni che qualificano l’erogazione di un servizio sotto i seguenti profili: varietà delle lingue straniere utilizzate dal personale e adoperate nel materiale informativo e promozionale; ambiti specifici (es. le lingue garantite dal personale di servizio, i prezzi dichiarati, la durata del servizio ecc.); modalità di pagamento. La sezione Utenti riguarda il numero di utenti che fruiscono del servizio (distinti per fascia e tipologia di pubblico). 4.2.2.3 MODALITÀ DI RILEVAZIONE DELLE INFORMAZIONI In considerazione del fatto che l’affidamento dei servizi avviene sempre più frequentemente secondo un’ottica integrata (integrazione orizzontale tra più siti, integrazione verticale tra più servizi)26, il Concessionario aggiudicatario dei servizi sarà tenuto a rilevare le informazioni precedentemente illustrate con riferimento ad ogni sito e servizio oggetto dell’affidamento. Ciò vuol dire che il Concessionario, per ciascun sito e ciascun servizio in gestione, è tenuto a monitorare gli ambiti di pertinenza 26 A tal proposito si veda la Circolare n. 49/2009 del MiBAC e le successive integrazioni (giugno 2010) 25 88 Ciò vuol dire che relativamente a ciascun indicatore, le informazioni dovranno essere rilevate e rappresentate in maniera tale da rendere possibile sia analisi e valutazioni di carattere puntuale (sul singolo servizio, nel singolo sito preso in considerazione, in un dato arco temporale della rilevazione) sia analisi e valutazioni di carattere aggregato (per il servizio reso all’interno delle diverse sedi in cui è attivo, per tutti i servizi attivi presso un determinato sito, per tutti i servizi attivi presso tutti i siti in gestione). Tale necessità implica che moltiplicando gli ambiti di osservazione considerati per il numero di servizi attivi e per il numero di sedi oggetto dell’affidamento, la quantità di dati che il Concessionario dovrà osservare e rendicontare può assumere proporzioni considerevoli. Onde facilitare l’attività di rilevazione, analisi, trattamento e trasmissione delle suddette informazioni, il concessionario è tenuto alla realizzazione di uno strumento informatico (database) il quale dovrà essere conforme alle finalità della rilevazione (coprire tutti i campi informativi)27 e dunque rispettare gli indicatori individuati nell’allegato 4B del contratto di concessione tra la stazione appaltante e il Concessionario (la matrice di questo documento è qui riproposta nell’ambito dell’Allegato 3). Per facilitare la strutturazione del Sistema informativo in oggetto, si forniscono di seguito alcune indicazioni utili, frutto delle riflessioni sin qui realizzate anche nell’ottica di agevolare il lavoro dei soggetti – nella fattispecie il Concessionario – chiamati a svolgere ruoli di responsabilità all’interno del Sistema di monitoraggio e valutazione che si sta definendo. I suggerimenti che si propongono sono: a) di strutturare il database in modo definitivo in modo da proteggerlo dal rischio di modifiche casuali nel corso degli inserimenti progressivi e, soprattutto, in modo da consentire confronti progressivi nel corso dei diversi momenti di rilevazione e trattamento; b) di alimentarlo periodicamente in funzione delle diverse tipologie di informazioni rilevate. Talune informazioni hanno la possibilità di essere aggiornate quotidianamente; altre invece presuppongono aggiornamenti meno frequenti. Laddove necessario, il criterio per la costruzione del database potrebbe rispecchiare quello della tempistica degli aggiornamenti; c) di ispirarsi ai criteri riportati nelle seguenti tabelle 14, 15, 16, 17 e 18 per la rappresentazione sintetica di talune delle informazioni richieste al Concessionario (vedi Allegato 2 e 3), in particolare quelle riguardanti gli ambiti definiti come INPUT e PROCESSO di ciascuno dei servizi oggetto di valutazione. In particolare la tabella 14 permette al Concessionario di descrivere in maniera puntuale, per ciascun sito oggetto di affidamento, se nel periodo cui si riferisce la rilevazione i servizi oggetto di rilevazione erano attivi (o meno) in maniera continuativa oppure stagionale. La tabella 15 permette invece di conoscere se, nel periodo di rilevazione, lo spazio dedicato all’erogazione del servizio (Ambito INPUT) è uno spazio essenzialmente dedicato o condiviso con altri servizi. La tabella 16, invece, permette al Concessionario di rappresentare in maniera sintetica le informazioni inerenti il Personale (Ambito INPUT) indicando, per ciascuna unità contrattualizzata: 1. le caratteristiche generali dell’unità – inerenti il gender, l’età, il titolo di studio –; 2. le caratteristiche della tipologia di contratto stipulato – FT, PT, inquadramento contrattuale, La verifica sulla conformità e attendibilità del Sistema Informativo viene effettuata dalla Società di Monitoraggio delle Performance e della Qualità (SMPQ) e/o, a campione, dall’Organismo Centrale di Monitoraggio (OCM) 27 89 professionalità/ruolo, costo del personale –; 3. Le informazioni di dettaglio circa la distribuzione delle ore di lavoro effettuate sulle (eventuali) varie tipologie di servizio in cui può essere impiegato. La tabella 17, direttamente connessa alla precedente, fa riferimento a tutte quelle informazioni che nel c.d. ambito del PROCESSO sono direttamente riferibili al personale, e cioè le informazioni inerenti l’aggiornamento professionale cui esso è sottoposto durante il periodo di rilevazione. La tabella 18, invece, è destinata a raccogliere e sistematizzare informazioni riguardante i costi generali sostenuti dal Concessionario, cioè costi non direttamente imputabili ad un prodotto, ad un processo produttivo o a un servizio, e che quindi completano la rosa dei costi dei servizi imputabili ai singoli servizi. 90 Tabella 14 – Anagrafica Servizi Attivo SI/NO 1 Marketing, Pianificazione, Attività e Comunicazione 2 Accoglienza Informazione e Orientamento 3.1 Biglietteria 3.2 Controllo Accessi 3.3 Guardaroba 4 Prenotazione e Prevendita 5 Progettazione, Realizzazione e Noleggio Audioguide e Whisper 6 Visite Guidate 7 Progettazione, Organizzazione e Realizzazione Eventi e Mostre 8 E-commerce e gestione sito internet 9 Assistenza didattica e laboratori didattici 10, 11 SI, stagionale Se stagionale indicare il periodo N. ore annue di disponibilità del servizio Progettazione e Realizzazione Editoriale e Oggettistica 12 Vendita Prodotti Editoriali ed Oggettistica 13 Ristoro 91 Tabella 15 – Anagrafica Spazi dei Servizi (INPUT) Spazi Back Office 1 Marketing, Pianificazione, Attività e Comunicazione 2 Accoglienza Informazione e Orientamento 3.1 Biglietteria 3.2 Controllo Accessi 3.3 Guardaroba 4 Prenotazione e Prevendita 5 Progettazione, Realizzazione e Noleggio Audioguide e Whisper 6 Visite Guidate 7 Progettazione, Organizzazione e Realizzazione Eventi e Mostre 8 E-commerce e gestione sito internet 9 Assistenza didattica e laboratori didattici 10, 11 Progettazione e Realizzazione Editoriale e Oggettistica 12 Vendita Prodotti Editoriali ed Oggettistica Front Office Dedicato Front Office Condiviso Se condiviso, con quali servizi MQ complessivi 28 MQ per il pubblico MQ per servizi igienici MQ locali di servizio (spogliatoi, bagni, magazzino ecc) - - - - - - - - - - - - - - - - - - - - - - - - - - - - - - MQ locali di esposizione - - - - - - - - - - - - - Qualora il servizio oggetto di osservazione preveda l’utilizzo di uno spazio dedicato (ad es. il bookshop), nella cella corrispondente deve essere indicata l’ampiezza, espressa in metri quadri, del locale che ospita il servizio. Qualora il servizio oggetto di rilevazione condivida lo spazio con altri servizi (così come dovrà essere indicato nella colonna apposita) l’ampiezza, espressa in metri quadri, del locale che ospita i vari servizi va indicata in corrispondenza di uno soltanto dei servizi coinvolti. Ad esempio, se nel locale sono ospitati contemporaneamente il servizio di Accoglienza Informazione e Orientamento, di Biglietteria, Controllo Accessi e di Noleggio Audioguide e Whisper, le dimensioni del locale saranno indicate soltanto in corrispondenza di uno dei tre servizi 28 92 13 Ristoro - Tabella 16 – Anagrafica del Personale (INPUT) 3.2 3.3 4 5 6 7 8 9 10, 11 12 13 Controllo Accessi Guardaroba Prenotazione e Prevendita Progettazione, Realizzazione e Noleggio Audioguide e Whisper Visite Guidate Progettazione, Organizzazione e Realizzazione Eventi e Mostre E-commerce e gestione sito internet Assistenza didattica e laboratori didattici Progettazione e Realizzazione Editoriale e Oggettistica Vendita Prodotti Editoriali ed Oggettistica Ristoro PT 3.1 FT Biglietteria F Costo Inquadramento Professionalità lordo contrattuale - Ruolo annuo 2 M Ore di lavoro previste da contratto Accoglienza Informazione e Orientamento Età Titolo di studio 1 Sito a. Numero di Ore dedicate al servizio29 Marketing, Pianificazione, Attività e Comunicazione Natura del rapporto di lavoro Sesso Unità 1 Unità 2 … … … … Unità Per numero di ore dedicate al servizio non si intendono le ore contrattualizzate con ciascuna unità di personale per lo svolgimento del servizio in oggetto. Piuttosto si intende il numero di ore che l’unità di personale in questione dedica a uno o più servizi in cui è impiegato. Ad esempio, supponendo che la medesima unità di personale sia impiegata 6 ho al giorno per lo svolgimento del servizio di Biglietteria, di Controllo Accessi e di Accoglienza Informazione e Orientamento in corrispondenza dell’unità e di ciascuno dei servizi in questione, il Concessionario sarà tenuto ad indicare il fattore tra le 6 ore giornaliere impiegate e il numero di giorni lavorativi a cui corrisponde la rilevazione. 29 93 Sito a. Numero di Ore di formazione generale erogate Ristoro Vendita Prodotti Editoriali ed Oggettistica Progettazione e Realizzazione Editoriale e Oggettistica Assistenza didattica e laboratori didattici E-commerce e gestione sito internet Progettazione, Organizzazione e Realizzazione Eventi e Mostre Visite Guidate Progettazione, Realizzazione e Noleggio Audioguide e Whisper Prenotazione e Prevendita Guardaroba Controllo Accessi Biglietteria Accoglienza Informazione e Orientamento Marketing, Pianificazione, Attività e Comunicazione n Tabella 17 – Aggiornamento professionale (PROCESSO) Numero di Ore di formazione specifica ricevute TOTALE Unità 1 Unità 2 … … … … Unità n 94 Tabella 18 - Costi generali Costi generali30 Servizi comuni Guardiania, pulizia, manutenzione impianti 30 Di amministrazione Cancelleria, spese postali, spese telefoniche, abbonamenti a riviste, canoni di locazione di spazi, Ammortamento di immobilizzazioni attinenti la funzione amministrativa, Costi del personale amministrativo, Commercialista, Consulente del lavoro, Gestione Qualità Si suggerisce di ripartire i costi generali in quota parte rispetto alle dimensioni di fatturato generato dal singolo museo. 95 Rispetto alle ulteriori necessità informative che il Concessionario sarà tenuto a soddisfare, egli potrà predisporre apposite sezioni del sistema informativo dove alloggiare i dati facendo attenzione che siano costruite in conformità a quanto dichiarato nell’allegato 4B delle procedure di gara per l’affidamento dei servizi (qui riproposto nella sezione Allegati, allegato 3). 4.2.2.4 PERIODICITÀ NELLA TR ASMISSIONE DELLE INFORMAZIONI E MODALITÀ Laddove la periodicità di rilevazione dei dati dipende dalla natura dell’indicatore da alimentare, la periodicità di trasmissione delle informazioni ricavate dall’attività di monitoraggio avviene con cadenza semestrale (da gennaio a giugno, da luglio a dicembre), entro il 28 febbraio e 31 agosto di ogni anno. I dati rilevati vengono trattati al fine di ricavare informazioni utili che vengono riproposte in forma sintetica, corredate da commenti e ulteriori apparati informativi all’interno di un documento che il Concessionario è tenuto a redigere e che prende il nome di “Rapporto di Gestione” (vedi § 4.3.4). In allegato al Rapporto di gestione il Concessionario è tenuto a trasmettere anche il database corrispondente al periodo di rilevazione oggetto del Rapporto di Gestione. Questa pratica dovrà essere mantenuta, salvo diverse disposizioni, fino al momento in cui non sarà stato realizzato il Sistema Informativo/co nazionale dell’OCM che si configurerà come una piattaforma standardizzata dunque uno strumento più idoneo ad imputare – mediante compilazione di form (maschere guidate) appositamente predisposti –, allocare i dati, le informazioni e le relazioni trasmesse dai vari soggetti del Sistema. 96 4.2.3 Questionario front (SMPQ/EMPQ) 4.2.3.1 LO STRUMENTO Il questionario rappresenta lo strumento tipico per rilevare le percezioni e i livelli di soddisfazione di un insieme di cittadini che hanno fruito di un dato servizio nell’ambito delle indagini con campioni rappresentativi della popolazione. Tale strumento permette di realizzare sia confronti diacronici che rilevano i cambiamenti nel tempo dei livelli di soddisfazione dei cittadini, sia confronti sincronici tra livelli di soddisfazione relativi a servizi simili. Box 5 – Focus on “il Campione” Per campione si intende quel gruppo di unità elementari, sottoinsieme particolare della popolazione, individuato in essa in modo da consentire, con un rischio definito di errore, la generalizzazione di risultati di analisi all'intera popolazione. Le conclusioni a cui si arriva possono, non "con certezza" ma con "una certa probabilità", attraverso procedimenti statistici di inferenza, essere attribuite all'intera popolazione. I principali vantaggi di un'analisi su dati campionari, che a prima vista potrebbe apparire limitata e non esaustiva, possono essere sintetizzati nei seguenti quattro punti: Costi ridotti. Se si osservano le manifestazioni di un fenomeno analizzando un sottoinsieme della popolazione i costi complessivi per l’acquisizione dei dati risultano, evidentemente, inferiori rispetto a quelli che si sosterrebbero se si effettuasse il censimento di tutte le unità della popolazione. Maggiore rapidità di acquisizione dati. I dati e le informazioni che si intendono raccogliere sono più rapidamente accessibili con rilevazioni parziali piuttosto che con quelle totali. La tempestività nel raccogliere i dati risulta di notevole rilevanza quando le informazioni e i risultati sono necessari nel più breve tempo possibile. Maggiore possibilità di azione. In alcune indagini, la raccolta dei dati, va affidata a gruppi di esperti, a persone altamente qualificate e specializzate che sono frequentemente di difficile reperibilità. In questi casi quindi, l’attuazione di un censimento risulta assolutamente impraticabile e pertanto l’indagine campionaria appare come l'unica via per ottenere le informazioni sul fenomeno che s'intende analizzare. Maggiore accuratezza. In conseguenza di quanto detto sopra si evidenzia che in talune situazioni l'analisi risulta più approfondita in presenza di una numerosità limitata. Il campione permette allora lo svolgimento dell’indagine in maniera più accurata di quanto non lo permetterebbe uno studio complessivo di tutte le unità della popolazione in studio. Per assicurare la correttezza delle informazioni oggetto di rilevazione e la loro rappresentatività dell’universo oggetto di osservazione assume un ruolo fondamentale il piano di campionamento, cioè la metodologia attraverso la quale si intendono selezionare gli elementi facenti parte del campione e la loro numerosità. La costruzione del campione può, infatti, avvenire secondo differenti metodologie statistiche predeterminate la cui selezione può variare in base sia alla caratteristiche stesse della popolazione oggetto di osservazione e alla tipologia delle variabili osservate, sia in base alle diverse esigenze pratiche in campo quali ampiezza del campione, velocità di raccolta delle informazioni, costi ecc. In particolare si distinguono due principali metodologie di campionamento: - Campioni probabilistici: le cui unità vengono estratte dalla popolazione oggetto di osservazione in modo tale che ogni elemento abbia una probabilità nota di entrare a far parte del campione stesso; tale metodologia viene utilizzata per evitare che la scelta degli elementi del campione sia influenzata dal ricercatore e quindi distorta. - Campioni non probabilistici: campioni che non forniscono a tutte le unità della popolazione la stessa possibilità di essere scelte per far parte del campione, alcuni gruppi o individui hanno più probabilità di entrare a far parte del campione rispetto ad altri; tale metodologia sebbene presenti vantaggi per l’individuazione del campione 97 fornisce dati poco affidabili e può essere facilmente viziato da errori sistematici. Il piano di campionamento è inoltre rivolto alla determinazione della numerosità del campione analizzato, elemento rilevante ai fini della rappresentatività dello stesso. Il questionario normalmente presenta due caratteristiche fondamentali: la standardizzazione, che fa riferimento alla tecnica di stimolo-risposta nella somministrazione dello strumento; la strutturazione, che fa riferimento al livello di chiusura delle risposte in relazione alle domande poste. Per quanto concerne il concetto di standardizzazione, lo stimolo deve essere somministrato in modo uniforme a tutti gli intervistati, in modo che tutti possano rispondere secondo la stessa formulazione del quesito. Rispetto alla strutturazione, le domande possono essere a risposta chiusa – qualora il quesito stesso le contempli – o aperta – qualora si lasci la possibilità di rispondere liberamente alla domanda (in quest’ultimo caso si parla di questionario semi-strutturato). Le domande di un questionario possono essere ricondotte all’esplorazione di tre grandi dimensioni: proprietà socio-grafiche, ovvero le caratteristiche anagrafiche, sociali ed economiche che contraddistinguono il soggetto intervistato. Sono riconducibili alle proprietà socio-grafiche attributi come sesso, età, stato civile, titolo di studio, professione, comune di residenza, la sua ampiezza demografica, ecc.; comportamenti, ovvero quelle azioni ed eventi empiricamente osservabili e potenzialmente controllabili; atteggiamenti, ovvero opinioni, valori, motivazioni, orientamenti, valutazioni e giudizi. Le domande che rilevano gli atteggiamenti vanno formulate in modo da ricondurre questa dimensione ad azioni e situazioni oggettive che sottendano la struttura latente del fenomeno che si vuole rilevare. 4.2.3.2 AMBITI DI OSSERVAZIONE Nella pluralità degli strumenti di rilevazione a disposizione della SMPQ il questionario rappresenta uno strumento diretto di rilevazione di informazioni quali-quantitative. Nello specifico il questionario front è lo strumento dedicato alla raccolta dati in merito a tre specifici ambiti di osservazione, come anticipato nella tabella 13 esso rileverà i dati in merito a: Modalità, Utenti ed Effetti diretti. La sezione modalità, per la parte in capo alla SMPQ, è destinata a rilevare l’impressione dell’utenza in merito alla modalità di erogazione del servizio, e a percepire la capacità del servizio di essere conforme alle aspettative di fruizione manifestate dagli utenti. Tale ambito di osservazione si manifesterà in quesiti destinati a cogliere la soddisfazione dell’utenza in riferimento ai seguenti sottoambiti: Tempestività, velocità di erogazione del servizio; Personale, cordialità e preparazione del personale addetto all’erogazione del servizio; Lingue, capacità del personale di comprendere le richieste dell’utenza e rispondere alle stesse in altre lingue; 98 Ambiti specifici, ad es. semplicità di utilizzo di apparati informativi, affollamento degli spazi, funzionamento degli apparati, pulizia, chiarezza, contenuti didattici/informativi, prezzo, durata, qualità dei cibi, prestigio ecc. Modalità di pagamento, possibilità di pagare attraverso strumenti differenti dai contati. La sezione utenti, per la parte in capo alla SMPQ/EMPQ, ha il compito di analizzare qualitativamente l’utenza in merito a composizione, desiderata ecc. , mentre la rilevazione dei dati quantitativi sull’utenza è di responsabilità del concessionario. Tale ambito di osservazione si realizzerà con l’inserimento di quesiti dedicati a cogliere il: Profilo, cioè la composizione del bacino di utenza dei differenti servizi erogati in ogni bene/sito oggetto di rilevazione. Infine la sezione effetti diretti include le rilevazioni delle informazioni e dei dati che attengono agli effetti connessi al consumo di servizi e prodotti culturali. Tale ambito di osservazione si sviluppa attraverso tre differenti sotto-ambiti: Fidelizzazione, capacità del bene/sito di fidelizzare i propri utenti; Mediazione, capacità dei servizi offerti di mediare tra utente e bene/sito aiutando l’utente nell’interpretazione dello stesso; Accesso, capacità del servizio di rendere più accessibili all’utenza informazioni e luogo. 4.2.3.3 LA SELEZIONE DEL CAMPIONE CUI SOTTOPORRE IL QUESTIONARIO Il campione costituisce un elemento importante per lo svolgimento dell’indagine e per i suoi risultati, tale che un’errata individuazione dello stesso può condurre a risultati fuorvianti e rendere vani l’investimento e gli sforzi affrontati per la realizzazione dell’indagine. Come illustrato nel box dedicato, esistono due principali macro-famiglie di metodologie per la costruzione del campione. In particolare la più idonea ai fini del perseguimento degli obiettivi del presente lavoro è la macro-famiglia dei campioni probabilistici, che conferisce ad ogni individuo della popolazione, nella fattispecie costituita dai visitatori del bene/sito, la stessa probabilità di essere selezionato. Tra la gamma di metodologie offerte dalla marco-famiglia dei campioni probabilistici è stata selezionata, per i vantaggi che offre ai fini dei risultati dell’indagine, quella del campionamento casuale stratificato proporzionale. Tale metodologia consente, a parità di costo, di costruire un campione più rappresentativo di quanto non si otterrebbe con altre metodologie, ottenendo quindi una maggiore precisione di stima sui risultati dell’indagine. La metodologia del campione casuale stratificato proporzionale prevede la costruzione del campione suddividendo la popolazione oggetto di osservazione in strati il più possibile omogenei tra loro, ma in modo che non ci sovrapposizioni tra i differenti strati (vale a dire che ogni elemento deve appartenere ad uno solo degli strati individuati). Una volta individuati gli strati, attraverso l’individuazione degli elementi della popolazione che maggiormente influenzano il fenomeno oggetto di analisi, si estrae un numero di elementi proporzionale alla numerosità dello strato; questo vuol dire che ogni strato contribuisce al campione nella stessa proporzione con cui contribuisce all’intera popolazione, rendendo il campione rappresentativo della stessa. 99 Tale metodologia parte quindi dal presupposto di una profonda conoscenza della popolazione oggetto di osservazione, in particolare rispetto alle variabili caratteristiche per l’analisi del fenomeno oggetto di osservazione. Dato che nella maggior parte dei casi i singoli musei non hanno a disposizione indagini sul pubblico relativamente recenti grazie alle quali sono state ricostruite le caratteristiche della popolazione di riferimento31, si ritiene che tale metodologia possa essere applicata solo in parte il primo anno ed entrare a regime il secondo anno. Per ovviare all’assenza di dati circa il profilo del visitatore nel museo, per il primo anno il campione può essere costruito solo in base alla composizione percentuale di visitatori del sito distribuiti tra paganti e non paganti32 (dato disponibile grazie al sistema di rilevazione Sistan). Dal secondo anno in poi, fino alla conclusione del periodo di attività affidato alla SMPQ/EMPQ, entrerà invece a regime il campione costruito secondo i dati rilevati durante il primo anno di attività. Il campione dovrà essere stratificato almeno in funzione de: la composizione percentuale di paganti e non paganti, dato disponibile grazie al sistema di rilevazione Sistan; la composizione percentuale di donne e uomini, dato emergente dal primo anno di indagine; la composizione percentuale di italiani e stranieri, dato emergente dal primo anno di indagine; la composizione percentuale di residenti e non residenti, dato emergente dal primo anno di indagine; la composizione percentuale delle differenti classi di età, dato emergente dal primo anno di indagine; la composizione percentuale dei titoli di studio, dato emergente dal primo anno di indagine. Altro elemento da prendere in considerazione per la costruzione del campione è la sua numerosità, cioè il numero di persone alle quali sarà somministrato il questionario. La numerosità del campione dipende naturalmente dalla dimensione della popolazione di ciascun luogo della cultura oggetto di analisi. Al fine di agevolare le SMPQ/EMPQ si fornisce in allegato (Allegato 4) uno strumento informatico (in formato MS Excel) per la determinazione della numerosità del campione adottando una percentuale di errore inferiore al 5%. 4.2.3.4 MODALITÀ DI COSTRUZIONE DEL QUESTIONARIO Si forniscono di seguito alcune indicazioni circa l’assetto del questionario in merito a strutturazione e ambiti di indagine. Stando al disegno del Sistema sin qui ipotizzato e alle funzioni specifiche demandate allo strumento questionario che la SMPQ/EMPQ è tenuta ad utilizzare, le aree e sotto aree di indagine che esso è tenuto ad esplorare sono: Laddove per alcuni luoghi della cultura siano state realizzate indagini sul pubblico non anteriori a 2 anni dal momento in cui si sta procedendo alla selezione del campione, si possono utilizzare i risultati di quelle analisi al fine di stratificare il campione da indagare. 32 Per la determinazione della composizione del campione in base alla distribuzione tra paganti e non paganti si richiede di adottare un approccio prudenziale. Pertanto si suggerisce di tenere conto della media di distribuzione osservata almeno nei 3 anni precedenti a quelli della selezione del campione. 31 100 A. Profilo socio anagrafico: tale sezione è dedicata alla raccolta delle informazioni utili alla ricostruzione dell’identità del pubblico di un bene/sito culturale. Si richiederanno quindi: genere, età, città e paese di provenienza, titolo di studio, professione, livello di reddito. B. Motivazioni alla visita e analisi del processo decisionale: dedicata alla raccolta delle informazioni sulle motivazioni che conducono alla visita del bene/sito. Tale sezione è destinata alla raccolta di informazioni su: motivo della visita, quando si è deciso di effettuare la visita, se si è raccolto informazioni sul bene/sito prima della visita e come, cosa si intende fare dopo la visita. C. Valutazione dei servizi al pubblico: dedicata alla rilevazione del livello di soddisfazione degli utenti rispetto agli ambiti della Modalità (Tempestività, Personale, Lingue e altri ambiti specifici per ciascun servizio) e degli Effetti Diretti (Fidelizzazione, Accesso e Mediazione in relazione ai singoli servizi presi in considerazione). All’interno del box seguente viene predisposto il questionario tipo che le SMPQ/EMPQ potranno utilizzare per le loro rilevazioni. Questo strumento è stato predisposto tenendo conto degli ambiti di osservazione dichiarati all’interno dell’allegato 4C dei documenti di gara (vedi Allegato 4) e seguendo alcune regole di principio, dedotte dalla pratica, nella formulazione delle domande. Tali regole sono: far ricondurre l’intervistato a comportamenti ed azioni da svolgere e non a situazioni generiche e potenziali non chiedere opinioni su argomenti che l’intervistato potrebbe non conoscere usare una terminologia semplice fare riferimento a periodi temporali non troppo lunghi evitare domande doppie che contengono al loro interno la richiesta di più di una informazione. La struttura del questionario è da ritenersi suscettibile di ulteriori miglioramenti. Si ritiene opportuno infatti procedere ad una sperimentazione del medesimo onde arrivare ad enucleare un sistema di domande efficaci per la restituzione dei feedback di cui si ha necessità. Box 6 - Questionario front PROFILO SOCIO ANAGRAFICO Sesso: M F Età: anni_____________ Luogo dove vive: (facoltativo)________Stato___________________________ Città_______________________Provincia______Cap Titolo di studio: Licenza elementare ; Licenza Media Inf. ; Diploma ; Laurea ; Titoli post-laurea ; Altro________________ Possiede un titolo di studio specifico in materie legate a______________ (arte/archeologia/storia/scienze naturali/etc.)? sì no Professione: Imprenditore ; libero professionista ; Lavoratore in proprio ; Dirigente ; Direttivo ; Quadro ; impiegato ; Altro lavoratore dipendente ; Ritirato dal lavoro ; Scolaro o studente ; Disoccupato ; Casalinga ; In cerca di prima occupazione ; Altro__________________________________ Quanti sono i componenti della sua famiglia (lei compreso)?N________ Fascia di reddito cui si appartiene: 101 da 0 a 12 mila euro ; da 12 mila a 20 mila euro ; da 20 mila a 35 mila euro ; da 35 mila a 50 mila euro ; da 50 mila a 75 mila euro ; maggiore di 75 mila euro MOTIVAZIONI ALLA VISITA E ANALISI DEL PROCESSO DECISIONALE Per quale motivo ha scelto di visitare il museo/area archeologica/monumento? (è possibile fornire più di una risposta) interesse specifico per le collezioni ; motivi di studio/professionali ; interesse per un opera/reperto/oggetto ; imparare cose nuove ; per scoprire un museo che non avevo ancora visitato ; per accompagnare amici/conoscenti ; come parte di una visita turistica nella zona/città ; interesse per la mostra temporanea ; passare un momento personale piacevole ; altro (specificare)___________________________ Quando ha deciso di visitare il museo/area archeologica/monumento? oggi ; nell’ultima settimana ; ho programmato la visita con anticipo . Prima della visita, ha cercato informazioni su questo museo/area archeologica/monumento? sì ; no Se sì, quale risorsa ha utilizzato? (è possibile fornire più di una risposta) guide turistiche a stampa ; libri ; cataloghi ; monografie ; sito internet del museo ; altri siti internet ; sito internet del Ministero per i beni culturali ; altro(specificare)_____________________ Se sì, quale tipo di informazioni ha cercato? (è possibile fornire più di una risposta) accessibilità del museo (ad es., orari di apertura, tariffe di ingresso etc.) ; servizi offerti dal museo (ad es., visite guidate, audioguide, bookshop etc.) ; opere esposte e le collezioni -mostre ed eventi ; altro (specificare)_____________________ Che cosa intende fare dopo la visita al museo? visitare i dintorni ; visitare la località sede del museo ; fare shopping ; altro (specificare)_____________________ VALUTAZIONE DEI SERVIZI AL PUBBLICO Si raccomanda la compilazione del questionario solo in relazione ai servizi fruiti nel luogo di cultura Quali sono i servizi di cui ha usufruito? SI NO Ha chiesto informazioni e indicazioni al personale di servizio? Ha acquistato il biglietto di ingresso? Ha depositato bagagli e/o cappotti nel guardaroba? Ha usufruito del servizio di prenotazione e prevendita di biglietti? Ha noleggiato dispositivi audio guide e whisper? Ha usufruito del servizio di visite guidate? Ha partecipato ad Eventi e/o Mostre Sezioni da Compilare Se si, compili la sezione “Accoglienza, Informazione e Orientamento” Se si, compili la sezione “Biglietteria, controllo Accessi e Guardaroba” Se si, compili la sezione “Biglietteria, controllo Accessi e Guardaroba” Se si, compili la sezione “Prenotazione e Prevendita” Se si, compili la sezione “Progettazione, realizzazione e noleggio audio guide e whisper” Se si, compili la sezione “Visite Guidate” Se si, compili la sezione “Progettazione, Organizzazione e Realizzazione Eventi e Mostre” 102 Ha acquistato prodotti usufruendo del servizio di Ecommerce (vendita online)? Ha consultato il sito internet del luogo di cultura visitato? Ha usufruito del servizio di assistenza didattica e laboratori didattici? Ha acquistato prodotti editoriali e/o oggettistica presso il bookshop? Ha consumato cibi e bevande presso il ristoro? Se si, compili la sezione “Ecommerce e gestione sito internet” Se si, compili la sezione “Ecommerce e gestione sito internet” Se si, compili la sezione “Assistenza didattica e laboratori didattici” Se si, compili la sezione “Vendita prodotti editoriali e oggettistica” Se si, compili la sezione “Ristoro” Valutazione sintetica dei servizi Se li ha utilizzati, si può considerare soddisfatto rispetto al servizio di? Accoglienza, Informazione e Orientamento Biglietteria Guardaroba Prenotazione e Prevendita Noleggio audio guide e whisper Visite Guidate Organizzazione e Realizzazione Eventi e Mostre E-commerce Sito internet Assistenza didattica e laboratori didattici Bookshop Ristoro Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Sezione_Accoglienza, informazione e Orientamento Tempestività I tempi di attesa per ottenere informazioni e materiale informativo sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? 103 Informazioni Ritiene che le informazioni esposte siano chiare e complete? Ritiene che i contenuti del materiale informativo siano chiari e completi? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Accesso A suo giudizio, il servizio di accoglienza, informazione e orientamento quanto è stato capace di: Agevolarla nell’esperienza di visita Facilitarla negli spostamenti all’interno (e all’esterno) del sito Sezione_Biglietteria, Controllo Accessi e Guardaroba Tempestività I tempi di attesa per acquistare il biglietto e accedere al sito sono stati soddisfacenti? I tempi di attesa per il guardaroba sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, il prezzo dei biglietti di ingresso è adeguato? Secondo lei, il prezzo del guardaroba è adeguato? Chiarezza nei prezzi 104 Trova che i prezzi dei biglietti di ingresso siano esposti in modo chiaro? Trova che i prezzi del guardaroba siano esposti in modo chiaro? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Accesso A suo giudizio, il servizio di Biglietteria e Guardaroba, quanto è stato capace di: Agevolarla nell’esperienza di visita Sezione_Prenotazione e Prevendita Tempestività I tempi di attesa per prenotare online/onsite sono stati soddisfacenti? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, il prezzo della prevendita è adeguato? Chiarezza Trova che le informazioni ricevute siano state chiare ed esaustive? Fidelizzazione Quanto il servizio di Prenotazione e Prevendita, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Pubblicizzare questo luogo attraverso il passaparola 105 Sezione_Progettazione, realizzazione e noleggio audioguide e whisper Tempestività I tempi di attesa per avere le audio guide e whisper sono stati soddisfacenti? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, il prezzo del noleggio delle audio guide e whisper è adeguato? Chiarezza Trova che i contenuti delle audio guide siano chiari? Contenuti informativi Trova che i contenuti didattici delle audio guide siano soddisfacenti? Semplicità di utilizzo Trova che i dispositivi di audio guide e whisper noleggiati siano semplici da utilizzare? Funzionamento 106 È soddisfatto del funzionamento (capacità di garantire un utilizzo costante e senza problemi tecnici) delle audio guide e whisper? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Pulizia Al momento del noleggio, i dispositivi di audio guide e whisper erano adeguatamente puliti? Disponibilità degli apparecchi È stato semplice reperire i dispositivi di audio guide e whisper? Fidelizzazione Quanto il suo livello di soddisfazione per il servizio Noleggio audio guide e whisper, la stimola a: di Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio, il servizio di Noleggio audio guide e whisper quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_Visite guidate Tempestività I tempi di attesa per accedere alla visita guidata sono stati soddisfacenti? Personale 107 È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Lingue È soddisfatto delle lingue parlate dal personale di servizio? Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni ricevute? Ritiene che i contenuti del materiale informativo ricevuto siano chiari e completi? Prezzo Secondo lei, il prezzo della visita guidata è adeguato? Durata Secondo lei, la durata della visita guidata è adeguata? Fidelizzazione Quanto il suo livello di soddisfazione per il servizio di Visite Guidate, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio, il servizio di Visite Guidate quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione 108 Sezione_Progettazione, Organizzazione e realizzazione Eventi e Mostre Prestigio Qual è secondo lei, il livello di prestigio delle mostre e degli eventi di cui ha usufruito? Qual è secondo lei, il livello di prestigio delle pubblicazioni connesse alle mostre e agli eventi? Molto alto Abbasta nza alto Basso Molto basso Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Prezzo Secondo lei, il prezzo di ingresso alle mostre e agli eventi è adeguato? Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni disponibili su internet? Ritiene che i contenuti del materiale informativo disponibili sul posto siano chiari e completi? Affollamento negli spazi Trova che gli spazi per eventi e mostre siano adeguati al flusso dei visitatori? Fidelizzazione Quanto il prestigio delle mostre e degli eventi a cui ha partecipato la stimolano a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio le mostre e gli eventi sono stati capaci di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o 109 dell’esposizione Sezione_E-commerce e gestione sito internet Lingue È soddisfatto delle lingue in cui sono tradotti i messaggi del sistema di e-commerce? È soddisfatto delle lingue in cui sono tradotti i messaggi sui siti internet? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Prezzo Secondo lei, i prezzi dei prodotti acquistati/in vendita nel sistema di e-commerce sono adeguati? Chiarezza nei prezzi Secondo lei, i prezzi dei prodotti in vendita sul sistema di ecommerce sono comunicati in modo chiaro? Semplicità di utilizzo Ha trovato semplice reperire le informazioni sul sito internet? Ha trovato semplice l’utilizzo del sistema di acquisti on line? Funzionamento È soddisfatto del funzionamento tecnico del sito web? Fidelizzazione Quanto il servizio di E-commerce e sito internet, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali inerenti questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola 110 Mediazione A suo giudizio, i contenuti del sito internet quanto sono stati capaci di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Sezione_Assistenza didattica e laboratori didattici Tempestività I tempi di attesa per fruire dei laboratori e delle attività didattiche sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, il prezzo delle attività didattiche è adeguato? Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni ricevute? Ritiene che i contenuti del materiale didattico siano chiari e completi? Contenuti didattici Trova che i contenuti dei laboratori didattici e dei materiali 111 didattici siano adeguati alle sue esigenze? Durata Secondo lei, la durata del laboratorio didattico è adeguata? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Fidelizzazione Quanto il servizio di Assistenza didattica e laboratori didattici, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio, il servizio di Assistenza didattica e laboratori didattici quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_Vendita prodotti editoriali e oggettistica Tempestività I tempi di attesa per acquistare i prodotti sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? È soddisfatto delle lingue in cui sono tradotte le pubblicazioni? 112 Prezzo Secondo lei, i prezzi dei volumi e delle pubblicazioni in vendita sono adeguati? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta Poco Niente Non so Chiarezza nei prezzi Secondo lei, i prezzi dei prodotti in vendita sono chiari? Coerenza Secondo lei, i prodotti editoriali e di oggettistica disponibili esprimono l’immagine ed il valore del luogo visitato? Affollamento degli spazi Secondo lei, gli spazi del bookshop sono adeguati? Fidelizzazione Quanto il bookshop e la sua gamma di prodotti la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio, il servizio di vendita prodotti editoriali e oggettistica quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Accesso A suo giudizio, il bookshop è stato capace di: 113 nza Facilitare l’accesso alle informazioni necessarie alla visita Rendere più esaustiva/appagante l’esperienza di visita Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Sezione_Ristoro Tempestività Ha trovato i tempi di attesa del servizio di ristoro adeguati? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, i prezzi dei cibi/bevande disponibili sono adeguati? Chiarezza nei prezzi Secondo lei, i prezzi di cibi e bevande sono esposti in modo chiaro? Affollamento degli spazi Trova che il numero di coperti offerti dal servizio Ristoro sia adeguato al flusso dei visitatori? Qualità di cibi e bevande 114 Pensa che la qualità dei cibi e delle bevande sia adeguata? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Fidelizzazione Quanto il suo livello di soddisfazione per il servizio di Ristoro, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Accesso A suo giudizio, il servizio di Ristoro quanto è stato capace di: Facilitare la fruizione del luogo della cultura Rendere più esaustiva/appagante l’esperienza di visita 4.2.3.5 MODALITÀ/PERIODICITÀ DI SOMMINISTRAZIONE Il questionario elaborato secondo le indicazioni precedentemente fornite potrà essere somministrato ai visitatori dei luoghi della cultura seguendo tre possibili modalità (alternative o complementari): somministrazione cartacea con consegna al campione: il questionario viene distribuito cartaceamente da specifico personale addetto che lo consegnerà alle persone rappresentative del campione; somministrazione cartacea attraverso il rilevatore: il questionario viene somministrato in modalità face to face tramite la presenza di un somministratore che raccoglie le risposte segnandole sul questionario cartaceo; somministrazione attraverso CATI (Computer Assisted Personal Interview): il questionario viene somministrato in modalità face to face tramite la presenza di un somministratore che raccoglie le risposte tramite un computer portatile o un palmare. Durante la somministrazione del questionario, al rilevatore compaiono direttamente a video i singoli quesiti in una successione predefinita e regolata da filtri e coerenze. I dati raccolti confluiranno poi in unico database ed elaborati da un software. Le rilevazioni durante i 12 mesi di osservazione devono essere almeno due: una in bassa stagione ed una in alta stagione, si ipotizza che questi ultimi costituiscano all’incirca i 2/3 del totale dei questionari raccolti. Tale distribuzione temporale dei questionari è importante per l’identificazione della popolazione dei visitatori dei luoghi della cultura italiani; si presume infatti che la stessa sia differente, per numerosità e caratteristiche, tra alta e bassa stagione. Le indicazioni qui riportate rappresentano delle condizioni minime di rilevazione. Ogni stazione appaltante è infatti libera in sede di selezione e contrattazione, in base alle proprie esigenze e disponibilità finanziarie, di richiedere alla eventuale SMPQ/EMPQ un numero di rilevazioni maggiori di quelle indicate nelle presenti linee guida. 115 4.2.3.6 MODALITÀ DI ANALISI DEI DATI I dati provenienti dai questionari dovranno essere riportati all’interno di appositi strumenti informativi (database) da dove potranno essere richiamati e trattati per le diverse finalità della SMPQ/EMPQ. Il trattamento dei dati rilevati per il tramite dei questionari dovrà costituire il contenuto di apposita sezione di analisi prevista all’interno del documento chiamato Relazione di Performance Semestrale e quello chiamato Relazione di Performance Annuale che verranno trattati nelle apposite sezioni del presente rapporto di ricerca e segnatamente il § 4.3.7 e il § 4.3.8. Insieme alla Relazione di Performance la SMPQ/EMPQ dovrà inviare all’OCM anche gli strumenti informativi dove sono stati allocati ed eventualmente sottoposti a trattamento i dati provenienti dai questionari. In ultimo l’SMPQ/EMPQ sarà tenuto a conservare eventuali copie fisiche dei questionari per almeno due anni dal momento della somministrazione. Tali questionari, infatti, potranno essere oggetto di momenti di verifica durante sopralluoghi ispettivi ordinati dalla DG Valorizzazione. 116 4.2.4 Questionario online (SMPQ/EMPQ) 4.2.4.1 LO STRUMENTO A differenza del questionario front, quello on-line, richiede la compilazione dello stesso non contestualmente alla visita, bensì in un momento successivo. Tale caratteristica del questionario on-line richiede quindi la volontà da parte dell’utente di partecipare all’indagine ed esprimere la propria opinione. In questo tipo di questionario non si parla infatti di selezione del campione ma di campione auto-selezionato, perché è lo stesso intervistato che esprime la volontà di entrare a far parte del campione. Si evince quindi una grande partecipazione e interesse da parte dell’utenza che compila questo tipologia di questionari, che deve essere considerata nella valutazione dei risultati da essi emergenti. Per quanto concerne la modalità di accesso al questionario on-line è possibile costruire tre tipologie di questionari: Anonimo: il questionario viene compilato senza autenticazione dell’utente, le risposte vengono quindi fornite in forma anonima; questo non permette all’utente di interrompere la sessione e riprenderla successivamente. Allo stesso modo non consente di controllare e impedire che lo stesso utente compili più questionari. Con autenticazione e senza tracciamento: il questionario viene compilato solo dopo l’autenticazione dell’utente (con login e password), ma le risposte fornite dall’utente vengono registrate nel sistema in forma anonima. Con questa modalità è possibile controllare che la compilazione del questionario sia ad opera di un gruppo limitato di utenti. Anche questa tipologia non permette all’utente, a causa del suo anonimato, di interrompere la sessione e riprenderla successivamente e non consente di impedire che lo stesso utente compili più questionari. Con autenticazione e tracciamento: il questionario viene compilato solo dopo l’autenticazione dell’utente (con login e password) e le risposte fornite vengono registrate nel sistema con il riferimento identificativo dell’utente. Con questa modalità è possibile interrompere la compilazione, salvando le informazioni già inserite, e riprenderla in un secondo momento è inoltre possibile limitare la compilazione di un questionario per ogni utente. Si suppone che tra le differenti modalità proposte si possa adottare quella con autenticazione e tracciamento. Autenticazione potrebbe avvenire tramite il numero di serie del biglietto o tramite un codice identificativo ad esso associato, in modo da poter legare la compilazione del questionario ad un biglietto venduto. Questa tipologia è inoltre in grado di impedire che con lo stesso codice autenticativo si possano compilare più questionari elemento molto importate al fine di non falsare i risultati dell’indagine. 4.2.4.2 AMBITI DI OSSERVAZIONE A differenza del questionario frontale, quello online è dedicato alla raccolta dati in merito a due specifici ambiti di osservazione: Modalità e Utenti. La sezione modalità, per la parte in capo alla SMPQ/EMPQ, è destinata a rilevare l’impressione dell’utenza in merito alla modalità di erogazione del servizio, e a percepire la capacità del servizio di essere conforme alle aspettative di fruizione manifestate dagli utenti. Tale ambito di osservazione si 117 manifesterà in quesiti destinati a cogliere la soddisfazione dell’utenza in riferimento ai seguenti sottoambiti: Tempestività, velocità di erogazione del servizio; Personale, cordialità e preparazione del personale addetto all’erogazione del servizio; Lingue, capacità del personale di comprendere le richieste dell’utenza e rispondere alle stesse in altre lingue; Ambiti specifici, ad es. semplicità di utilizzo di apparati informativi, affollamento degli spazi, funzionamento degli apparati, pulizia, chiarezza, contenuti didattici/informativi, prezzo, durata, qualità dei cibi, prestigio ecc. Modalità di pagamento, possibilità di pagare attraverso strumenti differenti dai contati. La sezione utenti, per la parte in capo alla SMPQ/EMPQ, ha il compito di analizzare qualitativamente l’utenza in merito a composizione, desiderata ecc. , mentre la rilevazione dei dati quantitativi sull’utenza è di responsabilità del concessionario. Tale ambito di osservazione si realizzerà con l’inserimento di quesiti dedicati a cogliere il: Profilo, cioè la composizione del bacino di utenza dei differenti servizi erogati in ogni bene/sito oggetto di rilevazione. 4.2.4.3 MODALITÀ DI COSTRUZIONE DEL QUESTIONARIO Ferme restando le regole da seguire per la formulazione delle domande già formulate all’interno della sezione dedicata al questionario front (vedi § 4.2.3) di seguito si forniscono indicazioni circa la struttura che il questionario deve assumere in merito ai diversi ambiti di indagine che è chiamato ad osservare. Stando al disegno del Sistema sin qui ipotizzato e alle funzioni specifiche demandate allo strumento questionario che la SMPQ/EMPQ è tenuta ad utilizzare, le aree e sotto aree di indagine da esplorare attraverso lo strumento sono: A. Profilo socio anagrafico: tale sezione è dedicata alla raccolta delle informazioni utili alla ricostruzione dell’identità del pubblico di un bene/sito culturale. Si richiederanno quindi: genere, età, città e paese di provenienza, titolo di studio, professione, livello di reddito. B. Motivazioni alla visita e analisi del processo decisionale: dedicata alla raccolta delle informazioni sulle motivazioni che conducono alla visita del bene/sito. Tale sezione è destinata alla raccolta di informazioni su: motivo della visita, quando si è deciso di effettuare la visita, se si è raccolto informazioni sul bene/sito prima della visita e come, cosa si intende fare dopo la visita. C. Valutazione dei servizi al pubblico: dedicata alla rilevazione del livello di soddisfazione degli utenti rispetto agli ambiti della Modalità (Tempestività, Personale, Lingue e altri ambiti specifici per ciascun servizio) e degli Effetti Diretti (Fidelizzazione, Accesso e Mediazione in relazione ai singoli servizi presi in considerazione). Di seguito (Box. 7) si propone la struttura del questionario. La struttura del questionario è da ritenersi suscettibile di ulteriori miglioramenti. Si ritiene opportuno infatti procedere ad una sperimentazione del medesimo onde arrivare ad enucleare un sistema di domande efficaci per la restituzione dei feedback di cui si ha necessità. 118 Box 7 – Struttura del questionario on line PROFILO SOCIO ANAGRAFICO Sesso: M F Età: anni_____________ Luogo dove vive: (facoltativo)________Stato___________________________ Città_______________________Provincia______Cap Titolo di studio: Licenza elementare ; Licenza Media Inf. ; Diploma ; Laurea ; Titoli post-laurea ; Altro________________ Possiede un titolo di studio specifico in materie legate a______________ (arte/archeologia/storia/scienze naturali/etc.)? sì no Professione: Imprenditore ; libero professionista ; Lavoratore in proprio ; Dirigente ; Direttivo ; Quadro ; impiegato ; Altro lavoratore dipendente ; Ritirato dal lavoro ; Scolaro o studente ; Disoccupato ; Casalinga ; In cerca di prima occupazione ; Altro__________________________________ Quanti sono i componenti della sua famiglia (lei compreso)?N________ Fascia di reddito cui si appartiene: da 0 a 12 mila euro ; da 12 mila a 20 mila euro ; da 20 mila a 35 mila euro ; da 35 mila a 50 mila euro ; da 50 mila a 75 mila euro ; maggiore di 75 mila euro MOTIVAZIONI ALLA VISITA E ANALISI DEL PROCESSO DECISIONALE Per quale motivo ha scelto di visitare il museo/area archeologica/monumento? (è possibile fornire più di una risposta) interesse specifico per le collezioni ; motivi di studio/professionali ; interesse per un opera/reperto/oggetto ; imparare cose nuove ; per scoprire un museo che non avevo ancora visitato ; per accompagnare amici/conoscenti ; come parte di una visita turistica nella zona/città ; interesse per la mostra temporanea ; passare un momento personale piacevole ; altro (specificare)___________________________ Quando ha deciso di visitare il museo/area archeologica/monumento? oggi ; nell’ultima settimana ; ho programmato la visita con anticipo . Prima della visita, ha cercato informazioni su questo museo/area archeologica/monumento? sì ; no Se sì, quale risorsa ha utilizzato? (è possibile fornire più di una risposta) guide turistiche a stampa ; libri ; cataloghi ; monografie ; sito internet del museo ; altri siti internet ; sito internet del Ministero per i beni culturali ; altro(specificare)_____________________ Se sì, quale tipo di informazioni ha cercato? (è possibile fornire più di una risposta) accessibilità del museo (ad es., orari di apertura, tariffe di ingresso etc.) ; servizi offerti dal museo (ad es., visite guidate, audioguide, bookshop etc.) ; opere esposte e le collezioni -mostre ed eventi ; altro (specificare)_____________________ Che cosa intende fare dopo la visita al museo? visitare i dintorni ; visitare la località sede del museo ; fare shopping ; altro (specificare)_____________________ VALUTAZIONE DEI SERVIZI AL PUBBLICO Si raccomanda la compilazione del questionario solo in relazione ai servizi fruiti nel luogo di cultura Quali sono i servizi di cui ha usufruito? SI NO Sezioni da Compilare 119 Ha chiesto informazioni e indicazioni al personale di servizio? Ha acquistato il biglietto di ingresso? Ha depositato bagagli e/o cappotti nel guardaroba? Ha usufruito del servizio di prenotazione e prevendita di biglietti? Ha noleggiato dispositivi audio guide e whisper? Ha usufruito del servizio di visite guidate? Ha partecipato ad Eventi e/o Mostre Ha acquistato prodotti usufruendo del servizio di Ecommerce (vendita online)? Ha consultato il sito internet del luogo di cultura visitato? Ha usufruito del servizio di assistenza didattica e laboratori didattici? Ha acquistato prodotti editoriali e/o oggettistica presso il bookshop? Ha consumato cibi e bevande presso il ristoro? Se si, compili la sezione “Accoglienza, Informazione e Orientamento” Se si, compili la sezione “Biglietteria, controllo Accessi e Guardaroba” Se si, compili la sezione “Biglietteria, controllo Accessi e Guardaroba” Se si, compili la sezione “Prenotazione e Prevendita” Se si, compili la sezione “Progettazione, realizzazione e noleggio audio guide e whisper” Se si, compili la sezione “Visite Guidate” Se si, compili la sezione “Progettazione, Organizzazione e Realizzazione Eventi e Mostre” Se si, compili la sezione “Ecommerce e gestione sito internet” Se si, compili la sezione “Ecommerce e gestione sito internet” Se si, compili la sezione “Assistenza didattica e laboratori didattici” Se si, compili la sezione “Vendita prodotti editoriali e oggettistica” Se si, compili la sezione “Ristoro” Valutazione sintetica dei servizi Se li ha utilizzati, si può considerare soddisfatto rispetto al servizio di? Accoglienza, Informazione e Orientamento Biglietteria Guardaroba Prenotazione e Prevendita Noleggio audio guide e whisper Visite Guidate Organizzazione e Realizzazione Eventi e Mostre E-commerce Sito internet Assistenza didattica e laboratori didattici Bookshop Ristoro Molto Abbasta nza Poco Niente Non so Sezione_Accoglienza, informazione e Orientamento Tempestività 120 I tempi di attesa per ottenere informazioni e materiale informativo sono stati soddisfacenti? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Informazioni Ritiene che le informazioni esposte siano chiare e complete? Ritiene che i contenuti del materiale informativo siano chiari e completi? Accesso A suo giudizio, il servizio di accoglienza, informazione e orientamento quanto è stato capace di: Agevolarla nell’esperienza di visita Facilitarla negli spostamenti all’interno (e all’esterno) del sito Sezione_Biglietteria, Controllo Accessi e Guardaroba Tempestività I tempi di attesa per acquistare il biglietto e accedere al sito sono stati soddisfacenti? I tempi di attesa per il guardaroba sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? 121 È soddisfatto della disponibilità e gentilezza del personale? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, il prezzo dei biglietti di ingresso è adeguato? Secondo lei, il prezzo del guardaroba è adeguato? Chiarezza nei prezzi Trova che i prezzi dei biglietti di ingresso siano esposti in modo chiaro? Trova che i prezzi del guardaroba siano esposti in modo chiaro? Accesso A suo giudizio, il servizio di Biglietteria e Guardaroba, quanto è stato capace di: Agevolarla nell’esperienza di visita Sezione_Prenotazione e Prevendita Tempestività I tempi di attesa per prenotare online/onsite sono stati soddisfacenti? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo 122 Secondo lei, il prezzo della prevendita è adeguato? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Chiarezza Trova che le informazioni ricevute siano state chiare ed esaustive? Fidelizzazione Quanto il servizio di Prenotazione e Prevendita, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Pubblicizzare questo luogo attraverso il passaparola Sezione_Progettazione, realizzazione e noleggio audioguide e whisper Tempestività I tempi di attesa per avere le audio guide e whisper sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, il prezzo del noleggio delle audio guide e whisper è adeguato? Chiarezza 123 Trova che i contenuti delle audio guide siano chiari? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta Poco Niente Non so Contenuti informativi Trova che i contenuti didattici delle audio guide siano soddisfacenti? Semplicità di utilizzo Trova che i dispositivi di audio guide e whisper noleggiati siano semplici da utilizzare? Funzionamento È soddisfatto del funzionamento (capacità di garantire un utilizzo costante e senza problemi tecnici) delle audio guide e whisper? Pulizia Al momento del noleggio, i dispositivi di audio guide e whisper erano adeguatamente puliti? Disponibilità degli apparecchi È stato semplice reperire i dispositivi di audio guide e whisper? Fidelizzazione Quanto il suo livello di soddisfazione per il servizio Noleggio audio guide e whisper, la stimola a: di Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio, il servizio di Noleggio audio guide e whisper 124 nza quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Sezione_Visite guidate Tempestività I tempi di attesa per accedere alla visita guidata sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni ricevute? Ritiene che i contenuti del materiale informativo ricevuto siano chiari e completi? Prezzo Secondo lei, il prezzo della visita guidata è adeguato? Durata Secondo lei, la durata della visita guidata è adeguata? Fidelizzazione 125 Quanto il suo livello di soddisfazione per il servizio di Visite Guidate, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto alto Abbasta nza alto Basso Molto basso Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Mediazione A suo giudizio, il servizio di Visite Guidate quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_Progettazione, Organizzazione e realizzazione Eventi e Mostre Prestigio Qual è secondo lei, il livello di prestigio delle mostre e degli eventi di cui ha usufruito? Qual è secondo lei, il livello di prestigio delle pubblicazioni connesse alle mostre e agli eventi? Prezzo Secondo lei, il prezzo di ingresso alle mostre e agli eventi è adeguato? Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni disponibili su internet? Ritiene che i contenuti del materiale informativo disponibili sul posto siano chiari e completi? Affollamento negli spazi Trova che gli spazi per eventi e mostre siano adeguati al flusso dei visitatori? 126 Fidelizzazione Quanto il prestigio delle mostre e degli eventi a cui ha partecipato la stimolano a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Mediazione A suo giudizio le mostre e gli eventi sono stati capaci di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_E-commerce e gestione sito internet Lingue È soddisfatto delle lingue in cui sono tradotti i messaggi del sistema di e-commerce? È soddisfatto delle lingue in cui sono tradotti i messaggi sui siti internet? Prezzo Secondo lei, i prezzi dei prodotti acquistati/in vendita nel sistema di e-commerce sono adeguati? Chiarezza nei prezzi Secondo lei, i prezzi dei prodotti in vendita sul sistema di ecommerce sono comunicati in modo chiaro? Semplicità di utilizzo Ha trovato semplice reperire le informazioni sul sito internet? 127 Ha trovato semplice l’utilizzo del sistema di acquisti on line? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Funzionamento È soddisfatto del funzionamento tecnico del sito web? Fidelizzazione Quanto il servizio di E-commerce e sito internet, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali inerenti questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Mediazione A suo giudizio, i contenuti del sito internet quanto sono stati capaci di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_Assistenza didattica e laboratori didattici Tempestività I tempi di attesa per fruire dei laboratori e delle attività didattiche sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo 128 Secondo lei, il prezzo delle attività didattiche è adeguato? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni ricevute? Ritiene che i contenuti del materiale didattico siano chiari e completi? Contenuti didattici Trova che i contenuti dei laboratori didattici e dei materiali didattici siano adeguati alle sue esigenze? Durata Secondo lei, la durata del laboratorio didattico è adeguata? Fidelizzazione Quanto il servizio di Assistenza didattica e laboratori didattici, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio, il servizio di Assistenza didattica e laboratori didattici quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_Vendita prodotti editoriali e oggettistica Tempestività 129 I tempi di attesa per acquistare i prodotti sono stati soddisfacenti? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? È soddisfatto delle lingue in cui sono tradotte le pubblicazioni? Prezzo Secondo lei, i prezzi dei volumi e delle pubblicazioni in vendita sono adeguati? Chiarezza nei prezzi Secondo lei, i prezzi dei prodotti in vendita sono chiari? Coerenza Secondo lei, i prodotti editoriali e di oggettistica disponibili esprimono l’immagine ed il valore del luogo visitato? Affollamento degli spazi Secondo lei, gli spazi del bookshop sono adeguati? Fidelizzazione Quanto il bookshop e la sua gamma di prodotti la stimola a: 130 Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Mediazione A suo giudizio, il servizio di vendita prodotti editoriali e oggettistica quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Accesso A suo giudizio, il bookshop è stato capace di: Facilitare l’accesso alle informazioni necessarie alla visita Rendere più esaustiva/appagante l’esperienza di visita Sezione_Ristoro Tempestività Ha trovato i tempi di attesa del servizio di ristoro adeguati? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, i prezzi dei cibi/bevande disponibili sono adeguati? 131 Chiarezza nei prezzi Secondo lei, i prezzi di cibi e bevande sono esposti in modo chiaro? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Affollamento degli spazi Trova che il numero di coperti offerti dal servizio Ristoro sia adeguato al flusso dei visitatori? Qualità di cibi e bevande Pensa che la qualità dei cibi e delle bevande sia adeguata? Fidelizzazione Quanto il suo livello di soddisfazione per il servizio di Ristoro, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Accesso A suo giudizio, il servizio di Ristoro quanto è stato capace di: Facilitare la fruizione del luogo della cultura Rendere più esaustiva/appagante l’esperienza di visita 4.2.4.4 MODALITÀ/PERIODICITÀ DI EROGAZIONE La modalità di somministrazione del questionario è implicitamente determinata dalle caratteristiche del questionario stesso che richiede la compilazione on-line33. Al momento della visita infatti gli utenti possono essere invitati, tramite il personale, poster pubblicitari e pubblicità sul biglietto, a compilare un questionario in un momento successivo alla visita, in modo da La SMPQ/EMPQ può decidere di alloggiare il questionario su piattaforme tra loro diverse (il sito web del museo, il sito web della Società di Monitoraggio, ecc.). Al di là della sua localizzazione, è importante che il sistema di gestione del questionario possa permettere l’estrazione dei dati su file in formato csv in modo da poter esportare i dati e poterli inserire nel sistema informativo dell’OCM quando quest’ultimo sarà operativo 33 132 esprimere le proprie opinioni e considerazioni circa la visita e la qualità dei servizi al pubblico di cui hanno usufruito. Sarà quindi libera scelta dell’utente decidere se compilare, in un momento successivo alla visita, il questionario; questa scelta presuppone un grande interesse e una forte partecipazione attiva da parte dell’utenza che decide di compilare volontariamente il questionario on-line per esprimere il proprio giudizio. La compilazione del questionario on-line, a differenza di quello front, non prevede la possibilità di interazione tra l’utente e il personale addetto alla somministrazione. L’utente infatti compilerà il questionario spontaneamente e senza la supervisione di nessuno, in un momento posteriore alla visita. Con questa metodologia di rilevazione dei dati la periodicità di somministrazione è continua; una volta attivata la possibilità di accedere alla compilazione del questionario on-line attraverso un’autenticazione con un codice coincidente con il numero di serie del biglietto di ingresso o reperibile sul biglietto stesso, potenzialmente ogni utente potrebbe decidere di compilare il questionario in qualsiasi momento. Unico limite che si ritiene utile inserire è il periodo di validità del codice di autenticazione per l’accesso alla piattaforma per la compilazione del questionario on-line. Il limite temporale utile potrebbe essere quello di un mese dall’emissione del biglietto; questo limite temporale permette al soggetto di avere tempo sufficiente per organizzarsi ed esprimere la propria opinione in merito alla visita e ai servi di cui ha usufruito, allo stesso modo rappresenta un periodo di tempo sufficientemente ristretto da fare in modo che siano ancora vive nell’utente le sue sensazioni e considerazioni in merito alla visita e ai servizi disponibili. 4.2.4.5 MODALITÀ DI ANALISI DEI DATI La valutazione e l’analisi dei dati emergenti dalle due tipologie di questionari, front e on-line, devono essere effettuate separatamente. Nonostante la similitudine degli strumenti e la parziale coincidenza le differenze tra i campioni da cui sono compitali non permette di trattare unitariamente i risultati emergenti dei due strumenti. Mentre per il questionario front il campione viene pre-determinato in base alla metodologia di campionamento casuale stratificato proporzionale, al fine di costruire un campione rappresentativo della popolazione ottenendo così una maggiore precisione di stima sui risultati dell’indagine; per il questionario on-line il campione si auto-seleziona poiché un soggetto della popolazione decide di entrare a far parte volontariamente del campione. Unire i risultati ottenuti dalle due metodologie di rilevazione equivarrebbe a modificare il campione complessivo e ottenere risultati con un maggiore grado di distorsione rispetto alla realtà. In quest’ottica la valutazione dei risultati emergenti dalle due tipologie di questionari, nonostante le similitudini, devono essere realizzate dalla SMPQ/EMPQ separatamente e restituite all’interno di due sezioni distinte del documento Relazione di performance che essa è tenuta a redigere con cadenza semestrale; un’unica raccolta dei dati potrebbe essere utile per statistiche più generali o nazionali che possono comunque essere realizzate in un secondo momento. 4.2.5 Obiettivi e criteri per lo svolgimento dei Focus Group ( SMPQ/EMPQ) 4.2.5.1 LO STRUMENTO Il focus group è una tecnica di indagine non standard basata sui gruppi, adottata in modo estensivo nel marketing e nella ricerca sociologica. Si tratta di una discussione che coinvolge un gruppo omogeneo di persone per approfondire un tema o un particolare aspetto di un argomento. Esistono numerose varianti e diversi utilizzi di questa tecnica, pe r 133 la realizzazione della quale è comunque necessaria una specifica competenza professionale. In generale, si tratta di uno strumento utile per valutare aspetti difficilmente rilevabili attraverso tecniche standard come il questionario. Non avendo rilevanza statistica, i risultati dei focus group non forniscono informazioni leggibili in modo autonomo ma costituiscono un tassello di un disegno valutativo coerente che deve poggiare anche su altri strumenti (ad esempio, i questionari). Fornisce risultati di tip o euristico, cioè focalizza e fa emergere temi che poi andranno approfonditi, oppure chiarisce il significato di dati già emersi in altro modo. Ad esempio, nelle fasi esplorative e preliminari di ricerche standard: Permette di acquisire familiarità con un tema Permette di formulare delle ipotesi da sottoporre poi a controllo empirico Permette di costruire un questionario includendo aspetti importanti del tema per il target di utenti oggetto di indagine. 4.2.5.2 AMBITI DI OSSERVAZIONE Il focus group è una tecnica utile per indagare atteggiamenti, percezioni, punti di vista e valutazioni riferite alla sfera soggettiva degli utenti. Rispetto alla catena del valore nell’erogazione dei servizi culturali delineato dal presente sistema di M&V, può costituire uno strumento particolarmente utile per valutare gli effetti diretti dell’esperienza al museo così come quelli indiretti. A titolo esemplificativo e non esaustivo può essere utilmente impiegata per: Approfondire aspetti del servizio che emergono come problematici dalle rilevazioni standard (ad esempio, se un servizio non viene apprezzato, per suggerire in quale direzione muoversi per migliorarlo). Valutare nel merito l’efficacia del sistema di comunicazione e mediazione all’esterno e all’interno della sede museale. Indagare aspetti legati alla percezione (ad esempio, per capire se e come è cambiata la percezione di un luogo o di un servizio presso certe categorie di pubblico e perché). Indagare motivazioni, percezioni e leve possibili per incentivare la partecipazione culturale di specifici non pubblici. Valutare gli effetti diretti e indiretti di una decisione o di una scelta organizzativa. 4.2.5.3 MODALITÀ DI REALIZZAZIONE DI UN FOCUS GROUP Si tratta di incontri della durata di 1h30’/2h. Il meccanismo prevede l’introduzione di stimoli da parte di un moderatore e la reazione dei partecipanti (che dallo stimolo sono chiamati a reagire e interagire). Una volta definiti gli obiettivi è necessario impostare un percorso (questioning route) che permetta al moderatore di introdurre gli argomenti in maniera graduale e finalizzata. Perché un argomento possa dirsi indagato, è necessario organizzare più FG su un medesimo argomento. • Il numero di FG può variare ma deve essere tendenzialmente pari (da 2 a 6) • È fondamentale prevedere la Registrazione audio o video degli incontri; 134 • I partecipanti vanno scelti principalmente in base alla loro “competenza” relativa all’argomento che si vuole approfondire (ad esempio: persone che normalmente fanno acquisti nei bookshop dei musei); • È preferibile che i partecipanti costituiscano un gruppo strumentale (cioè non si conoscano tra loro prima dell’incontro); • Devono partecipare tra 6 e 10 persone; • I partecipanti devono percepire un incentivo per la loro presenza. • Il moderatore deve avere competenza specifica nella conduzione di tecniche di gruppo. 4.2.5.4 MODALITÀ DI ANALISI DEI DATI Trattandosi di una tecnica non standard i dati prodotti dai focus group non vanno mai elaborati e trattati facendo ricorso a tecniche statistiche . Le risposte fornite dal focus group non sono generalizzabili, cioè si considera che la loro validità sia esclusivamente interna al gruppo che partecipa al focus. Tuttavia, se la selezione dei partecipanti e la conduzione è stata condotta in modo corretto e il numero di focus è adeguato, i risult ati possono essere considerati significativi e supportare in modo concreto le scelte di concessionari e stazioni appaltanti legate a situazioni precise (benché non automaticamente generalizzabili ad altri contesti). La restituzione, come nelle interviste i ndividuali, deve essere di tipo testuale, riportare laddove necessario le trascrizioni delle conversazioni ed essere articolato per domande di ricerca alle quali si intende dare risposta. 4.2.6 Obiettivi e criteri per lo svolgimento delle Interviste ( SMPQ/EMPQ) 4.2.6.1 LO STRUMENTO Le interviste sono una tecnica di indagine non standard. Si tratta di una conversazione che coinvolge un ricercatore che interagisce con un intervistato per approfondire un tema o un particolare aspetto di un argomento. Esistono numerose varianti e diversi utilizzi di questa tecnica, per la realizzazione della quale è comunque necessaria una specifica competenza professionale. In generale, come per il focus group, si tratta di uno strumento utile per valutare aspetti difficilmente rilevabili at traverso tecniche standard come il questionario (ad esempio, perché non si ritiene di conoscere a sufficienza un tema e non si è quindi in grado di formulare adeguate domande a risposta chiusa). A meno che non ne siano condotte di molto numerose e basandosi su un piano di campionamento rigoroso, non hanno rilevanza statistica: il loro scopo non è giungere a una generalizzazione di tipo statistico ma una significatività di tipo concettuale. 4.2.6.2 AMBITI DI OSSERVAZIONE In generale, come tutte le tecniche non stan dard o qualitative, si presta ad essere utilizzato quando non si conoscono pienamente le dimensioni di un fenomeno (contrariamente al questionario che serve a verificare la distribuzione sulla popolazione di riferimento di un fenomeno di cui si considerano note variabili e caratteristiche). 135 Come il focus group, l’intervista è una tecnica utile per indagare atteggiamenti, percezioni, punti di vista e valutazioni riferite alla sfera soggettiva degli utenti. Rispetto alla catena del valore nell’erogazione dei servizi culturali delineato dal presente sistema di M&V, può costituire uno strumento particolarmente utile per valutare gli effetti diretti dell’esperienza al museo così come quelli indiretti. A titolo esemplificativo e non esaustivo può essere utilmente impiegata per: Approfondire aspetti del servizio che emergono come problematici dalle rilevazioni standard (ad esempio, se un servizio non viene apprezzato, per suggerire in quale direzione muoversi per migliorarlo). Valutare nel merito l’efficacia del sis tema di comunicazione e mediazione all’esterno e all’interno della sede museale. Indagare aspetti legati alla percezione (ad esempio, per capire se e come è cambiata la percezione di un luogo o di un servizio presso certe categorie di pubblico e perché). Valutare gli effetti diretti e indiretti di una decisione o di una specifica scelta organizzativa. Approfondire le motivazioni alla base di determinati comportamenti di consumo 4.2.6.3 MODALITÀ DI REALIZZAZIONE DELLE INTERVISTE Dal punto di vista organizzativo e della gestione, le interviste sono uno strumento molto più agile del focus group, possono avere durata variabile e non comportano che l’intervistato percepisca una qualche forma di retribuzione. Una volta definiti gli obiettivi è necessario individuare lo strumento più adatto agli specifici obiettivi conoscitivi: Intervista strutturata (domande aperte ma non modificabili, cioè formulate sempre nello stesso modo e con la stessa sequenza), di norma preferibile se in presenza di un campione numeroso. Intervista semi-strutturata (domande aperte e modificabili in base alle risposte fornite dall’intervistato). Lo schema o traccia dell’intervista è formulato ma flessibile e serve sostanzialmente da perimetro entro il quale la discussione deve muoversi. Per ottenere risultati significativi è comunque necessario prevedere un buon numero di interviste (nell’ordine delle decine). Intervista non strutturata o “in profondità”. Sulla base di un argomento prestabilito l’intervista viene condotta senza traccia, ma lasciando libero l’intervistato di spaziare all’interno del tema trattato. Il suo utilizzo nella valutazione dei servizi è più raro, anche se può essere talora adottato in particolare nelle interviste a testimoni privilegiati di un dato fenomeno. Gli intervistati vanno selezionati sulla base di un piano di rilevazione e vanno comunque scelti in base alla loro “competenza” relativa all’argomento che si vuole approfondire (ad esempio: persone che hanno utilizzato un servizio). 4.2.6.4 MODALITÀ DI ANALISI DEI DATI Trattandosi di una tecnica non standard i dati prodotti non vanno di norma trattati facendo ricorso a tecniche statistiche, con la significativa e motivata eccezione dei casi di interviste strutturate a un campione sufficientemente ampio di utenti. La restituzione, come nei focus 136 group, deve essere di tipo testuale, riportare laddove necessario le trascrizioni delle interviste ed essere articolato per domande di ricerca alle quali si intende dare risposta. 4.2.7 Verifiche di I livello: protocollo per la realizzazione di sopralluoghi e ispezioni (SMPQ/EMPQ) 4.2.7.1 LO STRUMENTO I sopralluoghi e ispezioni sono uno strumento che la SMPQ/EMPQ ha a disposizione per verificare la correttezza dei sistemi, delle procedure di rilevazione nonché la corrispondenza al vero di quanto dichiarato dal Concessionario in sede di offerta tecnica per l’aggiudicazione dei servizi. Attraverso tale strumento, un incaricato della Società di Monitoraggio effettua visite presso la struttura oggetto di concessione al fine di realizzare una indagine diretta (si tratta dell’unico strumento che prevede il contatto diretto tra monitorato e monitorante) volta a verificare l’operato del concessionario e trarne elementi di giudizio. L’incaricato dell’ispezione potrà quindi presentarsi, senza preavviso, nei luoghi di erogazione dei servizi dati in concessione e una volta qualificatosi, dovrà avere accesso alla documentazione del concessionario nel limite delle sue prerogative. Lo scopo di tale tipologia di indagine sarà quello di verificare la correttezza e la rispondenza alla realtà dei dati dichiarati e/o comunicati dal concessionario nei documenti allo stesso richiesti. 4.2.7.2 AMBITI DI OSSERVAZIONE Il ruolo della Società di monitoraggio, come illustrato nella parte introduttiva, è rivolto a certificare il sistema informativo del concessionario, verificare la veridicità e correttezza delle informazioni dichiarate e/o comunicate dal concessionario, rilevare informazioni qualitative sui servizi offerti dal concessionario e raccogliere e trasmettere tutte le informazioni così raccolte all’OCM. In questo spettro di compiti affidati alla SMPQ/EMPQ le prime fasi di controllo e verifica sul Concessionario possono avvalersi dello strumento dei sopralluoghi e ispezioni che, assieme agli altri metodi di verifica di back-office, vanno a completare, con uno meccanismo di rilevazione diretta, la gamma degli strumenti di cui l’ente di monitoraggio può avvalersi. La prima azione che la SMPQ/EMPQ deve mettere in atto, dopo il suo insediamento, è quella di verifica e certificazione dell’attendibilità del Sistema informativo del Concessionario che viene comunicata con la “Relazione sull’attendibilità del sistema di rilevazione e controllo”. A tal fine la SMPQ/EMPQ può avvalersi dei sopralluoghi e delle ispezioni per la raccolta delle seguenti informazioni: elenco dei processi di rilevazione e stoccaggio dei dati analizzati; elenco degli strumenti rilevazione e stoccaggio dei dati analizzati; dichiarazione sul livello di attendibilità e validità di tali processi e strumenti; eventuali indicazioni correttive e di miglioramento per il concessionario. Inoltre, come già accennato, i sopralluoghi ed ispezioni hanno lo scopo di permettere alla SMPQ/EMPQ un controllo diretto su tutte le informazioni e dati che il Concessionario è tenuto a dichiarare e trasmettere. A tal fine gli ambiti di osservazione di tale strumento, come mostrato in tabella 13, coincideranno con quelli del Concessionario, quindi saranno: Input, Processo, Output, Modalità e Utenti. 137 Per la sezione Input, l’ente monitorante è tenuto a verificare che l’insieme dei fattori produttivi rendicontati dal Concessionario coincida con i fattori realmente impiegati per la realizzazione dei servizi. I fattori produttivi sopra citati fanno riferimento a: il personale impiegato i costi di produzione generali del servizio i materiali impiegati per la realizzazione del servizio gli spazi a disposizione per la realizzazione del servizio le tecnologie utilizzate. La sezione Processo, la SMPQ/EMPQ verificherà le informazioni trasmesse dal Concessionario per ciò che riguarda la sezione dedicata alle dimensioni che intervengono sui fattori produttivi (input) permettendo loro di produrre degli output di servizio. Tali dimensioni riguardano i processi di miglioramento che intervengono sulle risorse umane (aggiornamento professionale, formazione generale e specifica, etc…) al fine di ridurre i costi o migliorare i livelli di servizio, in termini di quantità e/o qualità del servizio, oppure i processi di miglioramento che intervengono sui mezzi tecnologici (update dei sw, sostituzione hw, etc…) al fine di ridurre i costi o migliorare i livelli di servizio, in termini di quantità e/o qualità del servizio. Pertanto si può dire che i processi sopra richiamati fanno riferimento a: l’aggiornamento professionale dei soggetti chiamati a realizzare il servizio; l’innovazione tecnologica che interviene nella realizzazione del servizio; la manutenzione che viene effettuata sui mezzi tecnologici e gli strumenti utilizzati per la realizzazione del servizio. Per la sezione Output la Società di Monitoraggio verificherà la veridicità dei dati trasmessi circa la “quantità” di servizio erogato per ciascuno dei servizi osservati – ad es. l’ammontare di ore e/o giorni di servizio, la quantità di materiali prodotti, di servizi occasionali erogati, la varietà dell’offerta (come ad es. la gamma dei prodotti offerti nei negozi museali), indicazioni specifiche relative ai peculiari output delle attività (come nel caso dei piani di marketing per l’attività di marketing e pianificazione), l’ammontare del fatturato prodotto. Per quanto riguarda invece la sezione Modalità, l’Ente di Monitoraggio presterà attenzione alla verifica delle informazioni, restituite dal Concessionario, circa alcune specifiche dell’erogazione dei servizi offerti, quali: tempestività/rapidità di esecuzione e risposta al visitatore; varietà delle lingue straniere utilizzate dal personale e adoperate nel materiale informativo e promozionale; ambiti specifici; modalità di pagamento fruibili per ciascun servizio. La sezione Utenti, infine, sarà dedicata al accertamento dei dati trasmessi dal Concessionario in merito al numero di utenti che fruiscono di ogni servizio. 4.2.7.3 MODALITÀ DI REALIZZAZIONE DI SOPRALLUOGHI E ISPEZIONI La realizzazione avviene attraverso l’individuazione da parte della SMPQ/EMPQ di un soggetto incaricato di svolgere la visita. Il soggetto incaricato dovrà poi quindi recarsi, senza preavviso, presso i luoghi di erogazione dei servizi offerti in concessione e verificare la rispondenza e veridicità di quanto 138 dichiarato o comunicato dal Concessionario, attraverso gli strumenti in suo possesso (Relazione di performance Semestrale e Annuale). La prima ispezione dovrà essere realizzata entro i primi due mesi di attività della Società di Monitoraggio al fine di certificare la rispondenza del sistema informativo adottato rispetto alle indicazioni metodologiche e agli standards tecnici stabiliti nelle presenti linee guida (§ 4.2.2). Eventuali successive ispezioni possono verificarsi in qualsiasi momento dell’anno; l’esigenza di svolgere tali ulteriori controlli può sorgere sia dall’ordinaria programmazione proposta dalla SMPQ/EMPQ nel “Piano delle attività” ma soprattutto da particolari esigenze di verifica emergenti nello svolgimento delle attività di monitoraggio affidate alla SMPQ/EMPQ. Durante questa seconda tipologia di ispezioni e sopralluoghi il personale incaricato avrà il compito di svolgere una verifica di veridicità e correttezza della informazioni comunicate dal Concessionario in merito ai differenti ambiti di osservazione sopra descritti e porre particolare attenzione ove fossero emerse discrepanze tra quanto dichiarato dal Concessionario e quanto rilevato dalla SMPQ/EMPQ. Le informazioni rilevate attraverso tale strumento saranno poi raccolte nella “Relazione sull’attendibilità del sistema di rilevazione e controllo” per quanto concerne i sopralluoghi e ispezioni realizzati allo scopo di certificare il sistema informativo. Per quanto invece riguarda le informazioni e considerazioni emergenti da eventuali ulteriori sopralluoghi e ispezioni entreranno a far parte integrante della “Relazione di performance semestrale” e “Relazione di performance annuale” e potranno essere utili per l’elaborazione di eventuali azioni correttive da adottare da parte del Concessionario. 4.2.8 Verifiche di I e/o II livello: protocollo per la realizzazione di verifiche a Campione (OCM e DG Val) 4.2.8.1 LO STRUMENTO I due più alti livelli del sistema a vertice disegnato, OCM e DG Valorizzazione, hanno il compito, ognuno in merito alle sue competenze, di verificare l’operato dei differenti attori e il funzionamento del sistema nel suo complesso allo scopo di individuare eventuali azioni correttive qualora si riscontrino delle errate applicazioni e/o interpretazioni del sistema stesso. A tal fine, i due soggetti in questione affiancano alla costante osservazione in back-office del sistema l’implementazione di verifiche a campione sugli tutti gli attori coinvolti. L’OCM, nel rispetto delle sue competenze, realizza le verifiche a campione sul sistema di monitoraggio adottato dal Concessionario e sulla sua attuazione; la DG Valorizzazione, invece, ha il compito di verificare, attraverso un controllo di secondo livello, l’attività di monitoraggio e valutazione adottata dalle SMPQ. Le verifiche realizzate dalla DG si definiscono di secondo livello poiché esaminano l’operato dell’Ente monitorante sia in merito sistema di monitoraggio adottato, sia in merito alla funzionalità dei processi e degli strumenti utilizzati per la complessa attività di monitoraggio e valutazione rispetto al Concessionario. 139 Figura 15. Verifiche di I e II livello Fonte: ns eleborazione Nello svolgimento di tali azioni la DG e l’OCM dovranno verificare: il rispetto degli obblighi contrattuali; la conformità e l’affidabilità del sistema di monitoraggio e valutazione adottato; la corretta applicazione delle procedure previste dal sistema adottato; la correttezza dei dati e delle informazioni trasmesse; la coerenza e completezza delle informazioni restituite nella documentazione prevista dal sistema. 4.2.8.2 AMBITI DI OSSERVAZIONE Gli ambiti di osservazione di questo strumento variano in base al soggetto che compie la verifica e all’oggetto della verifica stessa. Le verifiche a campione realizzate dall’Organismo Centrale di Monitoraggio avranno ad oggetto il sistema di monitoraggio e le procedure utilizzate dal Concessionario; osserveranno quindi i seguenti ambiti: Input, Processo, Output, Modalità e numero di Utenti. All’interno della sezione Input, l’OCM svolgerà le verifiche in merito alla conformità del sistema, alla correttezza delle procedure adottate e alla veridicità, coerenza e completezza dei dati dichiarati e/o trasmessi dal Concessionario in merito ai fattori produttivi utilizzati, quali: il personale impiegato i costi di produzione generali del servizio i materiali impiegati per la realizzazione del servizio gli spazi a disposizione per la realizzazione del servizio le tecnologie utilizzate. La sezione Processo è dedicata alle medesime verifiche di conformità, veridicità e coerenza del sistema del Concessionario e delle informazioni dallo stesso trasmesse circa: l’aggiornamento professionale dei soggetti chiamati a realizzare il servizio; l’innovazione tecnologica che interviene nella realizzazione del servizio; la manutenzione che viene effettuata sui mezzi tecnologici e gli strumenti utilizzati per la realizzazione del servizio. La sezione Output ha ad oggetto le verifiche di conformità, veridicità e coerenza del sistema del concessionario e delle informazioni dallo stesso trasmesse in merito alla “quantità” di servizio erogato 140 per ciascuno dei servizi osservati – ad es. l’ammontare di ore e/o giorni di servizio, la quantità di materiali prodotti, di servizi occasionali erogati, la varietà dell’offerta (come ad es. la gamma dei prodotti offerti nei negozi museali), indicazioni specifiche relative ai peculiari output delle attività (come nel caso dei piani di marketing per l’attività di marketing e pianificazione), l’ammontare del fatturato prodotto. La sezione Modalità riguarda il controllo di conformità, veridicità e coerenza del sistema del concessionario e delle informazioni dallo stesso trasmesse circa tutte le informazioni che qualificano l’erogazione di un servizio sotto i seguenti profili: tempestività/rapidità di esecuzione e risposta al visitatore; varietà delle lingue straniere utilizzate dal personale e adoperate nel materiale informativo e promozionale; ambiti specifici; modalità di pagamento. Infine la sezione Utenti è dedicata alla verifica di conformità, veridicità e coerenza del sistema del concessionario e delle informazioni dallo stesso trasmesse in merito al numero di utenti che fruiscono di ogni servizio in concessione. Per quanto concerne invece le verifiche a campione realizzate dalla DG Valorizzazione si parla di verifiche di secondo livello poiché sono azioni di “monitoraggio sul monitorante”. Tale strumento, avendo ad oggetto l’intero sistema di monitoraggio sul concessionario adottato dalla SMPQ, ha il fine di verificare la conformità del sistema, la correttezza delle procedure adottate e la veridicità, coerenza e completezza dei dati trasmessi dall’Ente monitorante rispetto all’operato del concessionario. La DG Valorizzazione ha quindi il dovere, tramite le verifiche a campione, di riscontrare il corretto funzionamento dell’intero sistema di monitoraggio e valutazione adottato per la singola concessione oggetto di verifica; da ciò l’esigenza di affidare al vertice del sistema, la DG Valorizzazione, uno strumento idoneo all’osservazione dei processi, delle azioni e dei risultati sottesi a tutti gli ambiti e sotto ambiti previsti dal sistema (tabella 13): Input, Processo, Output, Modalità, Utenti e Effetti Diretti. La sezione Input osserverà: il personale impiegato i costi di produzione generali del servizio i materiali impiegati per la realizzazione del servizio gli spazi a disposizione per la realizzazione del servizio le tecnologie utilizzate. La sezione Processo osserverà: l’aggiornamento professionale dei soggetti chiamati a realizzare il servizio; l’innovazione tecnologica che interviene nella realizzazione del servizio; la manutenzione che viene effettuata sui mezzi tecnologici e gli strumenti utilizzati per la realizzazione del servizio. La sezione Output osserverà: ambiti specifici; 141 fatturato. La sezione Modalità osserverà: tempestività/rapidità di esecuzione e risposta al visitatore; personale; varietà delle lingue straniere utilizzate dal personale e adoperate nel materiale informativo e promozionale; ambiti specifici; modalità di pagamento. La sezione Utenti osserverà: numero; profilo. Infine, la sezione Effetti diretti osserverà: fidelizzazione; mediazione; accesso. 4.2.8.3 MODALITÀ DI REALIZZAZIONE DI VERIFICHE A CAMPIONE Le verifiche a campione consistono in un’analisi del sistema di monitoraggio adottato dal soggetto selezionato. In una prima fase si esamina in back-office: il sistema di monitoraggio adottato; i processi di osservazione implementati; il sistema informativo di raccolta dei dati; i risultati prodotti; la documentazione realizzata. Tale osservazione è finalizzata alla verifica del rispetto degli obblighi contrattuali, della conformità del sistema adottato, della correttezza dei processi messi in atto e della veridicità e completezza della documentazione restituita. Qualora lo si ritenga opportuno, l’OCM e la DG Valorizzazione, possono dare seguito al controllo di back-office con sopralluoghi e ispezioni presso la sede del soggetto oggetto di verifica. Possono quindi inviare, senza preavviso, un loro incaricato che, dopo essersi qualificato, avrà accesso alla documentazione necessaria, nei limiti delle prerogative dettate dal sistema, al fine di concludere la procedura di verifica in atto. La verifiche si realizzano su un campione determinato mediante estrazione casuale, che avviene attraverso metodologie informatiche, tra l’universo oggetto di osservazione; tali estrazioni sono svolte separatamente dell’OCM e dalla DG Valorizzazione. Le attività di verifica realizzate dall’OCM e dalla DG Valorizzazione hanno una duplice finalità la prima è quella di analizzare il reale funzionamento del sistema; l’altra finalità è quella di ricavare, da questi controlli diretti sulle singole realtà, indicazioni utili per l’implementazione di eventuali azioni correttive del sistema. 142 I risultati di queste attività confluiscono, per quanto concerne le azioni di verifica dell’OCM nella Reazione di Audit di primo livello, per quanto riguarda invece quelle realizzate dalla DG nella Relazione di Audit di secondo livello. 4.2.9 Protocollo di comportamento per il Mystery shopping (SMPQ/EMPQ-OCM) 4.2.9.1 LO STRUMENTO Il Mystery shopping è un’innovativa metodologia di indagine finalizzata al monitoraggio e alla verifica della qualità dei servizi offerti da un soggetto; essa di realizza ponendosi nell’ottica di un “consumatore”, rappresentato nella fattispecie da un visitatore del bene/sito culturale. Tale strumento prevede, infatti, che un soggetto incaricato agendo da finto utente, mystery shopper appunto, agisca da “cliente” tipo, per verificare che il comportamento del personale e il servizio offerto rispettino le procedure e gli standards richiesti. Il mystery shopper, opportunamente formato e indirizzato per mezzo di un adeguato protocollo di indagine, sarà incaricato di monitorare e riportare in un documento di sintesi le sue impressioni e considerazioni su quanto richiesto all’interno del protocollo. Egli dovrà quindi immergersi nei panni di un “consumatore” medio e formulare richieste simili a quelle di un normale utente. Alla fine della rilevazione il mystery shopper restituirà i risultati in una scheda/questionario, precedentemente strutturato, comprendente items e criteri di valutazione stabiliti con il Committente. Al fine di eliminare il rischio di soggettività in tale modalità di indagine, caratterizzata dall’intermediazione di un soggetto terzo, assumono ampia rilevanza due elementi quali l’attenta formulazione delle domande, al quale il mystery shopper dovrà rispondere, e la professionalità del mystery shopper stesso, che deve essere in grado di restituire al committente (SMPQ/EMPQ) le informazioni raccolte in maniera accurata ed oggettiva. Nella fattispecie il mystery shopping rappresenta uno strumento di rilevazione che, sia la SMPQ/EMPQ che l’OCM, possono utilizzare per la verifica del livello qualitativo di erogazione dei servizi in capo al concessionario. La struttura dello strumento e la modalità di realizzazione dell’indagine sono le medesime, per entrambi gli attori, risultano invece differenti gli ambiti di osservazione loro affidati. Come si vedrà nella sezione successiva, l’OCM anche nel rispetto del suo ruolo di monitorante dell’intero sistema, avrà la possibilità di rilevare dati su una gamma più ampia di ambiti di osservazione. 4.2.9.2 AMBITI DI OSSERVAZIONE Lo strumento del mystery shopping è destinato alla raccolta di elementi informativi di tipo qualitativo e può essere adottato sia dalla SMPQ/EMPQ che dall’OCM. In entrambi i casi, lo strumento sarà destinato alla raccolta di informazioni trasversali a più servizi, in modo particolare riguardante la sfera (ambito) delle modalità di erogazione del servizio e quella riguardante gli effetti diretti connessi al consumo degli stessi. L’analisi della modalità di erogazione si sviluppa attraverso i seguenti cinque sotto ambiti: Tempestività, volto ad esprimere un giudizio circa la velocità di erogazione del servizio; Personale, volto ad esprimere un giudizio circa la cordialità e preparazione del personale addetto all’erogazione del servizio; Lingue, volto ad esprimere un giudizio circa la capacità del personale di comprendere le richieste dell’utenza e rispondere alle stesse in altre lingue; 143 Ambiti specifici, ad es. semplicità di utilizzo di apparati informativi, affollamento degli spazi, funzionamento degli apparati, pulizia, chiarezza, contenuti didattici/informativi, prezzo, durata, qualità dei cibi, prestigio ecc., in base alle richieste della committenza; Modalità di pagamento, ovvero la possibilità di effettuare il pagamento attraverso strumenti virtuali. L’analisi degli effetti diretti si sviluppa attraverso tre differenti sotto-ambiti: Fidelizzazione, volto ad esprimere un giudizio circa la capacità del bene/sito di fidelizzare i propri utenti; Mediazione, volto ad esprimere un giudizio circa la capacità dei servizi offerti di mediare tra utente e bene/sito aiutando l’utente nell’interpretazione dello stesso; Accesso, volto ad esprimere un giudizio circa la capacità del servizio di rendere più accessibili all’utenza informazioni e luogo. 4.2.9.3 MODALITÀ DI REALIZZAZIONE DI INDAGINI TRAMITE IL MYSTERY SHOPPING: IL PROTOCOLLO DI COMPORTAMENTO Per eseguire indagini tramite lo strumento del mystery shopper è necessario definire un protocollo di comportamento tramite il quale fornire all’operatore sia indicazioni utili alla interpretazione dello scenario dell’indagine (quesiti da porre, informazioni/dati da rilevare ecc.), sia un insieme di regole generali di comportamento. Rispetto allo scenario, il protocollo di indagine deve descrivere il contesto-tipo in cui il mystery shopper può trovarsi: esso deve essere assolutamente realistico e, per ciascuna eventualità che possa venire a configurarsi, deve poter descrivere un insieme di comportamenti da seguire. In generale rispetto alle regole di comportamento, al mystery shopper non deve essere chiesto di compiere azioni illegali o che espongano gli incaricati a rischi fisici. Inoltre egli dovrebbe: Calarsi il più possibile nei panni di un visitatore/cliente; effettuare una visita che per durata sia simile a quella di una normale visita al bene sito/culturale; essere discreto, ovvero avere cura di non disturbare gli altri visitatori o il personale di servizio; mantenere il più possibile una visione oggettiva, dunque non prestare attenzione solo a quello che non va bene; in caso di interlocuzione con il personale di servizio non tradire alcuna conoscenza specifica della materia. A tale scopo è utile che il mystery shopper venga dotato di un set di domande-tipo che può rivolgere al personale di servizio in caso ve ne sia necessità. In generale le domande devono essere oggettive e quindi capaci di cogliere la realtà dei fatti; compilare un questionario di valutazione della qualità dei servizi, dedicando almeno 20 min per la restituzione dei risultati della sua indagine. Rispetto all’ultimo aspetto, di seguito (Box. 8) si propone il questionario di valutazione, progettato in coerenza con le finalità della rilevazione, che il mystery shopper è tenuto a redigere al termine della visita. Prima di effettuare un’indagine con mystery shopping è bene, per correttezza, avvisare tutto il personale operante nei luoghi oggetto di esame che potrebbero essere oggetto di osservazione da parte di un “finto cliente”, metterlo al corrente circa gli obiettivi della stessa e le modalità di utilizzo e presentazione dei risultati. 144 Per completezza di informazione, è importante ricordare che lo strumento del mystery shopper, quando viene usato con la finalità di valutare la qualità/competenza/cortesia dei dipendenti di un’azienda, non può mai rappresentare l’unico strumento a sostegno di azioni disciplinari o licenziamenti a carico dei dipendenti oggetto dell’intervista34. Ciò vuol dire che le valutazioni espresse attraverso lo strumento vanno necessariamente ponderate attraverso l’impiego di altri strumenti di indagine valutativa. Box 8 – Struttura del questionario da utilizzare dal Mystery Shopper PROFILO SOCIO ANAGRAFICO Sesso: M F Età: anni_____________ Luogo dove vive: (facoltativo)________Stato___________________________ Città_______________________Provincia______Cap Titolo di studio: Licenza elementare ; Licenza Media Inf. ; Diploma ; Laurea ; Titoli post-laurea ; Altro________________ Possiede un titolo di studio specifico in materie legate a______________ (arte/archeologia/storia/scienze naturali/etc.)? sì no Professione: Imprenditore ; libero professionista ; Lavoratore in proprio ; Dirigente ; Direttivo ; Quadro ; impiegato ; Altro lavoratore dipendente ; Ritirato dal lavoro ; Scolaro o studente ; Disoccupato ; Casalinga ; In cerca di prima occupazione ; Altro__________________________________ Quanti sono i componenti della sua famiglia (lei compreso)?N________ Fascia di reddito cui si appartiene: da 0 a 12 mila euro ; da 12 mila a 20 mila euro ; da 20 mila a 35 mila euro ; da 35 mila a 50 mila euro ; da 50 mila a 75 mila euro ; maggiore di 75 mila euro MOTIVAZIONI ALLA VISITA E ANALISI DEL PROCESSO DECISIONALE Per quale motivo ha scelto di visitare il museo/area archeologica/monumento? (è possibile fornire più di una risposta) interesse specifico per le collezioni ; motivi di studio/professionali ; interesse per un opera/reperto/oggetto ; imparare cose nuove ; per scoprire un museo che non avevo ancora visitato ; per accompagnare amici/conoscenti ; come parte di una visita turistica nella zona/città ; interesse per la mostra temporanea ; passare un momento personale piacevole ; altro (specificare)___________________________ Quando ha deciso di visitare il museo/area archeologica/monumento? oggi ; nell’ultima settimana ; ho programmato la visita con anticipo . Prima della visita, ha cercato informazioni su questo museo/area archeologica/monumento? sì ; no Se sì, quale risorsa ha utilizzato? (è possibile fornire più di una risposta) guide turistiche a stampa ; libri ; cataloghi ; monografie ; sito internet del museo ; altri siti internet ; sito internet del Ministero per i beni culturali ; altro(specificare)_____________________ Se sì, quale tipo di informazioni ha cercato? (è possibile fornire più di una risposta) accessibilità del museo (ad es., orari di apertura, tariffe di ingresso etc.) ; servizi offerti dal museo (ad es., visite Le indicazioni qui riportate riprendono le linee guida del documento “Sintesi delle linee guida di MSPA Europe (Mystery Shopping Providers Association) sull’attività di mystery shopping”. 34 145 guidate, audioguide, bookshop etc.) (specificare)_____________________ ; opere esposte e le collezioni -mostre ed eventi ; altro Che cosa intende fare dopo la visita al museo? visitare i dintorni ; visitare la località sede del museo ; fare shopping ; altro (specificare)_____________________ VALUTAZIONE DEI SERVIZI AL PUBBLICO Si raccomanda la compilazione del questionario solo in relazione ai servizi fruiti nel luogo di cultura Quali sono i servizi di cui ha usufruito? SI NO Ha chiesto informazioni e indicazioni al personale di servizio? Ha acquistato il biglietto di ingresso? Ha depositato bagagli e/o cappotti nel guardaroba? Ha usufruito del servizio di prenotazione e prevendita di biglietti? Ha noleggiato dispositivi audio guide e whisper? Ha usufruito del servizio di visite guidate? Ha partecipato ad Eventi e/o Mostre Ha acquistato prodotti usufruendo del servizio di Ecommerce (vendita online)? Ha consultato il sito internet del luogo di cultura visitato? Ha usufruito del servizio di assistenza didattica e laboratori didattici? Ha acquistato prodotti editoriali e/o oggettistica presso il bookshop? Ha consumato cibi e bevande presso il ristoro? Sezioni da Compilare Se si, compili la sezione “Accoglienza, Informazione e Orientamento” Se si, compili la sezione “Biglietteria, controllo Accessi e Guardaroba” Se si, compili la sezione “Biglietteria, controllo Accessi e Guardaroba” Se si, compili la sezione “Prenotazione e Prevendita” Se si, compili la sezione “Progettazione, realizzazione e noleggio audio guide e whisper” Se si, compili la sezione “Visite Guidate” Se si, compili la sezione “Progettazione, Organizzazione e Realizzazione Eventi e Mostre” Se si, compili la sezione “Ecommerce e gestione sito internet” Se si, compili la sezione “Ecommerce e gestione sito internet” Se si, compili la sezione “Assistenza didattica e laboratori didattici” Se si, compili la sezione “Vendita prodotti editoriali e oggettistica” Se si, compili la sezione “Ristoro” Valutazione sintetica dei servizi Se li ha utilizzati, si può considerare soddisfatto rispetto al servizio di? Accoglienza, Informazione e Orientamento Biglietteria Guardaroba Prenotazione e Prevendita Noleggio audio guide e whisper Visite Guidate Organizzazione e Realizzazione Eventi e Mostre Molto Abbasta nza Poco Niente Non so 146 E-commerce Sito internet Assistenza didattica e laboratori didattici Bookshop Ristoro Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta Poco Niente Non so Sezione_Accoglienza, informazione e Orientamento Tempestività I tempi di attesa per ottenere informazioni e materiale informativo sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Informazioni Ritiene che le informazioni esposte siano chiare e complete? Ritiene che i contenuti del materiale informativo siano chiari e completi? Accesso A suo giudizio, il servizio di accoglienza, informazione e orientamento quanto è stato capace di: Agevolarla nell’esperienza di visita Facilitarla negli spostamenti all’interno (e all’esterno) del sito Sezione_Biglietteria, Controllo Accessi e Guardaroba Tempestività 147 nza I tempi di attesa per acquistare il biglietto e accedere al sito sono stati soddisfacenti? I tempi di attesa per il guardaroba sono stati soddisfacenti? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, il prezzo dei biglietti di ingresso è adeguato? Secondo lei, il prezzo del guardaroba è adeguato? Chiarezza nei prezzi Trova che i prezzi dei biglietti di ingresso siano esposti in modo chiaro? Trova che i prezzi del guardaroba siano esposti in modo chiaro? Accesso A suo giudizio, il servizio di Biglietteria e Guardaroba, quanto è stato capace di: Agevolarla nell’esperienza di visita Sezione_Prenotazione e Prevendita Tempestività I tempi di attesa per prenotare online/onsite sono stati soddisfacenti? 148 Lingue È soddisfatto delle lingue parlate dal personale di servizio? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Prezzo Secondo lei, il prezzo della prevendita è adeguato? Chiarezza Trova che le informazioni ricevute siano state chiare ed esaustive? Fidelizzazione Quanto il servizio di Prenotazione e Prevendita, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Pubblicizzare questo luogo attraverso il passaparola Sezione_Progettazione, realizzazione e noleggio audioguide e whisper Tempestività I tempi di attesa per avere le audio guide e whisper sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo 149 Secondo lei, il prezzo del noleggio delle audio guide e whisper è adeguato? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Chiarezza Trova che i contenuti delle audio guide siano chiari? Contenuti informativi Trova che i contenuti didattici delle audio guide siano soddisfacenti? Semplicità di utilizzo Trova che i dispositivi di audio guide e whisper noleggiati siano semplici da utilizzare? Funzionamento È soddisfatto del funzionamento (capacità di garantire un utilizzo costante e senza problemi tecnici) delle audio guide e whisper? Pulizia Al momento del noleggio, i dispositivi di audio guide e whisper erano adeguatamente puliti? Disponibilità degli apparecchi È stato semplice reperire i dispositivi di audio guide e whisper? Fidelizzazione Quanto il suo livello di soddisfazione per il servizio Noleggio audio guide e whisper, la stimola a: di 150 Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Mediazione A suo giudizio, il servizio di Noleggio audio guide e whisper quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_Visite guidate Tempestività I tempi di attesa per accedere alla visita guidata sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni ricevute? Ritiene che i contenuti del materiale informativo ricevuto siano chiari e completi? Prezzo Secondo lei, il prezzo della visita guidata è adeguato? 151 Durata Secondo lei, la durata della visita guidata è adeguata? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto alto Abbasta nza alto Basso Molto basso Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Fidelizzazione Quanto il suo livello di soddisfazione per il servizio di Visite Guidate, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio, il servizio di Visite Guidate quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_Progettazione, Organizzazione e realizzazione Eventi e Mostre Prestigio Qual è secondo lei, il livello di prestigio delle mostre e degli eventi di cui ha usufruito? Qual è secondo lei, il livello di prestigio delle pubblicazioni connesse alle mostre e agli eventi? Prezzo Secondo lei, il prezzo di ingresso alle mostre e agli eventi è adeguato? Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni 152 disponibili su internet? Ritiene che i contenuti del materiale informativo disponibili sul posto siano chiari e completi? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Affollamento negli spazi Trova che gli spazi per eventi e mostre siano adeguati al flusso dei visitatori? Fidelizzazione Quanto il prestigio delle mostre e degli eventi a cui ha partecipato la stimolano a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio le mostre e gli eventi sono stati capaci di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_E-commerce e gestione sito internet Lingue È soddisfatto delle lingue in cui sono tradotti i messaggi del sistema di e-commerce? È soddisfatto delle lingue in cui sono tradotti i messaggi sui siti internet? Prezzo Secondo lei, i prezzi dei prodotti acquistati/in vendita nel sistema di e-commerce sono adeguati? Chiarezza nei prezzi 153 Secondo lei, i prezzi dei prodotti in vendita sul sistema di ecommerce sono comunicati in modo chiaro? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Semplicità di utilizzo Ha trovato semplice reperire le informazioni sul sito internet? Ha trovato semplice l’utilizzo del sistema di acquisti on line? Funzionamento È soddisfatto del funzionamento tecnico del sito web? Fidelizzazione Quanto il servizio di E-commerce e sito internet, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali inerenti questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Mediazione A suo giudizio, i contenuti del sito internet quanto sono stati capaci di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Sezione_Assistenza didattica e laboratori didattici Tempestività I tempi di attesa per fruire dei laboratori e delle attività didattiche sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? 154 È soddisfatto della disponibilità e gentilezza del personale? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Lingue È soddisfatto delle lingue parlate dal personale di servizio? Prezzo Secondo lei, il prezzo delle attività didattiche è adeguato? Chiarezza delle informazioni È soddisfatto della chiarezza e completezza delle informazioni ricevute? Ritiene che i contenuti del materiale didattico siano chiari e completi? Contenuti didattici Trova che i contenuti dei laboratori didattici e dei materiali didattici siano adeguati alle sue esigenze? Durata Secondo lei, la durata del laboratorio didattico è adeguata? Fidelizzazione Quanto il servizio di Assistenza didattica e laboratori didattici, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione 155 A suo giudizio, il servizio di Assistenza didattica e laboratori didattici quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Sezione_Vendita prodotti editoriali e oggettistica Tempestività I tempi di attesa per acquistare i prodotti sono stati soddisfacenti? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue È soddisfatto delle lingue parlate dal personale di servizio? È soddisfatto delle lingue in cui sono tradotte le pubblicazioni? Prezzo Secondo lei, i prezzi dei volumi e delle pubblicazioni in vendita sono adeguati? Chiarezza nei prezzi Secondo lei, i prezzi dei prodotti in vendita sono chiari? Coerenza Secondo lei, i prodotti editoriali e di oggettistica disponibili esprimono l’immagine ed il valore del luogo visitato? 156 Affollamento degli spazi Secondo lei, gli spazi del bookshop sono adeguati? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta Poco Niente Non so Fidelizzazione Quanto il bookshop e la sua gamma di prodotti la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Mediazione A suo giudizio, il servizio di vendita prodotti editoriali e oggettistica quanto è stato capace di: Facilitare l’interpretazione del luogo e/o dell’esposizione Suggerire nuove e stimolanti interpretazioni del luogo e/o dell’esposizione Accesso A suo giudizio, il bookshop è stato capace di: Facilitare l’accesso alle informazioni necessarie alla visita Rendere più esaustiva/appagante l’esperienza di visita Sezione_Ristoro Tempestività Ha trovato i tempi di attesa del servizio di ristoro adeguati? Personale È soddisfatto della preparazione del personale? È soddisfatto della disponibilità e gentilezza del personale? Lingue 157 nza È soddisfatto delle lingue parlate dal personale di servizio? Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Molto Abbasta nza Poco Niente Non so Prezzo Secondo lei, i prezzi dei cibi/bevande disponibili sono adeguati? Chiarezza nei prezzi Secondo lei, i prezzi di cibi e bevande sono esposti in modo chiaro? Affollamento degli spazi Trova che il numero di coperti offerti dal servizio Ristoro sia adeguato al flusso dei visitatori? Qualità di cibi e bevande Pensa che la qualità dei cibi e delle bevande sia adeguata? Fidelizzazione Quanto il suo livello di soddisfazione per il servizio di Ristoro, la stimola a: Tornare in questo luogo Effettuare future visite in altri luoghi di cultura Acquistare materiali in questo luogo di cultura Pubblicizzare questo luogo attraverso il passaparola Prolungare la visita in questo luogo di cultura Accesso A suo giudizio, il servizio di Ristoro quanto è stato capace di: Facilitare la fruizione del luogo della cultura Rendere più esaustiva/appagante l’esperienza di visita 158 Per quanto concerne invece la periodicità di somministrazione si suggerisce di utilizzare questo strumento minimo due volte nell’arco dei 12 mesi di osservazione del concessionario da parte della SMPQ/EMPQ e dell’OCM. 159 4.3 Contenuti e format dei documenti monitoraggio e valutazione e della reportistica del 4.3.1 Premessa In questa sezione verranno fornite le linee guida per la redazione dei documenti che i soggetti del Sistema saranno tenuti a produrre, in stretta rispondenza alle precipue responsabilità e possibilità di intervento che il Sistema definisce per ciascuno di essi, nel corso del periodo di affidamento dei servizi. Per consentire una maggiore usabilità di tali documenti, le linee guida qui predisposte assumeranno un aspetto pratico e sintetico. Pertanto per ciascuno di essi, salvo determinate specifiche che dovessero riguardare i singoli documenti di cui tratteremo, si prevederà a fornire le seguenti indicazioni: Chi lo redige e quando, dove vengono fornite le indicazioni sul soggetto che deve produrlo e la relativa tempistica di redazione e trasmissione; Cosa contiene, dove vengono forniti i riferimenti necessari ai contenuti che il documento in questione deve produrre; A chi va destinato, dove vengono fornite le indicazioni sul destinatario del documento redatto; La struttura del documento, dove verranno fornite le indicazioni necessarie ad articolare la struttura complessiva minima che il documento dovrà assumere. 4.3.2 Piano delle Attività (SMPQ/EMPQ) 4.3.2.1 CHI LO REDIGE E QUAN DO Il documento deve essere redatto dal soggetto che si candida a divenire Società di Monitoraggio della Performance e della Qualità (SMPQ/EMPQ) e deve essere indirizzato alle amministrazioni che hanno concluso la procedura di affidamento dei servizi al pubblico presso i luoghi statali di propria competenza. A seguito dell’individuazione del Concessionario dei servizi, infatti, l’amministrazione deve provvedere ad individuare anche il soggetto professionalmente qualificato a supportarla nelle attività di monitoraggio e controllo delle performance di servizio realizzate dal Concessionario, mediante l’indizione di una procedura di evidenza pubblica. Nel quadro di tale procedure il Piano delle Attività è un documento che deve essere prodotto dal soggetto candidato e costituisce parte integrante del documento di Offerta Tecnica richiesto dalle amministrazioni all’interno del Capitolato di gara predisposto per la sua selezione. Ricordando che le funzioni di SMPQ possono essere altresì svolte in economia dalle medesime amministrazioni (in questo caso l’amministrazione svolge funzione di ente di monitoraggio), in tal caso il documento dovrà essere redatto immediatamente dopo l’avvenuta stipula della convenzione con cui si sancisce l’affidamento definitivo, ad un dato Concessionario, dei servizi al pubblico nei luoghi della cultura posti a gara. 4.3.2.2 COSA CONTIENE Mediante il Piano delle Attività, la SMPQ/EMPQ pianifica le attività di rilevazione e verifica che, stando al disegno del Sistema di Monitoraggio e Valutazione, è tenuta a realizzare nei confronti delle attività e dei servizi realizzati dal Concessionari presso i luoghi della Cultura di cui sono responsabili. 160 In accordo con le risorse messe a base di gara per la procedura di affidamento, mediante il Piano delle Attività la SMPQ/EMPQ provvede a definire, per ciascuno degli strumenti e delle metodologie di rilevazione e verifica contemplati, il volume di attività che ha intenzione di realizzare per garantire una corretta, efficiente ed efficace azione di monitoraggio e valutazione sulle attività poste in essere dal Concessionario. 4.3.2.3 STRUMENTI E METODOLOGIE A DISPOSIZIONE DELLA SMPQ/EMPQ PER LE ATTIVITÀ DI RILEVAZIONE E VERIFICA Si è detto che il Piano delle Attività deve contenere il programma delle attività di rilevazione e verifica che l’SMPQ/EMPQ deve realizzare nei confronti dei servizi posti in essere dal Concessionario. Preme ricordare che le attività di rilevazione che l’SMPQ/EMPQ è tenuto a realizzare, investono alcuni specifici ambiti informativi inerenti la gestione dei servizi in capo al Concessionario che, secondo la logica di costruzione del Sistema di Monitoraggio e Valutazione, nella fattispecie riguardano: le Modalità: attiene alla rapidità di esecuzione e risposta al visitatore, alla competenza, cortesia, disponibilità e gentilezza del personale, alla varietà delle lingue straniere utilizzate dal personale e adoperate nel materiale informativo e promozionale gli Utenti: attiene al profilo degli utenti che fruiscono del servizio, in termini di condizioni socioeconomiche gli Effetti Diretti: attiene all’effetto generato sul visitatore in termini di migliore comprensione delle esposizioni e dei luoghi di cultura, all’effetto generato sul visitatore in termini di migliori condizioni di visita, all’effetto generato sul visitatore in termini di propensione al ritorno/visita del luogo di cultura gli Effetti Indiretti: attiene agli effetti generati sul museo in termini di migliori condizioni di reputazione, visibilità, riconoscibilità e di valorizzazione, agli effetti generati sul contesto in termini di miglior rapporto con il territorio (dimensioni sociali, culturali ed economiche. In questo quadro gli strumenti di rilevazione considerati idonei a svolgere tali osservazioni sono: Questionario online; Questionario front; Focus Group; Interviste. Laddove gli strumenti di rilevazione sono finalizzati ad osservare tutti quegli aspetti che interessano la percezione dell’utenza nei confronti del lavoro svolto dal Concessionario nella gestione dei servizi, gli strumenti di verifica sono invece destinati a verificare la corrispondenza tra quanto dichiarato in sede di Offerta Tecnica da parte del Concessionario per quanto riguarda i seguenti ambiti informativi: Input: ovvero l’insieme dei fattori produttivi che esso stesso impiega per la realizzazione dei servizi nei diversi siti in cui sono attivi; Processi: ovvero le informazioni riguardanti le dimensioni che intervengono sui fattori produttivi (input) permettendo loro di produrre degli output di servizio; Output: attiene alla “quantità” di servizio erogato per ciascuno dei servizi osservati; Modalità: riguarda tutte le informazioni che qualificano l’erogazione di un servizio. 161 Tali strumenti dunque, non sono volti alla rilevazione di percezioni da parte della domanda dei servizi; piuttosto sono destinati a verificare lo scarto tra ciò che è stato pianificato e ciò che viene realmente realizzato dal Concessionario. In questo quadro, gli strumenti di verifica contemplati dal Sistema e a disposizione dell’SMPQ/EMPQ sono: Sopralluoghi e ispezioni; Verifiche a Campione; Mystery shopping. Il ventaglio di strumenti (di rilevazione e verifica) sopra esposti, costituisce il punto di riferimento da tenere in considerazione al momento dell’individuazione (tramite procedura di evidenza o tramite l’affidamento dell’incarico alle risorse interne alle amministrazioni) del soggetto che si candida a svolgere le funzioni di monitoraggio e valutazione delle performance del Concessionario. Tuttavia, nel caso si proceda all’indizione di una procedura di evidenza pubblica per la selezione dell’SMPQ, a quest’ultima può altresì essere richiesto di specificare all’interno del documento di Offerta Tecnica, anche la propria eventuale proposta migliorativa/integrativa. In altre parole la SMPQ/EMPQ può essere invitata ad individuare all’interno del Piano delle Attività (che a sua volta è parte integrante del documento di Offerta Tecnica) ulteriori strumenti di rilevazione e verifica che, compatibilmente con gli obiettivi e le funzioni assegnate dal Sistema di Monitoraggio al soggetto incaricato del controllo dell’operato del Concessionario, la stessa avrà in animo di realizzare in ottemperanza alle proprie funzioni. 4.3.2.4 A CHI VA DESTINATO Il Piano delle Attività deve essere trasmesso alla Stazione Appaltante e, una volta approvato, all’OCM attraverso i canali informatici/vi da essa indicati. Quando il Piano delle Attività è contenuto all’interno del documento di Offerta Tecnica mediante il quale la SMPQ dichiara il livello quali/quantitativo dei servizi che intende porre in essere in risposta al fabbisogno dichiarato dall’Amministrazione nel corso della procedura di evidenza pubblica emanata con l’obiettivo di individuare il soggetto monitorante, tale documento deve essere sottoscritto dal legale Rappresentante del soggetto candidato. Esso sarà indirizzato all’OCM soltanto nel momento in cui l’Amministrazione che ha bandito la gara, avrà individuato il concorrente che abbia fornito le migliori caratteristiche tecnico/economiche e professionali per la realizzazione del servizio. Quando il Piano delle Attività è predisposto dall’EMPQ (quindi si prevede sia stato istituito un ufficio di monitoraggio all’interno dell’Amministrazione titolare del rapporto) il documento deve essere approvato e sottoscritto dal Dirigente responsabile, o da un suo delegato. 4.3.2.5 LA STRUTTURA DEL DOCUMENTO All’interno del box seguente (Box. 9) di provvederà a definire tale struttura (indice) minima del documento, provvedendo ad indicare anche i contenuti di ciascuna sezione. In considerazione del fatto che il documento potrà essere prodotto anche dagli uffici interni all’Amministrazione (EMPQ), la struttura del documento che si propone di seguito potrà ritenersi flessibile in funzione delle dichiarate necessità delle Amministrazioni. Tuttavia preme precisare che anche qualora fosse realizzato dall’EMPQ, il documento 162 Box 9 – Indice parlante del Piano delle Attività 1. Premessa 2. Obiettivi e finalità dell’attività di pianificazione e rilevazione Nel quadro delle necessità espresse dalle Amministrazioni che hanno ultimato la procedura di affidamento dei servizi al pubblico nei luoghi statali della cultura di loro titolarità, in questa sezione il soggetto candidato (SMPQ) e/o facente funzione di ente di monitoraggio (EMPQ) dichiara quali sono gli obiettivi e le finalità complessive che intende perseguire attraverso le attività di pianificazione e rilevazione che è chiamata a svolgere nei siti (e per i servizi) oggetto di affidamento in concessione. 3. Il Piano delle attività 3.1 Le attività di Rilevazione In questa sezione il soggetto (SMPQ/EMPQ) dichiara qual è l’insieme degli strumenti di rilevazione – tra quelli suggeriti dall’Amministrazione in ottemperanza a quanto previsto dall’OCM e/o in aggiunta a questi ultimi secondo quanto eventualmente richiesto dalle Amministrazioni e/o proposti di sua iniziativa dal soggetto candidato – di cui intende disporre nel corso del periodo di affidamento e realizzazione del servizio. Rispetto a questo insieme di strumenti il candidato è tenuto a rappresentare in maniera sintetica anche qual è il meccanismo di correlazione tra strumenti/metodologie e ambiti informativi del Concessionario da monitorare. Nella sezione successiva il candidato (e/o l’EMPQ) sarà tenuto a fornire, per ciascuno strumento che ha intenzione di adottare, un insieme dettagliato di informazioni qualitative (metodologie) e quantitative di erogazione/somministrazione. 3.1.1 Questionario on line In questa sezione il soggetto candidato è tenuto a descrivere, per lo strumento considerato, quelli che sono le caratteristiche generali dello strumento, avendo cura di descrivere: - gli ambiti informativi da rilevare - le modalità di somministrazione del questionario e le eventuali campagne di sensibilizzazione/incentivazione ad esso correlate - la piattaforma informativa/ca che accoglierà il questionario - il volume di somministrazioni rilevazioni attese nel periodo - le modalità di analisi e restituzione dei dati - il collegamento con gli altri strumenti 3.1.2 Questionario front In questa sezione il soggetto candidato è tenuto a descrivere, per lo strumento considerato, quelli che sono le caratteristiche generali dello strumento, avendo cura di descrivere: - gli ambiti informativi da rilevare - le modalità di somministrazione del questionario e le eventuali campagne di sensibilizzazione/incentivazione ad esso correlate - il volume (numerosità del campione/frequenza) delle rilevazione - le modalità di analisi e restituzione dei dati - il collegamento con gli altri strumenti 3.1.3 Focus Group In questa sezione il soggetto candidato è tenuto a descrivere, per lo strumento considerato, quelli che sono le caratteristiche generali dello strumento, avendo cura di descrivere: - gli ambiti informativi che intende rilevare - le modalità di articolazione del focus group in relazione ai fabbisogni di rilevazione - le metodologie di riferimento per la realizzazione e conduzione del focus group (e relative metodologie di riferimento per la selezione dei candidati. - il volume (quantità/frequenza) delle rilevazioni - le modalità di analisi e restituzione dei dati - il collegamento con gli altri strumenti 3.1.4 Interviste 163 In questa sezione il soggetto candidato è tenuto a descrivere, per lo strumento considerato, quelli che sono le caratteristiche generali dello strumento, avendo cura di descrivere: - gli ambiti informativi da rilevare - le modalità di costruzione del questionario in relazione ai fabbisogni di rilevazione - le modalità di somministrazione del questionario e le eventuali campagne di sensibilizzazione ad esso correlate - il volume (numerosità del campione/frequenza) delle rilevazioni - le modalità di analisi e restituzione dei dati - il collegamento con gli altri strumenti 3.1.5 Ulteriori strumenti di rilevazione (SE RICHIESTO DALL’AMMINISTRAZIONE) Qualora l’Amministrazione ne esprima la necessità, in questa sezione al soggetto candidato è data la possibilità di proporre ulteriori strumenti di rilevazione da inserire nel paniere di quelli già predisposti dall’OCM. In questa maniera, il soggetto candidato ha la libertà di introdurre elementi tecnici migliorativi del servizio sui quali l’Amministrazione dovrà esprimersi. Per ciascuno degli strumenti si dovrà: - dimostrare l’assoluta coerenza con le finalità espresse dalla rilevazione - dichiarare gli ambiti informativi che si intende monitorare attraverso lo strumento - definire le modalità di utilizzazione dello strumento - definire il volume delle rilevazioni - definire le modalità di analisi e restituzione dei dati - definire il collegamento con gli altri strumenti 3.2 Le attività di Verifica In questa sezione il soggetto (SMPQ/EMPQ) dichiara qual è l’insieme degli strumenti di verifica – tra quelli suggeriti dall’Amministrazione in ottemperanza a quanto previsto dall’OCM e/o in aggiunta a questi ultimi secondo quanto eventualmente richiesto dalle Amministrazioni e/o proposti di sua iniziativa dal soggetto candidato – di cui intende disporre nel corso del periodo di affidamento e realizzazione del servizio. Rispetto a questo insieme di strumenti il candidato è tenuto a rappresentare in maniera sintetica anche qual è il meccanismo di correlazione tra strumenti/metodologie e ambiti informativi del Concessionario da monitorare. Nella sezione successiva il candidato (e/o l’EMPQ) sarà tenuto a fornire, per ciascuno strumento che ha intenzione di adottare, un insieme dettagliato di informazioni qualitative (metodologie) e quantitative di erogazione/somministrazione 3.2.1 Sopralluoghi e ispezioni In questa sezione il soggetto candidato è tenuto a descrivere, per lo strumento considerato, quelli che sono le caratteristiche generali dello strumento, avendo cura di descrivere: - gli ambiti informativi da verificare - il protocollo di comportamento per la realizzazione di sopralluoghi e ispezioni - il volume delle attività di verifica da realizzare - le modalità di analisi e restituzione dei dati - il collegamento con gli altri strumenti 3.2.2 Mystery shopping In questa sezione il soggetto candidato è tenuto a descrivere, per lo strumento considerato, quelli che sono le caratteristiche generali dello strumento, avendo cura di descrivere: - gli ambiti informativi da verificare - il protocollo di comportamento per il mystery shopper - il volume delle attività di verifica da realizzare - le modalità di analisi e restituzione dei dati - il collegamento con gli altri strumenti 3.2.3 Altri strumenti Qualora l’Amministrazione ne esprima la necessità, in questa sezione al soggetto candidato è data la possibilità di proporre ulteriori strumenti di verifica da inserire nel paniere di quelli già predisposti dall’OCM. In questa maniera, il soggetto candidato ha la libertà di introdurre elementi tecnici migliorativi del servizio sui quali l’Amministrazione dovrà 164 esprimersi. Per ciascuno degli strumenti si dovrà: - dimostrare l’assoluta coerenza con le finalità espresse dall’attività di verifica - dichiarare gli ambiti informativi che si intende monitorare attraverso lo strumento - definire le modalità di utilizzazione dello strumento - definire il volume delle attività di verifica - definire le modalità di analisi e restituzione dei dati - definire il collegamento con gli altri strumenti 3.3 Considerazioni conclusive 4.3.3 Relazione sull’attendibilità del Sistema di Rilevazione e Controllo ( SMPQ/EMPQ) 4.3.3.1 CHI LO REDIGE E QUAN DO La redazione del documento viene fatta una tantum dalla SMPQ/EMPQ – entro due mesi dall’avvio dell’attività di gestione da parte del Concessionario – generalmente a seguito delle attività di verifica che essa realizza sul sistema informativo predisposto dal Concessionario. 4.3.3.2 COSA CONTIENE Il documento viene elaborato in seguito all’attività di verifica sull’attendibilità dei processi e degli strumenti a disposizione del Concessionario per la gestione e rilevazione dei dati. Esso ha lo scopo di stimolare azioni di adeguamento/miglioramento dei sistemi e segnalare all’OCM eventuali problematiche rilevate. Gli elementi costitutivi del documento (frutto delle verifiche effettuate) sono: elenco dei processi di rilevazione e stoccaggio dei dati analizzati; elenco degli strumenti rilevazione e stoccaggio dei dati analizzati; dichiarazione sul livello di attendibilità e validità di tali processi e strumenti; eventuali indicazioni correttive e di miglioramento per il concessionario; 4.3.3.3 A CHI VA DESTINATO Il documento, una volta approvato35, viene trasferito all’OCM e al Concessionario. Esso va indirizzato ai soggetti sopra menzionati con raccomandata con ricevuta di ritorno o attraverso l’invio elettronico utilizzando il sistema di Posta Elettronica Certificata (PEC). Non appena sarà attivo il sistema informativo dell’OCM il documento dovrà essere caricato nell’apposita sezione dedicata del sistema. Nel caso di SMPQ, esso dovrà essere firmato dal legale rappresentante del soggetto autorizzato. Nel caso di EMPQ esso dovrà essere approvato e firmato dal Dirigente responsabile o suo delegato. 4.3.3.4 LA STRUTTURA DEL DOCUMENTO All’interno del box seguente (Box. 10) si provvederà a definire tale struttura (indice) minima del documento, provvedendo ad indicare anche i contenuti di ciascuna sezione. Nel caso in cui l’individuazione dell’SMPQ avvenga mediante procedura di evidenza pubblica, il documento si ritiene essere approvato dopo che è stato decretato l’affidamento definitivo del servizio al soggetto candidato. Nel caso in cui le funzioni di monitorante vengano assolte dall’Amministrazione al suo interno (EMPQ), il documento si considera approvato dopo che è stato approvato e sottoscritto dal responsabile dell’Amministrazione e/o suo delegato. 35 165 Box 10 - Indice parlante della Relazione di Attendibilità del Sistema Informativo del Concessionario 1. Introduzione 2. Obiettivi del documento In questa sezione la SMPQ/EMPQ definisce quali sono gli obiettivi della relazione, collegando la medesima alle attività di verifica realizzate nel corso del periodo di riferimento. 3. Il Sistema di Concessione: siti e servizi attivi in gestione al Concessionario In questa sezione la SMPQ/EMPQ inquadra l’attività di verifica all’interno della Concessione, specificando nel dettaglio gli oggetti di osservazione, ovvero il tipo di servizi attivo nei diversi siti oggetto di concessione. 4. Analisi del sistema informatico/informativo 4.1 Elenco dei processi di rilevazione e stoccaggio dei dati analizzati In questa sezione la SMPQ/EMPQ elenca i processi di rilevazione e stoccaggio dei dati analizzati 4.2 Elenco degli strumenti di rilevazione e stoccaggio dei dati analizzati In questa sezione la SMPQ/EMPQ elenca gli strumenti di rilevazione e stoccaggio dei dati analizzati 4.3 Risultati rilevati dall’analisi dei processi e degli strumenti utilizzati In questa sezione la SMPQ/EMPQ realizza una analisi dettagliata dei processi e degli strumenti di rilevazione e stoccaggio dei dati 4.4 Livello di attendibilità e validità dei processi e degli strumenti In questa sezione, sulla scorta delle analisi svolte in precedenza, la SMPQ/EMPQ esprime in maniera sintetica ma compiuta le proprie considerazioni in merito all’attendibilità e validità dei processi e degli strumenti di rilevazione e stoccaggio dati del Concessionario 4.4 Eventuali indicazioni correttive e di miglioramento per il concessionario In questa sezione la SMPQ/EMPQ individua e suggerisce l’adozione di accorgimenti correttivi per rendere i processi e gli strumenti di rilevazione e stoccaggio dati sempre più conformi, stabili e attendibili 5. Conclusioni 4.3.4 Rapporto di Gestione (Concessionario) 4.3.4.1 CHI LO REDIGE E QUAN DO Il Rapporto di gestione viene redatto dal Concessionario con cadenza semestrale e pertanto deve rappresentare i dati raccolti dal 1 gennaio al 30 giugno (primo semestre) e quelli raccolti dal 1 luglio al 31 dicembre (secondo semestre) di ogni anno. 4.3.4.2 COSA CONTIENE Attraverso il rapporto di gestione il Concessionario trasferisce alla SMPQ/EMPQ informazioni inerenti i dati di input, processo, output, modalità, utenti (solo relativamente al numero) che sono stati rilevati e sistematizzati all’interno di un apposito sistema informativo e corrispondenti al periodo di osservazione. 4.3.4.3 A CHI VA DESTINATO 166 Il documento deve essere inoltrato alla SMPQ/EMPQ entro due mesi dall’ultima rilevazione, e pertanto dovrà pervenire a mezzo posta elettronica certificata e/o raccomandata postale entro il 28 febbraio e il 31 agosto di ogni anno36. La relazione dovrà essere accompagnata dal database (o foglio elettronico compatibile) in cui sono stati alloggiati e sistematizzati i dati inerenti le rilevazioni. Non appena sarà attivo il sistema informativo dell’OCM il documento dovrà essere caricato nell’apposita sezione dedicata del sistema. La relazione dovrà essere sottoscritta dal legale rappresentante del Concessionario 4.3.4.4 LA STRUTTURA DEL DOCUMENTO All’interno del box seguente (Box. 11) si provvederà a definire tale struttura (indice) minima del documento, provvedendo ad indicare anche i contenuti di ciascuna sezione. Nel momento in cui sarà operativo il Sistema informative/co dell’OCM, la trasmissione delle relazioni avverrà attraverso il caricamento del file sul portale dedicato, utilizzando codici di accesso (username e password) personali. 36 167 Box 11 – Indice parlante del Rapporto di Gestione 1. Premessa 2. Obiettivi del documento In questa sezione il Concessionario descrive quali sono gli obiettivi della relazione. 3. Informazioni generali 3.1 Periodo di rilevazione In questa sezione il Concessionario individua il periodo cui la rilevazione e reportistica fa riferimento. 3.2 Servizi attivi In questa sezione il Concessionario descrive quali sono i servizi attivi, avvalendosi eventualmente di tabelle riassuntive simili a quella che si propone di seguito. Attivo SI/NO 1 Marketing, Pianificazione, Attività e Comunicazione 2 Accoglienza Informazione e Orientamento 3.1 Biglietteria 3.2 Controllo Accessi 3.3 Guardaroba 4 Prenotazione e Prevendita 5 Progettazione, Realizzazione e Noleggio Audioguide e Whisper 6 Visite Guidate 7 Progettazione, Organizzazione e Realizzazione Eventi e Mostre 8 E-commerce e gestione sito internet SI, stagionale Se stagionale indicare il periodo N. ore annue di disponibilità del servizio 168 9 Assistenza didattica e laboratori didattici 10 Progettazione e Realizzazione Editoriale e Oggettistica 11 Vendita Prodotti Editoriali ed Oggettistica 12 Ristoro 3.3 Spazi In questa sezione il Concessionario descrive quali sono gli spazi a disposizione dei servizi, avvalendosi eventualmente di tabelle riassuntive simili a quella che si propone di seguito. Spazi Back Office 1 Marketing, Pianificazione, Attività e Comunicazione 2 Accoglienza Informazione e Orientamento 3.1 Biglietteria 3.2 Controllo Accessi 3.3 Guardaroba 4 Prenotazione e Prevendita 5 Progettazione, Realizzazione e Noleggio Audioguide e Whisper Front Office Dedicato Front Office Condiviso Se condiviso, con quali servizi MQ locali di servizio (spogliatoi, bagni, magazzino ecc) MQ locali di esposizione MQ complessivi 37 MQ per il pubblico MQ per servizi igienici - - - - - - - - - - - - - - - - - - - - - - - - - Qualora il servizio oggetto di osservazione preveda l’utilizzo di uno spazio dedicato (ad es. il bookshop), nella cella corrispondente deve essere indicata l’ampiezza, espressa in metri quadri, del locale che ospita il servizio. Qualora il servizio oggetto di rilevazione condivida lo spazio con altri servizi (così come dovrà essere indicato nella colonna apposita) l’ampiezza, espressa in metri quadri, del locale che ospita i vari servizi va indicata in corrispondenza di uno soltanto dei servizi coinvolti. Ad esempio, se nel locale sono ospitati contemporaneamente il servizio di Accoglienza Informazione e Orientamento, di Biglietteria, Controllo Accessi e di Noleggio Audioguide e Whisper, le dimensioni del locale saranno indicate soltanto in corrispondenza di uno dei tre servizi 37 169 6 Visite Guidate - 7 Progettazione, Organizzazione e Realizzazione Eventi e Mostre 8 E-commerce e gestione sito internet 9 Assistenza didattica e laboratori didattici 10 Progettazione e Realizzazione Editoriale e Oggettistica 11 Vendita Prodotti Editoriali ed Oggettistica 12 Ristoro - - - - - - - - - - - - - - - - - 3.4 Personale In questa sezione il Concessionario fornisce informazioni circa il personale alle sue dipendenze impiegato per l’erogazione dei servizi, avvalendosi eventualmente di tabelle riassuntive simili a quella che si propone di seguito. 12 11 10 9 8 7 6 5 4 3.3 3.2 F Costo Inquadramento Professionalità lordo contrattuale - Ruolo annuo 3.1 M Numero di Ore dedicate al servizio38 2 Sesso Ore di lavoro previste da contratto 1 Sito a. Natura del Titolo rapporto Età di di lavoro studio FT PT Per numero di ore dedicate al servizio non si intendono le ore contrattualizzate con ciascuna unità di personale per lo svolgimento del servizio in oggetto. Piuttosto si intende il numero di ore che l’unità di personale in questione dedica a uno o più servizi in cui è impiegato. Ad esempio, supponendo che la medesima unità di personale sia impiegata 6 ore al giorno per lo svolgimento del servizio di Biglietteria, di Controllo Accessi e di Accoglienza Informazione e Orientamento in corrispondenza dell’unità e di ciascuno dei servizi in questione, il Concessionario sarà tenuto ad indicare il fattore tra le 6 ore giornaliere impiegate e il numero di giorni lavorativi a cui corrisponde la rilevazione. 38 170 Ristoro Vendita Prodotti Editoriali ed Oggettistica Progettazione e Realizzazione Editoriale e Oggettistica Assistenza didattica e laboratori didattici E-commerce e gestione sito internet Progettazione, Organizzazione e Realizzazione Eventi e Mostre Visite Guidate Progettazione, Realizzazione e Noleggio Audioguide e Whisper Prenotazione e Prevendita Guardaroba Controllo Accessi Biglietteria Accoglienza Informazione e Orientamento Marketing, Pianificazione, Attività e Comunicazione Unità 1 Unità 2 … … … … Unità n 3.5 Costi generali In questa sezione il Concessionario fornisce informazioni circa i costi generali (cioè costi non direttamente imputabili ad un prodotto, ad un processo produttivo o a un servizio, e che quindi completano la rosa dei costi dei servizi imputabili ai singoli servizi), avvalendosi eventualmente di tabelle riassuntive simili a quella che si propone di seguito. Costi generali Servizi comuni Guardiania, pulizia, manutenzione impianti (non riconducibili a specifici servizi) Di amministrazione Cancelleria, spese postali, spese telefoniche, abbonamenti a riviste, canoni di locazione di spazi, Ammortamento di immobilizzazioni attinenti la funzione amministrativa, Costi del personale amministrativo, Commercialista, Consulente del lavoro, Gestione Qualità 171 4. Le performance dei servizi 4.1 Marketing, Pianificazione, Attività e Comunicazione In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.2 Accoglienza Informazione e Orientamento In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.3 Biglietteria, Controllo Accessi e Guardaroba In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.4 Prenotazione e Prevendita In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.5 Progettazione, Realizzazione e Noleggio Audioguide e Whisper In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.6 Visite Guidate In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 172 4.7 Progettazione, Organizzazione e Realizzazione Eventi e Mostre In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.8 E-commerce e gestione sito internet In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.9 Assistenza didattica e laboratori didattici In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.10 Progettazione e Realizzazione Editoriale e Oggettistica In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.11 Vendita Prodotti Editoriali ed Oggettistica In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 4.12 Ristoro In questa sezione il Concessionario da conto del livello di performance realizzato in relazione a specifici ambiti informativi osservati – vedi gli indicatori di INPUT, di PROCESSO, di OUTPUT, di MODALITA’, di UTENTI (solo relativamente al numero). Le informazioni dovranno essere rese sia in forma tabellare, sia accompagnate da eventuali grafici illustrativi e relativi commenti. 5. Potenziali ambiti di miglioramento Alla luce delle valutazioni effettuate, il Concessionario in questa sezione può esprimere eventuali obiettivi di miglioramento (fissando target obiettivi specifici e/o generici) nella erogazione dei servizi. 6. Conclusioni 173 4.3.5 Relazione di Audit di secondo livello (DG Valorizzazione) 4.3.5.1 CHI LO REDIGE E QUAN DO La Relazione di Audit di secondo livello viene redatta dalla DG Valorizzazione con cadenza annuale, entro i primi 4 mesi – il 30 aprile – di ciascun anno di concessione successivo a quello di riferimento. 4.3.5.2 COSA CONTIENE Il documento viene redatto a seguito delle attività di verifica che la DG Valorizzazione realizza attraverso le Verifiche a campione tra tutte Società di Monitoraggio impegnate nelle varie concessioni attive. Mediante tali verifiche la DG verifica rispetto di quanto stabilito in sede contrattuale, l’andamento del Sistema di monitoraggio, nonché l’affidabilità e l’integrità delle informazioni da questo prodotte. Lo strumento delle verifiche a campione della DG Valorizzazione è l’unico che permette un controllo non solo di primo ma anche di secondo livello, monitorando l’attività che la SMPQ realizza rispetto al concessionario; ciò consente alla Direzione Valorizzazione di ottenere una visione di insieme dell’intera filiera coinvolta nel sistema ma anche una visione di dettaglio delle attività di ogni attore coinvolto. Il documento dunque, partendo dai risultati delle Verifiche a campione sintetizza lo stato dell’arte del sistema di monitoraggio e da evidenza alle aree di rischio individuate, suggerendo l’adozione di eventuali azioni correttive da intraprendere. 4.3.5.3 A CHI VA DESTINATO La Relazione di Audit di secondo livello è indirizzata all’OCM, alle Stazioni Appaltanti e alla SMPQ. Esso va indirizzato ai soggetti sopra menzionati con raccomandata con ricevuta di ritorno o attraverso l’invio elettronico utilizzando il sistema di Posta Elettronica Certificata (PEC). 4.3.5.4 LA STRUTTURA DEL DOCUMENTO All’interno del box seguente (Box. 12) si provvederà a definire tale struttura (indice) minima del documento, provvedendo ad indicare anche i contenuti di ciascuna sezione. Box 12 - Indice parlante della Relazione di Audit di secondo livello 1. Premessa 2. Obiettivi del documento In questa sezione vengono dichiarati gli obiettivi del documento, ovvero la restituzione dei risultati delle verifiche a campione realizzate nei confronti delle SMPQ (nel quadro delle concessioni attive) con l’obiettivo di verificare l’andamento, il rispetto e l’attuazione di quanto stabilito in sede contrattuale, del Sistema di monitoraggio, nonché l’affidabilità e l’integrità delle informazioni da questo prodotte. 3. Le attività di verifica 3.1 Metodologie utilizzate per l’indagine In questa sezione si descrivono le varie metodologie di verifica adottate. 3.2 Ambiti e processi sottoposti ad osservazione In questa sezione, per ciascuna metodologia di verifica adottata, vengono definiti gli ambiti di osservazione specifici (INPUT, PROCESSO, OUTPUT, ecc). 3.3 Catalogo delle indagini realizzate In questa sezione viene rendicontato l’insieme delle indagini di verifica realizzate nel corso del periodo oggetto di osservazione. 4. Andamento del Sistema di M&V 4.1 Rispetto delle funzioni di monitoraggio dalla parte della SMPQ 174 In questa sezione, rispetto alle diverse procedure/metodologie di verifica adottate, si provvederà a descrivere in termini generali l’andamento della gestione delle attività di monitoraggio implementate dalle SMPQ. Pertanto, in relazione alle precipue responsabilità di quest’ultime, la DG Valorizzazione provvederà a restituire una valutazione circa la conformità delle azioni poste in essere rispetto agli impegni contrattuali e al disegno del Sistema. In generale, i rischi riscontrati dovrebbero essere ricondotti a macro categorie/aree di rischio omogenee. 4.2 Conformità dei processi di osservazione e del Sistema informativo della SMPQ In questa sezione, la DG Valorizzazione propone una analisi dei processi di osservazione implementati della SMPQ e la capacità del sistema informativo adottato di rispondere alle necessità di rilevazione che è dovuto a rispettare (allegato C dei documenti di gara). In generale, i rischi riscontrati dovrebbero essere ricondotti a macro categorie/aree di rischio omogenee. 4.3 Valutazione circa l’integrità dei dati rilevati dal Concessionario In questa sezione, la DG Valorizzazione verifica l’integrità dei dati rilevati/trasmessi e la completezza della documentazione prodotta dalla Società di Monitoraggio. In generale, i rischi riscontrati dovrebbero essere ricondotti a macro categorie/aree di rischio omogenee. 5. Possibili interventi correttivi e tempi di attuazione In questa sezione, alla luce delle evidenze emerse nel corso delle analisi, la DG Valorizzazione individua e propone eventuali azioni correttive da porre in essere per il rispetto e il miglioramento delle procedure stabilite dal Sistema di M&V. 6. Considerazioni conclusive 4.3.6 Relazione di Audit (OCM) 4.3.6.1 CHI LO REDIGE E QUAN DO La Relazione di Audit viene predisposta dall’OCM con cadenza annuale, entro i primi 4 mesi – il 30 aprile – di ciascun anno di concessione successivo a quello di riferimento. 4.3.6.2 COSA CONTIENE Il documento viene redatto a seguito delle attività di verifica (attraverso verifiche e sopralluoghi a campione) che l’OCM realizza periodicamente all’interno delle varie concessioni attive e mediante le quali esso verifica l’andamento, il rispetto degli oneri contrattuali e l’attuazione del Sistema (fasi, tempi e modalità) da parte del Concessionario, nonché l’affidabilità e l’integrità delle informazioni da questo prodotte e il funzionamento dei servizi in concessione (mediante l’impiego dello strumento del mystery shopping). Il documento dunque, sintetizza gli esiti delle indagini effettuate e ha lo scopo di dare evidenza alle aree di rischio individuate, suggerendo alle SMPQ/EMPQ l’adozione di eventuali azioni correttive da intraprendere. 4.3.6.3 A CHI VA DESTINATO Il documento prodotto viene trasferito alla Dg Valorizzazione, alla Stazione Appaltante, alla SMPQ/EMPQ e al Concessionario. Esso va indirizzato ai soggetti sopra menzionati con raccomandata con ricevuta di ritorno o attraverso l’invio elettronico utilizzando il sistema di Posta Elettronica Certificata (PEC). Non appena sarà attivo il sistema informativo dell’OCM il documento dovrà essere caricato nell’apposita sezione dedicata del sistema. 4.3.6.4 LA STRUTTURA DEL DOCUMENTO 175 All’interno del box seguente (Box. 13) si provvederà a definire tale struttura (indice) minima del documento, provvedendo ad indicare anche i contenuti di ciascuna sezione. Box 13 – Indice parlante della Relazione di Audit 1. Premessa 2. Obiettivi del documento In questa sezione vengono dichiarati gli obiettivi del documento, ovvero la restituzione dei risultati delle attività di verifica realizzate nei confronti del Concessionario (nel quadro delle concessioni attive) con l’obiettivo di verificare l’andamento, il rispetto e l’attuazione del Sistema (fasi, tempi e modalità), nonché l’affidabilità e l’integrità delle informazioni da esso prodotte, e il funzionamento dei servizi in gestione. 3. Le attività di verifica 3.1 Metodologie utilizzate per l’indagine In questa sezione si descrivono le varie metodologie di verifica adottate. 3.2 Ambiti e processi sottoposti ad osservazione In questa sezione, per ciascuna metodologia di verifica adottata, vengono definiti gli ambiti di osservazione specifici (INPUT, PROCESSO, OUTPUT, ecc). 3.3 Catalogo delle indagini realizzate In questa sezione viene rendicontato l’insieme delle indagini di verifica realizzate nel corso del periodo oggetto di osservazione. 4. Andamento del Sistema di M&V 4.1 Rispetto delle funzioni di monitoraggio dalla parte del Concessionario In questa sezione, rispetto alle diverse procedure/metodologie di verifica adottate, si provvederà a descrivere in termini generali l’andamento della gestione delle attività di monitoraggio implementate dal Concessionario. Pertanto, in relazione alle precipue responsabilità di quest’ultimo, l’OCM provvederà a restituire una valutazione circa la conformità delle azioni poste in essere rispetto al disegno del Sistema. In generale, i rischi riscontrati dovrebbero essere ricondotti a macro categorie/aree di rischio omogenee. 4.2 Conformità del Sistema informativo del Concessionario In questa sezione, l’OCM propone una analisi del Sistema Informativo del Concessionario, valutandone l’affidabilità e la capacità di rispondere alle necessità di rilevazione che è dovuto a rispettare (allegato B dei documenti di gara). In generale, i rischi riscontrati dovrebbero essere ricondotti a macro categorie/aree di rischio omogenee. 4.3 Valutazione circa l’integrità dei dati rilevati dal Concessionario In questa sezione, l’OCM verifica l’integrità dei dati rilevati e trasmessi dal Concessionario. In generale, i rischi riscontrati dovrebbero essere ricondotti a macro categorie/aree di rischio omogenee. 4.3 Valutazione generale circa il rispetto degli oneri contrattuali da parte del Concessionario In questa sezione, l’OCM verifica l’andamento generale e il rispetto degli oneri contrattuali da parte del Concessionario ed evidenzia eventuali discordanze. 5. Possibili interventi correttivi e tempi di attuazione In questa sezione, alla luce delle evidenze emerse nel corso delle analisi, l’OCM individua e propone eventuali interventi correttivi da porre in essere per il rispetto delle procedure stabilite dal Sistema di M&V. 6. Considerazioni conclusive 176 4.3.7 Relazione di performance semestrale (SMPQ/EMPQ) 4.3.7.1 CHI LO REDIGE E QUAN DO Il documento viene redatto dalla SMPQ/EMPQ entro il 30 settembre di ogni anno. 4.3.7.2 COSA CONTIENE Il documento viene redatto a consuntivo con riferimento al semestre precedente ed evidenzia i risultati raggiunti da ciascun Concessionario con riguardo a quanto espressamente dichiarato nel piano delle performance e a quanto rilevato e rendicontato all’interno del rapporto di gestione (che copre un ventaglio di indicatori significativamente maggiore rispetto a quello dichiarato nel piano delle performance). In relazione a tali ambiti informativi, la SMPQ/EMPQ è tenuta a: verificare l’affidabilità delle informazioni rilevate e comunicate dal Concessionario; rilevare ed analizzare gli eventuali scostamenti verificatisi; A margine di questi dati, attraverso il documento la SMPQ/EMPQ verifica l’adempimento degli obblighi contrattuali da parte del Concessionario con particolare riferimento al rispetto delle scadenze e alla conformità a quanto stabilito nei contratti concessori. In ultimo il documento relaziona anche in merito alle risultanze delle attività di rilevazione diretta che la SMPQ/EMPQ realizza con l’obiettivo di indagare alcuni ambiti informativi di natura maggiormente qualitativa come gli effetti diretti e indiretti generati dall’erogazione dei servizi, nonché le modalità di realizzazione dei servizi e il profilo socio anagrafico degli utenti. In linea con le valutazioni effettuate, il documento contiene anche una sezione in cui vengono evidenziati al Concessionario gli interventi correttivi necessari per un miglioramento della gestione dei servizi al fine di evitare penalità e, in linea di massima, per garantire una migliore qualità nell’erogazione dei servizi. 4.3.7.3 A CHI VA DESTINATO Il documento prodotto viene trasferito all’OCM, alla Stazione Appaltante e al Concessionario. Esso va indirizzato ai soggetti sopra menzionati con raccomandata con ricevuta di ritorno o attraverso l’invio elettronico utilizzando il sistema di Posta Elettronica Certificata (PEC). Non appena sarà attivo il sistema informativo dell’OCM il documento dovrà essere caricato nell’apposita sezione dedicata del sistema. Nel caso di SMPQ, esso dovrà essere firmato dal legale rappresentante del soggetto autorizzato. Nel caso di EMPQ esso dovrà essere approvato e firmato dal Dirigente responsabile o suo delegato. 4.3.7.4 LA STRUTTURA DEL DOCUMENTO All’interno del box seguente (Box. 14) si provvederà a definire tale struttura (indice) minima del documento, provvedendo ad indicare anche i contenuti di ciascuna sezione. Box 14 - Indice parlante della Relazione di Performance semestrale 1. Premessa 2. Obiettivi del documento In questa sezione verranno dichiarati gli obiettivi generali del documento 177 3. Le performance del Concessionario 3.1 Analisi e valutazione del Rapporto di Gestione In questa sezione la SMPQ/EMPQ valuta sistematicamente i dati e le informazioni argomentate dal Concessionario all’interno del Rapporto di Gestione, promuovendo al contempo una verifica di coerenza rispetto a quanto rilevato all’interno del Sistema Informativo. 3.2 Focus on: gli indicatori oggetto di penalità In questa sezione la SMPQ/EMPQ focalizza in modo particolare l’attenzione sugli indicatori oggetto di valutazione (quelli compresi nel piano delle performance dichiarati dal Concessionario in sede di Offerta Tecnica) in termini di penalità. 4. Analisi qualitative 4.1 La soddisfazione dell’utente In questa sezione la SMPQ/EMPQ restituisce gli esiti concernenti le analisi qualitative realizzate sugli utenti dei servizi attraverso vari strumenti (questionari, interviste, focus group). 5. Considerazioni conclusive e indicazioni utili al miglioramento delle performance nel seguente semestre In questa sezione la SMPQ/EMPQ: rappresenta gli eventuali scostamenti tra le performance dichiarate (nel piano delle performance) e quelle conseguite (l’obiettivo è quello di segnalare eventuali correttivi da applicare onde evitare di incorrere nelle penalità) definisce eventuali obiettivi di miglioramento per quanto attiene la sfera della qualità dei servizi percepita dagli utenti. 4.3.8 Relazione di performance annuale (SMPQ/EMPQ) 4.3.8.1 CHI LO REDIGE E QUAN DO Il documento viene redatto dalla SMPQ/EMPQ con cadenza annuale, entro il 31 marzo dell’anno successivo a cui i dati si riferiscono. 4.3.8.2 COSA CONTIENE Il documento viene redatto a consuntivo con riferimento ai due semestri precedenti (incluso il semestre già oggetto della relazione di performance semestrale) ed evidenzia i risultati raggiunti da ciascun Concessionario con riguardo a quanto espressamente dichiarato nel piano delle performance e a quanto rilevato e rendicontato all’interno del rapporto di gestione (che copre un ventaglio di indicatori significativamente maggiore rispetto a quello dichiarato nel piano delle performance). In relazione a tali ambiti informativi, la SMPQ/EMPQ è tenuta a: verificare l’affidabilità delle informazioni rilevate e comunicate dal Concessionario; rilevare ed analizzare gli eventuali scostamenti verificatisi; A margine di questi dati, attraverso il documento la SMPQ/EMPQ verifica l’adempimento degli obblighi contrattuali da parte del Concessionario con particolare riferimento al rispetto delle scadenze e alla conformità a quanto stabilito nei contratti concessori. 178 In ultimo il documento relaziona anche in merito alle risultanze delle attività di rilevazione diretta che la SMPQ/EMPQ realizza con l’obiettivo di indagare alcuni ambiti informativi di natura maggiormente qualitativa come gli effetti diretti e indiretti generati dall’erogazione dei servizi, nonché le modalità di realizzazione dei servizi e il profilo socio anagrafico degli utenti. A differenza della relazione di performance semestrale – in cui esiste una sezione in cui vengono evidenziati al Concessionario gli interventi correttivi necessari per un miglioramento della gestione dei servizi al fine di evitare penalità e, in linea di massima, per garantire una migliore qualità nell’erogazione dei servizi – in quella annuale si presentano i dati consolidati che saranno poi presi in considerazione anche per l’attribuzione di penalità e/o premialità. 4.3.8.3 A CHI VA DESTINATO Il documento prodotto viene trasferito all’OCM, alla Stazione Appaltante e al Concessionario. Esso va indirizzato ai soggetti sopra menzionati con raccomandata con ricevuta di ritorno o attraverso l’invio elettronico utilizzando il sistema di Posta Elettronica Certificata (PEC). Non appena sarà attivo il sistema informativo dell’OCM il documento dovrà essere caricato nell’apposita sezione dedicata del sistema. Nel caso di SMPQ, esso dovrà essere firmato dal legale rappresentante del soggetto autorizzato. Nel caso di EMPQ esso dovrà essere approvato e firmato dal Dirigente responsabile o suo delegato. 4.3.8.4 LA STRUTTURA DEL DOCUMENTO All’interno del box seguente (Box. 15) si provvederà a definire tale struttura (indice) minima del documento, provvedendo ad indicare anche i contenuti di ciascuna sezione. Box 15 - Indice parlante della Relazione di Performance annuale 1. Premessa 2. Obiettivi del documento In questa sezione verranno dichiarati gli obiettivi generali del documento 3. Le performance del Concessionario 3.1 Analisi e valutazione del Rapporto di Gestione In questa sezione la SMPQ/EMPQ valuta sistematicamente i dati e le informazioni argomentate dal Concessionario all’interno del Rapporto di Gestione, promuovendo al contempo una verifica di coerenza rispetto a quanto rilevato all’interno del Sistema Informativo. 3.2 Focus on: gli indicatori oggetto di penalità In questa sezione la SMPQ/EMPQ focalizza in modo particolare l’attenzione sugli indicatori oggetto di valutazione (quelli compresi nel piano delle performance dichiarati dal Concessionario in sede di Offerta Tecnica) in termini di penalità. 4. Analisi qualitative 4.1 La soddisfazione dell’utente In questa sezione la SMPQ/EMPQ restituisce gli esiti concernenti le analisi qualitative realizzate sugli utenti dei servizi attraverso vari strumenti (questionari, interviste, focus group). 179 5. Considerazioni conclusive e indicazioni utili al miglioramento delle performance nel seguente anno In questa sezione la SMPQ/EMPQ: rappresenta gli eventuali scostamenti tra le performance dichiarate (nel piano delle performance) e quelle conseguite (l’obiettivo è quello di segnalare eventuali correttivi da applicare onde evitare di incorrere nelle penalità) definisce eventuali obiettivi di miglioramento per quanto attiene la sfera della qualità dei servizi percepita dagli utenti. 4.3.9 Relazione consolidata annuale (OCM) 4.3.9.1 CHI LO REDIGE E QUAN DO Il documento viene redatto dall’OCM con cadenza annuale, entro il 30 giugno, con lo scopo di relazionare in merito alle performance del sistema museale oggetto di affidamento dei servizi in concessione. Esso si basa sulle relazioni di performance annuali che le SMPQ/EMPQ sono tenute ad inviare all’OCM entro il 31 marzo di ogni anno. 4.3.9.2 COSA CONTIENE Il documento viene realizzato con l’intenzione di fornire una visione d’insieme dell’andamento dei servizi aggiuntivi nel sistema culturale prendendo a riferimento l’anno solare precedente a quello in cui si effettua la relazione. Attraverso il documento, l’OCM intende rappresentare il contributo dei servizi aggiuntivi alla valorizzazione del Patrimonio Culturale (con stretto riferimento a quei luoghi della cultura in cui i servizi sono stati conferiti in gestione ad un Concessionario), permettendo di delineare un quadro conoscitivo complessivo del sistema di affidamenti, permettendo da un lato l’individuazione delle eccellenze e dall’altra promuovendo e supportando il miglioramento continuo delle performance dei concessionari attraverso l’individuazione delle best-practice e delle criticità da superare. Gli elementi costitutivi del documento sono: analisi della performance conseguita dall’intero sistema dei servizi aggiuntivi, in riferimento ad alcuni indicatori e rispetto agli ambiti predefiniti; evidenza del grado di raggiungimento degli obiettivi in termini globali; analisi delle risorse utilizzate dal sistema dei servizi aggiuntivi; esame degli indicatori per la valutazione della performance delle società concessionarie; analisi comparata delle performance delle società concessionarie confrontabili rispetto a determinati criteri (dimensione, localizzazione ecc.); ranking delle società concessionarie; best-practice e bad-practice. 4.3.9.3 A CHI VA DESTINATO Il documento prodotto viene reso pubblico dall’OCM, che ne dispone la pubblicazione sulla piattaforma del sistema informativo, all’interno della sezione visibile a tutti gli utenti, anche a quelli non dotati di codici identificativi (nome utente e password). 180 4.3.9.4 LA STRUTTURA DEL DOCUMENTO All’interno del box seguente (Box. 16) si provvederà a definire tale struttura (indice) minima del documento, provvedendo ad indicare anche i contenuti di ciascuna sezione. Box 16 - Indice parlante della Relazione Consolidata Annuale 1. Premessa Essendo questo un documento pubblico, vale la pena immaginare che possa essere un documento di carattere divulgativo dove, come in una sorta di bilancio sociale, venga predisposta una parte introduttiva in cui vi sia: una lettera a firma del Direttore Generale per la Valorizzazione del Patrimonio Culturale in cui si ribadiscono i motivi/le finalità della pubblicazione venga predisposta una sintesi del percorso che ha condotto alla nascita del Sistema di M&V venga predisposto un quadro sintetico che rappresenti le caratteristiche (soggetti, fasi ecc.) del Sistema di M&V 2. Obiettivi del documento In questa sezione verranno dichiarati gli obiettivi generali del documento predisposto che possono essere così sintetizzati: “rappresentare il contributo dei servizi aggiuntivi alla valorizzazione del Patrimonio Culturale (con stretto riferimento a quei luoghi della cultura in cui i servizi sono stati conferiti in gestione ad un Concessionario), permettendo di delineare un quadro conoscitivo complessivo del sistema di affidamenti, permettendo da un lato l’individuazione delle eccellenze e dall’altra promuovendo e supportando il miglioramento continuo delle performance dei concessionari attraverso l’individuazione delle best-practice e delle criticità da superare” 3. Visione di insieme 3.1 Il Sistema delle Concessioni attive In questa sezione verrà predisposto un quadro conoscitivo complessivo del sistema delle concessioni attive rispetto al volume dei luoghi della cultura statali. Delle concessioni attive si fornirà: un dettaglio di quante siano attive secondo le vecchie procedure di affidamento – dunque in deroga – e, laddove possibile, fornire una stima dei tempi di rinnovo delle medesime; un dettaglio di quante siano attive secondo le nuove procedure di gara e monitorate attraverso il Sistema. 3.2 Il Sistema delle Concessioni monitorate In questa sezione verrà predisposto un quadro conoscitivo complessivo del sistema delle concessioni attive secondo le nuove procedure di gara e monitorate attraverso il Sistema. Qui, il sistema di concessioni deve poter essere raccontato in termini di: Numero di siti in cui sono attivi servizi al pubblico Numero di servizi al pubblico complessivamente attivi Distribuzione (anche mediante l’uso di mappe cartografiche) delle concessioni sul territorio nazionale Dettaglio dei servizi attivi per ciascuna concessione 4. Le perfomance dei servizi al pubblico nelle concessioni monitorate 4.1 Analisi delle performance nazionali 4.1.1 gli INPUT Sulla base dei dati forniti dai Concessionari ed elaborati dalle SMPQ/EMPQ, in questa sezione verrà fornito un quadro di sintesi (a livello nazionale e/o sub nazionale – nord/centro/sud) rispetto ai fattori produttivi impiegati dai Concessionari nella produzione dei servizi 181 4.1.2 i PROCESSI Sulla base dei dati forniti dai Concessionari ed elaborati dalle SMPQ/EMPQ, in questa sezione verrà fornito un quadro di sintesi (a livello nazionale e/o sub nazionale – nord/centro/sud) rispetto ai processi realizzati dai Concessionari per la produzione dei servizi 4.1.3 gli OUPUT Sulla base dei dati forniti dai Concessionari ed elaborati dalle SMPQ/EMPQ, in questa sezione verrà fornito un quadro di sintesi (a livello nazionale e/o sub nazionale – nord/centro/sud) rispetto agli output (quantità di servizio) erogati dai Concessionari 4.1.4 le MODALITA’ Sulla base dei dati forniti dai Concessionari ed elaborati dalle SMPQ/EMPQ, in questa sezione verrà fornito un quadro di sintesi (a livello nazionale e/o sub nazionale – nord/centro/sud) rispetto alle qualità che i Concessionari impiegano per la produzione dei servizi 4.1.5 gli UTENTI Sulla base dei dati forniti dai Concessionari ed elaborati dalle SMPQ/EMPQ, in questa sezione verrà fornito un quadro di sintesi (a livello nazionale e/o sub nazionale – nord/centro/sud) rispetto al numero dei fruitori dei servizi Sulla base delle rilevazioni delle SMPQ/EMPQ e di quelle autonomamente realizzate dalle SMPQ/EMPQ, in questa sezione l’OCM proporrà le valutazioni circa la soddisfazioni dell’utenza rispetto ai servizi al pubblico. 4.1.6 gli EFFETTI DIRETTI Sulla base delle indagini effettuate dalle SMPQ/EMPQ e dall’OCM per il tramite degli strumenti di indagine qualitativa, in questa sezione verrà fornito un quadro di sintesi (a livello nazionale e/o sub nazionale – nord/centro/sud) rispetto agli effetti diretti (percepiti) che i servizi producono sull’utente che si avvicina al consumo culturale 4.1.7 gli EFFETTI INDIRETTI Sulla base delle indagini effettuate dalle SMPQ/EMPQ e dall’OCM per il tramite degli strumenti di indagine qualitativa, in questa sezione verrà fornito un quadro di sintesi (a livello nazionale e/o sub nazionale – nord/centro/sud) rispetto agli effetti indiretti (percepiti) che i servizi producono sul luogo di cultura e sul contesto in cui esso si cala 4.2 Analisi di Efficienza In questa sezione, sulla base dei valori di Input e di Output dichiarati, si possono proporre analisi di Efficienza (rapporto tra output e input) 4.3 Analisi di Efficacia In questa sezione, sulla base delle valutazioni di qualità effettuate dagli utenti e sulla base delle indagini sugli effetti, sarà possibile effettuare delle valutazioni (qualitative) circa l’Efficacia dei servizi culturali nei luoghi di cultura 4.4 Analisi di Economicità In questa sezione, sulla base delle valutazioni di efficienza e di efficacia, sarà possibile realizzare delle valutazioni circa l’economicità (interpretare il costo del valore creato) delle concessioni dei servizi al pubblico nei luoghi della cultura 4.5 Ranking delle società concessionarie In questa sezione verrà realizzato, sulla base di indicatori di performance appositamente selezionati, un ranking (posizionamento) delle società concessionarie. 4.6 Best and Bad practice In questa sezione verranno riportati i casi di best/bad practice riscontrati nel corso delle analisi. Lo scopo è portare all’attenzione collettiva i casi di miglior/peggior gestione dei servizi in modo da creare una consapevolezza diffusa rispetto a quelli che sono i migliori e i peggiori atteggiamenti da seguire nella gestione/erogazione dei servizi 182 5. Considerazioni conclusive e indicazioni per il futuro Qui verrà predisposta una sintesi delle evidenze emerse nel corso dell’analisi con la specifica attenzione verso la definizione di obiettivi di miglioramento da perseguire a livello nazionale dai Concessionari dei servizi. 4.4 Help desk online Per il tema dell’help desk online si veda il § 4.5.2, in particolare il Sistema per la gestione delle informazioni. 4.5 Caratteristiche del sistema informatico a supporto del sistema di monitoraggio 4.5.1 Il Sistema informativo (S.I_VO) Per la progettazione del Sistema informativo (d’ora in poi S.I_VO) è necessario tenere conto dello schema delle relazioni tra i soggetti e dei documenti che devono essere prodotti da ciascuno di essi (fig. 16). Affinché l’intero processo di produzione dei dati possa essere monitorato e il numero di trasmissioni ridotto, il S.I_VO dovrà centralizzare tutte le informazioni prodotte dai diversi soggetti interessati dal Sistema M&V. Figura 16 – Schema delle relazioni e dei documenti 183 In coerenza con i flussi informativi che dovrà gestire, il S.I_VO dovrà: Prevedere diversi livelli di qualità dell’informazione (dati grezzi, dati certificati, dati elaborati, documenti di valutazione); Garantire la possibilità di controllo e verifica in ogni fase del processo di raccolta ed elaborazione; Mantenere nel tempo la serie storica di tutti i dati archiviati; Avere un carattere incrementale, essere cioè sufficientemente flessibile da poter essere integrato nel tempo da nuove tipologie di informazioni (o di farne decadere altre qualora non fossero più ritenute significative); Prevedere livelli differenziati di accessibilità delle informazioni, in particolare: o L’OCM dovrà poter accedere a tutti i livelli; o Le SMPQ dovranno poter accedere solo ai dati relativi alle concessioni di propria competenza; o I Concessionari dovranno poter accedere solo ai propri dati; o Le stazioni appaltanti dovranno poter accedere solo ai dati relativi alle concessioni di propria competenza. 184 Il processo di elaborazione e controllo dei flussi informativi (fig. 17) si compone di tre stadi, ai quali corrispondono diversi livelli di elaborazione e qualità dei dati: 1. Primo stadio: il Concessionario raccoglie i dati relativi a ciascun sito museale di propria pertinenza. Si tratta ancora in questa fase di dati grezzi, quindi non di indicatori, che possono essere raccolti con procedure diverse ma è cruciale che siano poi comunicati alle corrispondenti SMPQ in modo uniforme. Lo schema riporta a titolo esemplificativo e non esaustivo i dati grezzi che devono essere prodotti per ciascun ambito di ciascun sito museale. 2. Secondo stadio: la SMPQ raccoglie i dati, laddove possibile li verifica, li elabora traducendoli in indicatori e li integra con i dati prodotti dalle indagini che conduce in prima persona su consumo ed effetti. Anche in questo caso, indipendentemente dagli strumenti utilizzati dalle diverse SMPQ per raccogliere ed elaborare le informazioni, la restituzione dei dati che vanno a nutrire il sistema informativo deve essere il più possibile uniforme. Nella restituzione dei dati sarà compito delle SMPQ allineare i dati con quelli prodotti dal Concessionario in modo da permettere la ricostruzione di tutte le fasi del processo di erogazione di ogni servizio e per ciascuna sede (es. rendere confrontabili i dati prodotti sulle caratteristiche di erogazione del servizio di audioguide con quelli di customer satisfaction relativi al servizio stesso e relativi al medesimo periodo di rilevazione). A questo livello informativo devono poter accedere anche le Stazioni Appaltanti in relazione alle concessioni di loro pertinenza. 3. Terzo stadio: gli esiti delle azioni di verifica e valutazione delle SMPQ sono comunicati all’OCM, il quale li valuta. Laddove necessario l’OCM compie verifiche sui dati prodotti da SMPQ e Concessionari. 185 Figura 17 – Schema del processo di elaborazione e controllo dati A titolo esemplificativo si riporta un’ipotesi di schema di archiviazione dei dati che andranno raccolti dai Concessionari allo stadio 1 (fig. 18). I dati, strutturati in un database relazionale, dovranno essere riconducibili in modo univoco alle singole sedi museali e, all’interno di queste, ai singoli servizi cui sono riferiti. 186 Figura 18 – Schema dell’archiviazione dei dati 187 4.5.2 Il Sistema informatico (S.I_CO) Il sistema informatico (d’ora in poi: S.I_CO) é uno strumento a supporto di tutte le operazioni che i differenti soggetti coinvolti dovranno compiere per realizzare il processo di monitoraggio. Esso dovrà quindi automatizzare la raccolta dati, documentare le procedure di lavoro, coordinare le richieste di aiuto e divulgare ad un vasto pubblico i risultati ottenuti. Per mantenere la necessaria simmetria con il sistema informativo (d’ora in poi: S.I_VO), il S.I_CO avrà una notevole complessità e, per quanto sia opportuno fare ogni possibile sforzo per mantenerlo semplice e usabile, occorre prevedere un sistema interno di documentazione e formazione al suo utilizzo. Il S.I_CO dovrà quindi prevedere due sotto sistemi interni: Il sistema per la gestione dei dati: è l'applicazione centrale che dovrà gestire la raccolta, elaborazione, archivio e ricerca di tutte le informazioni prodotte dalle procedure di monitoraggio, in accordo con la complessità e specificità del sistema M&V. Il sistema per la gestione delle informazioni: é lo strumento collaborativo che consente la creazione rapida di pagine web, integrabili con contenuti multimediali, che possono essere pubbliche, per una comunicazione esterna del progetto, o ad accesso riservato, per descrivere le procedure operative e il funzionamento del sistema agli utenti abilitati. Figura 19. Il sistema informatico rispetto al sistema di gestione SISTEMA INFORMATICO Sistema gestione Sistema gestione informazioni dati I due sistemi sono sinergici e l'utente non deve percepire alcuna differenza tra essi poiché il sistema di gestione informazioni è il veicolo principale per una costante formazione all'utilizzo dell'applicativo. a) Sistema informatico gestione dati Il S.I_CO deve essere uno strumento sicuro, affidabile e di semplice utilizzo; pertanto si richiede di adottare tecnologie diffuse e consolidate con un predilezione netta nei confronti di soluzioni “web based” che non richiedano l'installazione di software o applicazioni sulle singole postazioni di lavoro. I singoli utenti devono quindi poter accedere al S.I_CO mediante un qualsiasi software per la navigazione internet (browser) installato su un computer connesso alla rete Internet, e poter eseguire tutte le operazioni quali l'invio al sistema delle informazioni di propria competenza, verifica consultazione, ricerca e scarico dei dati. 188 Il S.I_CO ha quindi il ruolo di collettore centrale di tutte le informazioni che il S.I_VO definisce e delle relative procedure operative per la corretta raccolta e archiviazione delle suddette. Il modello di architettura suggerito è denominato “client-server”, caratterizzato da due componenti principali: Il server che si occupa dell'archiviazione dei dati, ivi compresa l'implementazione delle procedure di controllo su essi, il sistema di autenticazione, il sistema di accesso e quanto altro necessario al funzionamento complessivo. Il client che è il computer connesso alla rete Internet mediante il quale l'utente accede al sistema server. Il sistema server è a sua volta composto dai seguenti moduli: o Un database server, in cui creare la banca dati relazionale per l'archiviazione delle informazioni; o Un web server, per la generazione della pagine web e l'interazione con i software browser presso i computer client o Un application server per l'esecuzione del programma software dedicato Figura 20. Schematizzazione del sistema server CLIENT SERVER Database server Web server Browser Internet Application server L'applicazione dedicata che verrà progettata e integrata nell’Application server dovrebbe comporsi almeno dei seguenti moduli: Un sistema per il controllo degli accessi basato sul ruolo di gruppi di utenti 189 Un sistema di autenticazione che garantisca la sicurezza e la tracciabilità degli accessi Un insieme di moduli web (web form) per la raccolta dei dati Un modulo per il caricamento e la conversione di file in formato csv Un modulo per la consultazione e interrogazione delle informazioni archiviate Un modulo per la ricerca e interrogazione della banca dati Il sistema per il controllo degli accessi implementa una corrispondenza tra utenti, gruppi di utenti e informazioni cui questi possono accedere, al fine di garantire la separazione delle informazioni in base al ruolo che l'utente ricopre all'interno dell'organigramma complessivo del M&V. Il sistema di autenticazione deve consentire solo alle persone autorizzate l'accesso alle relative risorse, questo modulo deve garantire la sicurezza dei dati, adottando adeguati strumenti per individuare e reagire opportunamente a tentativi di connessione non autorizzati. Il modulo deve opportunamente registrare ogni singola azione compiuta da un utente unita all'indirizzo IP identificativo del computer che lo ha eseguito, alla data e all'ora, al fine di avere uno storico completo di tutte le operazioni compiute (system audit). L’invio dei dati al sistema informatico è operazione cruciale poiché identifica la conclusione di una procedura di lavoro e il passaggio a una fase successiva del processo. Il caricamento dei dati deve quindi essere un’operazione il più possibile semplice e usabile, si richiede quindi che possa avvenire secondo tre modalità: o Moduli web (web form) nella pagina web, con aree condizionate a valori inseriti in campi precedenti, divisi su più pagine, con controlli di integrità delle informazioni e messaggi contestuali di aiuto all'inserimento. o Un modulo per la ricerca e interrogazione della banca dati poterle inviare solo nel momento in cui ha raccolto tutte le informazioni richieste. o Possibilità di invio delle informazioni mediante il caricamento di file compilati in un foglio di calcolo elettronico e salvati in un formato e modello definiti a priori, che il sistema converte in un modulo web, di cui al punto precedente, per una rapida imputazione delle informazioni. o Invio di documenti, in qualsiasi formato, da allegare alle informazioni inserite nei moduli web come materiale integrativo e di approfondimento. Il sistema deve altresì consentire la ricerca, consultazione e scarico dei dati inseriti mediante specifiche pagine web. La consultazione può avvenire mediante l'esecuzione di specifiche interrogazioni alla banca dati in grado di restituire gruppi di valori che possano poi essere filtrati e ordinati dall'utente direttamente nell'interfaccia web. Tutte le interrogazioni devono poter essere visualizzate in una pagina web e successivamente trasferite in locale sotto forma di documenti, sia in formato pdf, per essere stampati, sia in formato csv, per consentire eventuali elaborazioni dei dati mediante foglio di calcolo. Le informazioni archiviate devono essere gestite secondo una politica conservativa dell'informazione, per ogni record salvato nella banca dati deve essere mantenuto lo storico completo delle operazioni eseguite su esso, assieme alla data e al riferimento all'autore che le ha compiute ed in alcuni casi deve essere possibile annullare un'operazione ripristinando lo stato precedente delle informazioni. L'operazione di cancellazione di un dato non deve eliminare fisicamente l'informazione dalla banca dati, 190 ma solo impedirne la visualizzazione agli utenti, consentendo però un accesso agli amministratori del sistema al fine di eseguire opportuni controlli e verifiche. Il sistema deve archiviare i dati in forma normale in una base dati relazionale in modo che sia sempre possibile e poco oneroso aggiungere interrogazioni di consultazione o elaborazioni dei dati in una seconda fase del progetto. Il sistema può essere realizzato con differenti tecnologie. Si fa tuttavia presente che l'adozione di software e componenti rilasciati con licenza open source è da preferirsi rispetto a quelli con licenze proprietarie in quanto la licenza open source, distribuendo il codice sorgente assieme all'applicativo, consente un riuso del codice sviluppato in altri progetti, portando ad una economia di realizzazione complessiva del sistema39. In secondo luogo, la grande diffusione delle tecnologie open source legate alla produzione di applicativi web e la loro adozione da parte di molteplici aziende, fanno ragionevolmente ipotizzare che, negli anni a venire, sarà più semplice trovare soggetti con le competenze necessarie a modificare e mantenere il sistema sviluppato portando a economie di gestione. La sicurezza informatica del sistema è un aspetto cruciale, a tal proposito si individuano le principali linee che il sistema dovrà rispettare: Garantire la sicurezza dei dati e un accesso riservato in cui sia possibile configurare quale gruppo di utenti accede a quale dato; Garantire il rispetto della normativa sulla privacy; Garantire un'adeguata protezione dell'infrastruttura hardware; Adottare strumenti per un costante e continuo monitoraggio dell'infrastruttura in grado di individuare, segnalare e reagire a comportamenti anonimi o tentativi di accesso non autorizzati; Conservare tutte le informazioni di accesso e monitoraggio che il sistema genera (file di log); Implementare un'opportuna strategia per il backup dei dati e di disaster recovery. b. Sistema per la gestione delle informazioni Il sistema per la gestione delle informazioni è funzionale all'intero progetto in quanto, considerata la complessità e ampiezza degli argomenti trattati, occorre un unico luogo in cui l'utente possa trovare materiali, guide e documenti a supporto della sua attività lavorativa. La soluzione proposta è di creare uno specifico sistema all'interno del S.I_CO per la gestione di queste informazioni, i cui obiettivi sono: Avere una sezione pubblica che dia informazioni a tutti sulle finalità del progetto e aggiornamenti puntuali sui risultati del monitoraggio Implementare un'area interna di guide e manuali all'uso corretto della metodologia di monitoraggio Si veda in proposito la direttiva del Ministro per l’Innovazione e le Tecnologie datata 19 dicembre 2003 “Sviluppo ed utilizzazione dei programmi informatici da parte delle pubbliche amministrazioni.” pone le linee guida per l'adozione degli applicativi “a sorgente aperto” o “open source” da parte delle pubbliche amministrazioni. http://archivio.cnipa.gov.it/HTML/RN_ICT_cron/2003_12_19_Direttiva%20MIT.pdf 39 191 Essere il manuale per l'utilizzo del sistema di raccolta ed elaborazione dei dati Costruire un sistema di help desk che consenta agli utenti di aprire richieste e ricevere le relative risposte Affinché questo modulo assolva alla propria funzione di repository di documentazione, il sistema deve qualificarsi come una piattaforma collaborativa e implementare una serie di strumenti quali: Un sistema per la creazione rapida di pagine web, mediante editor grafico, wysiwyg (what you see is what you get) utilizzabile direttamente nel browser Un sistema di autorizzazioni basato su utenti, ruoli e gruppi di utenti, al fine di poter concedere la lettura e la modifica dei contenuti a differenti soggetti; Avere la possibilità di commentare le pagine web create e aggiungere documenti allegati; Un sistema di revisioni interno che tenga traccia di ogni modifica apportata ad una pagina, che consenta un confronto fra due versioni e di ripristinare modifiche precedenti; Un motore di ricerca interno che consenta la ricerca testuale sulle pagine web e all'interno dei documenti allegati Avere un modulo per l'inoltro di richieste di assistenza e la ricezione delle relative risposte Disporre all'interno del S.I_CO di una piattaforma per la creazione di contenuti multimediali offre molteplici vantaggi: in primo luogo incentiva una costante comunicazione pubblica su aggiornamenti e risultati prodotti dal progetto, in secondo luogo consente un rapido scambio di informazioni tra i gestori della piattaforma, i responsabili del processo e i relativi gruppi di utenti che dovranno accedere alla sezione riservata. Il sistema proposto si basa su una logica di condivisione delle informazioni e di costante coinvolgimento attivo dell'utente allo scopo di estendere il gruppo di autori che intervengono sui contenuti, in particolare dare la possibilità di segnalare inesattezze e richiedere integrazioni consente di alzare la qualità e pertinenza dei contenuti, parallelamente un sistema di domande e risposte web based ha il vantaggio di diventare un archivio condiviso, accessibile e ricercabile di soluzioni immediate a possibili problemi. Questi due fattori conducono l'utente, opportunamente formato, ad un approccio di ricerca diretta della documentazione nella piattaforma collaborativa, che aumenta la sua soddisfazione in quanto trova risposte immediate ai propri problemi e riduce i costi complessivi di assistenza remota. In un'ottica di mantenimento migliorativo e potenziamento del sistema nel corso degli anni, il fatto di implementare fin dalla prima fase un sistema integrato di help desk costituisce un aspetto fondamentale, poiché consente di mantenere allineate le funzioni e la documentazione, e costituisce un punto di riferimento necessario cui tutti gli utenti devono fare riferimento. 4.6 Attività di formazione e informazione 4.6.1 Workshop tecnici: esiti 4.6.1.1 WORKSHOP N.1 Materiali di lavoro 192 Per i materiali di lavoro della sezione workshop tecnici si rinvia all’Allegato 6 in formato PPT che accompagna la presente relazione. Data 02 dicembre 2011 ore 10:00 Luogo Ministero dei Beni e delle Attività culturali, Via dell’Umiltà 33 Partecipanti Adele Campanelli (Soprintendenza per i beni Archeologici delle province di Salerno, Avellino, Benevento e Caserta), Emanuele Natangelo (Direzione Regionale per i Beni Culturali e Paesaggistici della Toscana), Rosaria Mencarelli (Mibac DG Valorizzazione), Anna MIsiani (Mibac), Marcello Minuti, Emiliano Diamanti, Angela Tibaldi (Struttura srl), Gaetano Mercadante, Guido Savarese (Consorzio ARTE’M) Ordine del giorno Strutturazione del gruppo di lavoro per la costruzione del sistema di Monitoraggio&Valutazione sui servizi al pubblico della concessione di Paestum (Museo Archeologico di Paestum, Area Archeologica e Templi, Area Archeologica di Velia, Circuito Archeologico di Santa Maria Capua Vetere) Presentazione del Sistema di Monitoraggio e Valutazione Individuazione delle azioni da intraprendere al fine dell’implementazione del sistema Presentazione degli obiettivi e delle attività del concessionario aggiudicatario Individuazioni di criticità e spunti di miglioramento Argomentazioni Introduzione da parte della DG Valorizzazione del Sistema di monitoraggio e valutazione dei servizi al pubblico in fase di realizzazione attraverso il suo inquadramento all’interno del sistema di valorizzazione nazionale. Presentazione del Sistema di Monitoraggio e valutazione effettuata dalla società Struttura srl. Individuazione di tutti i soggetti coinvolti nel funzionamento dei sistema di monitoraggio e valutazione dei servizi al pubblico e delle loro responsabilità e attività per il buon funzionamento dello stesso. La Soprintendenza ha sollevato alcuni problemi riguardanti le strutture date in concessione e le potenziali criticità per l’adozione del sistema. Al fine di superare tali criticità, con il massimo coinvolgimento di tutti gli attori coinvolti, sia a livello centrale che territoriale, si è data la disponibilità per lo svolgimento di un seminario formativo dedicato al personale dell’Amministrazione in oggetto, che presumibilmente si svolgerà tra il 18 e il 19 gennaio 2011 presso le strutture della Soprintendenza. Inoltre si è preso atto che la soprintendenza ha deciso, almeno per il primo anno, di non selezionare una società esterna per lo svolgimento delle attività in capo alla Società di Monitoraggio ma di assolverle con l’utilizzo di personale interno che andrà a confluire in una “cabina di regia” centrale. Il concessionario ha mostrato la sua disponibilità a cooperare per alla costruzione di un corretto sistema di monitoraggio e valutazione ma ha fatto presente che alcuni problemi strutturali, già accennati dalla 193 Soprintendente, e altri problemi formali potrebbero essere causa di uno slittamento delle loro attività presso alcune strutture nella primavera del 2012. A tale osservazione si è però fatto presente che a partire dalla data di stipula del contratto, nonostante la difficoltà di raccolta degli stessi, il concessionario sarà tenuto a fornire i dati previsti dal contratto di concessione, riconducibili in particolare agli allegati 4.A e 4.B. L’eventuale mancanza di alcuni di essi dovrà essere accompagnata da una notula che spieghi le causa dell’assenza di rilevazione. Tale richiesta non è finalizzata al mero controllo delle attività del concessionario ma bensì alla rilevazione di eventuali problemi strutturali che impediscano lo svolgimento delle attività date in concessione. In chiusura dell’incontro è stata proposta la lista delle “cose da fare” in capo ai soggetti attualmente responsabili della concessione, e cioè: a) la stesura del Piano di Rilevazione da parte della Direzione Regionale; b) l'individuazione dei dati oggetto di rilevazione da parte del Concessionario; c) la conseguente costruzione del sistema informativo aziendale. In merito alla to do list sopra riportata, si è stabilito che la società Struttura srl fornirà in tempi brevi – rispettando i termini del servizio in essere e, laddove possibile, in anticipo rispetto ai termini stessi onde consentire la possibilità, sia al Concessionario sia alla Stazione Appaltante con compiti di Ente di monitoraggio, di predisporre in tempi utili i documenti e gli strumenti necessari all’implementazione del Sistema – gli strumenti (linee guida) e le indicazioni metodologiche per l’implementazione di quanto ai punti a) e c). Inoltre la società Struttura srl avvierà un momento di confronto con il Concessionario onde raccogliere le sue indicazioni per perfezionare la lista degli indicatori, e le relative modalità di raccolta e trasmissione, che saranno oggetto di rilevazione nel corso della concessione. Chiusura dei lavori ore 17:00 4.6.1.2 WORKSHOP N.2, PRIMA PARTE Materiali di lavoro Per i materiali di lavoro della sezione workshop tecnici si rinvia all’Allegato 6 in formato PPT che accompagna la presente relazione. Data 18 gennaio 2012 ore 14:00 Luogo Soprintendenza per i beni Archeologici delle province di Salerno, Avellino, Benevento e Caserta, Via Trotula de Ruggiero 7, Salerno Partecipanti Adele Campanelli (Soprintendenza per i beni Archeologici delle province di Salerno, Avellino, Benevento e Caserta), Rosaria Mencarelli (Mibac DG Valorizzazione), Anna Misiani (Mibac), Marcello Minuti (Struttura Consulting), Emiliano Diamanti (Struttura Consulting), Alessandro Cabib (Consorzio ARTE’M), Direttori di Musei e Aree Archeologiche oggetto di affidamento dei servizi, funzionari della Soprintendenza responsabili dell’Ufficio di Monitoraggio (EMPQ). 194 Obiettivo dell’incontro Alla luce della recente procedura di affidamento dei servizi culturali presso il Museo Archeologico di Paestum, l’Area Archeologica e Templi di Paestum, l’Area Archeologica di Velia e il Circuito Archeologico di Santa Maria Capua Vetere il workshop – rivolto ai funzionari della Soprintendenza SBASA e ai direttori responsabili dei siti – ha avuto l’obiettivo di presentare la struttura complessiva del Sistema di Monitoraggio e Valutazione e, contemporaneamente, illustrarne il funzionamento da un punto di vista tecnico-operativo. Programma di lavoro Il Sistema di Monitoraggio e Valutazione: premesse e inquadramento 14.00 – 15.00 Le dimensioni di funzionamento 15.00 – 16.45 Pausa 16.45 – 17.00 Processo organizzativo e tempi di attuazione 17.00 – 18.00 Chiusura dei lavori ore 18:00 4.6.1.3 WORKSHOP N.2, SECONDA PARTE Data 19 gennaio 2012 ore 09:00 Luogo Soprintendenza per i beni Archeologici delle province di Salerno, Avellino, Benevento e Caserta, Via Trotula de Ruggiero 7, Salerno Partecipanti Adele Campanelli (Soprintendenza per i beni Archeologici delle province di Salerno, Avellino, Benevento e Caserta), Rosaria Mencarelli (Mibac DG Valorizzazione), Anna Misiani (Mibac), Marcello Minuti (Struttura Consulting), Emiliano Diamanti (Struttura Consulting), Alessandro Cabib (Consorzio ARTE’M), Direttori di Musei e Aree Archeologiche oggetto di affidamento dei servizi, funzionari della Soprintendenza responsabili dell’Ufficio di Monitoraggio (EMPQ). Obiettivo dell’incontro Il workshop è stato rivolto ai funzionari della Soprintendenza SBASA che, nel quadro dell’affidamento definitivo dei servizi al pubblico presso il Museo Archeologico di Paestum, l’Area Archeologica e Templi di Paestum, l’Area Archeologica di Velia e il Circuito Archeologico di Santa Maria Capua Vetere, sono stati incaricati di svolgere le funzioni di monitoraggio e valutazione per conto dell’ Amministrazione concedente. 195 In quest’ottica l’obiettivo dell’incontro è stato quello di accompagnare lo start up dell’Ente di monitoraggio e valutazione interno assumendo un carattere prevalentemente tecnico-operativo dove, accanto alla presentazione del Sistema nel suo complesso, sono stati illustrati gli step di implementazione del sistema e gli strumenti che il concessionario e l’Ente di Monitoraggio saranno chiamati ad utilizzare. Programma di lavoro Il Sistema di Monitoraggio e Valutazione: premesse, inquadramento e dimensioni di funzionamento 09.00 – 10.30 Processo organizzativo e tempi di attuazione 10.30 – 11.00 Pausa 11.00 – 11.15 Strumenti, metodologie e linee guida dei documenti da produrre 11.15 – 13.00 Chiusura dei lavori ore 13:00 4.6.1.4 WORKSHOP N.3 Data 28 febbraio 2012 ore 09:30 Luogo Soprintendenza per i beni Archeologici delle province di Salerno, Avellino, Benevento e Caserta, Via Trotula de Ruggiero 7, Salerno Partecipanti Adele Campanelli (Soprintendenza per i beni Archeologici delle province di Salerno, Avellino, Benevento e Caserta), Rosaria Mencarelli (Mibac DG Valorizzazione), Emiliano Diamanti (Struttura Consulting), Angela Tibaldi (Struttura Consulting), Alessandro Cabib (Consorzio ARTE’M), Maria Laura Chiacchio (Consorzio ARTE’M), Laura Del Verme (Consorzio ARTE’M), Anna Di Santo (Funzionario dell’Ufficio di Monitoraggio – EMPQ), Francesco Orilia (Componente dell’Ufficio di Monitoraggio – EMPQ), Concetta Polla (Componente dell’Ufficio di Monitoraggio – EMPQ), Giovanna Sacco (Componente dell’Ufficio di Monitoraggio – EMPQ). Obiettivo dell’incontro Alla luce del Sistema di Monitoraggio e Valutazione dei servizi aggiuntivi in fase di implementazione, il workshop ha avuto l’obiettivo di formare, attraverso un approccio operativo e laboratoriale, i funzionari della Soprintendenza SBASA, designati per la gestione dell’ufficio di monitoraggio facente funzioni di SMPQ, e gli operatori del Concessionario. Il seminario si è quindi incentrato su: illustrazione degli strumenti di monitoraggio; illustrazione dei documenti previsti dal sistema; illustrazione dei tempi. 196 Programma di lavoro osservato 09.30 – 10.00 Breve panoramica sul sistema delle relazioni: chi fa cosa 10.00 – 11.00 Gli strumenti del Concessionario: il sistema informatico I documenti e la reportistica del Concessionario: il Rapporto di Gestione 11.00 – 11.15 Pausa 11.15 – 13.00 Gli strumenti della SMPQ (EMPQ): Il Questionario front Il Questionario on-line I Focus group Le Interviste I Sopralluoghi e ispezioni Il Mystery shopping I documenti e la reportistica della SMPQ (EMPQ): Il Piano delle Attività 13.00 – 14.00 Pausa Pranzo 14.00-15.30 I documenti e la reportistica della SMPQ (EMPQ) La Relazione sull’attendibilità del Sistema di Rilevazione e Controllo La Relazione di performance semestrale La Relazione di performance annuale 15.30 - 16.15 Esercitazione per l’SMPQ: la predisposizione del Piano delle Attività Prossimi step Al termine della giornata sono state, infine, individuate le azioni utili da implementare nei prossimi mesi, sia parte del Concessionario che della Soprintendenza, al fine di attivare la macchina del sistema di monitoraggio e valutazione della concessione oggetto di sperimentazione. Tali azioni sono state riassunte nel programma di attività che segue: Tabella 19. Programma di attività di breve periodo Prossimi Step chi scadenza Costruzione del sistema informatico Concessionario 15 marzo Redazione del Rapporto di Gestione Concessionario 30 marzo 197 Redazione del Piano delle Attività EMPQ Redazione della Relazione sull'attendibilità del Sistema Informativo del Concessionario EMPQ Redazione della Relazione di Performance annuale EMPQ 30 marzo 30 marzo 30 aprile Chiusura dei lavori ore 16.30 5. LINEE GUIDA PER LE ATTIVITÀ DI FORMAZIONE 5.1 Premessa In considerazione della complessità che il Sistema di M&V sin qui progettato assume e della sua relativa novità nel panorama degli affidamenti in concessione della gestione dei servizi culturali, si rende utile prevedere sin da subito la creazione di specifici momenti di divulgazione, sensibilizzazione e formazione puntuale rivolta ai diversi soggetti che saranno chiamati ad assumere un ruolo proattivo all’interno del Sistema. Tenendo conto che al momento è in corso una fase di rinnovamento delle Concessioni nei luoghi della cultura statali, l’occasione per realizzare i suddetti momenti di divulgazione e formazione potrebbe coincidere con la sottoscrizione dei nuovi contratti di concessione. Pertanto nelle pagine seguenti si provvederà a delineare le linee guida per la realizzazione dei suddetti momenti di formazione. Preme ricordare che accanto al tema della formazione attiva e in aula, l’OCM ha a disposizione anche altri strumenti di formazione e supporto, tipicamente di back office, come la piattaforma dedicata all’help desk online (cfr. linee guida per il sistema informatico) che, dal momento in cui sarà operativa, costituirà il punto di riferimento per l’accesso alla documentazione necessaria alla comprensione di ambiti, attività e procedure, nonché gli strumenti operativi per poter assolvere ai compiti assegnati in termini di rilevazione, verifica e valutazione dei dati di monitoraggio da parte di ciascun soggetto. 5.2 Destinatari I momenti di informazione, sensibilizzazione e formazione puntuale dovranno essere erogati mediante l’organizzazione di appuntamenti dedicati, organizzati dalle Amministrazioni che hanno ultimato la procedura di affidamento dei servizi a privati concessionari. I destinatari di tali momenti di formazione dovranno essere i soggetti, sia interni che esterni all’Amministrazione, verso i quali si vuole intraprendere una politica di coinvolgimento proattivo nelle dinamiche del nuovo Sistema. Pertanto, come si vedrà nelle pagine seguenti, i momenti di formazione potranno prevedere diversi livelli di approfondimento. 198 5.3 Metodologia di attuazione L’organizzazione di incontri con tutti i soggetti del sistema potranno, da un punto di vista metodologico, essere articolati adottando diverse prospettive di lettura e diversi livelli di approfondimento a seconda dei soggetti cui saranno rivolti. La struttura ideale di tali momenti potrebbe così articolarsi: 1. Incontro plenario di introduzione teorica: l'incontro, in forma seminariale, della durata di una mezza giornata, dovrà essere dedicato alla condivisione del processo, delle sue motivazioni, articolazioni e principali implicazioni nell’ottica del miglioramento della qualità dei servizi. L’obiettivo di questa sessione plenaria è quello di sensibilizzare gli operatori coinvolti rispetto al percorso intrapreso dal MiBAC, e di fornire un quadro chiaro e trasparente del processo individuato per il miglioramento dei servizi aggiuntivi culturali. All'incontro dovranno partecipare i soggetti coinvolti ad ogni livello dal Sistema M&V, anche se, in base alle eventuali richieste e alle indicazioni dell'amministrazione ospitante, potrà essere aperto alla partecipazione di altri soggetti delle PA del territorio potenzialmente interessati. 2. Workshop tematici: Una seconda giornata di lavori dovrebbe essere articolata in quattro incontri operativi rivolti specificamente ai soggetti coinvolti nel Sistema di M&V, che saranno chiamati a confrontarsi sugli aspetti tecnico-operativi richiesti dal loro ruolo. La struttura dei workshop dovrà prevedere un coordinamento e la partecipazione attiva degli iscritti per chiarire lo specifico delle problematiche di ciascuna tipologia di soggetto. In generale dovranno prevedere: 2.1) Workshop 1. Una sessione plenaria in forma di workshop dedicata ai tre livelli (Concessionari, SMPQ40, Stazioni Appaltanti) in modo congiunto che permetta un primo momento di confronto sul sistema nel dettaglio delle sue funzioni, competenze, azioni e output. La sessione ha lo scopo di permettere a tutti una visione di insieme sugli aspetti tecnici, sui processi di costruzione e comunicazione dei dati e sulla piattaforma informatica che ospiterà i dati e i documenti. A questa seguiranno tre Workshop paralleli indirizzati alle singole tipologie di soggetti e dedicati all'approfondimento degli aspetti tecnico operativi in capo a ciascuno di essi. 2.2) Workshop 2. Indirizzato alle Stazioni Appaltanti. Il workshop affronterà tutti i punti salienti dei compiti assegnati alle stazioni appaltanti/strutture periferiche del MiBAC, in quanto responsabili del rispetto delle condizioni contrattuali e interessate al miglioramento della gestione dei servizi; obiettivo del workshop è quello di permettere l’acquisizione di una piena consapevolezza del proprio ruolo all'interno del sistema, al fine di sfruttarne e valorizzarne tutte le potenzialità nella gestione del rapporto di concessione, nel contribuire alle valutazioni di efficacia e di sempre migliore perfomance dei servizi resi, nonché ad utilizzarne i risultati. Dal punto di vista strettamente operativo dovrà mettere inoltre i partecipanti in condizione di interagire con il sistema informatico (come accedere, come utilizzare, come interrogare e leggere i risultati): Ambiti e indicatori Utilizzo del SI per l'accesso alle informazioni Qualora sia stata già individuata dalla Stazione Appaltante o qualora coincida con gli uffici interni dell’Amministrazione concedente (EMPQ) 40 199 2.3) Workshop 3 – Indirizzato ai Concessionari. Il workshop sarà strutturato per chiarire tutti i punti salienti dei compiti assegnati al concessionario, in quanto diretto responsabile della corretta erogazione dei servizi affidati in concessione e anello principale del circuito di informazioni finalizzato al funzionamento del Sistema M&V. Dovrà fornire le indicazioni metodologiche e operative necessarie allo svolgimento delle funzioni assegnate e illustrata la piattaforma web e il suo utilizzo. In particolare dovranno essere trattati: Ambiti e indicatori La creazione del sistema informativo di rilevazione Collegamenti con il SI dell'OCM Rapporto di Gestione semestrale 2.4) Workshop 4 – Indirizzato alle Società di monitoraggio della Performance e della Qualità (SMPQ)41. Il workshop sarà strutturato per chiarire tutti i punti salienti dei compiti assegnati alle SMPQ che dovranno svolgere un’attività indipendente di controllo, rilevazione e valutazione dell’attività del Concessionario. Saranno fornite e discusse le indicazioni metodologiche e operative necessarie allo svolgimento delle funzioni assegnate e illustrata la piattaforma web e il suo utilizzo. In particolare dovranno essere trattati: Ambiti e indicatori La definizione del piano delle attività La certificazione del SI del Concessionario La rilevazione dei dati quali-quantitativi: strumenti e modalità Modalità e formati per la restituzione dei dati. Tutti i workshop dovranno essere intesi come momenti di confronto nei quali i partecipanti dovranno essere messi in condizione di chiedere chiarimenti anche su aspetti estremamente specifici del processo che li coinvolge, e dovranno essere quindi sufficientemente elastici da essere modulati in base alle esigenze della situazione in cui terranno: potranno quindi approfondire aspetti di volta in volta differenti (utilizzo di determinati strumenti, risoluzione di specifici problemi, eccetera) secondo le necessità opportunamente sollevate dalle singole situazioni concessorie. A supporto degli incontri dovrà essere prodotta tutta la documentazione necessaria al corretto svolgimento delle funzioni di pianificazione, rilevazione, verifica e valutazione (linee guida, modelli, manualistica, ecc) che resterà poi sempre accessibile e aggiornata sulla piattaforma online dedicata (cfr. helpdesk del SI). 6. ANALISI DI SOSTENIBILITÀ ECONOMICO FINANZIARIA DEL SISTEMA 6.1 Premessa, obiettivi e output di sezione La presente sezione di progetto è destinata alla definizione dei costi del sistema di monitoraggio visti dalla prospettiva di uno dei soggetti del sistema: l’EMPQ/SMPQ. Qualora sia stata già individuata dalla Stazione Appaltante o qualora coincida con gli uffici interni dell’Amministrazione concedente (EMPQ) 41 200 L’obiettivo cui si presta tale attività è duplice: da un lato stimare, date le dimensioni che le gare possono assumere (durata della concessione dei servizi espressa in anni, numero di siti oggetto di concessione e numero di servizi dati in concessione), i range di costo delle attività di monitoraggio per gare che vanno da livelli di complessità minimi a livelli di complessità elevati. Tale patrimonio informativo è di fondamentale supporto per l’emersione dei parametri necessari alla definizione delle procedure di gara (vedi capitolo 7) finalizzate alla selezione dei soggetti candidati allo svolgimento delle attività di monitoraggio (SMPQ); dall’altro, essere di supporto alle singole stazioni appaltanti nella stima, a priori, dei fabbisogni di spesa necessari allo svolgimento delle attività di monitoraggio della EMPQ/SMPQ. Conoscere anticipatamente, seppur in via previsionale, i costi generati dalle attività di monitoraggio può consentire alle stazioni appaltanti di: o conoscere l’ammontare annuo di fondi da mettere a bilancio per affidare la realizzazione delle attività di monitoraggio alle EMPQ/SMPQ; o attuare una efficace negoziazione con le SMPQ in vista dell’affidamento dei servizi. L’output progettuale di questa sezione è rappresentato da un software (vedi allegato 7) per la determinazione del budget annuale/pluriennale dei costi delle attività di monitoraggio in capo all’EMPQ/SMPQ. Tale software farà parte del corredo di linee guida che l’OCM metterà a disposizione delle stazioni appaltanti che avranno avviato le procedure per l’affidamento in concessione dei servizi al pubblico nei luoghi della cultura di propria competenza. 6.2 Principi di costruzione del Foglio di Calcolo Il software di cui all’oggetto della presente sezione è stato costruito prendendo a riferimento le attività che ciascuna EMPQ/SMPQ è chiamata a realizzare nel quadro delle funzioni ad essa assegnate. Volendo sintetizzarle, in capo alla EMPQ/SMPQ vi è la responsabilità di: Redigere documenti di pianificazione, verifica e valutazione quali: o Il Piano di attività o La Relazione sull’attendibilità Sistema Informativo del Concessionario o La Relazione di performance semestrale o La Relazione di performance annuale Svolgere azioni di rilevazione, destinate alla raccolta di dati e informazioni sui servizi offerti dal Concessionario. A tale scopo la SMPQ può: o Erogare questionari o Realizzare Interviste strutturate o Svolgere Focus Group Svolgere azioni di verifica volte a certificare l’attendibilità e la validità delle informazioni rilevate e trasmesse dal Concessionario e il rispetto degli obblighi contrattuali da questo sottoscritti nell’Offerta Tecnica. Tale azione di verifica può avere luogo attraverso due strumenti, quali: 201 o I Sopralluoghi e le ispezioni o I Mystery shopping Per arrivare a definire i costi (stimati) di realizzazione di ciascuna delle suddette azioni si è provveduto ad operare per step logici concatenati, in particolare: Step 1 (vedi immagine seguente): individuazione dei singoli elementi processuali/procedurali di cui le azioni si compongono (ovvero l’insieme di attività puntuali e specifiche necessarie a realizzare le singole azioni); Figura 21 – Step 1 Gi ornate uomo GG fisse 1 2 21 211 212 213 214 22 221 222 223 23 232 234 24 242 243 3 31 311 312 32 321 322 323 324 33 331 332 333 334 4 41 411 412 413 414 42 421 422 423 424 Coord i namento general e Real i zzazi one d oc umenti Piano di attività studio documentazione di gara studio documentazione offerta tecnica sopralluoghi redazione documento Relazione attendibilità Sistema Informativo del Concessionario analisi sistema informativo del concessionario revisioni e assistenza alle modifiche redazione documento Relazione performance semestrale elaborazione statistiche redazione rapporto Relazione performance annuale elaborazione statistiche redazione rapporto Atti vi tà d i ri l evazi one Questionario front somministrazione questionario data entry Interviste strutturate definizione traccia intervista raccolta contatti e definizione calendario incontir/appuntamenti realizzazione intervista report intervista Focus group definizione issue focus group raccolta contatti e definizione calendario realizzazione focus report focus Atti vi tà d i veri fi c a Sopralluoghi Definizione calendario Preparazione sopralluogo Svolgimento sopralluogo Report sopralluogo Mistery shopping Definizione calendario Preparazione Mistery shopping Svolgimento Mistery shopping Report Mistery shopping GG senior 0,0 16,0 5,0 1,0 1,0 1,0 2,0 gg variabili su base singola GG junior 0,0 20,0 5,0 1,0 1,0 1,0 2,0 GG senior 4,0 13,5 2,5 0,5 0,5 0,5 1,0 3,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 7,0 1,0 2,0 4,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 gg variabili GG junior 0,0 25,5 3,5 0,5 0,5 0,5 2,0 GG senior 0,0 0,0 0,0 0,0 0,0 0,0 0,0 GG junior 0,0 0,0 0,0 0,0 0,0 0,0 0,0 3,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,5 0,0 0,0 0,0 0,5 0,5 6,0 1,0 1,0 4,0 8,0 4,0 4,0 8,0 4,0 4,0 4,6 0,1 0,03 0,03 1,5 0,5 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 0,0 0,0 1,0 0,0 1,0 1,0 0,0 0,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,25 0,25 0,5 3,0 0,0 1,0 1,0 1,0 6,0 3,0 0,0 1,0 1,0 1,0 3,0 0,0 1,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 Macro Attività della SMPQ Attività specifiche della SMPQ Elementi processuali/procedurali Step 2 (vedi immagine seguente). Stimare le giornate/uomo lavorative fisse (ovvero il numero di giornate lavorative minime che, indipendentemente dalle dimensioni specifiche della concessione, ciascuna EMPQ/SMPQ si stima debba porre in essere) necessarie alla realizzazione degli elementi processuali/procedurali di ciascuna azione. Le giornate/uomo lavorative fisse sono state distinte in: o Giornate/uomo di un professionista senior; o Giornate/uomo di un professionista junior. 202 Figura 22 - Step 2 Gi ornate uomo GG fisse 1 2 21 211 212 213 214 22 221 222 223 23 232 234 24 242 243 3 31 311 312 32 321 322 323 324 33 331 332 333 334 4 41 411 412 413 414 42 421 422 423 424 Coord i namento general e Real i zzazi one d oc umenti Piano di attività studio documentazione di gara studio documentazione offerta tecnica sopralluoghi redazione documento Relazione attendibilità Sistema Informativo del Concessionario analisi sistema informativo del concessionario revisioni e assistenza alle modifiche redazione documento Relazione performance semestrale elaborazione statistiche redazione rapporto Relazione performance annuale elaborazione statistiche redazione rapporto Atti vi tà d i ri l evazi one Questionario front somministrazione questionario data entry Interviste strutturate definizione traccia intervista raccolta contatti e definizione calendario incontir/appuntamenti realizzazione intervista report intervista Focus group definizione issue focus group raccolta contatti e definizione calendario realizzazione focus report focus Atti vi tà d i veri fi c a Sopralluoghi Definizione calendario Preparazione sopralluogo Svolgimento sopralluogo Report sopralluogo Mistery shopping Definizione calendario Preparazione Mistery shopping Svolgimento Mistery shopping Report Mistery shopping GG senior 0,0 16,0 5,0 1,0 1,0 1,0 2,0 gg variabili su base singola GG junior 0,0 20,0 5,0 1,0 1,0 1,0 2,0 GG senior 4,0 13,5 2,5 0,5 0,5 0,5 1,0 3,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 7,0 1,0 2,0 4,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 gg variabili GG junior 0,0 25,5 3,5 0,5 0,5 0,5 2,0 GG senior 0,0 0,0 0,0 0,0 0,0 0,0 0,0 GG junior 0,0 0,0 0,0 0,0 0,0 0,0 0,0 3,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,5 0,0 0,0 0,0 0,5 0,5 6,0 1,0 1,0 4,0 8,0 4,0 4,0 8,0 4,0 4,0 4,6 0,1 0,03 0,03 1,5 0,5 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 0,0 0,0 1,0 0,0 1,0 1,0 0,0 0,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,25 0,25 0,5 3,0 0,0 1,0 1,0 1,0 6,0 3,0 0,0 1,0 1,0 1,0 3,0 0,0 1,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 Giornate fisse minime (seniore e junior) per la realizzazione delle macro attività Giornate fisse minime (seniore e junior) per la realizzazione delle attività specifiche Giornate fisse minime (seniore e junior) per la realizzazione degli elementi processuali/procedurali Step 3(vedi immagine seguente). Stimare le giornate/uomo lavorative variabili (ovvero il numero di giornate lavorative dipendenti dalle dimensioni specifiche della concessione, ciascuna EMPQ/SMPQ si stima debba porre in essere) necessarie alla realizzazione degli elementi processuali/procedurali di ciascuna azione. 203 Figura 23 - Step 3 Gi ornate uomo GG fisse 1 2 21 211 212 213 214 22 221 222 223 23 232 234 24 242 243 3 31 311 312 32 321 322 323 324 33 331 332 333 334 4 41 411 412 413 414 42 421 422 423 424 Coord i namento general e Real i zzazi one d oc umenti Piano di attività studio documentazione di gara studio documentazione offerta tecnica sopralluoghi redazione documento Relazione attendibilità Sistema Informativo del Concessionario analisi sistema informativo del concessionario revisioni e assistenza alle modifiche redazione documento Relazione performance semestrale elaborazione statistiche redazione rapporto Relazione performance annuale elaborazione statistiche redazione rapporto Atti vi tà d i ri l evazi one Questionario front somministrazione questionario data entry Interviste strutturate definizione traccia intervista raccolta contatti e definizione calendario incontir/appuntamenti realizzazione intervista report intervista Focus group definizione issue focus group raccolta contatti e definizione calendario realizzazione focus report focus Atti vi tà d i veri fi c a Sopralluoghi Definizione calendario Preparazione sopralluogo Svolgimento sopralluogo Report sopralluogo Mistery shopping Definizione calendario Preparazione Mistery shopping Svolgimento Mistery shopping Report Mistery shopping GG senior 0,0 16,0 5,0 1,0 1,0 1,0 2,0 gg variabili su base singola GG junior 0,0 20,0 5,0 1,0 1,0 1,0 2,0 GG senior 4,0 13,5 2,5 0,5 0,5 0,5 1,0 3,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 7,0 1,0 2,0 4,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 gg variabili GG junior 0,0 25,5 3,5 0,5 0,5 0,5 2,0 GG senior 0,0 0,0 0,0 0,0 0,0 0,0 0,0 GG junior 0,0 0,0 0,0 0,0 0,0 0,0 0,0 3,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,5 0,0 0,0 0,0 0,5 0,5 6,0 1,0 1,0 4,0 8,0 4,0 4,0 8,0 4,0 4,0 4,6 0,1 0,03 0,03 1,5 0,5 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 0,0 0,0 1,0 0,0 1,0 1,0 0,0 0,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,25 0,25 0,5 3,0 0,0 1,0 1,0 1,0 6,0 3,0 0,0 1,0 1,0 1,0 3,0 0,0 1,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 Giornate variabili (seniore e junior) per la realizzazione delle macro attività Giornate variabili (seniore e junior) per la realizzazione delle attività specifiche Giornate variabili (seniore e junior) per la realizzazione delle sotto attività Come si evince dall’immagine precedente, il volume delle giornate uomo variabili è, al momento, pari a zero. Per poterne determinare l’ammontare, il gruppo di lavoro ha provveduto ad individuare quelle componenti dimensionali da cui, per ciascuna concessione, dipende la variabilità delle giornate/uomo lavorative dei professionisti senior e junior impegnati nella realizzazione delle attività di monitoraggio. Tali componenti possono essere così elencate: o Anni di concessione: ovvero il numero di anni per cui sono stati affidati i servizi in concessione ad un dato concessionario. Tale valore corrisponde al numero di anni per i quali dovranno essere realizzate le attività di monitoraggio in quella data concessione; o Numero siti: ovvero il numero di siti oggetto della concessione; o Numero servizi: ovvero il numero di servizi oggetto di concessione in ciascun sito; o Numero di questionari front annuali: dipendente dalla numerosità dei visitatori complessivi medi (relativamente agli ultimi 3 anni) registrati in tutti i siti oggetto di concessione e monitoraggio. Per determinare la numerosità del campione cui saranno somministrati i questionari è stato predisposto un apposito software (vedi allegato 5); o Numero di interviste strutturate annuali: dipendente dalla numerosità dei visitatori complessivi medi (relativamente agli ultimi 3 anni) registrati in tutti i siti oggetto di 204 concessione e monitoraggio. Per determinare la numerosità delle interviste si ritiene di fare riferimento alla numerosità del campione individuato ai fini del questionario. A titolo indicativo si ritiene che un adeguato rapporto tra questionari e interviste potrebbe aggirarsi intorno al 10% (se non diversamente predisposto in sede di contrattazione tra Stazione Appaltante e SMPQ). o Numero di Focus Group annuali: in funzione delle indicazioni che ciascuna Stazione appaltante ritiene utile adottare per la specifica concessione, e comunque compresi tra 2 a 6. o Numero di Sopralluoghi annuali: in funzione delle indicazioni che ciascuna Stazione appaltante ritiene utile adottare per la specifica concessione. o Numero di Mistery shopping annuali: in funzione delle indicazioni che ciascuna Stazione appaltante ritiene utile adottare per la specifica concessione. L’insieme degli elementi sopra enucleati partecipano, in diversa misura e con diverse peculiarità, alla determinazione del il c.d. livello di complessità del sistema di concessione (vedi immagine seguente). Laddove, infatti, elementi come il numero di anni di concessione, il numero di siti e il numero di servizi determinano il livello di complessità che alimenta il numero di giornate/uomo lavorative necessarie alla redazione dei documenti di pianificazione, verifica e valutazione, elementi come il numero di numero di questionari front annuali, il numero di interviste strutturate annuali, il numero di Focus Group annuali, il numero di Sopralluoghi annuali e il numero di Mistery shopping annuali determinano il livello di complessità che alimenta il numero di giornate/uomo lavorative necessarie allo svolgimento delle attività di rilevazione e verifica. Step 4. Stimare il costo medio di una giornata/uomo lavorativa, sia per quanto riguarda i professionisti senior che per quanto riguarda i professionisti junior. Facendo riferimento al costo di mercato delle risorse umane impegnate nel campo della consulenza per la Pubblica Amministrazione, sono state desunte le seguenti tariffe: o Tariffa valutatore senior: euro 420,00 o Tariffa valutatore junior: euro 240,00 Step 5 (vedi immagine seguente). Costruire la suite in grado di alloggiare i risultati del processo di trasformazione degli input (fattori che fungono da moltiplicatori) in ouptut (budget delle singole attività). 205 Figura 24 - Step 5 E COSTI TOTALI Annuali Netto TOTALI tutta la durata Iva € € € € € € € 11.520 3.300 660 660 660 1.320 € € € € € € € € € € € € € € € € Lordo € € € € € € € 2.419 693 139 139 139 277 2.940 € 660 900 1.380 2.640 1.320 1.320 2.640 1.320 1.320 660 - € € € € € € € € € € € € € € € € € € € € 660 660 € € € € € € € € € € € € € € € 1.320 660 660 660 660 13.500 Netto Iva TOTALI tutta la durata + costo di coordinamento spalmato Lordo Netto Iva Lordo UNITARI Unità Netto Iva Lordo € € € € € € € 13.939 3.993 799 799 799 1.597 € € € 6.240 3.300 € € € 1.310 693 € € € 7.550 3.993 € € € 6.240 3.300 € € € 1.310 693 € € € 7.550 3.993 1 € 3.300 € 693 € 3.993 617 € 3.557 € 2.940 € 617 € 3.557 € 2.940 € 617 € 3.557 1 € 2.940 € 617 € 3.557 139 189 290 554 277 277 554 277 277 139 - € € € € € € € € € € € € € € € 799 1.089 1.670 3.194 1.597 1.597 3.194 1.597 1.597 799 - € - € - € - € - € - € - 0 #DIV/0! #DIV/0! #DIV/0! € - € - € - € - € - € - 0 #DIV/0! #DIV/0! #DIV/0! - € € - € € - € € - € € - € € - 0 #DIV/0! #DIV/0! #DIV/0! € - € - € - € - € - € - 0 #DIV/0! #DIV/0! #DIV/0! € € € € € 139 139 € € € € € 799 799 € - € - € - € - € - € - 0 #DIV/0! #DIV/0! #DIV/0! € € € € € € € € € € € € € € € 277 139 139 139 139 2.835 € € € € € € € € € € € € € € € 1.597 799 799 799 799 16.335 - € € - € € - € € - € € - € € - 0 #DIV/0! #DIV/0! #DIV/0! - € - € - € - € - € - 0 #DIV/0! #DIV/0! #DIV/0! € € € € € € - - 6.240 € - - 1.310 € - - 7.550 € - - 6.240 € - - 1.310 € - - 7.550 Il software è stato progettato per rappresentare tali risultati sotto diverse prospettive, in particolare: per mostrare i costi annuali delle attività di monitoraggio per mostrare i costi totali (per tutta la durata della concessione) delle attività di monitoraggio per mostrare i costi unitari medi di ogni singola azione. Di seguito una rappresentazione complessiva dello strumento, con indicazione dei suoi diversi elementi compositivi. 206 Figura 25 - Software complessivo 1 2 4 5 Gi ornate uomo GG fisse Coord i namento general e Real i zzazi one d oc umenti Piano di attività studio documentazione di gara studio documentazione offerta tecnica sopralluoghi redazione documento Relazione attendibilità Sistema Informativo del Concessionario analisi sistema informativo del concessionario revisioni e assistenza alle modifiche redazione documento Relazione performance semestrale elaborazione statistiche redazione rapporto Relazione performance annuale elaborazione statistiche redazione rapporto Atti vi tà d i ri l evazi one Questionario front somministrazione questionario data entry Interviste strutturate definizione traccia intervista raccolta contatti e definizione calendario incontir/appuntamenti realizzazione intervista report intervista Focus group definizione issue focus group raccolta contatti e definizione calendario incontri realizzazione focus report focus Atti vi tà d i veri fi c a Sopralluoghi Definizione calendario Preparazione sopralluogo Svolgimento sopralluogo Report sopralluogo Mistery shopping Definizione calendario Preparazione Mistery shopping Svolgimento Mistery shopping Report Mistery shopping TOTAL E GG senior 4,0 13,5 2,5 0,5 0,5 0,5 1,0 GG junior 0,0 25,5 3,5 0,5 0,5 0,5 2,0 GG senior 4,0 13,5 2,5 0,5 0,5 0,5 1,0 GG junior 0,0 25,5 3,5 0,5 0,5 0,5 2,0 € € € € € € € 3,0 7,0 3,0 6,0 3,0 6,0 € 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 1,0 2,0 4,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,5 0,0 0,0 0,0 0,5 0,5 1,0 1,0 4,0 8,0 4,0 4,0 8,0 4,0 4,0 4,6 0,1 0,03 0,03 1,5 0,5 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 0,5 0,0 0,0 0,0 0,5 0,5 1,0 1,0 4,0 8,0 4,0 4,0 8,0 4,0 4,0 3,8 3,3 1,7 1,7 0,5 0,5 € € € € € € € € € € € € € € € 1.320 1.560 2.760 6.240 3.120 3.120 6.240 3.120 3.120 1.790 800 400 400 330 330 € € € € € € € € € € € € € € € 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 1,0 0,0 0,25 0,25 0,5 3,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 € € € € € 660 660 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 0,0 1,0 0,0 1,0 1,0 0,0 0,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 1,0 6,0 3,0 0,0 1,0 1,0 1,0 3,0 0,0 1,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 0,0 € € € € € € € € € € € € € € € 1.320 660 660 660 660 28.100 Indicatore di "complessità" (range da 1 a 78) 1 Interviste strutturate annuali Focus Group annuali Numero questionari front Numero interviste strutturate Numero focus group Sopralluoghi annuali Mistery shopping annuali Numero sopralluoghi Numero Mistery Shopping Tariffa valutatore senior Tariffa valutatore junior 6.3 TOTALI Annuali GG junior 0,0 20,0 5,0 1,0 1,0 1,0 2,0 1 1 1 Questionari front annuali COSTI gg variabili GG senior 0,0 16,0 5,0 1,0 1,0 1,0 2,0 VARI ABI L I DI SI STEMA Anni di concessione Numero siti Numero servizi Moltiplicatore di complessità gg variabili su base singola 1 Netto 1.680 23.310 5.190 990 990 990 2.220 TOTALI tutta la durata Iva € € € € € € € Lordo 2.033 28.205 6.280 1.198 1.198 1.198 2.686 1.184 € 6.824 277 328 580 1.310 655 655 1.310 655 655 376 168 84 84 69 69 € € € € € € € € € € € € € € € 1.597 1.888 3.340 7.550 3.775 3.775 7.550 3.775 3.775 2.166 968 484 484 399 399 € € € € € 139 139 € € € € € 799 799 € € € € € € € € € € € € € € € 277 139 139 139 139 5.901 € € € € € € € € € € € € € € € 1.597 799 799 799 799 34.001 € € € € € € € 353 4.895 1.090 208 208 208 466 5.640 € € € € Netto 1.680 € 23.310 € 5.190 € € Iva TOTALI tutta la durata + costo di coordinamento spalmato Netto Iva Lordo UNITARI 353 4.895 1.090 € € € Lordo 2.033 28.205 6.280 Unità Netto Iva Lordo 5.640 € 1.184 € 6.824 € 5.999 € 1.260 € 7.258 1 € 5.999 € 1.260 € 7.258 € 6.240 € 1.310 € 7.550 € 6.637 € 1.394 € 8.031 1 € 6.637 € 1.394 € 8.031 € 6.240 € 1.310 € 7.550 € 6.637 € 1.394 € 8.031 1 € 6.637 € 1.394 € 8.031 50 € 4 € € € € € 24.792 € 5.520 € 5.206 1.159 € € € 29.999 6.679 1 € 5.520 € 1.159 € 6.679 € € 1.790 800 € € 376 168 € € 2.166 968 € € 1.904 851 € € 400 179 € € 2.304 1.030 € 330 € 69 € 399 € 351 € 74 € 425 0 #DIV/0! #DIV/0! #DIV/0! € 660 € 139 € 799 € 702 € 147 € 849 0 #DIV/0! #DIV/0! #DIV/0! € € 1.320 660 € € 277 139 € € 1.597 799 € € 1.404 702 € € 295 147 € € 1.699 849 0 #DIV/0! #DIV/0! #DIV/0! € 660 € 139 € 799 € 702 € 147 € 849 0 #DIV/0! #DIV/0! #DIV/0! € 28.100 € 5.901 € 34.001 € 28.100 € 5.901 € 34.001 17 € 21 Complessità del sito fi no a d a 2 0 a d a 4 0 a ol tre 6 0 19 = 1 39 = 2 59 = 3 = 4 50 0 0 50 0 0 0 0 0 0 420 240 3 Tutorial per la definizione dei costi In linea con quanto mostrato in precedenza, il software di gestione del budget delle attività di monitoraggio predisposto si caratterizza per essere uno strumento che, al di là della sua complessità di composizione, si rileva essere estremamente semplice nel suo utilizzo. Per facilitare l’uso del software, di seguito si propone un tutorial dove, passo passo, vengono indicate le 8 attività che il compilatore è tenuto ad eseguire per procedere alla definizione dei costi delle attività di monitoraggio che la EMPQ/SMPQ è tenuta a realizzare. Tutti gli inserimenti vanno fatti all’interno del box del software contrassegnato dalla dicitura VARIABILI DI SISTEMA. I campi contrassegnati in grigio sono quelli deputati all’inserimento manuale dei dati. Quelli in bianco contengono dati generati automaticamente dal sistema. Step 1. Inserire la durata della concessione dei servizi espressa in numero di anni Step 2. Inserire il numero di siti coinvolti nella concessione Step 3. Inserire il numero di servizi dati in concessione in ciascun sito Step 4. Inserire il numero di questionari frontali da erogare in un anno 207 Step 5. Inserire il numero di interviste frontali da erogare in un anno Step 6. Inserire il numero di focus group da realizzare in un anno Step 7. Inserire il numero di sopralluoghi da realizzare in un anno Step 8. Inserire il numero di mystery shopping da realizzare in un anno Una volta inseriti i dati richiesti all’interno del sistema, esso provvederà in automatico a calcolare i valori di output che alimenteranno le variabili di complessità (il numero di giornate/uomo lavorative) in corrispondenza con ogni singolo processo/procedura e, di conseguenza, in corrispondenza di ciascuna azione da realizzare. Si veda l’esemplificazione proposta nell’immagine seguente. Figura 26 - Tutorial per l’individuazione delle variabili del sistema VARI ABI L I DI SI STEMA Anni di concessione Numero siti Numero servizi Indicatore di "complessità" (range da 1 a 78) 6 4 9 36 Input: Inserire il numero di siti 1 2 Input: Inserire il numero di servizi 3 Input: Inserire la durata della concessione Output: Indicatore di complessità Output: Moltiplicatore di complessità Moltiplicatore di complessità Questionari front annuali Interviste strutturate annuali Focus Group annuali Numero questionari front Numero interviste strutturate Numero focus group Sopralluoghi annuali Mistery shopping annuali Numero sopralluoghi Numero Mistery Shopping Tariffa valutatore senior Tariffa valutatore junior 2 390 40 2 2340 240 12 2 2 12 12 420 240 Input: Inserire il numero di questionari frontali da erogare in 1 anno 4 Input: Inserire il numero di interviste da erogare in 1 anno 5 Input: Inserire il numero di focus group da realizzare in 1 anno 6 Output: Numero di questionari da realizzare lungo la durata della concessione Output: Numero di interviste da realizzare lungo la durata della concessione Output: Numero di focus group da realizzare lungo la durata della concessione Input: Inserire il numero di sopralluoghi da realizzare 7 Input: Inserire il numero di mystery shopping da realizzare 8 Output: Numero di soppralluoghi da realizzare lungo la durata della concessione Output: Numero di mystery shoopping da realizzare lungo la durata della concessione Variabile predefinita Variabile predefinita Per una concessione della durata di 6 anni, con 4 siti e una media di 9 servizi per sito il sistema produce un calcolo moltiplicatore di complessità pari a 2, che alimenta il numero di giornate/uomo lavorative necessarie alla redazione dei documenti di pianificazione, verifica e valutazione. 208 Se la medesima concessione esprime la necessità di erogare 390 questionari, 40 interviste, 2 focus group, 2 sopralluoghi e 2 mystery shopping annuali, questi fattori alimentano il numero di giornate/uomo lavorative necessarie alla realizzazione delle attività di rilevazione e verifica. Imputando i suddetti dati nel sistema si ottiene (vedi immagine seguente) che in corrispondenza di ciascuna azione e procedura del sistema, il numero di giornate variabili si autodetermina. Figura 27 - Numero di giornate variabili Gi ornate uomo GG fisse 1 2 21 211 212 213 214 Coord i namento general e Real i zzazi one d oc umenti Piano di attività studio documentazione di gara studio documentazione offerta tecnica sopralluoghi redazione documento Relazione attendibilità Sistema Informativo 22 del Concessionario 221 222 223 23 232 234 24 242 243 3 31 311 312 32 321 322 323 324 33 331 332 333 334 4 41 411 412 413 414 42 421 422 423 424 analisi sistema informativo del concessionario revisioni e assistenza alle modifiche redazione documento Relazione performance semestrale elaborazione statistiche redazione rapporto Relazione performance annuale elaborazione statistiche redazione rapporto Atti vi tà d i ri l evazi one Questionario front somministrazione questionario data entry Interviste strutturate definizione traccia intervista raccolta contatti e definizione calendario incontir/appuntamenti realizzazione intervista report intervista Focus group definizione issue focus group raccolta contatti e definizione calendario incontri realizzazione focus report focus Atti vi tà d i veri fi c a Sopralluoghi Definizione calendario Preparazione sopralluogo Svolgimento sopralluogo Report sopralluogo Mistery shopping Definizione calendario Preparazione Mistery shopping Svolgimento Mistery shopping Report Mistery shopping TOTAL E GG senior 0,0 16,0 5,0 1,0 1,0 1,0 2,0 gg variabili su base singola GG junior 0,0 20,0 5,0 1,0 1,0 1,0 2,0 GG senior 4,0 13,5 2,5 0,5 0,5 0,5 1,0 3,0 7,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 gg variabili GG junior 0,0 25,5 3,5 0,5 0,5 0,5 2,0 GG senior 8,0 27,0 5,0 1,0 1,0 1,0 2,0 GG junior 0,0 51,0 7,0 1,0 1,0 1,0 4,0 3,0 6,0 6,0 12,0 1,0 2,0 4,0 4,0 2,0 2,0 4,0 2,0 2,0 1,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 1,0 4,0 2,0 2,0 4,0 2,0 2,0 1,5 0,0 0,0 0,0 0,5 0,5 1,0 1,0 4,0 8,0 4,0 4,0 8,0 4,0 4,0 4,6 0,1 0,03 0,03 1,5 0,5 2,0 2,0 2,0 8,0 4,0 4,0 8,0 4,0 4,0 3,0 0,0 0,0 0,0 1,0 1,0 2,0 2,0 8,0 16,0 8,0 8,0 16,0 8,0 8,0 73,0 26,0 13,0 13,0 41,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 1,0 0,0 0,25 0,25 0,5 3,0 0,0 0,0 0,0 0,0 2,0 0,0 10,0 10,0 20,0 6,0 0,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 2,0 1,0 1,0 0,0 0,0 0,0 1,0 1,0 0,0 0,0 0,0 0,0 1,0 0,0 1,0 1,0 0,0 0,0 1,0 0,0 0,0 0,0 0,0 0,0 0,0 1,0 1,0 1,0 6,0 3,0 0,0 1,0 1,0 1,0 3,0 0,0 1,0 1,0 1,0 0,0 2,0 0,0 2,0 2,0 0,0 0,0 2,0 0,0 0,0 0,0 0,0 0,0 0,0 2,0 2,0 2,0 12,0 6,0 0,0 2,0 2,0 2,0 6,0 0,0 2,0 2,0 2,0 209 Ne consegue che il numero di giornate fisse e il numero di giornate variabili stimate si sommano e vengono ad essere moltiplicate per il costo giornaliero di ciascuna professionalità (senior, junior) impiegata (vedi immagine seguente). L’esito di tale processo conduce alla determinazione dei costi totali annuali, complessivi (per tutta la durata della concessione) e unitari delle attività in capo alla EMPQ/SMPQ. Tali importi sono parametrati sulle dimensioni (livelli di complessità) specifiche della concessione di cui all’oggetto. 210 Figura 28 - I costi delle attività COSTI TOTALI Annuali 1 2 21 211 212 213 214 Coord i namento general e Real i zzazi one d oc umenti Piano di attività studio documentazione di gara studio documentazione offerta tecnica sopralluoghi redazione documento Relazione attendibilità Sistema Informativo 22 del Concessionario 221 222 223 23 232 234 24 242 243 3 31 311 312 32 321 322 323 324 33 331 332 333 334 4 41 411 412 413 414 42 421 422 423 424 analisi sistema informativo del concessionario revisioni e assistenza alle modifiche redazione documento Relazione performance semestrale elaborazione statistiche redazione rapporto Relazione performance annuale elaborazione statistiche redazione rapporto Atti vi tà d i ri l evazi one Questionario front somministrazione questionario data entry Interviste strutturate definizione traccia intervista raccolta contatti e definizione calendario incontir/appuntamenti realizzazione intervista report intervista Focus group definizione issue focus group raccolta contatti e definizione calendario incontri realizzazione focus report focus Atti vi tà d i veri fi c a Sopralluoghi Definizione calendario Preparazione sopralluogo Svolgimento sopralluogo Report sopralluogo Mistery shopping Definizione calendario Preparazione Mistery shopping Svolgimento Mistery shopping Report Mistery shopping TOTAL E € € € € € € € € Netto 3.360 35.100 7.080 1.320 1.320 1.320 3.120 TOTALI tutta la durata Iva € € € € € € € 8.340 € € € € € € € € Lordo 4.066 42.471 8.567 1.597 1.597 1.597 3.775 1.751 € 10.091 706 7.371 1.487 277 277 277 655 2.396 2.686 5.009 11.906 5.953 5.953 11.906 5.953 5.953 23.522 7.550 3.775 3.775 12.415 799 € € € Netto 20.160 € 133.500 € 7.080 € € 8.340 € € € € € € € € € € € € € € € € 1.980 2.220 4.140 9.840 4.920 4.920 9.840 4.920 4.920 19.440 6.240 3.120 3.120 10.260 660 € € € € € € € € € € € € € € € 416 466 869 2.066 1.033 1.033 2.066 1.033 1.033 4.082 1.310 655 655 2.155 139 € € € € € € € € € € € € € € € € € € € € 2.400 2.400 4.800 2.940 660 € € € € € 504 504 1.008 617 139 € € € € € 2.904 2.904 5.808 3.557 € 799 € € € € € € € € € € € € € € € 480 1.320 480 5.040 2.940 660 480 1.320 480 2.100 660 480 480 480 62.940 € € € € € € € € € € € € € € € 101 277 101 1.058 617 139 101 277 101 441 139 101 101 101 13.217 € € € € € € € € € € € € € € € 581 1.597 581 6.098 € 3.557 € 799 581 1.597 581 2.541 € 799 581 581 581 76.157 € Iva 4.234 28.035 1.487 TOTALI tutta la durata + costo di coordinamento spalmato € € € Lordo 24.394 161.535 8.567 € € € Netto € 143.099 € 7.589 € Iva 1.751 € 10.091 € 8.940 € Lordo 30.051 1.594 UNITARI Unità Netto Iva Lordo € € € 173.150 9.183 1 € 7.589 € 1.594 € 9.183 1.877 € 10.817 1 € 8.940 € 1.877 € 10.817 € 59.040 € 12.398 € 71.438 € 63.285 € 13.290 € 76.575 6 € 10.548 € 2.215 € 12.762 € 59.040 € 12.398 € 71.438 € 63.285 € 13.290 € 76.575 6 € 10.548 € 2.215 € 12.762 € € 116.640 € 37.440 € 24.494 € 7.862 € 141.134 € 45.302 € 125.027 € 40.132 € 26.256 € 8.428 € 151.282 48.560 2340 € 17 € 4 € 21 € 61.560 € 12.928 € 74.488 € 65.986 € 13.857 € 79.843 240 € 275 € 58 € 333 17.640 € 3.704 € 21.344 € 18.908 € 3.971 € 22.879 12 € 1.576 € 331 € 1.907 30.240 € 17.640 € 6.350 € 3.704 € 36.590 € 21.344 € 32.414 € 18.908 € 6.807 € 3.971 € 39.221 22.879 12 € 1.576 € 331 € 1.907 12.600 € 2.646 € 15.246 € 13.506 € 2.836 € 16.342 12 € 1.125 € 236 € 1.362 300.540 € 63.113 € 363.653 € 300.540 € 63.113 € 363.653 211 7. DEFINIZIONE DELLA PROCEDURA OTTIMALE PER L’INDIVIDUAZIONE DELLE SMPQ 7.1 Oggetto In questa sezione si propone la relazione sull’impianto della procedura d’evidenza pubblica volta alla selezione delle Società Monitoraggio della Performance e della Qualità (SMPQ). In relazione alla selezione delle SMPQ, si è ipotizzato di impostare un procedimento selettivo “bifasico”, che, per un verso, garantisca l’accentramento a livello ministeriale di una prima fase di prequalificazione degli operatori in possesso degli idonei requisiti per eseguire le attività di monitoraggio dei servizi aggiuntivi presso i luoghi della cultura statali e, per altro verso, garantisca un canale e uno strumento semplice di selezione a disposizione delle Soprintendenze che, per ragioni interne, decidessero di esternalizzare il servizio. Di seguito la descrizione delle tre soluzioni operative che si sono analizzate. 7.2 IPOTESI A) L’ipotesi contempla la costituzione di un elenco centrale con attribuzione di punteggio all’offerta tecnica (curricula e meta-metodologia) e successiva selezione (a livello centrale o periferico) al massimo ribasso con sommatoria dei punteggi attribuiti alla componente economica). Fase 1 “Costituzione elenco” Una prima fase interamente gestita dal Ministero a livello centrale, strumentale alla formazione di un elenco dei potenziali fornitori del servizio. L’accreditamento presso il suddetto elenco viene subordinato al possesso di requisiti di carattere generale nonché a requisiti speciali: di carattere economico, come il fatturato globale e quello speciale, e di carattere tecnico-esperenziale nel settore. Al fine di assicurare sin dalla fase iniziale il desiderato livello di qualità e nella prospettiva di alleggerire la seconda fase selettiva, si è ipotizzato di introdurre in tale livello di selezione anche un confronto concorrenziale tra i candidati in merito a due elementi tecnici, quali i curricula dei professionisti che compongono il gruppo di lavoro e la meta – metodologia che guiderà la resa del servizio. Resta inteso che il possesso dei requisiti generali e speciali è funzionale all’accreditamento presso l’elenco (che, eventualmente, potrà prevedere una classificazione per fasce di fatturato speciale); l’offerta tecnica consentirà, invece, l’attribuzione di un punteggio che poi sarà preso in considerazione nella seconda fase della selezione. Sulla base del fatturato speciale dichiarato, i candidati sono inseriti in apposite classi di importo e per ciascun soggetto selezionatoè specificato il punteggio conseguito. Fase 2 “Selezione del fornitore del servizio” La seconda fase è finalizzata alla selezione del fornitore del servizio ed essa può essere gestita a livello centrale (Ministero) ovvero a livello periferico (singole soprintendenze) 212 In relazione alla dimensione quantitativa del singolo servizio da affidare e al valore dello stesso, si procede all’individuazione della “classe” di candidati ammessi, i quali sono invitati a presentare un’offerta economica. Il punteggio ottenuto sull’offerta economica, viene sommato al punteggio attribuito in fase A) per la componente tecnica. Risulterà aggiudicatario il candidato che avrà conseguito il risultato complessivamente più elevato. 7.3 IPOTESI B) L’ipotesi contempla la formazione di una graduatoria a livello centrale delle società di monitoraggio sulla base di requisiti generali e speciali e sulla base di un’offerta tecnica (curricula e meta-metodologia) ed economica (per prezzi unitari) e successiva individuazione del fornitore a livello periferico con criterio di scelta automatico. Fase 1 “Costituzione gradatoria” Una prima fase interamente gestita dal Ministero a livello centrale, strumentale alla formazione di una graduatoria dei potenziali fornitori del servizio. Ai fini della partecipazione si richiede il possesso di requisiti di carattere generale nonché i requisiti speciali: di carattere economico, come il fatturato globale e quello speciale, e di carattere tecnicoesperenziale nel settore. Si inserisce in tale fase anche un vero e proprio confronto concorrenziale tra i candidati sia sulla componete tecnica (curricula dei professionisti che compongono il gruppo di lavoro e la meta – metodologia che guiderà la resa del servizio) e sulla componente economica (prezzi unitari). Sulla base del punteggio ottenuto si procede alla formazione di una graduatoria; salva la possibilità anche in questo caso di individuare classi di importo ovvero di categoria. Fase 2 “Selezione del fornitore del servizio” La seconda fase è finalizzata alla selezione del fornitore del servizio ed essa è gestita a livello periferico dalle singole soprintendenze. Infatti a seconda dell’ordine di posizionamento in graduatoria si procede alla “chiamata” a scorrimento dei fornitori, ameno che non siano state individuate classi di importo ovvero di categoria. 7.4 IPOTESI C) L’ipotesi contempla la costituzione di un elenco centrale con stringenti requisiti di ingresso tecnico/professionali e successiva selezione (a livello periferico o centrale) soltanto con offerta al massimo ribasso. Fase 1 “Costituzione elenco” Una prima fase interamente gestita dal Ministero a livello centrale, strumentale alla formazione di un elenco dei potenziali fornitori del servizio. L’accreditamento presso il suddetto elenco viene subordinato al possesso di requisiti di carattere generale nonché a requisiti speciali: di carattere economico, come il fatturato globale e quello speciale, e di carattere tecnico-esperenziale nel settore. Con riferimento a tale aspetto, al fine di assicurare sin dalla fase iniziale il desiderato livello di qualità e nella prospettiva di alleggerire la seconda fase selettiva, è ipotizzabile introdurre requisiti professionali particolarmente stringenti, chiedendo ad esempio una specifica composizione del gruppo di lavoro ovvero l’esperienza in servizi analoghi molto significativa. 213 Il possesso dei requisiti generali e speciali è funzionale all’accreditamento presso l’elenco, che, eventualmente, potrà prevedere una classificazione per fasce di fatturato speciale, le cd “classi di importo” Fase 2 “Selezione del fornitore del servizio” La seconda fase è finalizzata alla selezione del fornitore del servizio ed essa può essere gestita a livello centrale (Ministero) ovvero a livello periferico (singole soprintendenze). In relazione alla dimensione quantitativa del singolo servizio da affidare e al valore dello stesso, si procede all’individuazione della “classe” di candidati ammessi, i quali sono invitati a presentare un’offerta economica. La selezione viene quindi gestita con il criterio del prezzo più basso. In ogni caso, laddove si rendesse necessario in considerazione delle peculiarità del servizio oggetto di monitoraggio, sarebbe possibile introdurre un confronto concorrenziale anche su particolari elementi tecnici, con la previsione di una clausola di salvaguardia che preveda la possibilità di ricorrere al criterio dell’offerta economicamente più vantaggiosa. 7.5 La selezione dell’ipotesi A seguito dell’esame della tenuta giuridica dei modelli suesposti, si è avuto modo di rilevare il ricorrere di una serie di criticità con riferimento alle ipotesi A) e B). In particolare, in ordine all’ipotesi A), posta la scissione tra il momento della presentazione, e della conseguente valutazione, tra l’offerta tecnica (fase 1) e l’offerta economica (fase 2) e considerata il diverso riferimento delle oggetto, si è posto il dubbio circa la possibile violazione del principio di unicità dell’offerta. Con riferimento, invece, all’ipotesi B) nella quale – si ricorda – si è ipotizzato che l’intera procedura fosse gestita dal Ministero con la formazione di una graduatoria centrale cui attingere a livello periferico, è parsa problematica l’individuazione del criterio di scelta degli operatori qualificati. Infatti il criterio del sorteggio ovvero quello della rotazione non sembrerebbero conciliabili con l’attribuzione di punteggi all’esito della fase 1; d’altro canto non sembrerebbe altresì ipotizzabile una seconda gara in fase 2, pena l’eccessiva onerosità del procedimento selettivo. Quanto all’iter procedurale descritto nell’ipotesi C), si ritiene che esso sia in tutto rispondente alle esigenze espresse dalla committenza e compatibile con i dettati normativi. Si evidenzia in proposito che sebbene la procedura descritta non è altro che una forma peculiare di procedura ristretta di cui all’art. 3, comma 38, D.Lgs. 163/2006 e ss.mm.ii. posto che la prima fase è tesa alla prequalificazione dei soggetti i possesso dei requisiti ritenuti fondamentali ai fini dell’espletamento dell’attività di monitoraggio dei servizi integrati presso i luoghi della cultura; la seconda fase è invece deputato al confronto concorrenziale sull’offerta economica ovvero, in alcuni casi, anche sull’offerta tecnica. Peraltro si evidenzia che nella prospettiva di garantire la massima trasparenza e imparzialità dei soggetti affidatari dei servizi di monitoraggio, si è ipotizzato di prevedere una durata annuale del servizio. Conseguentemente, il valore dei singoli appalti da affidare in sede di fase B) difficilmente potranno superare la soglia comunitaria. Pertanto il ricorso all’elenco dei prestatori di servizi troverebbe una base normativa esplicita anche nell’art. 125 Codice Contratti pubblici, che prevede il ricorso a tale strumento di prequalificazione con riferimento agli acquisti in economia di servizi di importo inferiore alla soglia comunitaria. 214 In ogni caso, al fine di escludere che il ricorso all’elenco possa divenire uno strumento per eludere le prescrizioni di derivazione comunitaria, sarebbe opportuno prevedere una serie di adempimenti atti a garantire la massima apertura della concorrenza, il massimo grado di pubblicità e trasparenza . Ad esempio prevedendo che l’avviso contenente l’indizione della procedura di prequalificazione sia pubblicato sulla GURI e sulla GUCE oltre che sugli altri strumenti di pubblicità previsti per le gare europee; oppure prescrivendo l’obbligo di pubblicare l’avviso di aggiudicazione indipendentemente dal valore dell’appalto; oppure garantendo la riapertura, a cadenze predeterminate, dei termini di presentazione delle domande di ammissione. Con riferimento ai requisiti di carattere economico finanziario e di carattere tecnico professionale, si ritiene che, essi debbano tendere ad un elevato grado di specializzazione. A sostegno della proporzionalità di requisiti particolarmente selettivi, ricorre la circostanza che nella procedura ipotizzata manca – ovvero è del tutto eventuale – il confronto concorrenziale sulla componente tecnica. Pertanto la previsione di stringenti requisiti di prequalificazione è l’unico strumento per assicurare un adeguato livello di specializzazione agli operatori deputati all’esecuzione del servizio. Sul punto si ricorda una recentissima pronuncia del Consiglio di Stato (ordinanza n. 3932 del 14.09.2011) nella quale si legge che l’art. 46 comma 1 bis non appare interdire la facoltà della stazione appaltante di richiedere alle imprese partecipanti requisiti specifici e rigorosi a comprova della capacità tecnica, purché non esorbitati o eccessivi rispetto all’oggetto della gara. In ogni caso i requisiti, volutamente assai specializzanti, indicati nella documentazione di allegata rappresentano soltanto una base di ragionamento per la Committenza. Quanto alla gestione dell’elenco, considerato che l’iscrizione di ciascun candidato avviene su base pluriennale (ad esempio 36 mesi) è necessario disciplinare il complesso dei meccanismi di aggiornamento dei dati. Ad esempio è possibile prevedere la riapertura su base annuale dei termini di iscrizione per i nuovi fornitori e la possibilità, da parte dei soggetti già iscritti, di aggiornare (annualmente oppure semestralmente) i propri dati. È opportuno altresì prevedere un sistema sanzionatorio che conduca anche alla cancellazione dall’elenco ad esempio per le ipotesi di plurima mancata risposta agli inviti di partecipazione ovvero in caso di inadempienze reiterate. Documentazione allegata Schema di Disciplinare (Allegato 8) della procedura di prequalificazione di cui alla FASE 1 e allegati a. modelli di dichiarazioni (Allegati 8°, 8b, 8c), b. schema avviso di pubblicazione (Allegato 8d); Schema di lettera di invito (Allegato 9) e relativi allegati: a. Capitolato tecnico (Allegato 9a); b. Capitolato di oneri (Allegato 9b). 215