ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Il progetto CRESCO Silvio Migliori Responsabile Scientifico Andrea Quintiliani Responsabile Amministrativo ENEA-Dipartimento Tecnologie Fisiche e Nuovi Materiali (FIM) Contenuto L’Infrastruttura ENEA-GRID Il progetto CRESCO e i “Laboratori Virtuali” Una infrastruttura Nazionale ICT a supporto dello sviluppo del sistema “Paese” Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Evoluzione delle tecnologie e loro conseguenze Ian Foster 2002 • • • Network vs. computer performance – Computer speed doubles every 18 months (now chips density) – Network speed doubles every 9 months – Difference = order of magnitude per 5 years 1986 to 2000 – Computers: x 500 – Networks: x 340,000 2001 to 2010 – Computers: x 60 – Networks: x 4000 Moore’s Law vs. storage improvements vs. optical improvements. Graph from Scientific American (Jan-2001) by Cleo Vilett, source Vined Khoslan, Kleiner, Caufield and Perkins. Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] ICT – SCENARIO EVOLUTIVO Italia (11/2007) Posizione Istituzione 48 CINECA 71 CINECA 180 ENEA 247 ENEL 248 ENEL 264 CINECA ENEA (CRESCO 180°) ENEA Jack Dongarra Evoluzione nel tempo dei computer ad alte prestazioni Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] TELEMICROSCOPY & GRID - BASED COMPUTING REMOTE ACCESS FOR DATA ACQUISITION AND ANALYSIS By-Mark Ellisman DATA ACQUISITION DATA ANALYSIS ADV.-COMP.-GRAPHICS NETWORK Cell Centered Data Base “CCDB” QuickTi me™ and a YU V420 codec decompressor are needed to see thi s pi ctur e. IMAGING-INSTRUMENTS COMP.-RESOURCES Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it MULTI-SCALE-DATA-BASES [email protected] ENEA-GRID Nasce nel 1998 con 6 cluster geografici “ Quadrics Ape100” Principali finalità – Fornire ai ricercatori ENEA un ambiente unificato per l’utilizzo delle risorse informatiche eterogenee distribuite nei diversi centri di calcolo o Dipartimenti; – Realizzare un’infrastruttura che avesse la possibilità di distribuire i livelli di gestione e sviluppo conservandone l’unicità architetturale e di utilizzo; – Integrarsi con le principali infrastrutture ICT nazionali ed internazionali Application Software catalogs User Collective Resource Computers ENEA-GRID www.afs.enea.it/project/eneagrid Sensor nets Connectivity Fabric Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it Colleagues & 3D Data archives [email protected] I centri computazionali di ENEA-GRID L'ENEA, Ente per le Nuove tecnologie, l’Energia e l’Ambiente Centro di Brindisi Le principali presenze nel territorio nazionale sono rappresentate da 12 centri di ricerca di cui 6 sono corredati di infrastrutture per il calcolo scientifico e grafica 3D: Bologna Casaccia(Roma Nord) Frascati Trisaia (MT) Portici (NA) Brindisi L’intera infrastruttura è progettata, sviluppata e gestita dal Dipartimento Fisica dei Materiali (FIM) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Connessioni delle LAN ENEA alla rete GARR L’ENEA gestisce in proprio le reti locali (LAN) su tutti I centri mentre la connettività fra i centri (WAN) è garantita dal “Consortium GARR” di cui l’ENEA è socio ENEA & GARR 9 PoP, 18-400 (1000) Mbps Centri ENEA-GRID Brindisi (150 Mbps) Bologna (30 Mbps) Casaccia (100 Mbps) Frascati (135 Mbps) Portici (400-1000 Mbps) Trisaia (18 Mbps) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Centri computazionali ENEA-GRID Ispra Saluggia 30 BOLOGNA S.Teresa #CPU/Core CASACCIA 140 FRASCATI Manfredonia 400 PORTICI 2750 90 45 Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it BRINDISI TRISAIA [email protected] RISORSE COMPUTAZIONALI ENEA-GRID #CPU/Core Gflops AIX >300 3000 Linux x86 32/64 >3000 25000 Linux IA64 (Altix) 64 300 IRIX 26 40 Frascati(8), Casaccia(4), Portici(1),Trisaia(8), Brindisi(1), Bologna(5) Solaris 8 10 Trisaia(4), Casaccia(2), Bologna(2) Windows 32/64 46 100 Mac OS X 14 60 OS Frascati(258), Bologna(24), Portici(18),Brindisi(2) Frascati(140), Casaccia(54), Portici(2700),Trisaia(20), Brindisi(84) Casaccia Frascati(4), Portici(34),Trisaia(4), Brindisi(4) Frascati(1), Trisaia(13) I centri di calcolo e suppercalcolo di Portici (NA) , Brindisi e Trisaia (MT) sono stati potenziati con i progetti PON TELEGRID (Avv. MIUR 68)CRESCO (Avv. MUR 1575) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] GEANT 2008 boquad.bologna.enea.it dafne.casaccia.enea.it sp4_-1.frascati.enea.it Kleos.portici.enea.it Portici infocal.trisia.enea.it Gateway to EGEE & GRISU Brindisi Accesso WEB ercules.brindisi.enea.it Accesso Client Inaugurazione Centro HPC CRESCO www.afs.enea.it/project/eneagrid 06-05-2008 www.cresco.enea.it Accesso [email protected] Diretto Il progetto CRESCO (PON 1575) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Il Progetto CRESCO Centro computazionale di RicErca sui Sistemi COmplessi Linee di attività progettuali LA1 Realizzazione del Polo di calcolo e sviluppo di nuove funzionalità di GRID Computing LA2 Sviluppo di tecnologie e modelli computazionali per la descrizione di sistemi complessi di origine biologica e di materiali innovativi LA3 Sviluppo di modelli di simulazione ed analisi delle Reti Tecnologiche complesse e delle loro interdipendenze (energetiche, telecomunicazioni, trasporti,…) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Il Progetto CRESCO Centro computazionale di RicErca sui Sistemi COmplessi Potenziamento delle funzioni tradizionali dell’ENEA la ricerca – sarà fornito supporto (di tipo sia capacity che la formazione – potranno essere potenziate le attività di capability), attraverso l’utilizzo dell’infrastruttura di calcolo, ad attività di ricerca già in corso di svolgimento nell’Ente nell’ambito delle linee programmatiche esistenti; tali attività potranno anche avere una focalizzazione di natura industriale; formazione, in collaborazione con alcune sedi universitarie, al fine di supportare la diffusione delle metodologie sviluppate all’interno del Polo Multidisciplinare negli ambiti tematici oggetto di studio e ricerca, con positive ricadute anche nella creazione di percorsi formativi adatti al successivo reclutamento di personale; il trasferimento tecnologico – verranno istituiti percorsi ed attivati idonei strumenti per favorire l’applicazione industriale delle tecnologie sviluppate, anche ricorrendo alla collaborazione di idonei partner (“industrial-exploitation partner”). Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Macrostruttura del progetto Sandro TAGLIENTI Direttore INFO FIM Direttore dipartimento Comitato Scientifico Prof. Jack Dongarra Prof. Domenico Ferrari Prof. Agostino Mathis Silvio MIGLIORI Resp. Scientifico Andrea QUINTILIANI Resp. Amministrativo Silvio MIGLIORI Coord. LA1 Comunicazione e Mktg (TBD) Vittorio ROSATO Coord. LA2 Sandro BOLOGNA Coord. LA3 Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Partner di progetto Università di Salerno Università di Catania Università di Lecce Università di Palermo Università Campus Biomedico Università del Piemonte Orientale Università di Roma “Tor Vergata” Università di Roma “La Sapienza” Consorzio Interuniversitario ECONA Consorzio Interuniversitario CASPUR Consorzio CRIAI Consorzio CETMA Centro di ricerca CERI Parco Scientifico e Tecnologico della Sicilia Soc. Ylichron (spin-off ENEA) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Struttura a blocchi del sistema HPC CRESCO Sistema backup SERVER BACKUP IB Interconnessione InfiniBand 4XDDR Sezione 1 Sezione 2 (Grande Memoria) (Alto Parallelismo) 42 Nodi SMP IBM x3850-M2 con 4 Xeon Quad-Core Tigerton E7330 (32/64 GByte RAM 2.4GHz/ 1066MHz/6MB L2) per un totale di 672 core Intel Tigerton 256 Nodi blades IBM HS21 con 2 Xeon Quad-Core Clovertown E5345 (2.33GHz/1333MH z/8MB L2), 16 GB RAM per un totale di 2048 core Intel Clovertown IB 3 Nodi IBM 3650 FC SERVER GPFS 4 Nodi IBM 3650 FC 300 TByte IBM Tape Library TS3500 con 4 drive Sistema Dischi ad alta velocità 2 GByte/s 160 TByte IBM/DDN 9550 Sezione 3 (Speciale) 4 Nodi blades IBM QS21 con 2 Cell BE Processors 3.2 Ghz each. 6 Nodi IBM x3755, 8 Core AMD 8222 con una scheda FPGA VIRTEX5 4 Nodi IBM x 3755, 8 core AMD 8222 con schede NVIDIA Quadro FX 4500 X2 4 Nodi windows 8 core 16 Byte RAM Doppia Intercconnessione a 1 Gbit 1 Rete a 1 Gbit di gestione 35 Nodi di Servizio Server di : •Front-end •insallazione •AFS •… 4x10 Gbits Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it Portici LAN 400 /1000 Mbits [email protected] GARR (WAN) ENEA-GRID & CRESCO Il supercalcolatore CRESCO è integrato in ENEA-GRID Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] ENEA-GRID & CRESCO Monitoring Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] ENEA-GRID & CRESCO Monitoring Sezione 1 Sezione 2 % Utilizzo cpu % Utilizzo cpu Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Sala Calcolo CRESCO Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Particolari HPC CRESCO Sezione 1 & 3 Sala controllo Corridoio Caldo Sezioni 1 &2 RETI: IB/GB Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it Sezione 2 & DDN Sistema backup [email protected] Le potenzialità computazionali ENEA-GRID & CRESCO Un sistema eterogeneo con più di 3000 CPU/core Codici Risorsa seriali Sezione 1 & ENEA-GRID paralleli fortemente accoppiati Sezione 2 paralleli debolmente accoppiati Sezione 1, 2, ENEA-GRID costituiti da più codici paralleli Sezione 1, 2, Sezione 1+2 speciali ( FPGA, GB, CELL) Sezione 3 windows (seriali e paralleli) Sezione 3 non disponibili per LINUX ENEA-GRID con Data Base di grandi dimensioni Sezione 1,2,3 e GPFS Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] ENEA-GRID & i Laboratori Virtuali ENEA Li Università e altri Enti di ricerca Imprese Schema concettuale dei Laboratori Virtuali supportati dall’infrastruttura ENEA-GRID potenziata dal sistema HPC del progetto CRESCO Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Sicurezza ENEA Utente presso la sede industriale Sicurezza industriale Esempio di utilizzo industriale di FLUENT sulla GRID-ENEA Opzioni di sottomissione Opzioni Fluent: Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Aviogroup: Guadagno in termini di Elapsed Time (Con risorse disponibili nel 2006) Totale ore CPU consumata 7104 Totale Giorni (elapsed time) 23 Numero di giorni equivalenti su 4 CPU 74 Guadagno in termini di elapsed Time 222% Considerando quindi: L’inizializzazione delle problematiche Aviogroup. L’interruzione dei servizi per cause di forza maggiore (problematiche ENEL). La mancata disponibilità a tratti di licenze software per affollamento utenze. Si è impiegato comunque meno di un terzo del tempo previsto dalla disponibilità interna Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Aviogroup: test di un’applicazione industriale Fase 1 Fase 2 Fase 3 Test per la simulazione distacco I- II stadio VEGA (Tipo di calcolo HPC) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Sperimentazione in corso sul GRID-ENEA con PMI e Consorzi CETMA Simulazione flussi di aria nei vagoni ferroviari (Tipo di calcolo HPC) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Sperimentazione in corso sul GRID ENEA con PMI e Consorzi CETMA Simulazioni particolari di un CATAMARANO (Tipo di calcolo HPC) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] CRESCO per la FUSIONE EUROPEA IB Cresco 25 Tflops di picco Sistema per lo sviluppo e test dei codici per la fusione termonucleare controllata per ITER (Finaziamento EFDA) 1 Tflops di picco Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] ENEA GRID and experimental facilities DNA Sequence system ( ABI Prism 3700) Trisaia DB_2 ENEA GRID Controlled Nuclear Fusion: FTU Frascati Tokamak Upgrade Video Acquisition WEB ICA SSH CPUS DB_1 DB_3 Electron Microscope (Brindisi) 300 KeV (sept. 2004) Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] La ENEA-GRID interopera con altre GRID ENEA ha sviluppato la soluzione “shared proxy” EGEE EFDA •Conserva l’autonomia architetturale interna •Consente implementazioni multipiattaforma GARR GARR •In produzione in EGEE Altri Enti e realtà PI2S2 •In produzione per la rete GRISU •Richiesto da EFDA per l’accesso ad EGEE Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] ENEA-GRID & GRISU & IGI Ispra IGI Saluggia Italian GRID Infrastructure BOLOGNA S.Teresa CASACCIA Manfredonia FRASCATI PORTICI BRINDISI TRISAIA GRISU Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it SPACI [email protected] Modello concettuale per il sistema produttivo Richieste delle imprese •Sicurezza dei dati •Qualità del servizio •Strumenti Competitivi •Proprietà Intellettuale •Gestione Licenze Canale dedicato industria A GRISU Sistema GRID •Potenziare le Competenze •Sviluppare l’offerta di servizi •Garantire l’Interoperabilità •Infrastrutture H/S & HPC •Connettività adeguata EGEE INFN_GRID Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Ringraziamenti (1) Ministero della Ricerca e dell’Università (MUR) Direzione dell’ENEA Capo Dipartimento Ing. Sandro Taglienti Comitato Scientifico: J. Dongarra, A. Mathis, D. Ferrari Macrostruttura di progetto: Andrea Quintiliani, Vittorio Rosato, Sandro Bologna Collaboratori direttamente coinvolti : Giovanni Bracco, Salvatore Podda, Samuele Pierattini, Giuseppe Ronci, Pietro D’Angelo, Daniele Remoli, Pasquale Cuomo, Francesco Beone, Antonio Perozziello, Carlo Pinto, Erminia Mattei, Gloria Tabili, Nadia Mencucci, CaterinaVinci, Dante Giammattei, Alessandro De Stefano,Vincenzo Colaci, Matteo De Rosa, Graziano Furino, Cristina Baracca, Giorgio Mencuccini Il personale dell’Unità FIM-INFOGER coordinata da Roberto Guadagni Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] Ringraziamenti (2) Il personale del Centro ENEA di Portici e il Direttore Ezio Terzini I ricercatori assegnisti di ricerca del progetto CRESCO Università, Consorzi e Società Partner di progetto Tutti i Ricercatori ENEA ed i rispettivi responsabili coinvolti (circa 60 ricercatori dei Centri di Portici, Trisaia, Brindisi) Il personale delle unità dell’Ufficio di Presidenza coordinate da Susanna Del Bufalo, Elisabetta Pasta e Diana Savelli Il personale della ditta Computer Var e IBM per la realizzazione dell’infrastruttura Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected] ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT Inaugurazione Centro HPC CRESCO 06-05-2008 www.cresco.enea.it [email protected]