ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] NETWORKING DAY L’evoluzione delle esigenze di connettività ad alte prestazioni a beneficio delle moderne applicazioni di calcolo Convegno sui progetti Avviso 1575/2004 CRESCO e la GRID-ENEA in GRISU S. Migliori A.Quintiliani G. Bracco S. Podda ENEA GRID TEAM R. Guadagni, P. D’Angelo, S. Pierattini,G, D. Giammattei, M. De Rosa, G. Furini, F. Simoni, A. Perozziello, A. De Gaetano, S. Pecoraro, M. Caiazzo, A. Palumbo, G. Elmo,M. Steffè ENEA Dipartimento “Tecnologie FIsiche e nuovi Materiali” FIM Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Contenuto L’Infrastruttura Il ENEA-GRID progetto CRESCO Interoperabilità & GRISU Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] ENEA Italian Agency for New Tecnologies, Energy and Environment. 12 research centers in Italy Centro di Brindisi A Central Computer and Network Service (INFO) 6 Computer Centres Casaccia, Frascati, Bologna,Trisaia, Portici, Brindisi Multiplatform resources for serial & parallel computation and graphical post-processing. Others computer resources in ENEA: departments & individuals Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] ENEA Network connection ENEA computational resources are distributed over WAN, connected by GARR, the Italian Academic & Research Network ENEA-GARR 9 PoP, 18-400 Mbps Brindisi (150 Mbps) Bologna (30 Mbps) Casaccia (100 Mbps) Frascati (135 Mbps) Portici (400 Mbps) Trisaia (18 Mbps) Palermo Pisa Roma Sede Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] ENEA GRID ENEA GRID è un sistema integrato capace di rispondere ai seguenti obbiettivi: •mettere a disposizione un sistema di produzione capace di offrire i servizi necessari al calcolo scientifico •integrare l'insieme di risorse informatiche di ENEA-FIM, distribuite su WAN •fornire un ambiente di lavoro unificato e metodi di accesso omogenei per tutti i ricercatori dell'ENEA indipendentemente dalla loro sede di lavoro. •mettere a disposizione strumenti capaci di permettere l'integrazione delle risorse informatiche dipartimentali ed individuali e di fornire supporto alle attività sperimentali Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Centri computazionali ENEA-GRID Ispra Saluggia 30 BOLOGNA S.Teresa #CPU CASACCIA 140 FRASCATI Manfredonia 400 PORTICI 2750 90 45 Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it BRINDISI TRISAIA [email protected] RISORSE COMPUTAZIONALI ENEA-GRID OS #CPU/Core Gflops Frascati(258), Bologna(24), Portici(18),Brindisi(2) Frascati(140), Casaccia(54), Portici(2700),Trisaia(20), Brindisi(84) AIX 300 3000 Linux x86 32/64 3000 25000 Linux Alpha 80 100 IRIX 26 40 Frascati(8), Casaccia(4), Portici(1),Trisaia(8), Brindisi(1), Bologna(5) Solaris 8 10 Trisaia(4), Casaccia(2), Bologna(2) Windows 46 100 Mac OS X 14 60 Casaccia Frascati(4), Portici(32),Trisaia(4), Brindisi(4) Frascati(1), Trisaia(13) Portici, Brindisi & Trisaia resources increased in the framework of CRESCO & TELEGRID Projects Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] GEANT 2007 boquad.bologna.enea.it dafne.casaccia.enea.it sp4_-1.frascati.enea.it Kleos.portici.enea.it Portici infocal.trisia.enea.it Gateway to EGEE & GRISU Brindisi web Client ercules.brindisi.enea.it Citrix Client WEB(ICA) ICA Protocollo Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] I servizi di ENEA GRID Servizi per il calcolo scientifico: • Sistemi paralleli/seriali multipiattaforma • AIX, Linux (Alpha,x86,x86_64,IA64), IRIX, Mac OS X, Solaris • Risorse 3D e il post-processamento grafico • SGI + 3D immersivo • Risorse Software: • Codici commerciali: Fluent, Gambit, Abacus, Catia, Ansys • Codici di “ricerca”: mcnp/x, eranos, fluka,.... • Ambienti di sviluppo & analisi: IDL, Matlab, Mathematica, SAS • Applicazioni Windows Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] L'architettura di ENEA GRID La scelta di componenti maturi come garanzia di affidabilità e semplicità di gestione: File system distribuito: AFS/OpenAFS Gestore delle risorse: LSF Multicluster Interfaccia grafica: Java and Citrix Technologies Server di licenze Strumenti per l'integrazione delle risorse dipartimentali ed individuali File sistem distribuito: AFS per software e dati Condivisione del parco licenze Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Il progetto CRESCO Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Il Progetto CRESCO Centro computazionale di RicErca sui Sistemi COmplessi Principali Obiettivi Realizzazione del Polo di calcolo e sviluppo di nuove funzionalità di GRID Computing Sviluppo di tecnologie e modelli computazionali per la descrizione di sistemi complessi di origine biologica e di materiali innovativi Sviluppo di modelli di simulazione ed analisi delle Reti Tecnologiche complesse e delle loro interdipendenze Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Il Progetto CRESCO Centro computazionale di RicErca sui Sistemi COmplessi Potenziamento delle funzioni tradizionali dell’ENEA la ricerca – sarà fornito supporto (di tipo sia capacity che la formazione – potranno essere potenziate le attività di capability), attraverso l’utilizzo dell’infrastruttura di calcolo, ad attività di ricerca già in corso di svolgimento nell’Ente nell’ambito delle linee programmatiche esistenti; tali attività potranno anche avere una focalizzazione di natura industriale; formazione, in collaborazione con alcune sedi universitarie, al fine di supportare la diffusione delle metodologie sviluppate all’interno del Polo Multidisciplinare negli ambiti tematici oggetto di studio e ricerca, con positive ricadute anche nella creazione di percorsi formativi adatti al successivo reclutamento di personale; il trasferimento tecnologico – verranno istituiti percorsi ed attivati idonei strumenti per favorire l’applicazione industriale delle tecnologie sviluppate, anche ricorrendo alla collaborazione di idonei partner (“industrial-exploitation partner”). Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Macrostruttura del progetto Sandro TAGLIENTI Direttore INFO Comitato Scientifico Prof. Jack Dongarra Prof. Umberto Ferrari Prof. Agostino Mathis Silvio MIGLIORI Resp. Scientifico Andrea QUINTILIANI Resp. Amministrativo Silvio MIGLIORI Coord. LA1 Comunicazione e Mktg (TBD) Vittorio ROSATO Coord. LA2 Networking Day - U. NA Federico II 14-04-2008 Sandro BOLOGNA Coord. LA3 www.cresco.enea.it [email protected] Sistema HPC (1) Section – – – – – 1 (IBM INTEL ) 42 SMP nodes with 16 cores (total 672 cores) RAM 64 / 32 GBytes/node InfiniBand 4X DDR interconnection Double Gbit/s interconnection 150 GBytes/node local disk; Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Sistema HPC (2) Section – – – – – 2 (IBM INTEL Blade Center ) 256 SMP nodes with 8 cores (total 2048 cores) RAM 16 Gytes/node InfiniBand 4X DDR interconnection Double Gbit/s interconnection 150 GBytes/node local disk; Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Sistema HPC (3) Special Section – 4 Cell IBM – 6 FPGA – 4 Graphic Board Windows Section – 4 nodes DELL with 8 cores High performance storage – 160 TBytes DDN system IB/FC connections Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Sala Calcolo CRESCO Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] ENEA GRID and experimental facilities DNA Sequence system ( ABI Prism 3700) Trisaia DB_2 ENEA GRID Controlled Nuclear Fusion: FTU Frascati Tokamak Upgrade Video Acquisition WEB ICA SSH CPUS DB_1 DB_3 Electron Microscope (Brindisi) 300 KeV (sept. 2004) Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Interoperabilità & GRISU Interoperabilità basata sullo standard di gLite Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it SPACI [email protected] Interoperabilità & GRISU L’adozione di uno strato middleware comune e/o di comunicazione (anche tramite appositi gateway) è necessario al fine di creare una comune Infrastruttura di calcolo integrata e interoperabile sia a livello italiano che europeo anche con Grid che adottano standard diversi. Scelte strategiche: – Standard comune di comunicazione: gLite – Implementazione di servizi basati su gLite e LCG (LHC Computing Grid) – Certification Authority riconosciuta a livello mondiale Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] ENEA-GRID GARR GARR Altri Enti e realtà PI2S2 Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] ENEA-GRID & GRISU Ispra Saluggia BOLOGNA S.Teresa CASACCIA Manfredonia FRASCATI PORTICI BRINDISI TRISAIA GRISU Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it SPACI [email protected] ITALIAN NATIONAL AGENCY FOR NEW TECNOLOGY, ENERGY AND THE ENVIRONMENT Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Architettura di ENEA GRID Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Struttura Software concettuale WEB ICA User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Load LevelerTelnet LSF WEB WEB ICA ICA Load Leveler Telnet User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Cluster 5° ( Portici) Graphic User Interface LSF Load Leveler & File System Telnet LSF AFS Geographical cross platform& File System Cluster 6° ( Brindisi) WEB Cluster 2° (Casaccia) ICA WEB ICA WEB User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Load Leveler Telnet LSF AFS Geographical cross platform& File System User programs & commercial code Graphic User Interface LSF multi-cluster as integrator Load Leveler Telnet ICA User programs & commercial code Graphic User Interface LSF multi-cluster as integrator LSF Load Leveler AFS Geographical cross platform& File System Telnet LSF AFS Geographical cross platform& File System Cluster 1° ( Bologna) Cluster 3° (Frascati) Cluster 4° (Trisaia ) Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Interfaccia utente Accesso utente unificato tramite Citrix Presentation Center [ex Metaframe], java e script di shell: Prestazioni ottimizate su WAN e metodi di comunicazione sicuri Accesso gestito da 6 server Citrix UNIX [ Bologna, Casaccia, Frascati, Trisaia, Portici, Brindisi] 4 server Citrix Windows forniscono accesso alle applicazioni Windows tramite Web(Frascati, Portici, Trisaia, Brindisi). Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Schema di integrazione di apparati sperimentali nel GRID ENEA Electronic Microscope (Brindisi) 300 KeV (sept. 2004) TEM Room Remote User Remote Controlled Web-cam Mtaframe Special Driver for TEM Local Operation AFS Remote Local Operation Local Data AFS Data Integration > 4 TByte Local GRID Cluster Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Partner Partner: Università di Salerno Università di Catania Università di Lecce Università di Palermo Università del Sannio Università del Piemonte Orientale Università di Roma “Tor Vergata” Università di Roma “La Sapienza” Cons. Interuniversitario ECONA CRIAI – Consorzio Campano di Ricerca per l’Informatica e l’Automazione Industriale Consorzio BioTekNet (Centro Regionale di Competenza in Biotecnologie Industriali) Parco Scientifico e Tecnologico della Sicilia Consorzio CETMA Soc. Ylichron (spin-off ENEA) Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected] Collaborazioni dichiarate nel progetto Collaborazioni: Politecnico di Milano – Dipartimento di Elettrotecnica United States Department of State, USA Oak Ridge National Laboratories, USA Networking Day - U. NA Federico II 14-04-2008 www.cresco.enea.it [email protected]