NOMELAV: nessun nome lav PAG: 1 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
ROBOT E DIRITTO: UNA PRIMA RICOGNIZIONE
di Amedeo Santosuosso-Chiara Boscarato-Franco Caroleo (*)
Sommario: 1. Intelligenza artificiale, robot che crescono e diritto. – 2. Un problema di definizioni:
quali abilità ha un robot? – 3. Una premessa sulle fonti del diritto in Europa. – 4. Le norme europee vigenti. – 5. Segue: il cerchio interno: la direttiva Macchine n. 2006/42/CE. – 6. Segue: il
cerchio maggiore: la direttiva n. 01/95/CE, la decisione n. 768/2008/CE e il reg. n. 765/2008/CE
sulla sicurezza generale e la commercializzazione
dei prodotti. – 7. Segue: la decisione n. 768/
2008/CE e il reg. n. 765/2008/CE sulla commercializzazione dei prodotti. – 8. Segue: il cerchio
esterno: la direttiva n. 99/44/CE sulla vendita e
le garanzie dei beni di consumo. – 9. Segue: alcune conclusioni sui robot come prodotti. – 10.
Conflitti e contenziosi nei quali sono coinvolti
robots. – 11. Segue: Il caso del danno da inadempimento contrattuale. – 12. Segue: il caso dei
danni causati da difetti di produzione nel robot.
– 13. Il caso dei danni causati da azioni e reazioni del robot in un contesto di interazione con
l’uomo. – 14. Segue: alcune conclusioni sui robot
come agenti. – 15. Un caso conclusivo: ha il robot un diritto alla vita?
1. Intelligenza artificiale, robot che
crescono e diritto. Nell’ottobre 1950 Alan
Turing pubblica sulla rivista Mind l’articolo
Computing Machinery and Intelligence ( 1 ), che
(*) European Center For Law, Science And New
Technologies, Università degli studi di Pavia (I),
http://www.unipv-lawtech.eu/.
( 1 ) Turing, Computing Machinery and Intelligence, in Mind, New Series, 1950, vol. 59, n. 236,
433 ss. Sulla complessa e controversa figura di Alan
Turing, scienziato straordinario, che lavora per lo
spionaggio inglese nella Seconda Guerra Mondiale,
che viene poi arrestato a causa della sua omosessualità e che muore poi suicida, si veda la presentazione
della Stanford Encyclopedia of Philosophy: «Alan
Turing (1912-1954) never described himself as a philosopher, but his 1950 paper “Computing Machinery
and Intelligence” is one of the most frequently cited
in modern philosophical literature. It gave a fresh approach to the traditional mind-body problem, by relating it to the mathematical concept of computability
NGCC 2012 - Parte seconda
rappresenta un punto di svolta decisivo negli
studi sulla relazione corpo-mente e sull’intelligenza artificiale (Artificial Intelligence, AI).
Parte da lì l’idea e, soprattutto, il progetto di
costruire un computer capace di simulare il
cervello umano nel suo insieme, fino alla prospettiva di avere un’intelligenza senza corpo.
Questi progetti (e le idee a essi sottese) vanno
sotto il nome di «intelligenza artificiale in senso forte» (Strong AI) e vengono sostanzialmente abbandonati nel corso degli anni Ottanta del
secolo scorso per quello che, in gergo societario, si potrebbe chiamare «impossibilità sopravvenuta dell’oggetto sociale», essendo risultato evidente che il progetto era impossibile da
realizzare a causa di importanti limiti concettuali ( 2 ). Si preparano così le condizioni per il
passaggio a quella che è stata chiamata «intelligenza artificiale in senso debole» (Light AI o
LAI), che abbandona l’idea mimetica del cervello umano, alla base della Strong AI, e adotta
un approccio sostanzialmente funzionalista,
che tende, semmai, a emulare solo alcune funzioni del cervello umano e porta a creare macchine che riescono a svolgerle, talora anche
meglio degli umani. Ridotte le pretese complessive, il salto tecnologico è un successo pratico di notevoli dimensioni.
he himself had introduced in his 1936-7 paper “On
computable numbers, with an application to the Entscheidungsproblem”. His work can be regarded as the
foundation of computer science and of the artificial
intelligence program... [...] Alan Turing’s arrest in
February 1952 for his sexual affair with a young Manchester man, and he was obliged, to escape imprisonment, to undergo the injection of oestrogen intended
to negate his sexual drive. He was disqualified from
continuing secret cryptological work. His general libertarian attitude was enhanced rather than suppressed by the criminal trial, and his intellectual individuality also remained as lively as ever» (in http://plato.stanford.edu/entries/turing/ visitato il 7.1.2011).
( 2 ) Floridi, Philosophy and Computing. An Introduction, Routledge, 1999, 132 ss.
1
NOMELAV: nessun nome lav PAG: 2 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
Lo sviluppo pragmatico della Light AI incrocia l’antico sogno della creazione di automata
di hobbesiana memoria ( 3 ) e contribuisce, insieme alla convergenza con altre tecnologie
(come le neuroscienze), allo sviluppo della moderna robotica, tanto che oggi tutto lascia pensare a robot che gradualmente avranno un ruolo crescente nella vita di ognuno di noi. I robot
(il cui nome deriva dal ceco robota, che significa lavoro forzato ( 4 )) stanno acquistando crescenti capacità in alcune specifiche attività
umane. Un passaggio cruciale è costituito dai
robot dotati di capacità di imparare sulla base
della loro esperienza e, quindi, di compiere atti
non prevedibili dal costruttore nel loro dettaglio. La condotta dei robot e il rapporto con gli
umani sono oggetto delle Three Laws of Robotics ( 5 ) formulate da Isaac Asimov nel 1940 e,
oggi, di una nuova disciplina, chiamata roboetica ( 6 ). Ma anche il diritto è evidentemente
chiamato ad affrontare la molteplicità dei conflitti che queste nuove opportunità tecnologiche possono creare.
In termini generali si può dire che oggi la
robotica è inserita nel più ampio quadro delle
( 3 ) Parla di automata Thomas Hobbes nelle prime righe dell’Introduzione del Leviatano: Hobbes,
Leviatano, 1651.
( 4 ) La parola robot (con l’accento sulla prima sillaba) è stata usata per la prima volta nel 1920 da Karel C
Û apek, uno scrittore ceco, nella sua opera Rossum’s Universal Robots, su suggerimento del fratello
Josef (pittore cubista e scrittore), che aveva in precedenza usato la parola automat nel suo breve racconto Opilec nel 1917 (in http://capek.misto.cz/english/
robot.html).
( 5 ) Le Tre leggi della robotica (ideate da Asimov
nel 1940) sono le seguenti:
1. Un robot non può recar danno a un essere
umano né può permettere che, a causa del proprio
mancato intervento, un essere umano riceva danno.
2. Un robot deve obbedire agli ordini impartiti
dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.
3. Un robot deve proteggere la propria esistenza,
purché questa autodifesa non contrasti con la Prima
o con la Seconda Legge.
( 6 ) Veruggio, The birth of Roboethics, in Leadership Medica, 2007, X, reperibile in: http://www.
leadershipmedica.com/sommari/2007/numero_10/
Veruggio/Verruggio.pdf.
2
tecnologie convergenti e ne rappresenta una
delle facce e delle frontiere. Nelle prossime
decadi, la convergenza di nanotecnologie,
biotecnologie, tecnologie dell’informazione e
scienze cognitive promette, secondo alcuni,
«di incrementare significativamente il nostro
livello di comprensione, di trasformare le capacità sensoriali e fisiche degli umani e di migliorare le interazioni tra la mente e gli strumenti, tra individuo e gruppo». Così sentenziava, nel 2002, un autorevole rapporto (Roco
Report) della statunitense National Science
Foundation (NSF), spingendosi a prevedere
che, in alcuni decenni, l’umanità avrebbe potuto raggiungere una vera e propria «età dell’oro» e che il ventunesimo secolo si sarebbe
chiuso in una situazione di pace e prosperità
universale ( 7 ). Più realisticamente si può dire
che il fiorire di queste tecnologie non sembra,
almeno per ora, ridurre la necessità di regolazioni giuridiche, che, anzi, secondo le ultime rilevazioni in ambito europeo ( 8 ), sono
( 7 ) Mihail-Bainbridge, Overview, in MihailBainbridge (eds), Converging Technologies for Improving Human Performance. Nanotechnology, Biotechnology, Information Technology And Cognitive
Science (National Science Foundation/DOC-sponsored report), 2002, 6. Una visione ottimistica di tal
genere, si trova anche in altri autori dell’inizio del
millennio, quali, fra i molti, Naam, More Than Human, Broadway Books, 2005, 234; Brockman, The
New Humanists: Science at the Edge, Barnes & Noble, 2003. Un rapporto analogo al Roco Report viene commissionato dall’Unione europea nel 2004:
Nordmann Alfred (Rapporteur), Converging Technologies – Shaping the Future of European Societies, Report 2004, reperibile in http://ec.europa.eu/
research/conferences/2004/ntw/pdf/final_report_en.
pdf. Per una più ampia discussione sulle «tecnologie
convergenti» e sui molteplici sensi che esse assumono (anche in relazione al diverso contesto europeo e
nordamericano) sia consentito il rinvio a Santosuosso, Diritto, scienza, nuove tecnologie, Cedam,
2011.
( 8 ) Una rilevazione operata dal Direttorato Generale per la ricerca UE, ha mostrato che tra i cittadini europei sia oggi, a differenza del passato, diffuso un certo «ottimismo tecnologico». Se si escludono coloro i quali sono già a favore delle innovazioni
scientifiche e la quota di coloro che sono pregiudizialmente contrari, circa il 50% è ben disposto verso
tecnologie come cellule staminali embrionali, bioloNGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 3 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
sempre più richieste dall’opinione pubblica.
Da un punto di vista strettamente giuridico
si può rilevare che non esiste, a oggi, una definizione delle nuove tecnologie, come area specifica di conflitti per i quali il diritto è intervenuto o si sente il bisogno che intervenga. Per
esempio, la Corte Europea per i Diritti dell’Uomo, pur essendosi occupata di vari casi
che, secondo la stessa corte, riguardano le nuove tecnologie e pur mostrando una certa dimestichezza con alcune di esse ( 9 ), non ha definito
le nuove tecnologie, né può dirsi che abbia elaborato una sua posizione coerente in materia.
La Carta dei Diritti Fondamentali dell’Unione
Europea, per parte sua, regola varie materie,
che rientrano nel generale campo delle nuove
tecnologie (come quelle di cui all’art. 3 ( 10 )) e,
in più, ha un art. 8 (una novità rispetto alla
Convenzione EDU), che esplicitamente è a
protezione dei dati di carattere personale ( 11 ),
gia sintetica, terapie geniche, xenotapianti e human
enhancement, a condizione che vi siano adeguate regolazioni giuridiche: Gaskell et al. (eds.), Europeans and biotechnology in 2010. Winds of change?
A report to the European Commission’s DirectorateGeneral for Research, October 2010, in particolare
la Figura 20, 53, in http://ec.europa.eu/research/
science-society/document_library/pdf_06/europeansbiotechnology-in-2010_en.pdf (visitato il 30.12.2010).
( 9 ) Interessante il video su youtube http://
www.youtube.com/watch?v=SZzFaQyK-cM (visitato
il 7.5.2012). Sulla giurisprudenza della Corte EDU,
cfr. Murphy-Cuinn, Works in Progress: New Technologies and the European Court of Human Rights,
in Human Rights Law Review, 10:4, 2010, 601-638
(617 in particolare), disponibile presso: http://
hrlr.oxfordjournals.org/content/10/4/601.abstract.
( 10 ) Art. 3, Diritto all’integrità della persona: 1.
Ogni persona ha diritto alla propria integrità fisica e
psichica. 2. Nell’ambito della medicina e della biologia devono essere in particolare rispettati: a) il consenso libero e informato della persona interessata,
secondo le modalità definite dalla legge, b) il divieto
delle pratiche eugenetiche, in particolare di quelle
aventi come scopo la selezione delle persone, c) il divieto di fare del corpo umano e delle sue parti in
quanto tali una fonte di lucro, d) il divieto della clonazione riproduttiva degli esseri umani.
( 11 ) Art. 8, Protezione dei dati di carattere personale: 1. Ogni persona ha diritto alla protezione dei
dati di carattere personale che la riguardano. 2. Tali
dati devono essere trattati secondo il principio di
NGCC 2012 - Parte seconda
una questione particolarmente delicata in campo ICT. Tuttavia, nemmeno la Carta contiene
un criterio che consenta di stabilire cosa debba
intendersi per «nuova tecnologia» o per «tecnologie convergenti». Esistono, poi, documenti internazionali che affrontano aspetti particolari, come l’interessante (anche se ormai datato) parere del Gruppo europeo EGE su Ethical
Aspects of ICT Implants in the Human Body ( 12 ), ma nessuno di essi va oltre la ricognizione di problemi e aspetti particolari.
In quest’articolo ( 13 ), fatte alcune premesse
sulle abilità attuali di alcuni robot e sui livelli di
complessità delle loro condotte, viene esaminato il quadro giuridico esistente in relazione ad
alcune domande come, per esempio: chi è responsabile per la condotta del robot? Si può
parlare di unicità del soggetto agente? Oppure
può parlarsi di un diritto alla vita per un robot? È evidente che questi temi abbiano alcune
importanti implicazioni filosofiche e sociali che
riguardano lo spartiacque tra umano e nonumano. Tuttavia, in questa sede ci limitiamo,
anche per ovvi motivi di spazio, al problema
giuridico di quale dovrebbe essere il quadro
giuridico europeo in grado a) di sfruttare la
tecnologia sviluppata nell’ambito della robotica e dell’intelligenza artificiale; b) di regolare la
produzione e la commercializzazione dei robot; c) di garantire la sicurezza pubblica; d) di
proteggere i diritti e le libertà degli individui.
In particolare sono analizzati gli assetti normativi vigenti al fine di verificare se essi consentalealtà, per finalità determinate e in base al consenso
della persona interessata o a un altro fondamento legittimo previsto dalla legge. Ogni persona ha il diritto di accedere ai dati raccolti che la riguardano e di
ottenerne la rettifica. 3. Il rispetto di tali regole è
soggetto al controllo di un’autorità indipendente.
( 12 ) European group on ethics in science
and new technologies, Ethical Aspects of ICT
Implants in the Human Body, a cura di Rodotà e
Capurro, 20, 16.3.2005, in: http://ec.europa.eu/
european_group_ethics/avis/index_en.htm.
( 13 ) Di qui in avanti ci avvaliamo del lavoro da
noi svolto nell’ambito del Gruppo di Studio European Robotics Coordination Action, (euRobotics), un
progetto UE finanziato all’interno del VII programma quadro (http://www.eurobotics-project.eu/cms/
index.php?idcat=4), allo scopo di elaborare un
Green Paper sulla legislazione in tema di robotica.
3
NOMELAV: nessun nome lav PAG: 4 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
no di dare una risposta alle criticità sollevate.
Solo qualora non si dovesse riscontrare una soluzione adeguata, si potrà considerare la possibilità di introdurre nuove regole o di modificare quelle esistenti. In altre parole, si intende
evitare un approccio eccezionalista, che è tipico di chi considera a priori le norme attuali inadeguate a disciplinare le questioni che emergono alla luce dagli sviluppi tecnologici, ritenendo, quindi, sempre necessario creare nuove regolamentazioni ad hoc.
Nei paragrafi seguenti la questione viene affrontata secondo quattro punti di vista: in primo luogo, secondo le definizioni e le tipologie
di prodotti (par. 2); in secondo luogo, alla luce
della legislazione europea in materia di sicurezza e commercializzazione dei beni di consumo
(par. 3-4); in terzo luogo, sotto il profilo della
responsabilità giuridica (par. 5). Da ultimo si
propone una breve esercitazione volta a prefigurare alcuni tra gli scenari futuri che si aprono all’orizzonte delle relazioni tra umani e nonumani (par. 6).
2. Un problema di definizioni: quali
abilità ha un robot? Non è semplice trovare
una chiara definizione della parola «robot», né
nel linguaggio comune né in quello tecnico.
Navigando in rete, la maggior parte dei siti usa
il significato di robot come un dato di fatto. In
verità, non c’è un generale consenso su cosa un
robot sia e quali macchine possano essere qualificate come tale.
Partendo dalla definizione più semplice, un
robot può essere «an automatic machine that
does the work of a human» ( 14 ). Secondo la voce robot in Wikipedia, «a robot is a mechanical
or virtual intelligent agent (but the latter are
usually referred to as bots) which can perform
tasks on its own, or with guidance. In practice a
robot is usually an electro-mechanical machine
which is guided by computer and electronic programming» ( 15 ). In questa prospettiva, la robotica (cioè la disciplina che si occupa della progettazione, della costruzione e del funzionamento dei robot) è collegata alle discipline del-
( 14 ) http://news.bbc.co.uk/cbbcnews/hi/find_out/
guides/tech/robots/newsid_3914000/3914167.stm.
( 15 ) http://en.wikipedia.org/wiki/Robot.
4
l’ingegneria, dell’elettronica e della meccanica,
oltre che all’informatica e all’intelligenza artificiale. L’Enciclopedia Britannica, invece, dà la
seguente definizione: «any automatically operated machine that replaces human effort, though
it may not resemble human beings in appearance or perform functions in a humanlike manner» ( 16 ). Il dizionario Merriam-Webster ( 17 )
fornisce addirittura tre definizioni diverse: a) a
machine that looks like a human being and performs various complex acts (as walking or
talking) of a human being; b) a device that automatically performs complicated often repetitive
tasks; c) a mechanism guided by automatic controls». Queste definizioni sono leggermente
fuorvianti. In particolare, la forma human-like
non è necessaria perché un dispositivo venga
qualificato «robot» né il robot automatico è
quello che compie in gran parte compiti ripetitivi. A ben vedere esse risultano coerenti solo
se vengono concatenate tra di loro con una
proposizione di tipo «or».
Definizioni più tecniche usano differenti parole e parlano di «agenti non umani» o «macchine intelligenti»: «the intelligent machine can
be a robot, an artificial agent or other machine
that implements some functions requiring autonomous decision making. Such a machine consists of the machine hardware, software, and an
additional level of abstraction, the machine cognition» ( 18 ).
Nel suo blog, Lilian Edwards, esperta di diritto e di proprietà intellettuale, ha sottolineato
che i «robots are still something different from
ordinary “machines” or tools or software. First,
they have a degree of mobility and/or autonomy. This implies a degree of sometimes threatening out of control-ness. Second, they mostly
have capacity to learn and adapt» ( 19 ).
Il direttore del Laboratory for Computational
( 16 ) http://www.britannica.com.
( 17 ) http://www.merriam-webster.com/dictionary/
robot.
( 18 ) Huttunen et al., Liberating Intelligent Machines with Financial Instruments, in Nordic Journal
of Commercial Law, 2010, 2, reperibile al sito internet http://ssrn.com/abstract=1633460.
( 19 ) Edwards, PanGloss, su http://blogscript.blog
spot.com/2010/10/edwards-three-laws-for-roboticists.html (visitato il 30.10.2011).
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 5 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
Intelligence della University of British Columbia, Alan Mackworth, afferma persino che un
robot è «a machine that can sense and act and
react in the world and possibly involves some
reasoning for performing these actions, and it
does so autonomously» ( 20 ), soffermandosi
quindi sui robot autonomi in grado di interagire in maniera complessa con l’ambiente che li
circonda.
In generale si può dire che alcune definizioni
su riportate pongono l’accento sulla ripetizione
di compiti e attività, spesso in sostituzione dell’uomo, mentre altre sull’autonomia del robot.
Altre ancora si spingono fino a ricercare/riconoscere eventuali ulteriori abilità, quali quelle
di ragionamento, programmazione, adattamento. In realtà, nessuna di queste definizioni
è totalmente sbagliata o giusta, dal momento
che esistono robot molto differenti tra di loro.
In un quadro di tal genere, piuttosto che
continuare a elencare definizioni (ognuna divergente sotto qualche profilo) è probabile che
la cosa più saggia sia tornare all’originale definizione di Capek, «lavoro». Ai fini del presente
scritto, quindi, quando parleremo di robot faremo riferimento a «una macchina che svolge
autonomamente un lavoro». Infatti, già l’aggiunta di una specificazione come «un lavoro
al posto dell’uomo» non è completamente esatta, in quanto sono ormai all’ordine del giorno
robot che hanno abilità perfino superiori a
quelle dell’uomo (ad esempio, i robot volanti
chiamati «droni»).
Una definizione così generale ha il vantaggio
di riuscire a comprendere tutte le diverse abilità pratiche che i robot possono avere e i rispettivi ambiti di utilizzo: dalla robotica educativa
(attraverso cui avviene un insegnamento a studenti) e di intrattenimento (che può andare
dalla ricostruzione di paesaggi e animali, fino
alla produzione di effetti speciali o ai sex-robot), ai personal robot e ai robot di compagnia
(utili per la realizzazione di lavori domestici o
come assistenza a bambini, malati e anziani);
dai trasporti automatici di beni e persone (le
note auto self-driving) alla robotica in ambito
( 20 ) http://www.cbc.ca/technology/technology-blog/
2007/07/your_view_how_would_you_define.html (visitato il 16.3.2012).
NGCC 2012 - Parte seconda
medico (per operazioni chirurgiche o per la fisioterapia), ai robot come assistenti in alcune
professioni (in particolare in ambito industriale); dai robot per la sicurezza e sorveglianza a
quelli usati in ambito militare, e si potrebbe
continuare. Quindi, è più utile capire cosa un
robot sia partendo da ciò che sa fare, dalle sue
caratteristiche e dai compiti che svolge, lasciando per il momento da parte ogni pretesa
ontologica. Come disse il padre della robotica,
Joseph Engelberger ( 21 ): «I can’t define a robot,
but I know one when I see one» ( 22 ).
In questo articolo, al fine di definire le caratteristiche di un robot, ci siamo basati su un documento ufficiale stilato da alcuni esperti del
settore: il Glossario Tecnico della Strategic Research Agenda (SRA) for Robotics in Europe.
Sulla base di tale glossario, si può dividere il
panorama dei robot in tre differenti macro categorie:
a) Robot tele-operati: sono composti da un
set di parti mosse da motori controllati da persone fisiche tramite specifiche interfacce, quali
un joy-stick o anche uno smartphone. Le azioni
di questi robot sono completamente controllate dall’uomo, e di conseguenza essi possono
configurarsi come semplici strumenti nelle mani dell’operatore ( 23 ).
b) Robot autonomi: l’autonomia è l’abilità
di svolgere un compito senza nessun intervento
umano durante il processo. Questo, secondo il
Glossario Tecnico SRA, comprende anche la
capacità di giudicare un azionamento nell’ambiente e decidere su di esso. Il livello di auto-
( 21 ) Joseph Engelberger fu il primo a sviluppare
un robot industriale, negli anni ’50. Il premio «Joseph Engelberger Awards» è il più prestigioso nel settore della robotica e mira a premiare i maggiori contributi nel progresso della robotica al servizio dell’umanità
(http://www.robotics.org/events/event.
cfm?id=50, visitato il 16.3.2012).
( 22 ) http://www.cbc.ca/technology/technology-blog/
2007/07/your_view_how_would_you_define.html (visitato il 16.3.2012).
( 23 ) Traiamo questa definizione da un contributo
di Bonarini-Matteucci, Technical perspective on
care robots, Laboratorio di Intelligenza Artificiale e
Robotica, Dipartimento di Elettronica e Informazione, Politecnico di Milano, relazione tenuta nell’ambito del progetto Eurobotics.
5
NOMELAV: nessun nome lav PAG: 6 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
nomia dipende quindi dal livello di intervento
umano necessario per il compimento dell’azione.
Un aspetto molto importante da tenere in
considerazione è la differenza tra un robot
«automatico» e un robot «autonomo», intendendosi con il primo un robot con capacità di
reazione a determinati sensori, mentre con il
secondo la capacità supplementare di percezione dell’ambiente nel suo complesso.
c) Robot cognitivi: sono robot autonomi che
sfruttano processi analoghi ai processi cognitivi umani. Questo tipo di robot è capace di
comportamento intelligente, e possiede abilità
quali il ragionamento, la pianificazione e l’apprendimento (non necessariamente tutte e tre
le abilità devono essere presenti contemporaneamente). Il robot si basa su una rappresentazione interna del mondo esterno, e riesce ad
adattarsi anche a un ambiente parzialmente
sconosciuto e mutevole ( 24 ).
Si può subito rilevare che il confine tra robot
autonomo e robot cognitivo è abbastanza sfumato, in quanto nella maggior parte dei casi un
robot con un elevato grado di autonomia è anche un robot cognitivo. Comunque, le due categorie possono essere tenute distinte giacché
può tecnicamente esistere un robot autonomo
che non sia anche cognitivo, in quanto abbia,
ad esempio, la sola capacità di percezione dell’ambiente esterno, senza quella di elaborare
gli stimoli in entrata e, quindi, di adattarsi a esso.
In termini generali si può dire che i robot sono oggetti, artefatti nelle mani del produttore,
del programmatore, del proprietario e dell’utilizzatore. I problemi giuridici che può sollevare l’uso di un robot possono ricondursi a diverse macroaree, come ad esempio la sicurezza
delle nuove tecnologie, specie per il loro utilizzo sul posto di lavoro o nel contesto di attività
pericolose; la messa in circolazione del prodotto «robot» e della sorveglianza del mercato (attualmente gli standard ISO in materia di robotica sono ancora in via di definizione); la pro-
( 24 ) Il glossario, datato luglio 2009, è reperibile
sul sito ufficiale del progetto EUROP (the European
Robotics Technology Platform): http://www.roboticsplatform.eu/cms/index.php.
6
prietà intellettuale (a chi riconoscere il diritto
di proprietà intellettuale quando un robot effettua una nuova invenzione?).
A un secondo livello, però, i robot, specie se
autonomi e cognitivi, possono essere visti anche come agenti, in quanto entità che agiscono
e reagiscono nell’ambiente in cui sono immersi. In questo ultimo caso, il problema della responsabilità per le azioni del robot diventa cruciale.
È per questa ragione, che, come anticipato
sopra, abbiamo diviso l’analisi in due differenti
parti: in primo luogo la legislazione europea
sui requisiti tecnici al fine di proteggere i consumatori e, successivamente, la responsabilità
derivante da azioni dannose dei robot.
3. Una premessa sulle fonti del diritto in Europa. Il sovrapporsi di fonti normative in Europa disegna una realtà a più livelli.
Attualmente, sia nell’Unione Europea sia in
ogni Stato membro, il diritto è il risultato di un
processo di creazione che ha molte facce, anche alla luce della significativa varietà di organi
che partecipano alla produzione normativa.
In termini molto schematici si possono richiamare i seguenti livelli:
– Fonti internazionali, all’interno delle quali
devono ritenersi compresi i trattati e le convenzioni internazionali che coinvolgono anche
Stati non europei (per es. la World Intellectual
Property Organization – WIPO – e la Convenzione WIPO del 1967, la World Trade Organization – WTO).
– A un diverso livello, da non intendersi in
senso gerarchico, si collocano le Convenzioni e
gli accordi firmati in seno al Consiglio d’Europa, che conta ad oggi 47 Paesi membri.
– In ambito più propriamente comunitario,
vi sono poi le fonti del diritto dell’Unione Europea ( 25 ). Si ricorda a questo proposito, la di( 25 ) Art. 288 del Trattato di Funzionamento dell’Unione Europea (formalmente art. 249 TEC): 1.
Per l’assolvimento dei loro compiti e alle condizioni
contemplate dal presente trattato il Parlamento europeo congiuntamente con il Consiglio, il Consiglio
e la Commissione adottano regolamenti e direttive,
prendono decisioni e formulano raccomandazioni o
pareri. Il regolamento ha portata generale. Esso è
obbligatorio in tutti i suoi elementi e direttamente
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 7 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
stinzione fondamentale tra fonti primarie
(Trattati istitutivi delle Comunità e dell’Unione, all’esito della riforma avvenuta con il Trattato di Lisbona; i cosiddetti «principi generali
di diritto», quali ad esempio il principio di sussidiarietà, di proporzionalità, di leale cooperazione; la Carta dei diritti fondamentali dell’Unione Europea, a cui oggi è riconosciuto lo
stesso valore giuridico dei Trattati) e atti definiti di diritto comunitario derivato, in quanto
adottati alla luce e secondo le modalità prescritte dai Trattati (regolamenti, direttive, decisioni, raccomandazioni e pareri) ( 26 ). Con riferimento agli atti di diritto derivato, è opportuno svolgere un’ulteriore distinzione tra atti vincolanti (regolamenti, direttive e decisioni) e atti
non vincolanti (pareri e raccomandazioni) ( 27 ).
In particolare, in relazione agli atti vincolanti, è
bene precisare che: a) i regolamenti sono atti
legislativi obbligatori per gli Stati membri in
tutti i loro elementi e hanno diretta e immediata applicazione all’interno di ogni stato membro; b) le direttive vincolano gli Stati membri al
raggiungimento di un determinato risultato,
senza dettare le modalità di attuazione, e sono
generalmente prive del carattere di applicabilità diretta; c) le decisioni sono obbligatorie in
tutti i loro elementi, sono immediatamente applicabili ma sono rivolte solo a soggetti da queste designati ( 28 ). Al contrario, alle raccomandazioni e ai pareri si attribuisce un valore meramente esortativo nel senso di sollecitare i destinatari ad orientare il loro comportamento in
conformità agli interessi dell’Unione ( 29 ).
– Un ulteriore livello è costituito dalle nor-
applicabile in ciascuno degli Stati membri. 2. La direttiva vincola lo Stato membro cui è rivolta per
quanto riguarda il risultato da raggiungere, salva restando la competenza degli organi nazionali in merito alla forma e ai mezzi. 3. La decisione è obbligatoria in tutti i suoi elementi per i destinatari da essa
designati. 4. Le raccomandazioni e i pareri non sono
vincolanti.
( 26 ) Gaja-Adinolfi, Introduzione al diritto dell’Unione Europea, Laterza, 2010.
( 27 ) Adam-Tizzano, Lineamenti di diritto dell’Unione Europea, Giappichelli, 2010.
( 28 ) Tesauro, Diritto dell’Unione europea, Cedam, 2010.
( 29 ) Daniele, Diritto dell’Unione europea. SisteNGCC 2012 - Parte seconda
me transnazionali, che si vengono a formare
estrapolando principi e regole concernenti la
materia delle relazioni transnazionali; le norme
transnazionali sono desumibili dalle norme di
altri ordinamenti, compresi quelli sovranazionali ed internazionali, e anche dalle pronunce
delle diverse corti di tali ordinamenti (tipico è
il caso del flusso dei concetti e degli standard
legali che attraversa i confini nazionali in senso
orizzontale, come accade sempre più di frequente nei settori delle transazioni commerciali o in quelli legati alle applicazioni scientifiche
e tecnologiche).
– Infine, occorre tenere conto anche delle
legislazioni nazionali dei singoli Stati, che al loro interno includono fonti statali, fonti locali e
norme nazionali, che a loro volta permettono
l’ingresso nell’ordinamento interno delle normative internazionali e sovranazionali ( 30 ).
Prima di poter affrontare il tema della responsabilità in riferimento alle azioni dei robot
(che si suppone siano inseriti nella vita sociale
attraverso la messa in commercio), diventa allora opportuno verificare proprio se l’attuale
normativa comunitaria sia in grado di regolare
il mercato degli stessi robot. In altre parole, occorre valutare se le fonti europee vigenti offrano una disciplina adeguata per la produzione e
la commercializzazione dei robot nel rispetto
delle garanzie di sicurezza pubblica e tutela dei
consumatori. Si tratta di un’indagine che assume notevole rilevanza anche per il nostro ordinamento, tenuto conto che, oltre alla normativa consumeristica, il legislatore italiano non si
è mai preoccupato nello specifico di regolare le
questioni giuridiche che stanno emergendo nel
campo della robotica.
4. Le norme europee vigenti. Lo scopo
di questo lavoro è quello di verificare se nel
quadro giuridico europeo vi siano norme idonee a dar conto dei conflitti che l’utilizzo dei
ma istituzionale - Ordinamento - Tutela giurisdizionale - Competenze, Giuffrè, 2010.
( 30 ) Per uno sguardo sullo stato delle fonti del diritto in Europa si veda Santosuosso-Azzini, Scienza, tecnologia e gli attuali flussi giuridici transnazionali, in Trattato di biodiritto, diretto da RodotàZatti, I, Ambito e fonti del biodiritto, a cura di Rodotà e Tallacchini, Giuffrè, 2010, 731-769.
7
NOMELAV: nessun nome lav PAG: 8 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
robot può creare. Se si volge lo sguardo al quadro giuridico comunitario si può individuare
una struttura normativa che può essere ben
espressa mediante l’immagine di tre cerchi
concentrici. In tutti i casi, si tratta comunque
di norme non dettate appositamente per i robot, per le quali va dunque valutata l’applicabilità ai temi di questo lavoro. Il cerchio che abbiamo definito interno è costituito dalla direttiva n. 06/42/CE, che disciplina la progettazione
e la costruzione delle macchine e che interessa
da vicino i robot considerati quali meri artefatti meccanici. Vi è, poi, un cerchio maggiore, nel
quale si trovano le misure più generali in tema
di salute, pubblica sicurezza e tutela dei consumatori: la direttiva n. 01/95/CE, la decisione n.
768/2008/CE e il reg. n. 765/2008/CE, che fissano le regole per la sicurezza dei prodotti all’interno del mercato europeo. Qui il robot è
considerato, al pari di qualsiasi altro prodotto,
quale possibile fonte di pericolo per la sicurezza pubblica. Infine, vi è un cerchio esterno, dove si collocano i diritti e le garanzie riconosciute ai consumatori dalla direttiva n. 99/44/CE
sulla vendita dei beni di consumo.
5. Segue: il cerchio interno: la direttiva Macchine n. 2006/42/CE. La direttiva n.
06/42/CE ha il duplice scopo di armonizzare i
requisiti di salute e sicurezza, che devono avere
i macchinari in base ad un alto livello di protezione e, contestualmente, di favorire la libera
circolazione di questi prodotti all’interno del
mercato europeo.
Ambito e definizioni
L’art. 1 della direttiva delinea l’ambito di applicazione, vale a dire i prodotti a cui le disposizioni della direttiva fanno riferimento. Tale
disposizione fornisce un elenco di sette categorie a cui vanno applicate le norme in questione
(a. macchine; b. attrezzature intercambiabili; c.
componenti di sicurezza; d. accessori di sollevamento; e. catene, funi e cinghie; f. dispositivi
amovibili di trasmissione meccanica; g. quasimacchine). In questa sede, è opportuno soffermarci sulla prima di queste categorie, «macchine», di cui l’art. 2 fornisce alcune definizioni:
«Si applicano le definizioni seguenti:
a) “macchina”:
– insieme equipaggiato o destinato ad essere
equipaggiato di un sistema di azionamento di8
verso dalla forza umana o animale diretta,
composto di parti o di componenti, di cui almeno uno mobile, collegati tra loro solidamente per un’applicazione ben determinata,
– insieme di cui al primo trattino, al quale
mancano solamente elementi di collegamento
al sito di impiego o di allacciamento alle fonti
di energia e di movimento,
– insieme di cui al primo e al secondo trattino, pronto per essere installato e che può funzionare solo dopo essere stato montato su un
mezzo di trasporto o installato in un edificio o
in una costruzione,
– insiemi di macchine, di cui al primo, al secondo e al terzo trattino, o di quasi-macchine,
di cui alla lettera g) ( 31 ), che per raggiungere
uno stesso risultato sono disposti e comandati
in modo da avere un funzionamento solidale,
– insieme di parti o di componenti, di cui almeno uno mobile, collegati tra loro solidalmente e destinati al sollevamento di pesi e la
cui unica fonte di energia è la forza umana diretta».
Perché un prodotto possa rientrare in questa
categoria è necessario che presenti delle parti o
dei componenti collegati tra loro in un insieme.
Pertanto, i robot, secondo la descrizione tratteggiata in precedenza, possono facilmente essere annoverati all’interno della definizione di
«macchina».
Immissione sul mercato e messa in servizio
L’art. 5 elenca gli obblighi previsti in capo ai
produttori di macchine o i loro rappresentanti
autorizzati. Prima di poter mettere sul mercato
una macchina, il fabbricante o il suo mandatario devono accertarsi che il macchinario soddisfi i requisiti essenziali di sicurezza e di tutela
della salute ( 32 ); inoltre, devono essere fornite
( 31 ) Art. 2, lett. g): «quasi-macchine»: insiemi che
costituiscono quasi una macchina, ma che, da soli,
non sono in grado di garantire un’applicazione ben
determinata. Un sistema di azionamento è una quasi-macchina. Le quasi-macchine sono unicamente
destinate ad essere incorporate o assemblate ad altre
macchine o ad altre quasi-macchine o apparecchi
per costituire una macchina disciplinata dalla presente direttiva [...].
( 32 ) Fraser (ed.), Guida all’applicazione della direttiva «macchine» 2006/42/CE, Commissione EuNGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 9 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
le informazioni necessarie (quali, ad esempio,
le istruzioni) e occorre sottoporre la macchina
alle procedure di valutazione della conformità
ai sensi dell’art. 12 ( 33 ). Le procedure di valutazione sono obbligatorie e, per alcune categorie
di macchinari, sono previste procedure alternative tra le quali il produttore può scegliere ( 34 ).
Solo una volta aver eseguito le richiamate procedure di valutazione, il produttore può redigere la dichiarazione CE di conformità e apporre la
marcatura «CE» ai sensi dell’art. 16 ( 35 ).
ropea Imprese e Industria, 2010, su http://ec.europa.eu/enterprise/sectors/ mechanical/files/machinery
/guide-appl-2006-42-ec-2nd-201006_it.pdf, visitato il
14.2.2012.
( 33 ) Article 12: 2. Where the machinery is not referred to in Annex IV, the manufacturer or his authorised representative shall apply the procedure for assessment of conformity with internal checks on the
manufacture of machinery provided for in Annex
VIII. 3. Where the machinery is referred to in Annex
IV and manufactured in accordance with the harmonised standards referred to in Article 7(2), and provided that those standards cover all of the relevant essential health and safety requirements, the manufacturer or his authorised representative shall apply one
of the following procedures: (a) the procedure for assessment of conformity with internal checks on the
manufacture of machinery, provided for in Annex
VIII; (b) the EC type-examination procedure provided for in Annex IX, plus the internal checks on the
manufacture of machinery provided for in Annex
VIII, point 3; (c) the full quality assurance procedure
provided for in Annex X. 4. Where the machinery is
referred to in Annex IV and has not been manufactured in accordance with the harmonised standards referred to in Article 7(2), or only partly in accordance
with such standards, or if the harmonised standards
do not cover all the relevant essential health and safety requirements or if no harmonised standards exist
for the machinery in question, the manufacturer or
his authorised representative shall apply one of the
following procedures: (a) the EC type-examination
procedure provided for in Annex IX, plus the internal
checks on the manufacture of machinery provided for
in Annex VIII, point 3; (b) the full quality assurance
procedure provided for in Annex X.
( 34 ) Procedura di valutazione della conformità
con controllo interno sulla fabbricazione della macchina, Allegato VIII; procedura di esame per la certificazione CE, Allegato IX; procedura di garanzia
di qualità totale, Allegato X.
( 35 ) Article 16: 1. The CE conformity marking
NGCC 2012 - Parte seconda
Marchio CE
Il reg. n. 765/2008/CE definisce la «marcatura CE» come il procedimento attraverso il quale il produttore indica che il prodotto è conforme ai requisiti stabiliti dalla legislazione comunitaria di armonizzazione.
Apponendo il marchio CE, il produttore si
assume la responsabilità circa la conformità del
prodotto ( 36 ). Il marchio consiste nelle iniziali
«CE» nella forma grafica illustrata nell’Allegato III. La marcatura CE è l’unica marcatura
che attesta la conformità del prodotto ai requisiti fissati dall’Unione Europea.
Titoli e riferimenti di norme armonizzate ai sensi della direttiva
La Comunicazione della Commissione Europea del 20.7.2011 volta a favorire l’applicazione della direttiva n. 06/42/CE ha pubblicato i relativi titoli e riferimenti degli standard
tecnici armonizzati. In particolare, la Comunicazione prevede l’applicazione dello standard
EN ISO 10218-1:2008 per i robot in ambiente
industriale (Requisiti per la sicurezza – Parte
1: Robot – ISO 10218-1:2006, incluso Cor
1:2007).
L’esteso ambito di applicazione della direttiva Macchine definito agli artt. 1 e 2 consente di
ritenere pacificamente che i robot rientrino
nelle categorie di macchine (art. 1, lett. a) o
quasi-macchine (art. 1, lett. g). Le disposizioni
previste in materia di immissione sul mercato e
messa in servizio devono dunque valere anche
per il commercio dei robot. Pertanto, la fabbricazione e la successiva commercializzazione di
un robot sono vincolate al rispetto delle procedure di valutazione di conformità prescritte e il
produttore è tenuto a soddisfare integralmente
le condizioni e i requisiti fissati dalla direttiva
shall consist of the initials CÈ as shown in Annex
III.2. The CE marking shall be affixed to the machinery visibly, legibly and indelibly in accordance with
Annex III.3. The affixing on machinery of markings,
signs and inscriptions which are likely to mislead
third parties as to the meaning or form of the CE
marking, or both, shall be prohibited. Any other
marking may be affixed to the machinery provided
that the visibility, legibility and meaning of the CE
marking is not thereby impaired.
( 36 ) Fraser (ed.), Guida all’applicazione della direttiva «macchine» 2006/42/CE, cit.
9
NOMELAV: nessun nome lav PAG: 10 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
(dichiarazione di conformità, marcatura CE,
manuale d’istruzione, fascicolo tecnico, etc.).
6. Segue: il cerchio maggiore: la direttiva n. 01/95/CE, la decisione n. 768/2008/CE
e il reg. n. 765/2008/CE sulla sicurezza generale e la commercializzazione dei prodotti. La direttiva n. 01/95/CE impone un requisito generale di sicurezza per ogni prodotto
messo sul mercato e destinato al consumo, compresi i prodotti utilizzati nell’ambito di un servizio. È considerato sicuro il prodotto che, in condizioni di uso normali o ragionevolmente prevedibili, compresa la durata e, se del caso, la messa
in servizio, l’installazione e le esigenze di manutenzione, non presenta alcun rischio oppure presenta unicamente rischi minimi, compatibili con
l’impiego del prodotto e ritenuti accettabili nel
rispetto di un livello elevato di tutela della salute
e della sicurezza delle persone.
Prodotto sicuro
Ai sensi dell’art. 3 della direttiva, un prodotto è considerato sicuro quando, in mancanza di
norme comunitarie specifiche che ne disciplinino la sicurezza, è conforme alle normative
nazionali specifiche dello Stato membro nel
cui territorio è commercializzato. Un prodotto
è altresì sicuro quando rispetta gli standard europei fissati dalle procedure previste nella direttiva. In assenza di tali normative, la conformità di un prodotto è valutata in base ai seguenti elementi ( 37 ):
a) le norme nazionali non cogenti che recepiscono norme europee;
b) le norme in vigore nello Stato membro in
cui il prodotto è commercializzato;
c) le raccomandazioni della Commissione
relative ad orientamenti sulla valutazione della
sicurezza dei prodotti;
d) i codici di buona condotta in materia di
sicurezza dei prodotti vigenti nel settore interessato;
e) gli ultimi ritrovati della tecnica;
f) la sicurezza che i consumatori possono ragionevolmente attendersi.
( 37 ) Sintesi della legislazione dell’UE, Sicurezza
dei prodotti: regole generali, su http://europa.eu/legislation_summaries/consumers/consumer_information/
l21253_it.htm, visitato il 14.2.2012.
10
Gli obblighi del produttore e del distributore
I produttori possono mettere sul mercato solo prodotti che siano conformi al requisito generale di sicurezza. Inoltre, essi devono fornire
al consumatore le informazioni che consentano
di valutare i rischi inerenti ad un prodotto, durante la durata di utilizzazione normale o ragionevolmente prevedibile, allorché questi ultimi non siano immediatamente percettibili senza adeguate avvertenze, e di premunirsi contro
detti rischi (art. 5, par. 1). Di conseguenza, i distributori sono responsabili qualora mettano in
commercio prodotti di cui conoscevano o di
cui avrebbero dovuto conoscere la non conformità ( 38 ).
Nel caso in cui i produttori o i distributori
scoprano che un prodotto da loro messo in
commercio presenti rischi incompatibili con il
requisito generale di sicurezza, hanno l’obbligo
di informare immediatamente le autorità competenti degli Stati membri.
Obblighi degli Stati membri
Gli Stati membri sono responsabili per gli
eventuali inadempimenti dei produttori e dei
distributori (art. 6). Ogni Stato deve pertanto
istituire autorità competenti preposte al controllo della conformità dei prodotti, attribuendo loro i necessari poteri per adottare opportuni provvedimenti ( 39 ). Inoltre, gli Stati membri
sono tenuti a determinare un impianto sanzionatorio per punire le eventuali violazioni e devono assicurare un sistema di tutela che consenta ai consumatori e agli altri interessati di
sporgere reclami presso le autorità competenti
con riguardo alla sicurezza dei prodotti e alle
attività di controllo e sorveglianza.
7. Segue: la decisione 768/2008/CE e il
reg. 765/2008/CE sulla commercializzazione dei prodotti. La decisione n. 768/
2008/CE fissa, nella forma di norme di principio, gli obblighi generali per gli operatori economici per la commercializzazione dei prodotti
e disciplina una serie di procedure di valuta-
( 38 ) Sintesi della legislazione dell’UE, Sicurezza
dei prodotti: regole generali, cit.
( 39 ) Sintesi della legislazione dell’UE, Sicurezza
dei prodotti: regole generali, cit.
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 11 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
zione di conformità. Vengono inoltre stabilite
alcune regole specifiche in tema di marcatura
CE. Ma l’importanza della decisione risiede in
particolare nelle definizioni in essa contenute
di alcuni concetti fondamentali quali «produttore», «distributore», «importatore», «norme
armonizzate», «immissione nel mercato» e «valutazione di conformità». Fornire singole definizioni così esplicite rende certamente più agevole l’interpretazione e l’applicazione delle leggi in questo campo.
Gli obblighi dei produttori, degli importatori e dei distributori
Perché un prodotto possa essere messo in
commercio occorre che sia conforme ad alcuni
requisiti essenziali. Pertanto, gli operatori economici, in funzione dei loro rispettivi ruoli nella catena di fornitura, sono responsabili della
conformità dei loro prodotti, dovendo effettuare le relative procedure di valutazione. Le
procedure da utilizzare vanno scelte tra i moduli stabiliti e specificati nell’Allegato II della
decisione. La procedura di valutazione si conclude con la marcatura CE e può essere previsto che il produttore debba allegare una dichiarazione secondo cui la conformità di un
prodotto alle prescrizioni è stata dimostrata
(«dichiarazione CE di conformità») ( 40 ).
Il prodotto deve essere accompagnato da
istruzioni e informazioni sulla sicurezza in una
lingua che sia di facile comprensione per il
consumatore.
L’importatore e il distributore, se ritengono
o hanno motivo di credere che il prodotto non
sia conforme, non possono mettere il prodotto
sul mercato. Inoltre, quando un prodotto presenta un rischio hanno l’obbligo di informare il
produttore e le autorità di vigilanza del mercato.
In ogni caso, deve essere sempre garantita la
tracciabilità del prodotto messo in commercio ( 41 ).
( 40 ) Sintesi della legislazione dell’UE, Commercializzazione dei prodotti – Marcatura CE di conformità, su http://europa.eu/legislation_summaries/
consumers/consumer_safety/l10141_it.htm, visitato
il 14.2.2012.
( 41 ) Sintesi della legislazione dell’UE, Commercializzazione dei prodotti – Marcatura CE di conformità, cit.
NGCC 2012 - Parte seconda
Accreditamento e vigilanza del mercato
Il reg. n. 765/2008/CE, complementare alla
decisione n. 768/2008/CE, delinea la struttura
relativa all’organizzazione e alla gestione delle
operazioni di accreditamento per gli organismi
deputati a svolgere attività di valutazione della
conformità dei prodotti da mettere in commercio, fra cui tarature, prove, certificazioni e ispezioni. Si fornisce così un quadro generale per la
vigilanza del mercato dei prodotti per garantire
che essi soddisfino requisiti che offrano un grado elevato di protezione di interessi pubblici,
come la salute e la sicurezza in generale, la salute e la sicurezza sul luogo di lavoro, la protezione dei consumatori, la protezione dell’ambiente e la sicurezza pubblica.
Gli Stati membri sono chiamati a garantire
un’effettiva vigilanza del mercato affinché i
prodotti suscettibili di compromettere la salute
o la sicurezza degli utenti che non risultino
conformi alle normative comunitarie siano immediatamente ritirati e i consumatori, la Commissione Europea e gli altri Stati membri ne
siano conseguentemente informati. Ogni Stato
deve inoltre istituire adeguati meccanismi di
comunicazione e coordinamento tra le proprie
autorità di vigilanza del mercato e attivare procedure per dare seguito ai reclami, per monitorare gli eventuali infortuni e danni alla salute
provocati dai prodotti non conformi e per seguire gli sviluppi scientifici e tecnici in materia
di sicurezza (art. 18).
Una volta ritenuta, come è incontroverso,
applicabile la direttiva n. 06/42/CE in relazione alle componenti di robotica, è chiaro che
anche i robot, quali macchine o quasi-macchine, siano sottoposti alla disciplina più generale
in materia di sicurezza e commercializzazione
dei prodotti di cui alla direttiva n. 01/95/CE,
alla decisione n. 768/2008/CE e al reg. n. 765/
2008/CE. Del resto, si tratta, di disposizioni
che intervengono per colmare le eventuali lacune presenti nelle specifiche normative di settore, qual è la direttiva Macchine. In questo
senso, mentre per gli aspetti relativi agli standard di sicurezza e alle procedure di valutazione e marcatura CE la direttiva n. 06/42/CE
prevede una compiuta disciplina, assumono significativa rilevanza le definizioni contenute
nella decisione n. 768/2008/CE (che di certo
agevolano di molto l’interpretazione della di11
NOMELAV: nessun nome lav PAG: 12 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
rettiva) e le regole predisposte dal reg. n. 765/
2008/CE per ciò che concerne gli obblighi di
vigilanza (previsti dalla direttiva solo in maniera vaga nel quadro di una più generica cooperazione tra Stati membri). Si può quindi affermare che, da un punto di vista generale, la disciplina in materia di sicurezza e commercializzazione è completa in quanto garantisce anche
per i robot il quadro di tutela assicurato per
tutti i beni di consumo.
8. Segue: il cerchio esterno: la direttiva n. 99/44/CE sulla vendita e le garanzie
dei beni di consumo. Scopo della direttiva n.
99/44/CE è l’armonizzazione delle leggi, dei
regolamenti e dei provvedimenti amministrativi degli Stati membri dell’Unione Europea in
merito ad alcuni aspetti relativi alla vendita dei
beni di consumo e alle relative garanzie per
raggiungere un livello minimo uniforme di tutela del consumatore nell’ambito del mercato
comunitario ( 42 ).
Il contratto di vendita
I beni consegnati al consumatore devono essere conformi a quanto stabilito nel contratto
di vendita. Si presume che i beni siano conformi al contratto se (art. 2):
«a) sono conformi alla descrizione fatta dal
venditore e possiedono le qualità del bene che
il venditore ha presentato al consumatore come campione o modello;
b) sono idonei ad ogni uso speciale voluto
dal consumatore e che sia stato da questi portato a conoscenza del venditore al momento
della conclusione del contratto e che il venditore abbia accettato;
c) sono idonei all’uso al quale servono abitualmente beni dello stesso tipo;
d) presentano la qualità e le prestazioni abituali di un bene dello stesso tipo, che il consumatore può ragionevolmente aspettarsi, tenuto
conto della natura del bene e, se del caso, delle
dichiarazioni pubbliche sulle caratteristiche
specifiche dei beni fatte al riguardo dal venditore, dal produttore o dal suo rappresentante,
( 42 ) Sintesi della legislazione dell’UE, La vendita
e le garanzie dei beni di consumo, su http://europa.eu/legislation_summaries/consumers/protection_of_consumers/l32022_it.htm, visitato il 14.2.2012.
12
in particolare nella pubblicità o sull’etichettatura».
Il venditore risponde per qualsiasi difetto di
conformità esistente al momento della consegna del bene (art. 3). In caso di difetto di conformità, il consumatore ha diritto al ripristino,
senza spese della conformità del bene mediante riparazione o sostituzione, ad una riduzione
adeguata del prezzo o alla risoluzione del contratto relativo a tale bene.
La garanzia commerciale
Ai sensi dell’art. 6 della direttiva n. 99/44/
CE, la garanzia deve vincolare giuridicamente
la persona che la offre secondo le modalità stabilite nella dichiarazione di garanzia e nella relativa pubblicità. In ogni caso, la garanzia deve
indicare i diritti di cui è titolare il consumatore,
secondo la legge nazionale applicabile alla vendita dei beni di consumo e specificare che la
garanzia lascia impregiudicati tali diritti.
La direttiva n. 99/44/CE predispone una
particolare disciplina nel caso in cui i beni di
consumo venduti, tra i quali possono rientrare
anche i robot in quanto sottoposti al regime
fissato nella direttiva Macchine, presentino dei
vizi. Le norme in questione parlano di difetto
di conformità e assicurano al consumatore (nel
nostro caso, ad esempio, un disabile che ha acquistato una sedia a rotelle intelligente oppure
una famiglia che si è dotata di un robot-cameriere) una tutela finalizzata al mantenimento in
vita del contratto e all’ottenimento della prestazione promessa.
9. Segue: alcune conclusioni sui robot
come prodotti. Come si è potuto vedere,
non sorge alcun dubbio sull’applicabilità delle
normative commentate rispetto alla materia dei
robot. La copertura offerta dalla direttiva Macchine consente, infatti, di considerare i robot
nell’alveo dell’ampia categoria dei beni di consumo. Da qui, pertanto, la piena compatibilità
del settore di produzione afferente alla robotica con le norme su cui si fonda la disciplina generale in tema di sicurezza e commercializzazione dei prodotti. Ed invero, le disposizioni
relative ai sistemi di vigilanza sul mercato e accreditamento, così come la tutela garantita in
ordine ai rimedi per il ripristino del bene eventualmente viziato, costruiscono un impianto
giuridico volutamente esteso, che è in grado di
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 13 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
ricomprendere qualsiasi bene che venga fatto
circolare all’interno del mercato comunitario.
Se dunque sotto il profilo della disciplina generale del consumo la categoria dei robot riceve sufficiente protezione, non si può dire lo
stesso in merito alla normativa di settore. Ci si
riferisce più precisamente alla mancanza nella
direttiva Macchine di un regolamento più particolareggiato per le macchine «intelligenti».
La direttiva n. 06/42/CE accomuna, all’interno della stessa procedura di valutazione di
conformità, categorie di macchine molto diverse tra loro. Se ciò non crea problemi quando la
verifica attiene alle componenti meccaniche
del macchinario, il discorso cambia in fase di
analisi del funzionamento. Ritorna a tal proposito il tema dell’autonomia e delle capacità cognitive di cui si è discusso in precedenza. Ed
invero, oggi appare piuttosto difficile ritenere
che un robot autonomo, se non cognitivo, venga semplicemente sottoposto allo stesso sistema di verifica interna che viene richiesto per
una gru o per un trattore agricolo. Le capacità
di reazione e di apprendimento di un robot dovrebbero meritare una controllo qualitativamente più incisivo, tenuto conto dei rischi che
possono derivare.
Del resto, la questione sulle procedure di valutazione è strettamente legata al problema
della revisione degli standard tecnici. Non è un
caso, infatti, che gli unici standard ISO al momento stabiliti in relazione alla direttiva Macchine per il settore della robotica riguardino i
robot in ambiente industriale ( 43 ). Non esistono ancora quindi requisiti di sicurezza per i robot che interagiscono con un soggetto diverso
dall’ingegnere che lavora alla realizzazione del
robot stesso. Solo tali requisiti permetteranno
di immaginare procedure di valutazione adatte
alle nuove capacità dei robot. Solo in questo
modo potranno trovare una copertura legale le
automobili cosiddette «self-driving» o i robotassistenti. Senza contare che, una volta definite
le procedure di valutazione, sarà possibile di( 43 ) La delegazione britannica ISO TC 184 SC2
WG7 promette che per agosto 2013 verranno pubblicati gli standard ISO per i Personal Care Robots,
così Harper, Current Activities in International Robotics Standardisation, in occasione di European Robotics Forum, Odense, 6.3.2012.
NGCC 2012 - Parte seconda
stinguere anche giuridicamente i robot dotati
di capacità cognitive rispetto alle macchine tele-operate (si pensi ai tram senza guidatore o
agli shuttle autonomi che si muovono all’interno degli aeroporti).
La l. 6.2.1996, n. 52 (Disposizioni per
l’adempimento di obblighi derivanti dall’appartenenza dell’Italia alle Comunità europee – legge comunitaria 1994) e, successivamente, il d.
legis. n. 6.9.2005, n. 206 (Codice del consumo,
a norma dell’articolo 7 della legge 29 luglio
2003, n. 229) hanno introdotto in Italia una
disciplina posta a tutela dei diritti dei consumatori che recepisce le normative di matrice
comunitaria richiamate nei paragrafi precedenti. Nel nostro ordinamento, dunque, i robot, considerati quali prodotti, trovano oggi
una buona copertura legislativa a livello generale. Ma la situazione si complica nel momento in cui si tenta di individuare tra le leggi italiane una regolamentazione più specifica per
le macchine intelligenti. Anche in Italia, infatti, mancano disposizioni più dettagliate in materia di procedure di valutazione e standard di
sicurezza in ambito robotico. Il diritto interno
sembrerebbe soffrire di una forma acuta di incomunicabilità nei confronti delle nuove
scienze tecnologiche. Ci si chiede se il legislatore nazionale non intervenga per motivi di
sensibilità o per timori sociali. Probabilmente,
l’estrema peculiarità della materia e i suoi recenti sviluppi lasciano gli operatori del diritto
abbacinati e al tempo stesso insicuri rispetto
alle soluzioni giuridiche da prospettare. Eppure, il mondo della robotica non è del tutto
ignoto al mercato del nostro paese. Anzi, a
ben vedere, la produzione italiana in questo
settore registra ormai da qualche anno indicatori sempre positivi. Nel 2009 l’Italia si è guadagnata il settimo posto nella graduatoria
mondiale per numero di robot industriali installati e nel 2010 risultava addirittura terza
(dopo Giappone e Germania) nell’utilizzo di
robot nel comparto automobilistico ( 44 ). A tal
proposito, preme rilevare che la principale
produzione delle nostre imprese non è quella
( 44 ) International Federation of Robotics, World
Robotics Industrial Robots 2011. Statistics, Market
Analysis, Forecasts and Case Studies, 2011.
13
NOMELAV: nessun nome lav PAG: 14 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
più eccentrica dei robot-ballerini o dei robotcamerieri, ma si concentra sui macchinari intelligenti impiegati all’interno delle industrie
(la cosiddetta meccanica strumentale) ( 45 ).
Non si può negare, allora, che l’Italia sia attualmente uno dei paesi più all’avanguardia
nell’industria robotica. E questa è una ragione
più che sufficiente perché in campo giuridico
si rompano gli indugi e si avvii un processo legislativo che offra una disciplina adeguata a
un settore in così rapida espansione.
La prima sfida in campo giuridico lanciata
dai robot diventa allora una sfida che comporta una collaborazione stretta tra giuristi e tecnici esperti allo scopo di ridefinire i parametri di
sicurezza che possano garantire una commercializzazione dei robot posta a tutela degli
utenti.
10. Conflitti e contenziosi nei quali
sono coinvolti robots. Analizzata finora la
normativa europea applicabile ai robot come
«prodotti» (e quindi come oggetti), si può ora
passare a prendere in esame alcune situazioni
nelle quali essi si pongono sia come oggetti sia
come agenti.
Se è vero, infatti, che lo scopo della responsabilità civile è quello di identificare il soggetto
tenuto alla riparazione della lesione di un diritto o interesse altrui e che, in termini generali (e
un po’ in tutti gli ordinamenti ( 46 )), sussistono
due forme diverse di responsabilità civile,
quella contrattuale (che deriva dal mancato o
inesatto adempimento di un’obbligazione) e
quella extracontrattuale, o aquiliana (che
emerge nel caso in cui l’agente violi una situazione giuridicamente protetta indipendentemente dall’esistenza di un contratto), ci si deve
chiedere in quale modo la presenza di un robot
in una situazione concreta incida nella ricostruzione dell’azione e nell’individuazione del
( 45 ) Le aree applicative predominanti sono quella
della manipolazione (in particolare stampaggio di
plastica e carico e scarico macchine) e quella della
saldatura: International Federation of Robotics,
World Robotics Industrial Robots 2011. Statistics,
Market Analysis, Forecasts and Case Studies, 2011.
( 46 ) Torrente-Schlesinger, Manuale di diritto
privato, 19a ed., a cura di Anelli e Granelli, Giuffrè, 2009, 817.
14
soggetto responsabile della condotta e, quindi,
responsabile per il danno.
Tradizionalmente, l’istituto della responsabilità civile è stato dominio dei singoli stati, e
quindi regolato in gran parte dalle legislazioni
nazionali. Nondimeno l’Unione Europea ha
già mostrato interesse per una disciplina europea in materia, emanando in un primo momento la direttiva sulla responsabilità del produttore per danni derivati da un prodotto difettoso
(direttiva n. 85/374/CEE) e istituendo, in un
secondo momento, alcuni gruppi di studio per
la elaborazione di un Codice Civile Europeo
(CCE).
L’interesse per un Codice Civile Europeo
nacque alla fine del secolo scorso, dopo due risoluzioni del Parlamento Europeo nel 1989 e
nel 1994 ( 47 ). Inizialmente, la proposta interessò il mondo accademico e fu istituita una
«Commissione sul diritto contrattuale europeo» (Commissione Lando) ( 48 ), che pubblicò
i «Principi di diritto europeo dei contratti»
(PECL) in tre parti: la prima parte nel 1995, la
seconda nel 1999 e l’ultima nel 2003 ( 49 ). In seguito, nel 2001, la Commissione Europea propose di estendere lo studio anche alle altre aree
del diritto privato, e istituì un «Gruppo di Studio per un Codice Civile Europeo» composto
da accademici e ricercatori in diritto privato
provenienti da diversi stati membri. Lo scopo
era di produrre un set codificato di principi di
diritto europeo per il diritto delle obbligazioni
e per gli aspetti principali del diritto della proprietà ( 50 ). Nel 2006 è stato pubblicato il testo
definitivo dei «Principi di responsabilità extra-
( 47 ) Risoluzioni del Parlamento Europeo del
26.5.1989 (Doc A2-157/89, OJ 1989 C 158/89,
400), e del 6.5.1994 (Doc A3-329/94, OJ 1994 C
205/94, 518).
( 48 ) http://www.cisg.law.pace.edu/cisg/text/peclintro. html, (visitato il 16 marzo 2012).
( 49 ) Reperibili sul sito web: frontpage.cbs.dk/law/
commission_on_european_contract_law/, (visitato il
16 marzo 2012). Da notare che nel 1994 UNIDROIT aveva già pubblicato la prima edizione dei
Principles of International Commercial Contracts, anch’essi senza forza vincolante, riediti successivamente nel 2004 e nel 2010.
( 50 ) «Produce a codified set of Principles of European Law for the law of obligations and core aspects
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 15 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
contrattuale» (PEL), all’interno del più ampio
progetto per un Codice Civile Europeo (CCE).
I due gruppi hanno svolto un’analisi comparativa dei sistemi giuridici degli stati membri al
fine di raggiungere un sistema giuridico uniforme a livello europeo, superando le esistenti diversità attraverso la ricerca di principi comuni.
Per questo motivo, i due testi si presentano
come gli strumenti giuridici maggiormente utili
per iniziare una discussione a livello europeo,
anche in un settore così particolare come quello dei conflitti connessi all’utilizzo di robot. In
termini generali, si può dire che appare improbabile che venga ufficialmente emanato un Codice Civile Europeo, in quanto non si tratta di
materia compresa tra quelle di competenza
della UE. È più probabile che il CCE sia adottato come legislazione (puramente) nazionale,
oppure che venga utilizzato come set di norme
e concetti giuridici, che spontaneamente attraverseranno i confini nazionali nel modo tipico
del diritto transnazionale.
11. Segue: il caso del danno da inadempimento contrattuale. Per valutare i vari
aspetti e le diverse possibili forme di responsabilità civile, si può partire da un caso ipotetico,
ma non impossibile. Si ipotizzi il caso di un robot cane guida per persone non vedenti (RoDog).
In primo luogo occorre soffermarsi ancora
una volta a considerare il robot come un semplice prodotto, oggetto della compravendita
intercorsa tra il produttore/rivenditore e l’acquirente/utilizzatore. Il venditore è quindi tenuto alle norme generali che regolano tale istituto.
Escluso che si possa procedere, in questa sede, a un’analisi completa della disciplina della
responsabilità contrattuale, ci si limiterà a richiamare i punti principali disciplinati dai
«Principi di diritto europeo dei contratti».
Il termine «inadempimento», secondo l’art.
1:301 dei PECL, indica «qualsiasi mancanza
della prestazione dovuta in base al contratto,
che sia fonte di responsabilità o no, compreso
of the law of property» http://www.sgecc.net/pages/
en/introduction/index.introduction.htm (visitato il
16.3.2012).
NGCC 2012 - Parte seconda
il ritardato e l’inesatto adempimento nonché la
violazione dell’obbligo di cooperare al fine di
dare piena esecuzione al contratto». Per specifica previsione dello stesso articolo, ai comportamenti posti in essere «con volontà» ( 51 ) sono
equiparati quelli gravemente colposi.
Dopo una parte dedicata alla formazione e
validità del contratto e alla disciplina generale
dei contratti, il Capitolo 8 tratta dell’inadempimento. Ai sensi dell’art. 8:101 ( 52 ), in caso di
inadempimento imputabile al debitore, il creditore insoddisfatto potrà ricorrere ai mezzi di
tutela previsti nel Capitolo nono. Si tratta dei
mezzi tradizionalmente previsti anche dal diritto italiano: richiesta di adempimento, eccezione d’inadempimento, risoluzione del contratto,
riduzione del prezzo, risarcimento del danno.
L’inadempimento è qualificato come «grave» (art. 8:103) se: «(a) la stretta osservanza
dell’obbligazione appartiene alla natura del
contratto; o (b) l’inadempimento priva sostanzialmente il creditore insoddisfatto di ciò che
esso ha il diritto di ricevere in base al contratto,
salvo che il debitore non ha né avrebbe ragionevolmente potuto prevedere tale risultato; o
(c) l’inadempimento è dovuto a dolo e dà al
creditore ragione di ritenere di non potere più
fare affidamento sui successivi adempimenti».
L’art. 8:108 dei PECL disciplina l’inadempimento dovuto a causa non imputabile al debitore, stabilendo che egli non risponde se prova
che tale inadempimento è dovuto a un impedimento «al di là della propria sfera di controllo
e del quale non ci si poteva ragionevolmente
aspettare che egli tenesse conto al momento
( 51 ) Intentional, nella versione inglese dei PECL.
( 52 ) Art. 8:101: Mezzi di tutela: 1. Quando il debitore non adempie l’obbligazione sorta dal contratto e l’inadempimento è imputabile perché non trova
applicazione l’art. 8:108, il creditore insoddisfatto
può ricorrere ai mezzi di tutela previsti nel Capitolo
nono. 2. Quando il debitore non risponde dell’inadempimento secondo quanto previsto dall’art.
8:108, il creditore insoddisfatto può ricorrere ai
mezzi di tutela previsti nel Capitolo nono ma non
può domandare l’adempimento né il risarcimento
del danno. 3. Il creditore non può ricorrere ad alcuna delle tutele previste dal Capitolo nono nella misura in cui è stata la sua condotta a causare l’inadempimento del debitore.
15
NOMELAV: nessun nome lav PAG: 16 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
della conclusione del contratto né che dovesse
evitare o superare l’impedimento o le sue conseguenze». È comunque prevista la legittimità
di clausole volte a limitare o escludere le tutele
per l’inadempimento, salvo che ciò non sia
contrario a buona fede e correttezza (art.
8:109).
Nel diritto italiano, la responsabilità per inadempimento è disciplinata dall’art. 1218 del
codice civile. Anche la normativa italiana tiene
conto dell’impossibilità della prestazione derivante da causa non imputabile al debitore, che
ne esclude la responsabilità.
Inoltre, va ricordato che il robot può essere
considerato come «bene di consumo», pertanto rientrante nella disciplina stabilita dalla direttiva n. 99/44/CE. Il compratore è, quindi,
tutelato dalle varie disposizioni in tema di garanzia commerciale e rimedi in caso di difetto
di conformità visti sopra (par. 4.3). Nel codice
civile italiano la garanzia per i vizi in caso di
vendita (art. 1490 cod. civ.) è una delle obbligazioni tipiche del venditore. Per «vizi» si intendono le imperfezioni o alterazioni di un bene dovute alla sua produzione o conservazione ( 53 ), che siano tali da rendere il bene inidoneo all’uso cui è destinato o ne diminuiscano in
modo apprezzabile il valore.
In questa dimensione «statica», guardando il
robot quale mero oggetto di scambio, non ricorrono dunque problemi di sorta ad applicare la
normativa tradizionale in tema di responsabilità
da inadempimento contrattuale. Si può concludere sul punto affermando che la disciplina esistente nel diritto italiano di origine interna e comunitaria, e quella delineata a livello europeo,
non sembrano richiedere alcuna aggiunta o modifica in relazione al fatto che oggetto della relazione giuridica intercorsa sia un robot.
12. Segue: il caso dei danni causati da
difetti di produzione nel robot. Una delle questioni più interessanti della robotica vista
dal diritto riguarda la responsabilità extracontrattuale derivante da un comportamento dannoso del robot, quando un soggetto subisce, a
causa di un’azione compiuta da (o nella quale è
coinvolto) un robot, un «danno giuridicamente
( 53 ) Torrente-Schlesinger, cit., 666.
16
rilevante» (indipendentemente dall’esistenza
di un contratto o in concorso, a vario titolo,
con un contratto).
Pensando ai robot, ci si può trovare di fronte
a due situazioni diverse. In primo luogo, si può
ipotizzare che il nostro Ro-Dog, a causa di un
difetto nel sistema di locomozione, sbandi e urti un tavolino nel soggiorno del suo proprietario, facendo cadere un prezioso vaso di cristallo. In questo caso, entra in gioco la ben nota direttiva n. 85/374/CEE, modificata dalla direttiva n. 99/34/CE, che si occupa della responsabilità derivante da prodotti difettosi, stabilendo il
principio della responsabilità oggettiva (o responsabilità senza colpa) del produttore in caso
di «danno da prodotto difettoso».
Per prodotto (art. 2) si intende «ogni bene
mobile, anche se fa parte di un altro bene mobile o immobile». Un prodotto è difettoso (art. 6)
quando «non offre la sicurezza che ci si può legittimamente attendere tenuto conto di tutte le
circostanze, tra cui la presentazione del prodotto, l’uso al quale il prodotto può essere ragionevolmente destinato e il momento della messa in
circolazione del prodotto». Importante per la
valutazione della pericolosità di un prodotto è
lo «stato dell’arte» delle macchine robotiche
presenti sul mercato al momento della messa in
circolazione: un prodotto-robot non può essere
considerato difettoso per il solo fatto che, successivamente, sia stato messo in circolazione un
prodotto-robot più perfezionato.
Se un soggetto subisce un danno derivante
da un robot difettoso, responsabile è il produttore di tale robot. Con il termine produttore si
intende «il fabbricante di un prodotto finito, di
una materia prima o di una parte del prodotto
finito» (art. 6). Se più persone sono responsabili per uno stesso danno, può esserci responsabilità solidale. Ad esempio, per esplicita previsione della direttiva, se il prodotto viene importato da uno Stato al di fuori dell’Unione
Europea, alla responsabilità del produttore si
aggiunge quella dell’importatore. Se il produttore non è identificato, si considera responsabile il fornitore, ovvero la persona che ha fornito il prodotto all’acquirente (ipotesi di c.d. responsabilità per fatto altrui ( 54 )).
( 54 ) Torrente-Schlesinger, cit., 866.
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 17 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
L’onere della prova ovviamente cade sul
danneggiato, che deve provare il difetto del
prodotto, l’esistenza di un danno e il nesso
causale tra il difetto e il danno, ovvero che il
difetto del prodotto sia stata l’effettiva causa
del verificarsi del danno (causa giuridicamente
rilevante). In questo modo l’onere probatorio
del danneggiato è notevolmente alleggerito rispetto alla tradizionale ipotesi di responsabilità
extracontrattuale (vedi paragrafo successivo),
che necessita della prova anche di dolo e colpa
del produttore. Nel caso di prodotto difettoso,
invece, il produttore è responsabile per il solo
fatto di aver messo in circolazione tale prodotto, indipendentemente dall’esistenza di dolo o
colpa. Tale forma di responsabilità è un chiaro
esempio di responsabilità oggettiva.
La prova liberatoria a disposizione del produttore è tipizzata dalla direttiva, essendo possibile solo se egli prova (art. 7): «a) che non ha
messo il prodotto in circolazione; b) che, tenuto conto delle circostanze, è lecito ritenere che
il difetto che ha causato il danno non esistesse
quando l’aveva messo in circolazione o sia sorto successivamente; c) che non ha fabbricato il
prodotto per la vendita o qualsiasi altra forma
di distribuzione a scopo economico, né l’ha
fabbricato o distribuito nel quadro della sua
attività professionale; d) che il difetto è dovuto
alla conformità del prodotto a regole imperative emanate dai poteri pubblici; e) che lo stato
delle conoscenze scientifiche e tecniche al momento in cui ha messo in circolazione il prodotto non permetteva di scoprire l’esistenza
del difetto; f) nel caso del produttore di una
parte componente, che il difetto è dovuto alla
concezione del prodotto in cui è stata incorporata la parte o alle istruzione date dal produttore del prodotto».
Anche i danni risarcibili sono previsti espressamente dalla direttiva (art. 9), e sono: «a) il
danno causato dalla morte o da lesioni personali, b) il danno o la distruzione di una cosa diversa dal prodotto difettoso, previa detrazione
di una franchigia di 500 ECU, purché la cosa
sia del tipo normalmente destinato all’uso o
consumo privato e sia stata utilizzata dal danneggiato principalmente per proprio uso o
consumo privato». L’articolo contiene un rinvio alle disposizioni nazionali relative ai danni
morali, che vengono lasciate impregiudicate.
NGCC 2012 - Parte seconda
Vale la pena notare che anche il CCE fornisce, all’art. 3:204 ( 55 ), una disciplina generale
della responsabilità da prodotto difettoso molto simile a quella della direttiva. L’articolo,
inoltre, fornisce all’ultimo comma la medesima
definizione di «difetto» data dalla direttiva,
usando praticamente le stesse parole.
La disciplina europea della responsabilità
del produttore costituisce un punto fermo in
materia di responsabilità extracontrattuale per
danni provocati da un robot difettoso. Derivando da una direttiva, essa richiede l’implementazione nello stato nazionale, tramite specifica legge. Nella maggior parte degli Stati
Membri, le disposizioni nazionali di attuazione
della direttiva sono applicate parallelamente ad
altre normativa sulla responsabilità, contrattuale o extracontrattuale ( 56 ), possibilità previ-
( 55 ) Art. 3:204: 1. Il produttore di un prodotto è
responsabile per le lesioni personali e il conseguente
danno, e, in relazione ai consumatori, la perdita derivante da danni alla proprietà da un difetto nel prodotto. 2. La persona che ha importato il prodotto
nell’area economica europea per la vendita, il noleggio, il leasing o la distribuzione nel corso della propria attività è responsabile di conseguenza. 3. Il fornitore del prodotto è di conseguenza responsabile
se: a) il produttore non può essere identificato, o b)
nel caso di un prodotto importato, il prodotto non
indica l’identità dell’importatore, a meno che il fornitore comunichi al danneggiato, entro un termine
ragionevole, l’identità del produttore o della persona che gli ha fornito tale prodotto. 4. Una persona
non è responsabile, ai sensi del presente articolo, se
dimostra che: a) non ha messo il prodotto in circolazione; b) è probabile che il difetto che ha causato il
danno non esisteva al momento della messa in circolazione del prodotto; c) che la persona non ha fabbricato il prodotto per la vendita o la sua distribuzione a scopo di lucro, né l’ha fabbricato o distribuito nel corso della sua attività; d) il difetto è dovuto
alla conformità del prodotto a regole imperative
emanate dalle autorità pubbliche; e) lo stato delle
conoscenze scientifiche e tecniche al momento della
messa in circolazione del prodotto non ha consentito l’esistenza del difetto da scoprire, o f) nel caso di
un fabbricante di un componente, il difetto è dovuto a: i) la progettazione del prodotto in cui il componente è stato installato, o ii) le istruzioni fornite dal
produttore del prodotto.
( 56 ) Quarta relazione sull’applicazione della direttiva 85/374/CEE del Consiglio reperibile all’indiriz17
NOMELAV: nessun nome lav PAG: 18 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
sta esplicitamente dalla direttiva. In Italia il recepimento è avvenuto prima attraverso il d.p.r.
24.5.1988, n. 224 e, successivamente, la disciplina è stata trasfusa nel d. legis. n. 206/2005
(c.d. Codice del Consumo).
Quindi, per ottenere il risarcimento del prezioso vaso di cristallo andato in frantumi a causa del movimento di Ro-Dog, il danneggiato
può rifarsi sul produttore. Nel corso del giudizio, però, dovrà dimostrare che lo spostamento
«maldestro» è stato causato da un difetto di
produzione. Lo strumento ideale pare quello
di una perizia su Ro-Dog effettuata da un ingegnere competente in robotica, che terrà conto
dello stato dell’arte del settore al momento della vendita del robot e del modo in cui il robot è
stato utilizzato. Ad esempio, Ro-Dog non potrebbe essere considerato difettoso se venisse
usato in violazione delle norme di sicurezza
previste dal libretto di istruzioni (ad esempio
su un tappeto con frange molto lunghe, che
potrebbero falsare l’andatura del robot).
13. Il caso dei danni causati da azioni
e reazioni del robot in un contesto di
interazione con l’uomo. La direttiva sulla
responsabilità del produttore costituisce sicuramente un punto di riferimento in materia di
responsabilità connessa ai robot, ma di fatto
riesce a dar conto soltanto del robot quale mero prodotto, cioè oggetto. Il problema è che,
come si è accennato nella prima parte, la nuova
generazione di robot è dotata di capacità cognitive e di adattamento all’ambiente esterno,
una caratteristica che comporta un certo grado
di imprevedibilità del comportamento del robot, la cui condotta, pur riconducibile al programma impostato dal produttore o dal programmatore, non sia stata prevista nel suo specifico contenuto vuoi per la complessità del
software vuoi per l’incremento di esperienza
che l’utilizzo comporta.
Si può ipotizzare un caso in cui un robot dotato di capacità adattative e di apprendimento
sia lasciato libero di interagire con l’uomo in
un ambiente non controllato. Qualsiasi inge-
zo http://eur-lex.europa.eu/LexUriServ/LexUriServ.
do?uri=COM:2011:0547:FIN:IT:PDF (visitato il
16.3.2012).
18
gnere esperto di robot direbbe che attualmente
una cosa del genere non è del tutto sicura, in
quanto il robot potrebbe reagire in maniera
imprevedibile ai nuovi input ricevuti. Nel caso
in cui, a causa della reazione a tali input provenienti dall’ambiente in cui si trova, il robot
provochi una lesione personale a un essere
umano, la questione dell’attribuzione della responsabilità civile può non essere agevole ( 57 ).
In sintesi, cosa accade se il danno non deriva
da un difetto del robot, ma da un suo comportamento ( 58 )?
Sarebbe ancora possibile ritenere responsabile il produttore? Se il comportamento è stato
impostato come standard dal produttore, certamente sì. La situazione cambia notevolmente
se, invece, si considera un robot con capacità
di apprendimento, che è capace di «imparare»
nuovi comportamenti e reazioni per effetto
della propria esperienza e interazione con
l’ambiente.
Vale la pena tornare al nostro esempio, impossibile oggi ma non improbabile in un prossimo futuro. Il nostro Ro-Dog potrebbe essere
dotato di avanzati sensori di rilevamento della
propria posizione spaziale, attraverso un collegamento in tempo reale con un satellite (tecnologia già disponibile oggi). Per accompagnare
il proprietario a fare la spesa, a Ro-Dog è stato
impostato un percorso standard. Attraverso lo
studio dei dati geografici raccolti grazie al flusso di dati ricevuti dal satellite, però, Ro-Dog
identifica una scorciatoia e modifica il percorso. Se, a causa di questa modifica di percorso
operata dal robot, dovesse derivare un danno
al proprietario (supponiamo che la strada sia
malmessa e il signore cada fratturandosi una
gamba) chi risponderebbe? Il Comune (ex art.
2043 cod. civ. o ex art. 2051 cod. civ. quale
«custode» della res strada), il produttore di
Ro-Dog (che ha previsto un algoritmo di autoapprendimento), il programmatore (che ha
( 57 ) Si consenta il rinvio a Boscarato, Who is responsible for a robot’s actions?, in Technologies on
the stand: Legal and ethical questions in neuroscience
and robotics, a cura di Van der Berg e Klaming,
Wolfpublisher, 2011, 383-402.
( 58 ) Per «comportamento» del robot si intende il
modo di agire di un robot così come viene percepito
da un osservatore esterno.
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 19 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
implementato il collegamento con il satellite
senza un adeguato «filtro di sicurezza»)? E se
invece Ro-Dog urtasse e facesse cadere un terzo (si supponga, anche in questo caso, non vedente), potrebbe rispondere del danno il proprietario? E a quale titolo?
Non esistono, attualmente, regolamentazioni
della responsabilità extracontrattuale ad hoc
per i robot, e a maggior ragione non ne esistono di specifiche per i robot di tipo cognitivo.
Bisogna quindi rifarsi alla disciplina delle categorie tradizionali di responsabilità.
Se consideriamo la disciplina della responsabilità extracontrattuale fornita dal CCE, l’art.
1:101 stabilisce che una persona che soffre di
un danno giuridicamente rilevante ha il diritto
di ottenerne la riparazione dalla persona che
ha causato tale danno intenzionalmente o negligentemente, o che sia altrimenti responsabile per il verificarsi del danno ( 59 ).
( 59 ) Gli elementi essenziali che il danneggiato deve provare sono il danno giuridicamente rilevante,
l’intenzionalità (dolo) o la negligenza (colpa), e il
nesso causale. Secondo l’art. 2:101 la perdita (ovvero il danno) è giuridicamente rilevante se a) una delle regole del presente capitolo così provvede, b) la
perdita o il danno risulta da una violazione di un diritto altrimenti conferito dalla legge o c) la perdita o
il danno risulta da una violazione di un interesse meritevole di protezione giuridica. La perdita può essere sia economica che non economica: la prima include la perdita di reddito o di profitto, gli oneri sostenuti e una riduzione del valore della proprietà; la seconda comprende la sofferenza personale e la compromissione della qualità della vita. Riguardo a una
persona fisica, la perdita può essere causata da lesioni personali ma anche dalla violazione di diritti come la dignità, la libertà o la privacy. Il danno giuridicamente rilevante può essere causato intenzionalmente (art. 3:101) quando è causato alternativamente con l’intenzione di causare proprio quel danno o
da un comportamento che la persona intende tenere
nonostante la consapevolezza che questo equivarrà
quasi certamente a produrre quel danno (o un danno di quel tipo). Altrimenti, il danno giuridicamente
rilevante può essere causato negligentemente (art.
3:102), se la condotta del danneggiante non ha seguito i particolari standard di diligenza previsti da
una disposizione il cui scopo è la tutela della persona ferita dai danni subiti, o non equivale comunque
alla diligenza che ci si sarebbe ragionevolmente
aspettata da una persona media (nel diritto italiano,
NGCC 2012 - Parte seconda
In linea generale, la disciplina della responsabilità extracontrattuale nel CCE è molto simile a quella del codice civile italiano, soprattutto per quanto riguarda l’individuazione degli elementi fondamentali e la previsione di una
il c.d. buon padre di famiglia) nelle circostanze del
caso. La colpa, quindi, non è da intendersi in senso
soggettivo, ma in senso oggettivo, dal momento che
utilizza come parametro il comportamento che ci si
può legittimamente aspettare da una persona normalmente attenta in relazione alle circostanze specifiche del caso. Inoltre, il CCE prevede alcuni casi di
responsabilità senza dolo o colpa come ad esempio,
per quanto ci interessa in questa sede, la responsabilità per danni causati da dipendenti e rappresentanti
e la responsabilità per i danni causati da prodotti difettosi, quest’ultima già vista in precedenza. Si tratta
di casi di responsabilità oggettiva, in quanto la responsabilità viene attribuita indipendentemente da
una «colpevolezza», a causa dell’intrinseca pericolosità della situazione. In questi casi, il danneggiato
deve solo provare il danno e il nesso causale, senza
che debba provare il dolo o la colpa del presunto responsabile contro cui agisce. Il convenuto si trova in
una posizione svantaggiata in quanto dotato solo di
una difficile prova liberatoria, generalmente il caso
fortuito. La persona che assume o comunque dia lavoro a un’altra è responsabile per i danni giuridicamente rilevanti sofferti dal terzo se il lavoratore (art.
3:201) ha causato, nel corso del rapporto di lavoro o
di impiego, il danno intenzionalmente o per negligenza, o sia comunque altrimenti responsabile del
verificarsi del danno. Secondo la regola generale del
nesso di causalità (art. 4:101), il danno deve essere
considerato come una conseguenza del comportamento di quella persona o della fonte di pericolo di
cui tale persona è responsabile. In caso di lesioni
personali o morte, è presa in considerazione la predisposizione della persona infortunata per quanto
riguarda il tipo o la portata del danno subito. Quando la persona danneggiata ha contributo con il suo
comportamento al verificarsi del danno (concorso
colposo del danneggiato), l’entità della riparazione
deve essere ridotta in proporzione al suo grado di
colpa (art. 5:102). Il capitolo 6 considera i rimedi
del danneggiato, il quale ha diritto, innanzitutto, alla
reintegrazione del danno subito con il ripristino nella posizione iniziale (ovvero la posizione in cui si sarebbe trovato se il danno non fosse mai avvenuto).
La riparazione può essere in denaro (compensazione) o altrimenti effettuata nel modo più appropriato, tenendo in considerazione il tipo e la portata dei
danni subiti e tutte le altre circostanze del caso.
19
NOMELAV: nessun nome lav PAG: 20 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
condotta dolosa o colposa. Ma la normativa
italiana risulta molto più articolata e specifica.
Il CCE disciplina i casi di danni provocati da
dipendenti, da prodotto difettoso, da autoveicoli, da rovina di edifici, da sostanze pericolose, prevedendo poi una norma di chiusura per
«qualsiasi altro tipo di danno giuridicamente
rilevante» (art. 3:207) ma, ad esempio, per i
danni causati da animali (art. 3:203) manca
completamente la previsione di una prova liberatoria, sia essa anche il solo caso fortuito.
Inoltre, non è regolata la responsabilità del custode per i danni provocati dalle cose che ha in
custodia, come invece è previsto dall’art. 2051
cod. civ. La previsione di una simile fattispecie
risulta importante per il caso dei robot in
quanto, se si segue l’orientamento restrittivo
che li considera come meri oggetti, sarebbe
l’unica norma certamente applicabile alle ipotesi di danni.
Già più controversa potrebbe apparire l’applicazione dell’art. 2052 cod. civ. in tema di responsabilità del proprietario di animali, in
quanto si potrebbe obiettare che un robot non
ha nulla a che fare con un animale. In realtà, da
una lettura sistematica degli artt. 2051 e 2052
cod. civ., la caratteristica che sembra distinguere cose e animali è la capacità di muoversi liberamente nello spazio circostante. Si noti che
un’analogia tra un animale e un oggetto in movimento è già stata usata nelle Corti americane ( 60 ).
Ma, addirittura, ci si potrebbe spingere ancora un passo oltre. Ci si potrebbe anche rifare al modello genitoriale, assimilando i robot
cognitivi ai minori che imparano durante il
proprio percorso di crescita: come questi ultimi agiscono in base all’educazione ricevuta e
devono essere guidati dai loro genitori, i primi agiscono in base al comportamento inse( 60 ) Si veda, ad es., il caso Popov v. Hayashi, deciso dalla Superior court of California il 12.12.2002,
#4005545: www.findlaw, in cui il Giudice McCarthy
decide la controversia in merito del diritto di possesso di una palla da baseball afferrata da diversi
spettatori di una partita di baseball utilizzando come precedenti alcuni casi riguardanti la cattura di
animali in fuga. Walton, Similarity, precedent and
argument from analogy, in AI&Law, 2010, 18, 217246.
20
gnato e devono essere educati dall’utilizzatore.
Se un robot è in grado di apprendere direttamente da un essere umano, quest’ultimo diventa il suo insegnante. A tale riguardo, potrebbe
essere preso in considerazione l’art. 2048 cod.
civ., comma 2o, che disciplina la responsabilità
di «coloro che insegnano un mestiere o un’arte» per i danni causati dai propri «allievi e apprendisti» durante il tempo in cui sono sotto la
loro vigilanza. Se il danno deriva da un comportamento acquisito del robot la responsabilità cade sul suo insegnante.
La fattispecie, però, avrebbe bisogno di
qualche modifica per adeguarsi maggiormente
alla situazione specifica dei robot con capacità
di apprendimento. Infatti, il punto centrale è
se l’insegnante debba o no essere responsabile
per i danni causati in conseguenza di un comportamento insegnato al robot anche quando
questo non si trovi sotto la propria «vigilanza».
Altrimenti, si correrebbe il rischio di un gap di
responsabilità nel caso in cui Ro-Dog provochi
un danno in conseguenza di un comportamento appreso dal proprietario ma compiuto al di
fuori della sua sfera di controllo. Se in quel
momento Ro-Dog si trovasse sotto la custodia
di un terzo, il danno sarebbe allora imputabile
a quest’ultimo ex art. 2051 cod. civ., a meno
che la condotta del robot a seguito di apprendimento non possa essere equiparata al caso
fortuito.
14. Segue: alcune conclusioni sui robot
come agenti. Come già notato nel par. 4.4 in
relazione alla normativa europea sulla tutela
del consumatore, allo stato attuale non esiste
una disciplina legislativa per i robot e soprattutto non esiste una disciplina specifica sul tema della responsabilità civile.
Adottando un approccio non eccezionalista,
questo lavoro costituisce un tentativo di applicare le tradizionali categorie della responsabilità civile, anche in una prospettiva europea. La
responsabilità del produttore, attualmente stabilita per danni provocati da difetti di produzione o da comportamenti impostati in origine
come standard, deve essere contemperata anche con una tutela in via preventiva, da realizzare direttamente in sede di progettazione e
sviluppo.
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 21 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
Ci riferiamo ad esempio al principio della
Privacy by design ( 61 ), secondo cui la previsione
di misure a protezione dei dati personali raccolti (nel nostro caso, da un robot) deve avvenire già al momento della progettazione di un
prodotto o di un software. Un’altra ipotesi potrebbe essere quella di dotare i robot con capacità cognitive di un codice etico di condotta
che permetta loro, attraverso un algoritmo di
apprendimento allenato su una serie di esempi
(example-based learning), di capire qual è il
comportamento «giusto» e quale quello «sbagliato» secondo una gerarchia di valori ( 62 ). Se
la ricerca in questo campo dimostrasse la reale
utilità di un codice etico nell’indirizzare la condotta del robot capace di decisioni autonome,
allora la sua installazione potrebbe diventare
responsabilità specifica del produttore. Ma il
codice di condotta potrebbe essere modulato
sulla base della situazione specifica in cui il robot deve operare, e quindi essere concordato
individualmente con il proprietario/utilizzatore finale (ad es. un robot che opera come ausiliario in ambito ospedaliero dovrebbe avere un
codice di comportamento del tutto diverso dal
robot che opera come spazzino per le strade).
L’assenza di tale codice di condotta, o la sua
inadeguatezza, che dipenda dall’utente finale
potrebbe essere equiparata alla mancata supervisione, o al cattivo insegnamento. Di più, si
potrebbe pensare di assegnare lo sviluppo dei
codici di condotta a un organismo di garanzia,
quale ad esempio un Comitato istituito ad hoc,
sulla falsa riga dell’International Organization
( 61 ) Il principio della Privacy by design è espressamente previsto nella proposta della Commissione
Europea del 25.1.2012 di un regolamento per la riforma della disciplina sulla Privacy.
( 62 ) Si veda ad es. Anderson-Anderson, Il
buon robot, in Le Scienze, 2010, 508, 90-95. Gli autori hanno lavorato sul robot NAO (http://www.
aldebaran-robotics.com/en/Nao.php) implementando un codice etico di condotta basato sui generali
principi della bioetica nord americana (beneficenza,
non maleficenza, giustizia, autonomia). L’algoritmo
di apprendimento del robot elabora, dopo aver
«studiato» una serie di casi inseriti dai ricercatori,
un principio generale di comportamento che permette al robot di scegliere, tra tre possibili azioni,
quali eseguire e in che ordine.
NGCC 2012 - Parte seconda
for Standardization, responsabile di definire le
norme tecniche (ISO).
Per questo, la soluzione qui prospettata è di
modulare la responsabilità alla luce delle diverse abilità di un robot, bilanciandola tra i diversi
soggetti coinvolti. Nel caso di robot con capacità di apprendimento, ad esempio, potrebbe
essere utile una ripartizione della responsabilità tra il produttore, il programmatore e l’utente. In sede giurisdizionale, inoltre, dovrebbe
essere appurata la causa del comportamento
dannoso del robot e, di conseguenza, la persona cui è imputabile.
In definitiva, ci pare ragionevole pensare che
debba esservi un qualche collegamento tra la
capacità adattativa e di apprendimento del robot e la responsabilità riconosciuta. Rinviando
a altra sede per una dettagliata analisi, ci limitiamo qui a suggerire qualche criterio che potrebbe essere seguito:
– Le abilità acquisite tramite l’educazione
devono essere tenute distinte da quelle strettamente dipendenti dall’algoritmo e, quindi, attribuibili al produttore.
– A una maggiore capacità di apprendimento e di adattamento del robot dovrebbe corrispondere una minore responsabilità del produttore, che non può prevedere in anticipo in
quale direzione avverrà l’apprendimento di
nuove abilità del robot.
– Più i comportamenti del robot dipendono
dalla «istruzione» ricevuta dal proprietario,
maggiore sarà la responsabilità di quest’ultimo,
sotto il profilo della culpa in educando, in quanto soggetto che poteva concretamente impedire l’apprendimento di un comportamento dannoso.
Naturalmente l’applicazione del CCE, o di
qualunque altro testo normativo in tema di responsabilità, al caso di danni provocati da un
robot può certamente far sorgere alcune perplessità.
Il soggetto delle disposizioni del CCE è la
«persona», mentre nel codice italiano il soggetto gravato da responsabilità extracontrattuale
viene individuato, dall’art. 2043 cod. civ., con
il termine «colui». Possiamo assumere che
«persona» o «colui» indichino in realtà «l’autore» o «l’agente», anche per la parte che, in
ipotesi, non possa essere fatta risalire dal robot
(come oggetto manufatto) al suo proprietario o
21
NOMELAV: nessun nome lav PAG: 22 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
.......... ..........
possessore? In questo caso, occorrerebbe un
intervento legislativo volto a estendere l’applicabilità della disciplina anche a entità che non
sono attualmente riconosciute come soggetti?
Si è, quindi, di fronte a un interessante fenomeno: pur avendo deciso di non affrontare la
questione ontologica della soggettività dei robot, essa viene naturalmente in gioco come
conseguenza inevitabile di un esame delle ipotesi di responsabilità, seguendo un approccio
di tipo bottom-up. Tanto da potersi dire che
soggettività e livello di responsabilità attribuibile risultano, per una certa parte, strettamente
intrecciati anche nel caso dei robot.
Continuare a considerare il robot quale mera
res appare, in definitiva, inadeguato, mentre
sembra che produttore, programmatore, proprietario e utente stiano assumendo il ruolo di
«controllore esterno» di un’entità che è in grado di manifestare livelli embrionali ma crescenti di autonomia. Certamente, è necessario
che il giurista si attrezzi per trovare soluzioni a
problemi che, a dispetto del loro aspetto futuristico, possono concretizzarsi in un’aula di tribunale in modo improvviso.
15. Un caso conclusivo: ha il robot un
diritto alla vita? Si immagini il caso di un
robot che svolge compiti assistenziali in un
ospedale: somministra farmaci, dà primi consigli, chiama i medici e gli assistenti umani se necessario, controlla che gli impianti di supporto
respiratorio e alimentazione dei pazienti siano
connessi e provvede alle riparazioni e riattivazioni necessarie, e altro ancora. Un malintenzionato s’introduce nell’ospedale e sta per disconnettere un tubo respiratorio o una flebo
che somministra un farmaco essenziale. Il robot rileva l’anomalia e interviene per evitare
che accada o per ripararla. Il malintenzionato
aggredisce il robot. Il robot reagisce attivando
il sistema di allarme e, intanto, oppone resistenza all’umano aggressore. Alla fine il malintenzionato riporta lesioni personali.
La domanda in termini giuridici è la seguente: vi è responsabilità per le lesioni riportate
dal malintenzionato? E di chi?
Per rispondere dobbiamo presupporre alcune cose, come, per esempio, che il robot sia
stato progettato incorporando alcune regole
etiche, come le leggi di Asimov (vedi sopra nt.
22
6). La condotta del robot del nostro esempio,
che viola prima facie la prima legge, avendo arrecato danno a un umano, si presta però a diversa considerazione alla luce della altre «leggi». Infatti, il secondo inciso della prima legge
impone al robot di «non permettere che, a causa del proprio mancato intervento, un essere
umano riceva danno», tanto che si potrebbe
dire che il robot, che fosse rimasto inerte di
fronte all’aggressore (che, si badi bene, in prima battuta aggrediva un impianto medico e
non il robot direttamente) e non avesse tentato
di conservare quella funzionalità a garanzia del
paziente, avrebbe violato proprio quella legge.
In più, si è visto che la condotta del malintenzionato, in prima battuta indirizzata al tubo
per la respirazione, si volge poi contro il robot,
che quel tubo vuole preservare. Se, nel corso
della colluttazione che segue tra uomo e robot,
l’umano ha la peggio, il robot può invocare la
terza legge di Asimov, secondo la quale il robot
«deve proteggere la propria esistenza, purché
questa autodifesa non contrasti con la Prima o
con la Seconda Legge». Come si è visto la condotta del nostro robot non contrasta né con la
prima, né con la seconda legge di Asimov, secondo la quale il robot «deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge»,
che abbiamo visto essere rispettata.
Nell’analisi di questo caso, alla luce delle
«leggi di Asimov», si ode l’eco dei ragionamenti di diritto positivo su svolti:
– sembra potersi escludere la responsabilità
del produttore, perché quanto accaduto non
può dirsi conseguenza di un difetto di progettazione o di fabbricazione;
– sembra potersi escludere anche la responsabilità dell’utilizzatore (l’ospedale), perché
l’accaduto è conseguenza di una condotta sicuramente anomala dell’aggressore. L’utilizzatore ha evidentemente impostato correttamente
le opzioni del robot, mentre sarebbe stato diverso se, ad esempio, il robot avesse aggredito
un familiare in visita o un addetto alle pulizie.
Il robot ha reagito a un malintenzionato che
stava per arrecare danno a un terzo indifeso;
– si può dire che il robot era nello svolgimento di un compito assistenziale, e che quindi stava adempiendo a un dovere;
– in questa prospettiva la sua condotta è
NGCC 2012 - Parte seconda
NOMELAV: nessun nome lav PAG: 23 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1
Robot e diritto: una prima ricognizione
scusata, secondo le categorie civilistiche e... anche penalistiche (art. 51 cod. pen.);
– l’aggressore dovrà, dunque, subire le conseguenze delle proprie azioni senza poter invocare la responsabilità di chicchessia, robot incluso.
Questa sulla responsabilità dei robot può essere vista come una semplice esercitazione per
menti giuridiche, che, così facendo, possano
verificare la capacità del sistema giuridico di
dare conto di situazioni nuove ( 63 ). Il fatto che
si arrivi ad applicare a robot norme pensate
per gli umani non rende, di per sé, umani i robot, ma ci deve indurre a «lentamente accetta-
( 63 ) Era con questo spirito che il caso ipotetico
era presentato in Santosuosso, cit., 277.
NGCC 2012 - Parte seconda
re l’idea che potremmo non essere così nettamente diversi da altre entità e agenti informazionali e intelligenti, e da artefatti ingegnerizzati» che ormai popolano il mondo ( 64 ). Se poi,
tra un’esercitazione e l’altra, si sono prefigurati
scenari realistici per il futuro, saranno gli uomini e le donne del domani a giovarsene. In
ogni caso, nel cercare le soluzioni giuridiche
aderenti a questo modo tecnologizzato della vita degli umani oggi, è sempre consigliabile avere un tocco leggero (a light touch ( 65 )) onde evitare che la regola del diritto sia semplicemente
rimpiazzata da quella della tecnologia ( 66 ).
( 64 ) Floridi (ed.), Philosophy of computing and
information. 5 Questions, Automatic Press / VIP,
2008, 95.
( 65 ) Murphy-Cuinn, cit. 601-638.
( 66 ) Parla di displacing the Rule of Law by the Rule of Technology Roger Brownsword (come è noto
Rule of Law non può essere tradotto con Stato di diritto, ed è perciò che abbiamo preferito la traduzione riportata nel testo) nel suo interessante libro sulle
difficoltà (ma anche opportunità) di porre regole di
fronte alle tecnologie del XXI secolo: Brownsword, Rights, Regulation, and the Technological
Revolution, Oxford University Press, 2008.
23
NOMELAV: nessun nome lav PAG: 24 SESS: 8 USCITA: Fri Jun 22 13:48:29 2012
/server480/riviste−n/ngcc−12/ngcc7−8−12/santosuos1