Le critiche all’IA
Alessandro Cappellini
22 Maggio 2004
[email protected]
“Le macchine, diceva, sono effetto dell’arte, che è
scimmia della natura, e di essa riproducono non le
forme ma la stessa operazione. Ruggiero Bacone, che
io venero quale maestro, ci ha insegnato che il piano
divino passerà un giorno per la scienza delle
macchine, che è magia naturale e santa. E io ti dico
che Dio vuole che siano, e certo son già nella sua
mente, anche se il mio amico di Occam nega che le
idee esistano in tal modo, e non perché possiamo
decidere della natura divina, ma proprio perché non
possiamo porle alcun limite”.
(U.Eco – Il nome della rosa)
Indice
• Prospettive dell’IA
• Animal AI
Critici e Opinioni
• Kurt Godel
• Roger Penrose
• John Searle (Martin Stower)
• Kevin Warwick
• Mark Humphrys
• Marvin Minsky
Il futuro dell’IA
• RoboCup: partite di calcio da 10 minuti con robot
reattivi.
• Reti neurali e Algortimi Genetici.
• Vita artificiale (inventata da von Neumann): Norms di
Stephen Grand.
• Intelligenza Artificiale Distribuita: tanti agenti capaci
di poche operazioni e in grado di coordinarsi.
• Computer affettivi.
Semplificando:
 L’IA forte ha un approccio top down, solo software e
con uso di ragionamento simbolico;
 La cibernetica ha un approccio bottom up.
Animal AI
• Osservazione di bambini e animali
• Studio di: memoria, rappresentazione, linguaggio,
emozioni
• Scopo: costruire una creatura pre-linguistica che
percepisce l’ambiente e capisce (in senso fisico) per
imparare.
• Scopo (lungo termine): Far evolvere un linguaggio
• Usi: ambienti imprevedibili (città, strada…) piuttosto
che nei prevedibili (catena di montaggio)
• Obbiettivo: Imparare e adattarsi
• Obbiettivo: Compiere giudizi su problemi incompleti
• In parallelo: Sistemi (motori) di ricerca automatizzati
che interpretano le richieste
Kurt Godel
• Secondo il teorema dell’incompletezza di
Godel: “ogni sistema formale è inconsistente,
incoerente, cioè permette di dimostrare frasi
false, oppure è incompleto, cioè non è capace di
decidere, dimostrare, la verità o la falsità di
alcuni teoremi”.
• Un esempio è la frase “io non sono
dimostrabile”; se è dimostrabile è falsa, se
invece la frase fosse vera il teorema non è
dimostrabile.
Roger Penrose
• Roger Penrose usa il teorema di Godel per attaccare
l’IA (forte), sostenendo che nessun computer in grado
di manipolare simboli possa risolvere l’impasse
proposta.
• Replica: L’IA può non essere un sistema logico (truthpreserving), quanto statistico o che impara da azioni
casuali.
• La coscienza/Intelligenza è data da una macchina che
sfrutta effetti quantistici (Stuart Hameroff MD e gli
studi sulla memoria).
• Replica: interessante, ma non provata. Mantiene uniti
mente e consapevolezza.
John Searle – Chinese Box
• John Searle va contro contro l’IA forte con il paradosso
della Chinese Box (1980), in cui un uomo, rinchiuso
con dei manuali di cinese, interagisce con dei
madrelingua all’esterno.
• (System Reply) L’intelligenza sta nel complesso della
stanza (sistema).
• (Robot Reply) Mancano le interazioni con il mondo
esterno per comprendere i simboli manipolati. (Searle:
mettiamo la stanza dentro un robot che cammina, ma
tutto ciò che capisco e seguo sono comunque simboli
formali)
• (Brain Simulator Reply) La stanza
simula le sinapsi di un Cinese Speaker
con le sue regole sintattiche.(Searle:
manca la semantica)
Searle's “Derivation from Axioms” (1990)
• (A1) Programs are formal (syntactic).
• (A2) Minds have mental contents (semantics).
• (A3) Syntax by itself is neither constitutive of nor sufficient for
semantics.
conclude:
• (C1) Programs are neither constitutive of nor sufficient for minds.
Searle aggiunge un quarto assioma:
• (A4) Brains cause minds.
con una immediata conclusione:
• (C2) Any other system capable of causing minds would have to have
causal powers (at least) equivalent to those of brains.
da cui derivano anche:
• (C3) Any artifact that produced mental phenomena, any artificial
brain, would have to be able to duplicate the specific causal powers of
brains, and it could not do that just by running a formal program.
• (C4) The way that human brains actually produce mental phenomena
cannot be solely by virtue of running a computer program.
Searle - Is the brain a digital computer?
• La mente è un programma per computer?
• NO. La sintassi formale del programma non è sufficiente a
garantire da sola la presenza di contenuti mentali. Un computer,
io ad esempio, potrebbe svolgere i passaggi nel programma
grazie a qualche capacità mentale, come per esempio
comprendere il cinese senza capire una parola di cinese.
• Le operazioni svolte dal cervello possono essere simulate da
un computer digitale?
• Se si intende: I processi cerebrali sono suscettibili di calcolo, e
quindi possono essere simulati, la risposta è SI, per la tesi di
Church.
• Il cervello è un computer digitale?
• La domanda è mal posta. La computazione ha una definizione
vaga. Si tende a considerare l’omuncolo. Il cervello non elabora
informazioni, ha dei processi neurobiologici che a volte
generano consapevolezza.
Kevin Warwick, March of the Machines
1. E’ in teoria possibile costruire macchine intelligenti
2. Questo avverrà presto
3. Tutti i problemi teorici sono vicini alla soluzione. E’
un problema di potenza di calcolo/dimensione
4. Lo sviluppo dell’uomo si bloccherà
•
•
•
•
In 10-50 anni
Manca un background teorico solido
I casi proposto sono “facili” (Animal-AI)
Si sofferma sui problemi “etici” e sul destino
dell’umanità
Mark Humphrys - Open issues
1.
2.
3.
4.
5.
Architectures of Mind - What does the whole mind look like? Network,
Hierarchy or Society? Does I/O link to many brains or one? Who is in
charge? Where am I? What is consciousness?
Action Selection - As a more specific example of the above. We know how
to solve 1 problem. How does the creature deal with multiple problems at
once?
"Learning to Learn" - How does the creature generate goals for itself in the
first place?
Symbol-grounding, Evolution of language. - What is language? How do
creatures processing numerical sensory data end up processing symbolic
"words" with meanings? What does "chair" mean, internally? Is it a
meaningless token #5099 being passed around, or is it a whole specialised
sub-system, firing away? Do parts of the brain talk to each other? Do we
have an internal language? Is it English, or is it something more messy?
Will sub-symbolic AI plug in neatly to symbolic AI?
Robots or simulation? - Robots are more real, may solve symbolgrounding. But experiments in simulation are often more practical. e.g.
Sims evolved a world of beautiful 3-D creatures from scratch. Large-scale
experiments involving the Web?
Marvin Minsky - La società della mente
• Rendere un calcolatore capace di manipolare non solo dati numerici, ma
anche simboli di tipo linguistico per la comprensione di forme di
ragionamento basate su analogie e sul senso comune.
• Concetto di frame, un quadro di riferimento capace di fornire al programma
una gamma di informazioni che trattano una classe di oggetti o di situazioni.
• Decentramento: la mente, secondo Minsky, funziona in modo simile a una
società di agenti altamente specializzati, dove ognuno di essi ha un suo
specifico compito.
• Quando una persona compie più azioni nello stesso istante, possono aver
luogo conflitti tra gli agenti. Questi conflitti danno vita a tensioni che
generalmente fanno sì che un agente prevalga sugli altri. A tensioni eccessive
può tuttavia corrispondere un blocco dell'intero sistema.
• Alle macchine manca la conoscenza del senso comune, ossia quel tipo di
conoscenza formata da un numero incredibile di nozioni pratiche, di regole ed
eccezioni, disposizioni e tendenze, acquisite faticosamente attraverso
l'esperienza quotidiana.
• Non è detto che le macchine non si possano dotare di meccanismi per
acquisire e trattare l’esperienza.
"Un giorno si presenterà forse una soluzione del
tutto diversa" scrive Minsky, "quella di
conseguire l'immortalità trasferendo la nostra
personalità in un nuovo contenitore che
sostituisca non solo alcune, ma tutte le nostre
funzioni, tanto fisiche quanto mentali, per
mezzo di un qualche grande computer. Questo è
un modo in cui potrebbero andare le cose, per
consentirci non solo di usare semplicemente dei
computer, ma per diventare computer".
(Il nostro futuro robotizzato, in M. Minsky, La robotica)