Le intenzioni nell’azione collaborativa fra agenti Guido Boella Dipartimento di Informatica Università di Torino Il modello di [Boella, Damiano e Lesmo 2000] • Modello che spiega in maniera generale comunicazione e mutual support • Il vantaggio di raggiungere il goal comune diventa la misura di quanto supporto dare agli altri • Condizioni di terminazione di un gruppo “What is involved when a group of agents decide to do something together?” • Esempi di collaborazione: – – – – sollevare un tavolo assieme fare triangolo giocando a calcio dipingere una casa assieme cercare un oggetto Collaborazione non è somma delle intenzioni individuali • Diverso da coordinazione: • ad esempio: – guidare nel traffico vs – formare un convoglio I modelli della cooperazione • M. Bratman “Shared cooperative activity” • P. Cohen e H. Levesque “Teamwork” • G. Boella, R. Damiano e L. Lesmo “Cooperation and group utility” M.Bratman: 3 condizioni • Commitment to the joint activity: impegno dei partecipanti verso attività comune • Commitment to mutual support: impegno ad aiutare i compagni nel momento del bisogno • Mutual responsiveness: agire tenendo un occhio su cosa fanno gli altri Commitment to the joint activity • “intenzioni dirette a favorire l’efficacia delle tue intenzioni” • “tratto le tue intenzioni rilevanti come se fossero dei fini per me stesso” • meshing subplans: i piani degli individui devono essere compatibili Mutual support • “Se io credo che tu hai bisogno del mio aiuto, te lo fornisco, se posso” • “Sono impegnato a fornirti i mezzi e soddisfare i passi preliminari, sempre che ciò non interferisca con il mio contributo” Mutual responsiveness • “cerco di dirigere le mie azioni con un occhio al tuo comportamento, sapendo che tu farai altrettanto” Cohen & Levesque: il problema della coordinazione • “Ogni teoria della azione deve indicare quando la comunicazione è necessaria” • L’intenzione di eseguire la propria parte termina quando: – l’obiettivo è stato raggiunto – l’obiettivo è impossibile da raggiungere – non è più rilevante raggiungere l’obiettivo Cohen & Levesque: Joint Intentionality • Quando l’intenzione individuale termina, il lavoro di gruppo si disgrega • Prima di abbandonare il gruppo è necessario soddisfare altri goal: – che tutti sappiano che l’obiettivo è stato raggiunto – che tutti sappiano che l’obiettivo non è raggiungibile o irrilevante Modello computazionale della cooperazione fra agenti • Agente: software regolato da rappresentazione esplicita di credenze, preferenze, goal e intenzioni – usa i goal come input per il means-end reasoning (planning) – il piano scelto in base a delle preferenze costituisce la sua intenzione – esegue reattivamente il piano selezionato Cooperazione fra socially rational agents I • social rationality: – goal adoption (C.Castelfranchi) – anticipatory coordination – group’s benefit (Jennings e Campos) Cooperazione fra socially rational agents II • Punto di partenza: – due agenti hanno un piano per raggiungere uno scopo comune – i compiti sono stati divisi – il piano non include ancora tutti i dettagli Goal adoption • Adozione di goal: l’interazione fra agenti richiede che si prendano in considerazione non solo goal ‘endogeni’ ma anche goal degli altri agenti. • Tipi di i goal che possono essere adottati: – precondizioni di un piano – passi di un piano – goal ‘di controllo’ che nascono da esecuzione Anticipatory coordination • Coordinazione anticipatoria: in un mondo comune ci sono interferenze ogni azione va scelta alla luce delle azioni che possono compiere gli altri agenti – – – – – empatia di G.H. Mead, strategic interaction di E. Goffman, prisoner dilemma in R. Axelrod, anticipatory coordination in C. Castelfranchi, recursive modeling di P.Gmytrasiewicz e E.Durfee iii COORDINAZIONE ANTICIPATORIA ii PIANIFICAZIONE i ADOZIONE piano 1 di a stato 0 Ga ={ga, g’a.... } piano 2 di a piano 1 di b stato 1 (ga=falso) piano 2 di b stato risultante 1 stato risultante 2 stato 2 (ga=vero) il processo di formazione delle intenzioni ii PIANIFICAZIONE i ADOZIONE piano 1 di a reazione di b stato risultante 1 stato 1 (gb=falso) stato 0 (G’a=gbU Ga) piano 2 di a iii COORDINAZIONE ANTICIPATORIA reazione di b stato 2 (gb=vero) stato risultante 2 iv SCELTA IN BASE A PREFERENZE il processo di formazione delle intenzioni Group’s utility • Preferenze condivise: l’obiettivo comune e le risorse condivise devono comparire nelle preferenze del gruppo • Strumento: funzione di utilità (da decision theory) esprime preferenze • Membri del gruppo condividono una stessa funzione di utilità Cooperazione(G,P,f) 1 Ogni agente a in G intende eseguire la propria parte pa di P 2 G crede mutualmente il punto 1 3 se a crede che b ha un goal gb derivante da 1, a considera se adottare gb 4 a rimane in G finchè crede che eseguire pa o adottare gb produce un aumento nell’utilità del gruppo Strumenti • Azioni organizzate come piani gerarchici • Utility function multi-attributo • Pianificazione basata su utility function (Haddawy e Hanks, 1999) • Pianificazione basata su Game theory Proprietà del modello • Helpful behavior: aiuto fornito non indiscriminatamente ma non solo nel caso in cui il gruppo non può procedere • Gruppi gerarchici: risorse valutate differentemente • No benevolence: aiuto finalizzato a gruppo • Conflict avoidance: coordinazione anticipatoria combinata con utilità di gruppo Proprietà del modello • Comunicazione: se a adotta un goal di controllo di b, si ha comunicazione: – – – – coordinazione del gruppo valori precondizioni successo del gruppo o della singola parte impossibilità di procedere nel piano comune La comunicazione “keeps the team as unit” ma “it does not always worth its cost” Esempio • Piano condiviso P: a e b cercano un oggetto • Passi: a cerca in una stanza, b in un’altra • Scenario: a raffina il piano, cerca e trova l’oggetto. b sta ancora cercando • Alternative di a: – lasciare il gruppo perchè il goal è stato raggiunto – adottare goal di b: • cercare nell’altra stanza (g’b) • notificare successo del piano condiviso (gb) ii PIANIFICAZIONE b continua P i ADOZIONE a non fa nulla a trova (G’a=gbU g’b) iii COORDINAZIONE ANTICIPATORIA a cerca a notifica successo b non sa (gb=falso) b continua P b non sa (gb=falso) (g’b=vero) b sa (gb=vero) b non trova b non trova a non trova il gruppo termina b abbandona P iv SCELTA IN BASE A PREFERENZE Scelta di notificare successo del gruppo in più... • Il modello tratta: – – – – – punti di vista diversi incertezza distribuzioni di probabilità su effetti piani parziali profondità variabile nel recursive modeling Commitment to the joint activity I • Intenzioni non sono rivolte solo ad azioni dell’individuo? • no, intenzioni implicano decisioni da prendere tramite ragionamento mezzi-fini (planning) • quando pianifico mi prefiguro cosa faranno gli altri