samenvatting van de les (pdf)

Samenvatting: Artificiële Intelligentie
Door: Bert Vingerhoets
Kenny Moens
Yves Vandriessche
Edwin De Roock
Wim Moons
Wouter Lievens
14/11/2002
Waarschijnlijkheid en Redeneren met Waarschijnlijkheid
Deze less volgt hoofdstuk 14 en 15 uit Artificial Intelligence: a modern approach.
Inleiding
In een complexe wereld als onze realiteit kan je bijna niets met zekerheid stellen. Zelfs als je een
zeer accurate berekening maakt omtrent iets - bijvoorbeeld een planning om op een bepaald uur
ergens aan te komen, waarin je een ruime marge neemt – kan er altijd iets onverwachts gebeuren.
Je kan pech met het vervoer hebben (autopech, trein gemist) of er kunnen andere factoren
meespelen die, zij het minder waarschijnlijk (een komeetinslag of een plotse hartaanval), evengoed
bijdragen tot de onzekerheid omtrent de uit te voeren actie. Ook fouten op de metingen (ruis,
parallax, …) dragen hiertoe bij. De logica zoals wij ze hiervoor gehanteerd hebben, volstaat
hiervoor niet. De onzekerheid kan numeriek voorgesteld worden, door gebruik te maken van de
kansrekening.
Omgaan met onzekerheid
Je kan uitdrukkingen “wegen” met een getal, dat toelaat de waarschijnlijkheid van die uitdrukking
te vergelijken met andere waarden.
Voorbeelden: Sproeien 0.99 gras_nat, gras_nat 0.7 regen
Dit volstaat helaas niet, de bovenstaande zinnen zouden je laten concluderen dat een sproeier
regen veroorzaakt. Het combineren van deze zinnen is dus niet eenvoudig.
Waarschijnlijkheid
Axioma’s:
• Een waarschijnlijkheid is een maat voor onzekerheid voorgesteld als een getal uit het
continue interval [0,1]. De waarschijnlijkheid van een zin wordt uitgedrukt als P(x).
• Als P(X) = 0 dan is X zeker onwaar.
• Als P(X) = 1 dan is X zeker waar.
• Onconditionele waarschijnlijkheid (= a priori):
P(het regent morgen) = 0.85.
• Conditionele waarschijnlijkheid (= post priori):
P(het regent hier morgen|hier is Belgïe) = 0.9999999999.
Lees dit als: “de waarschijnlijkheid van ‘het regent hier morgen’ als ‘hier is Belgïe’”.

Utlity Theory
Verder heb je ook nog een Utility Theory nodig die uitlegt hoe beslissingen dienen genomen te
worden. Een Utility Theory kent waarden toe aan acties, zodat zij onderling vergeleken kunnen
worden en een beslissing gemaakt kan worden.
Stel: Je wint € 1,000,000. Bij het opgooien van een (eerlijk) muntje kan beslist worden of je het
drievoud, of niets krijgt. Als je dit probleem met de kansrekening oplost krijg je het volgende
antwoord:
E[x] = P(munt) x € 0 + P(kop) x € 3,000,000 = € 1,500,000
1,500,000 > 1,000,000 JA
De meeste mensen zouden dit aanbod echter afslaan. Waarom?
• Verwachtingswaarden uit de kansrekening gaan er van uit dat je oneindig veel
“experimenten” doet, terwijl je hier maar één maal mag proberen.
• De meeste mensen stellen zich met een enorme som als 1 miljoen Euro tevreden. De
verhouding Geld/Geluk volgt een logaritmische trend: eens je heel veel geld hebt, maakt
een hoop extra geld niet veel uit, omdat je toch al genoeg hebt om aan al je wensen te
voldoen.
Axioma’s en regels:
• 0 ≤ P(A) ≤ 1
• P(True) = 1
• P(False) = 0
• P(A ∨ B) = P(A) + P(B) – P(A ∧ B)
• P(A) = Σ P(A | Bi).P(Bi) als Σ P(Bi) = 1
• P(¬A) = 1 – P(A)
• P(A | B) = P(A ∧ B)
P(B)
De syntax lijkt erg op die van de propositielogica. Je definieert variabelen die waarden toegekend
krijgen. Variabelen kunnen booleaans zijn, of meerdere mogelijke waarden hebben.
Waarschijnlijkheidsverdelingen
Als een waarschijnlijkheid onconditioneel is dan is de waarschijnlijkheidsverdeling gewoon de
verzameling der waarschijnlijkheden van elke mogelijke waarde.
Voorbeeld:
• Regent < True, False >
P(Regent) = < 0.4, 0.6 >
• Weer < Regen, Bewolkt, Sneeuw, Zon >
P(Weer) = < 0.72, 0.1, 0.08, 0.1 >
Als het wel om een conditionele waarschijnlijkheid gaat, gebruikt men een joint probability
distribution.
Voorbeeld 1: P(AutoOngeluk, Weer)
AutoOngeluk \ Weer Regen Bewolkt Sneeuw Zon
True 0.2 0.1 0.3 0.05
False 0.15 0.1 0.05 0.05
Korte notatie voor deze tabel: P(X1, X2, …, Xn).
Uit deze tabel kan je gemakkelijk onconditionele waarschijnlijkheden aflezen.

Voorbeeld 2: Tandpijn
Tandpijn Tandpijn
Gaatje 0.04 0.06
Gaatje 0.01 0.89
P(Tandpijn Gaatje) = 0.04 + 0.01 + 0.06 = 0.2
P( Gaatje Tandpijn) = 0.04
Voor conditionele waarschijnlijkheden:
P(Gaatje | Tandpijn) = P(Gaatje ∧ Tandpijn) / P(Tandpijn) = 0.04 / (0.04 + 0.01) = 0.80
De Regel van Bayes is hier eveneens van toepassing:
P(B | A) = P(A | B) * P(B) / P(A)
Of voor meerdere condities:
P(B | A, E) = P(A | B, E) * P(B | E) / P(A | E)
Kettingregel:
P(X1, X2, ... , Xn) = P(Xi | X1, X2, ... , Xn)
Onafhankelijke Variabelen:
Twee variabelen zijn onafhankelijk als:
P(A | B) = P(A)
Of P(A, B) = P(A | B).P(B)= P(A).P(B)
Opmerking:
• Joints zijn enorm groot: voor n booleaanse variabelen: matrix van 2 n waarschijnlijkheden.
• Waarvan haal je de gegevens? Onderzoek met experts.
Grafische voorstelling:
Belief Network
• Voorstelling door een acyclische graph.
• Knopen zijn variabelen.
• Pijlen zijn directionele verbanden: “… heeft invloed op …”
• Bij elke node hoort een tabelletje met daarin de waarschijnlijkheid van de toestand van de
parent node op de toestand van de node.
Opstellen van de joint:
P(X1, … Xn) = ΠP(Xi | Parents(Xi))
Markov-afdekking:
De invloedsfeer van een node is enkel bepaald door de kinderen, de ouders, en de ouders van de
ouders.
Markoviaans:
Toestand niet afhankelijk van het voorgaande.

Inferentie met Belief Networks:
• Je hebt een aantal Query variabelen en een aantal Evidence variabelen.
• Elke node kan een Query of Evidence zijn.
• Het doel van de inferentie is P(Query | Evidence) te berekenen.
• Deze Queries kunnen niet alleen voor het maken van conclusies gebruikt worden, maar ook
om de oorzaak van iets op te sporen, een optimaal “pad”, welke evidence het belangrijkst
is…
Inferentie is NP-hard, maar er zijn vaak short-cuts om Queries toch snel op te lossen.
• Efficiënt combineren.
• Tussenresultaten van berekeningen cachen zodat ze niet herberekend worden.
• Betere algoritmen kiezen (zie Russel & Norvig).
De waarschijnlijkheden moeten ingevuld worden met behulp van experts uit het vakdomein.
Voorbeelden:
• Medische diagnose
• Tekstanalyse
• …