22.08.2013 Views

Teoretiska och empiriska ansatser

Teoretiska och empiriska ansatser

Teoretiska och empiriska ansatser

SHOW MORE
SHOW LESS

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

<strong>Teoretiska</strong> <strong>och</strong> <strong>empiriska</strong><br />

<strong>ansatser</strong><br />

◆ Utgångspunkt<br />

I. C. MariAnne Karlsson<br />

©I.C.MariAnne Karlsson<br />

Teori Empiri<br />

● för kravbild / målbild<br />

● för diagnos av problem<br />

● för utvärdering av (design)lösning<br />

Scenario inkl. personas<br />

©I.C.MariAnne Karlsson<br />

©I.C.MariAnne Karlsson<br />

1


©I.C.MariAnne Karlsson<br />

©I.C.MariAnne Karlsson<br />

Exemplet Diagnos/Utvärdering<br />

◆ Informell<br />

◆ Teoretiskt/expertbaserad/inspektion<br />

● mha guidelines, tumregler, CW, HTA<br />

◆ Empirisk<br />

● användare använder ’produkten’ på ngt sätt<br />

<strong>och</strong>/eller ger sin bedömning, olika<br />

datainsamlingsmetoder<br />

©I.C.MariAnne Karlsson<br />

2


Alternativ kategorisering<br />

◆ ”User-based”<br />

◆ ”Theory-based”<br />

◆ ”Expert-based”<br />

©I.C.MariAnne Karlsson<br />

(Maguire & Sweeny 1989)<br />

Alternativ kategorisering<br />

◆ ”User-based”<br />

● Prestation (tid, # fel etc.)<br />

● Icke-verbalt beteende (ögonrörelser etc.)<br />

● Attityd (verbala yttringar)<br />

● Kognition (verbala protokoll)<br />

● Stress (galvanisk mätning, hjärtfrekvens)<br />

● Motivation (verbala yttringar)<br />

◆ ”Theory-based”<br />

◆ ”Expert-based”<br />

©I.C.MariAnne Karlsson<br />

Alternativ kategorisering<br />

◆ ”User-based”<br />

◆ ”Theory-based”<br />

● Prestation (tid, lärbarhet), t.ex. CLG, TAG,<br />

GOMS, CCT<br />

◆ ”Expert-based”<br />

©I.C.MariAnne Karlsson<br />

3


Alternativ kategorisering<br />

◆ ”User-based”<br />

◆ ”Theory-based”<br />

◆ ”Expert-based”<br />

● Heuristisk bedömning mha guidelines<br />

● Professionell bedömning av potentiella<br />

användbarhetsproblem<br />

©I.C.MariAnne Karlsson<br />

Heuristisk värdering<br />

Inspektionsmetod<br />

En liten grupp utvärderare värderar ett<br />

(produkt)gränssnitt utifrån ett antal<br />

uppställda designkriterier eller guidelines<br />

©I.C.MariAnne Karlsson<br />

Exempel på ’guidelines’<br />

◆ Använd enkel <strong>och</strong> naturlig dialog<br />

◆ ’Tala’ användarens språk<br />

◆ Minimera användarens minnesbelastning<br />

◆ Var konsekvent<br />

◆ Ge feedback<br />

◆ Erbjud genvägar<br />

◆ Erbjud utvägar<br />

◆ Formulera tydliga felmeddelanden<br />

◆ Förhindra felhandlingar<br />

©I.C.MariAnne Karlsson<br />

4


©I.C.MariAnne Karlsson<br />

Antal utvärderare?<br />

5 utvärderare upptäcker mellan 50 <strong>och</strong> 80%<br />

10 utvärderare upptäcker mellan 75 <strong>och</strong> 90%<br />

20 utvärderare upptäcker mellan 75 <strong>och</strong> 90%<br />

©I.C.MariAnne Karlsson<br />

Cognitive ’walkthrough’<br />

◆ Expertutvärdering (peer review)<br />

◆ Ett antal bedömare utvärderar:<br />

● ”The ease by which a typical user can perform a task<br />

using an interface design with little or no formal<br />

instruction or informal coaching.”<br />

◆ En beskrivning av användargränssnittet, ett<br />

uppgiftsscenario, en procedur, en detaljerad<br />

beskrivning av användarna, samt en beskrivning<br />

av användningsmiljön<br />

©I.C.MariAnne Karlsson<br />

5


◆ Utgångspunkt - ”utforskandet”<br />

◆ Relaterar till teoretiska modeller för lärande<br />

◆ Norman’s theory of action (goal -> plan -><br />

execution of action -> evaluation of feedback -><br />

revision of goals -> )<br />

◆ Mål Handling<br />

©I.C.MariAnne Karlsson<br />

● Användarens uppgift (task)<br />

● Målet (= den övergripande uppgiften) bryts ner i<br />

delmål <strong>och</strong> delmålen i handlingar<br />

HTA<br />

● Användarens mål representationen av<br />

handlingen för att nå målet<br />

● Handlingen - trycka på knappen - väljs pga att<br />

knappen har en kodbeteckning vilken stämmer<br />

överens med användarens mål<br />

◆ Steg 1 - Förberedelse<br />

● Definiera uppgifter (tasks)<br />

©I.C.MariAnne Karlsson<br />

● Uppgiften skall beskrivas utifrån en helt novis användares<br />

perspektiv (1:a gångs användare)<br />

● Systemets utgångsläge måste beskrivas<br />

● Beskriv den ’bästa’ handlingssekvensen som krävs för att<br />

genomföra uppgiften, med vilken detaljeringsnivå kan diskuteras<br />

(jfr hierarkisk uppgiftsanalys, HTA)<br />

● Definiera användargruppens förutsättningar, förkunskaper, etc.<br />

● Beskriv vilket mål användaren har initialt<br />

©I.C.MariAnne Karlsson<br />

6


HTA: grafisk presentation<br />

HTA, utföra infusion<br />

Hur görs det? Varför görs det?<br />

1. Förbered<br />

medicin<br />

1.1 Öppna 1.2 Mät upp<br />

förpackning rätt mängd<br />

2. Förbered<br />

infusionsaggregat<br />

3.1 Öppna<br />

mekanism<br />

◆ Steg 2 - Utvärdering<br />

0. Utföra infusion<br />

med infusionspump<br />

3. Montera<br />

infusionsaggregat<br />

3.2.1 Fäst in<br />

övre klack<br />

3.2 Montera<br />

slang<br />

3.2.2 Fäst in<br />

nedre klack<br />

©I.C.MariAnne Karlsson<br />

4. Programmera<br />

pumpen<br />

3.3 Stäng<br />

mekanism<br />

● Analyser genomförs för vart <strong>och</strong> ett av de handlingssteg som<br />

beskrivits i steg 1.<br />

● Analys 1 - jämförelse mellan användarens mål <strong>och</strong> de mål som<br />

krävs för att interagera med användargränssnittet - Har<br />

användaren ’rätt’ mål?<br />

● Målrelaterade problem - användaren försöker göra ’fel’ sak<br />

Ex. ”Tryck på 5” ”Avsluta”<br />

©I.C.MariAnne Karlsson<br />

● Analys 2 - problem associerade med val av handling<br />

©I.C.MariAnne Karlsson<br />

5. Övervaka<br />

pumpen<br />

● Handlingsrelaterade problem - användaren försöker göra ’rätt’<br />

men kan inte förstå hur man ska göra<br />

Handlingen måste vara tillgänglig <strong>och</strong> användaren måste veta att det<br />

är en möjlig handling<br />

Ex. om ett möjligt alternativ inte finns listat i menyn, hur skall<br />

användaren då veta att alternativet är ett möjligt val ?<br />

Alternativet måste vara ’kodat’ så att handlingsalternativet kan<br />

associeras med målet för handlingen<br />

Användaren måste ha tid att göra rätt val<br />

Handlingen måste vara enkel att utföra<br />

7


● Analys 3 - ev. korrigering av målbild givet den<br />

feedback som erhållits från systemet<br />

Användaren måste uppfatta att <strong>och</strong> vilka delmål som uppnåtts<br />

Användaren måste också uppfatta att <strong>och</strong> vilka delmål som<br />

inte uppfyllts<br />

©I.C.MariAnne Karlsson<br />

CW, procedur<br />

Analysen genomförs genom att fyra frågor<br />

ställs vid varje steg i handlings-sekvensen<br />

Frågorna besvaras med<br />

•”Ja” med motivering (success story)<br />

•”Nej” med motivering: problem identifierat<br />

(failure story)<br />

©I.C.MariAnne Karlsson<br />

CW, procedur<br />

1. Kommer användaren att försöka utföra korrekt handling?<br />

2. Kommer användaren upptäcka att korrekt handling är tillgänglig?<br />

3. Kommer användaren att associera korrekt handling med önskad<br />

effekt?<br />

4. Kommer användaren få feedback för att förstå att handlingen<br />

korrekt utförd?<br />

©I.C.MariAnne Karlsson<br />

8


◆ Exempel: Jag vill ha hänvisning på alla mina samtal till<br />

772 1234<br />

◆ Korrekt handlingssekvens<br />

● Lyft luren<br />

● Tryck ##7<br />

● Lägg på luren<br />

● Lyft luren<br />

● Tryck **7<br />

● Tryck 1 2 3 4<br />

● Lägg på luren<br />

©I.C.MariAnne Karlsson<br />

Användbarhetstest<br />

En utvärdering där ett urval användare<br />

genomför/löser ett antal uppgifter mha<br />

produkten.<br />

◆ VEM?<br />

©I.C.MariAnne Karlsson<br />

Användartester (1)<br />

● Vilka deltagare?<br />

◆ VAR?<br />

● I lab-miljö eller i verklig användningsmiljö?<br />

◆ VAD?<br />

● Skiss? Datoranimering? Prototyp?<br />

● ’Innehåll’? Funktionalitet?<br />

©I.C.MariAnne Karlsson<br />

9


◆ HUR?<br />

● Procedur?<br />

● Uppgifter?<br />

● Kriterier?<br />

Användartester (2)<br />

● ’Mätinstrument’?<br />

◆ VARFÖR?<br />

◆ Fälttester<br />

©I.C.MariAnne Karlsson<br />

Var?<br />

+ verklig användningsmiljö, verkliga uppgifter<br />

- ingen kontroll<br />

? tillgänglighet/möjlighet att observera<br />

◆ Lab-tester<br />

- overklig användningsmiljö, ålagda uppgifter<br />

+ kontroll -> jämförelse<br />

+ tillgänglighet/möjlighet att observera<br />

©I.C.MariAnne Karlsson<br />

Vem?<br />

◆ Rekommendationen är ”representanter för<br />

målgruppen”<br />

◆ Statistiska eller teoretiska (subjektiva)<br />

urval?<br />

◆ Representativa eller kritiska urval?<br />

◆ Noviser eller experter?<br />

● noviser/experter map teknikvana<br />

● noviser/experter map domänkunskap<br />

©I.C.MariAnne Karlsson<br />

10


◆ Andra än användare?<br />

◆ En eller två användare samtidigt?<br />

● ”Constructive interaction”/”Co-discovery”<br />

◆ Antal?<br />

● Den s.k. mättnadspunkten uppnås normalt vid mellan 12-20<br />

personer något beroende på målgruppens homogenitet.<br />

©I.C.MariAnne Karlsson<br />

Vad?<br />

◆ Hela eller delar av produkten/gränssnittet?<br />

● minimum: före- <strong>och</strong> efterstudier bör testa ’samma’ typ<br />

◆ Funktionalitet <strong>och</strong> omfattning?<br />

● Papper? Animation? Prototyp?<br />

ex. ”Wizard-of-Oz”-tester<br />

◆ Enbart produkten eller också<br />

information/dokumentation?<br />

◆ Procedur?<br />

©I.C.MariAnne Karlsson<br />

Hur?<br />

● introduktion, test, värdering, ev. mätning<br />

Beskriv syftet med utvärderingen. Ange t.ex. om testen spelas<br />

in på olika sätt. Informera om möjligheten att dra sig ur, etc.<br />

● dokumentation(bandspelare? kamera?)<br />

● hjälp?<br />

● utbildning, träning?<br />

● max-tid?<br />

● provokation?<br />

”Så snabbt som möjligt ...!”<br />

©I.C.MariAnne Karlsson<br />

11


● ’tänka-högt’?<br />

Att tänka högt kan påverka användarens beteende - både<br />

positive <strong>och</strong> negativt<br />

● retrospektiv värdering, ’ad hoc’ procedur<br />

● ’loggning’?<br />

©I.C.MariAnne Karlsson<br />

Kommentar<br />

◆ Valet av metod påverkar resultatet<br />

● Skriva kommentarer genererar ’mindre’<br />

information än att verbala kommentarer.<br />

● Metoden styr typen av information<br />

t.ex. vid utvärdering av manualer<br />

◆ Uppgifter?<br />

– ’skriva frågor’ -> fokus: innehåll<br />

– ’verbala kommentarer’ -> fokus: ord <strong>och</strong> innehåll<br />

©I.C.MariAnne Karlsson<br />

● ’representativa’ uppgifter/frågor alt.’kritiska’?<br />

● Rekommendation: ordning<br />

enkel -> ökande svårighetsgrad -> enkel<br />

● Rekommendation: scenario-baserade uppgifter<br />

● Uppgifterna styr resultatet<br />

jfr.” Ställ in pizzaläget!” vs. ”Du skall baka en pizza.<br />

Ställ in ugnen på lämpligt sätt.”<br />

● Rekommendation: uppgifter/frågor på papper<br />

minimera memorering av uppgifter -> tar arbetsminne i<br />

anspråk<br />

©I.C.MariAnne Karlsson<br />

12


Exempel Uppgift<br />

Ett företag som heter Företagshälsan har utvecklat en tjänst<br />

på Internet.<br />

◆ Gå till www.foretagshalsan.com<br />

◆ Om Du enbart betraktar startsidan, vilken tjänst är<br />

det företaget erbjuder tror Du?<br />

©I.C.MariAnne Karlsson<br />

◆ Kriterier? Mått? Instrument?<br />

● effektivitet? prestation? tillfredsställelse? begriplighet?<br />

● objektiva kriterier <strong>och</strong> mått: ex. effektivitet kan mätas i<br />

termer av tid eller fel<br />

● subjektiva kriterier <strong>och</strong> mått: ex. begriplighet,<br />

tillfredsställelse mm kan mätas mha subjektiv skattning (i<br />

enkät eller intervju)<br />

● rekommendation: både objektiva <strong>och</strong> subjektiva bör<br />

användas för värdering: användbarhet =effektivitet <strong>och</strong><br />

tillfredsställelse<br />

Exempel på ....<br />

©I.C.MariAnne Karlsson<br />

Objektiva ’mått’<br />

◆ Total tid för att slutföra en viss uppgift<br />

◆ Antal uppgifter / tidsenhet eller inom ramen för tiden ’x’<br />

◆ Antal interaktioner eller fel per uppgift<br />

◆ Antal fel<br />

◆ Total tid för att korrigera fel<br />

◆ Antalet hjälptillfällen<br />

◆ Antal kommandon/knapptryckningar/motsvarande per uppgift<br />

©I.C.MariAnne Karlsson<br />

13


Exempel på ...<br />

Subjektiva ’mått’<br />

◆ Preferens, dvs. antalet personer som föredrar en viss lösning<br />

framför en annan (ej möjlig i between-subject test).<br />

◆ Antalet positiva resp. negativa omdömen under testen.<br />

◆ Antalet tillfällen användaren uttrycker frustration.<br />

◆ Skattning av tillfredsställelse, mm.<br />

©I.C.MariAnne Karlsson<br />

Exempel på skattningsskalor<br />

X<br />

Inte alls Helt of fullt<br />

En 100 mm lång skala där testpersonen sätter ett ’kryss’<br />

som markering på sin bedömning.Man mäter sedan<br />

avståndet i mm från ’0’ läget till ’kryssets mitt’. Avståndet<br />

i mm = skattning (t.ex. 33 mm = värde 33)<br />

©I.C.MariAnne Karlsson<br />

❏ ❏ ❏ ❏ ❏<br />

1 2 3 4 5<br />

◆ Välj inte en alltför lång skala om ett fåtal testpersoner.<br />

◆ Jämn eller ojämn beror på frågeställningen.<br />

©I.C.MariAnne Karlsson<br />

14


Ange i vilken utsträckning Du håller med om följande<br />

påstående: ”Dessa symboler var enkla att förstå.”<br />

❏ ❏ ❏ ❏ ❏<br />

Håller Håller<br />

inte med<br />

alls helt <strong>och</strong><br />

med fullt<br />

◆ Within-subjects<br />

©I.C.MariAnne Karlsson<br />

● Samma person utvärderar de olika versionerna av<br />

gränssnitt<br />

● Jämförelser, preferenser möjliga (+) men leder till<br />

inlärning <strong>och</strong> ev. uttröttning (-)<br />

◆ Between-subjects<br />

● Olika personer utvärderar de olika versionerna v<br />

gränssnitt<br />

● Subjektiva jämförelser omöjliga (-)<br />

● Jämförbara testgrupper är mycket svårt att nå<br />

©I.C.MariAnne Karlsson<br />

Testordning<br />

Lösning A Lösning B Lösning C<br />

Fp 1 1 2 3<br />

Fp 2 2 3 1<br />

Fp 3 3 2 1<br />

Fp 4 2 1 3<br />

Fp 5 3 1 2<br />

Fp 6 etc.<br />

©I.C.MariAnne Karlsson<br />

Slumpmässig?<br />

Finns risk för<br />

’bias’!<br />

15


Identifierade användbarhetsproblem<br />

mha olika metoder<br />

Empiriska test Team WT Indiv. WT<br />

Heuristic<br />

CW<br />

HTA<br />

421 115 78<br />

159 68 49<br />

Usability test<br />

©I.C.MariAnne Karlsson<br />

Överensstämmelse<br />

User<br />

General ’user’<br />

Assumed<br />

(novice, expert)<br />

-<br />

Intended users<br />

©I.C.MariAnne Karlsson<br />

Task<br />

-<br />

Goal, sub-goal<br />

Organization of<br />

task in relation<br />

to goal<br />

Intended (but<br />

most often<br />

predefined)<br />

©I.C.MariAnne Karlsson<br />

Technical<br />

system<br />

Interface design<br />

Interface design<br />

-<br />

Interface design<br />

Environment<br />

-<br />

?<br />

-<br />

Possibly (?)<br />

16


Litteratur<br />

◆ Nielsen J (1993); Usability Engineering,<br />

Academic Press, London.<br />

◆ Jordan P.W., Thomas B., Weermeester B.A.,<br />

McClelland I (1996): Usability evaluation in<br />

industry. Taylor & Francis Ltd, London.<br />

◆ Jordan P.W. (1998): An introduction to<br />

usability. Taylor & Francis Ltd, London.<br />

©I.C.MariAnne Karlsson<br />

17

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!