Vejledning om effektivitetsundersøgelser - Rigsrevisionen
Vejledning om effektivitetsundersøgelser - Rigsrevisionen
Vejledning om effektivitetsundersøgelser - Rigsrevisionen
Create successful ePaper yourself
Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.
<strong>Vejledning</strong> <strong>om</strong><br />
<strong>effektivitetsundersøgelser</strong><br />
Februar<br />
2013<br />
rigsrevisionen<br />
rigsrevisionen
Indholdsfortegnelse<br />
VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 1<br />
I. Indledning .................................................................................................................... 2<br />
II. Forundersøgelse .......................................................................................................... 4<br />
III. Undersøgelse af målopfyldelse .................................................................................... 5<br />
IV. Undersøgelse af effekt ................................................................................................. 7<br />
V. Undersøgelse af <strong>om</strong>kostningseffektivitet ................................................................... 11<br />
VI. Metaundersøgelse ..................................................................................................... 12
2 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />
I. Indledning<br />
1. Denne vejledning giver nogle grundlæggende redskaber til at gennemføre <strong>effektivitetsundersøgelser</strong><br />
i <strong>Rigsrevisionen</strong>. <strong>Vejledning</strong>en indeholder 6 kapitler. Kap. I er en introduktion<br />
til <strong>effektivitetsundersøgelser</strong> i <strong>Rigsrevisionen</strong>. Kap. II beskriver forundersøgelsen til en<br />
effektivitetsundersøgelse. Kap. III handler <strong>om</strong> undersøgelse af målopfyldelse, kap. IV<br />
handler <strong>om</strong> undersøgelse af effekt og <strong>Rigsrevisionen</strong>s model til udarbejdelse af effektundersøgelser,<br />
og kap. V beskriver undersøgelse af <strong>om</strong>kostningseffektivitet. Endelig handler<br />
kap. VI <strong>om</strong> metaundersøgelser.<br />
Hvad er effektivitet og <strong>effektivitetsundersøgelser</strong>?<br />
2. Effektivitetsundersøgelser er sammen med produktivitets- og spars<strong>om</strong>melighedsundersøgelser<br />
grundstenene i forvaltningsrevisionen. Indholdet i en effektivitetsundersøgelse er<br />
beskrevet i INTOSAI’s ”Implementation Guidelines for Performance Auditing”. Her defineres<br />
effektivitet på følgende måde:<br />
Effectiveness is essentially a goal-attainment concept. It is concerned with the relationship<br />
between goals or objectives, outputs and impacts. Are the stipulated aims<br />
being met by the means employed, the outputs produced and the impacts observed?<br />
Are the impacts observed really the result of the policy rather than other circumstances?<br />
(Implementation Guidelines for Performance Auditing, ISSAI 3000, s. 17).<br />
Effektivitetsundersøgelser er således en fællesbetegnelse for undersøgelser af målopfyldelse,<br />
effektundersøgelser og undersøgelser af <strong>om</strong>kostningseffektiviteten. Effektivitetsundersøgelser<br />
kan bidrage med at synliggøre statslige indsatsers målopfyldelse, effekt og <strong>om</strong>kostningseffektivitet<br />
ved at analysere forholdet mellem mål, aktiviteter, resultat og virkning.<br />
Økon<strong>om</strong>istyrelsen har udarbejdet publikationen, ”Ramme for Case-samlingen – inspiration<br />
til effekt”, s<strong>om</strong> er et inspirationsmateriale til offentlige institutioner, der arbejder med at udvikle<br />
og anvende effektmåling i staten 1) .<br />
1) Økon<strong>om</strong>istyrelsen skelner mellem effektundersøgelser og <strong>effektivitetsundersøgelser</strong>. Effekt defineres s<strong>om</strong><br />
at opnå ønskede virkninger på <strong>om</strong>givelserne via en indsats. Effektivitet defineres s<strong>om</strong> at opnå virkninger<br />
med så få resurser s<strong>om</strong> muligt, hvilket i denne vejledning betegnes s<strong>om</strong> <strong>om</strong>kostningseffektivitet.
I <strong>Rigsrevisionen</strong> skelner vi mellem 3 former for <strong>effektivitetsundersøgelser</strong>:<br />
VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 3<br />
Undersøgelser af målopfyldelse sammenligner det faktisk realiserede resultat med<br />
de opstillede mål. Undersøgelsen kan <strong>om</strong>fatte mål på alle niveauer (fx inputmål, aktivitetsmål<br />
og produktivitetsmål). Det skal dog bemærkes, at resultatmål ikke i sig selv angiver<br />
en kausalitet til selve effekten – dette skal undersøges i en effektundersøgelse.<br />
Effektundersøgelser undersøger, <strong>om</strong> den forventede effekt med en indsats er indtruffet,<br />
<strong>om</strong> der er opnået andre virkninger end de tilsigtede, og i hvilket <strong>om</strong>fang resultatet er<br />
en konsekvens af den indsats, der er iværksat (årsags-virkningssammenhængen). Ved<br />
effekt forstås den virkning på kort eller langt sigt, der opnås efter gennemførelsen af en<br />
indsats.<br />
Undersøgelser af <strong>om</strong>kostningseffektiviteten vurderer forholdet mellem indsatsens<br />
samlede <strong>om</strong>kostninger og den effekt, indsatsen har medført.<br />
<strong>Vejledning</strong>en tager udgangspunkt i ovenstående tredeling. Sondringen mellem de 3 undersøgelsesformer<br />
vil dog i praksis ofte være flydende. Figur 1 illustrerer forholdet mellem indsats,<br />
effekt og de 3 former for <strong>effektivitetsundersøgelser</strong> 2) .<br />
Figur 1. Forholdet mellem indsats, effekt og de 3 former for <strong>effektivitetsundersøgelser</strong><br />
3. Genstanden for en effektivitetsanalyse kan være én, flere eller alle indsatser i en institution.<br />
Begrebet ”indsats” anvendes s<strong>om</strong> fællesbetegnelse for et program, en ordning, en foranstaltning<br />
osv.<br />
4. Det følgende kapitel handler <strong>om</strong> de aktiviteter, s<strong>om</strong> bør foretages i forundersøgelsen til<br />
en effektivitetsundersøgelse.<br />
2) Økon<strong>om</strong>istyrelsen sondrer i deres materiale <strong>om</strong> effektmålinger mellem samfundseffekter og brugerrettede<br />
effekter, da en institution både kan påvirke samfundet s<strong>om</strong> helhed og konkrete borgere/virks<strong>om</strong>heder. I denne<br />
vejledning sondres der ikke mellem de 2 typer af effekter.
4 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />
II. Forundersøgelse<br />
5. Formålet med en forundersøgelse er at afklare, <strong>om</strong> det er relevant, og <strong>om</strong> der er et tilstrækkeligt<br />
grundlag til, at iværksætte en effektivitetsundersøgelse. En effektivitetsundersøgelse<br />
vil ofte være en del af en større undersøgelse, hvor der også gennemføres andre<br />
relevante analyser af det pågældende <strong>om</strong>råde.<br />
6. Da <strong>Rigsrevisionen</strong>s <strong>effektivitetsundersøgelser</strong> så vidt muligt bør tage udgangspunkt i en<br />
vurdering af de analyser, s<strong>om</strong> den reviderede institution selv har foretaget, er første trin i<br />
forundersøgelsen at afklare, hvilke analyser der allerede er foretaget af indsatsen. Hvis den<br />
reviderede institution selv udarbejder relevante <strong>effektivitetsundersøgelser</strong>, bør disse lægges<br />
til grund for revisionen. Undersøgelser af eksisterende analyser betegnes metaundersøgelser,<br />
jf. kap. VI.<br />
7. Hvis den reviderede institution ikke selv udarbejder <strong>effektivitetsundersøgelser</strong>, vil forundersøgelsen<br />
skulle bruges til at afklare, <strong>om</strong> <strong>Rigsrevisionen</strong> skal udarbejde en effektivitetsundersøgelse.<br />
Beslutningen her<strong>om</strong> bør bl.a. bygge på følgende overvejelser:<br />
Er indsatsen moden til en undersøgelse af målopfyldelse, effekt og/eller <strong>om</strong>kostningseffektivitet?<br />
Er antagelserne <strong>om</strong> sammenhængen mellem mål, indsats og effekt tydelige?<br />
Foreligger det fornødne datagrundlag i institutionen, eller kan det tilvejebringes?<br />
8. De følgende kapitler beskriver fremgangsmåden for at gennemføre undersøgelser af målopfyldelse<br />
(kap. III), effekt (kap. IV) og <strong>om</strong>kostningseffektivitet (kap. V). Metaundersøgelser<br />
<strong>om</strong>tales specifikt i kap. VI, men forholder sig til samme elementer, s<strong>om</strong> er beskrevet i de foregående<br />
kapitler.
III. Undersøgelse af målopfyldelse<br />
VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 5<br />
9. I en undersøgelse af målopfyldelse sammenlignes de opstillede mål med de faktisk<br />
realiserede resultater. Undersøgelsen kan <strong>om</strong>fatte mål på alle niveauer, fx inputmål, aktivitetsmål,<br />
resultatmål, effektmål mv. Hvis undersøgelsen tager udgangspunkt i effektmål, vil<br />
undersøgelsen få karakter af en effektundersøgelse, jf. kap. IV.<br />
Vurdering af indsatsens mål<br />
10. Det første trin i en undersøgelse af målopfyldelse er at vurdere de mål, den reviderede<br />
institution har opstillet for indsatsen. Herunder <strong>om</strong> de opstillede mål for indsatsen er <strong>om</strong>fattet<br />
af de overordnede målsætninger, der er på policy-<strong>om</strong>rådet. Der er forskellige tilgange<br />
til at vurdere kvaliteten af de opstillede mål. I det følgende beskrives de krav, s<strong>om</strong> man kan<br />
stille til gode mål, med udgangspunkt i SMART-modellen.<br />
SMART-modellen<br />
11. Ifølge SMART-modellen er et godt mål kendetegnet ved at være:<br />
specifikt (Specific)<br />
målbart (Measurable)<br />
accepteret (Acceptable)<br />
realistisk (Realistic)<br />
tidsbestemt (Timely) 3) .<br />
12. Et mål er specifikt, hvis det er så konkret og detaljeret, at det præcist angiver, hvad der<br />
ønskes opnået med indsatsen. Målet skal helst være formuleret s<strong>om</strong> en positiv angivelse af<br />
den udvikling, s<strong>om</strong> indsatsen skal bidrage til. Målet skal desuden være målbart, hvilket vil<br />
sige, at det så vidt muligt skal kunne nedbrydes i kvantitative succeskriterier.<br />
Hvis et mål ikke er specifikt og målbart, kan det være svært at vurdere, <strong>om</strong> målet er nået, og<br />
dermed afgøre, <strong>om</strong> midlerne bruges i overensstemmelse med bevillingen. S<strong>om</strong> revisor kan<br />
det derfor være nødvendigt ex post at kvantificere målene og opstille succeskriterier, så det<br />
bliver muligt at vurdere, <strong>om</strong> målet er nået. Det er vigtigt at inddrage den reviderede institution<br />
i en sådan proces.<br />
Ifølge SMART-modellen skal et mål også være accepteret og realistisk. Det vil sige, at der<br />
skal være enighed <strong>om</strong> målet blandt de vigtigste aktører, og at det skal være sandsynligt, at<br />
målet kan nås med de resurser, der er til rådighed.<br />
Endelig stiller SMART-modellen krav <strong>om</strong>, at målet er tidsbestemt, så det klart fremgår,<br />
hvornår indsatsen eller dele af indsatsen skal være opfyldt. Hvis målet ikke er tidsbestemte,<br />
kan det være vanskeligt at vurdere udviklingen i målopfyldelsen.<br />
3) Der findes forskellige udlægninger af, hvad bogstaverne SMART står for.
6 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />
CREAM-modellen<br />
13. For at kunne følge op på de opstillede mål, vil det ofte være nødvendigt at udvikle indikatorer,<br />
så man har noget at måle på. CREAM-modellen kan anvendes til at kvalitetssikre,<br />
<strong>om</strong> de valgte indikatorer er gode at styre efter. Ifølge CREAM-modellen er en god indikator<br />
kendetegnet ved at være:<br />
klar (Clear)<br />
relevant (Relevant)<br />
ikke-resursekrævende (Econ<strong>om</strong>ic)<br />
dækkende (Adequate)<br />
målbar (Monitorable).<br />
14. Ifølge CREAM-modellen skal en indikator være klar og relevant, hvilket vil sige, at indikatoren<br />
skal være præcis og entydig i forhold til det fæn<strong>om</strong>en, den måler, og at den skal<br />
være tilstrækkelig i forhold til at kunne belyse de ønskede resultater. Indikatoren skal desuden<br />
være ikke-resursekrævende og dækkende, hvilket vil sige, at udgifterne til indsamling<br />
af data skal stå mål med den viden <strong>om</strong> de ønske resultater, s<strong>om</strong> indikatoren giver, og at<br />
den skal give et tilstrækkeligt grundlag at vurdere resultaterne på. Endelig skal indikatoren<br />
være målbar, hvilket vil sige, at den så vidt muligt skal give en pålidelig og gyldig viden <strong>om</strong><br />
udviklingen i målopfyldelsen.<br />
Øvrige krav til gode mål<br />
15. Ud over de krav, s<strong>om</strong> SMART- og CREAM-modellerne formulerer, er det relevant at<br />
overveje, <strong>om</strong> indsatsens mål er i overensstemmelse med målene for institutionens øvrige<br />
virke. Desuden er det relevant at vurdere alle mål for indsatsen s<strong>om</strong> helhed. Målene skal<br />
helst repræsentere forskellige aspekter af indsatsen. Fx kan der opstilles mål for både produktivitetsudvikling,<br />
effekt, kvalitet og service.
IV. Undersøgelse af effekt<br />
VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 7<br />
16. I det følgende gennemgås <strong>Rigsrevisionen</strong>s model til udarbejdelse af en effektundersøgelse.<br />
Modellen beskriver 6 faser:<br />
1) analyse af mål for indsatsen, jf. kap. III<br />
2) kortlægning af indsatsens programteori 4)<br />
3) udpegning af indikatorer<br />
4) undersøgelsesdesign, identifikation af data og valg af dataindsamlingsmetode<br />
5) dataindsamling<br />
6) analyse.<br />
Fase 2-4 gennemføres s<strong>om</strong> hovedregel i den opstillede rækkefølge, men man kan efterfølgende<br />
vende tilbage hertil, hvis det senere viser sig, at de beslutninger, s<strong>om</strong> er taget tidligt<br />
i undersøgelsesforløbet, må revideres for at give et bedre fundament for den videre undersøgelse.<br />
Fase 1: Analyse af mål for indsatsen<br />
17. I den første fase undersøges målene for indsatsen. Målene vurderes efter samme principper<br />
s<strong>om</strong> i en undersøgelse af målopfyldelse, der er beskrevet i kap. III.<br />
Fase 2: Kortlægning af indsatsens programteori<br />
18. Programteorien for en indsats er den teori eller de forestillinger <strong>om</strong> sammenhæng mellem<br />
indsats og effekt, s<strong>om</strong> ligger til grund for iværksættelsen af en indsats. Programteorien<br />
beskriver, hvordan indsatsen antages at føre til en opnåelse af de opstillede mål og forventede<br />
effekter. I nogle tilfælde fremgår programteorien direkte af lovgivningen eller andet<br />
baggrundsmateriale. I andre tilfælde vil det være nødvendigt, at <strong>Rigsrevisionen</strong> rekonstruerer<br />
programteorien i samarbejde med den reviderede institution. I sådanne situationer er<br />
der flere mulige kilder til programteorien:<br />
lovgivning og andre officielle dokumenter<br />
faglig teori<br />
evalueringer, undersøgelser og rapporter<br />
fagfolks/sagsbehandleres erfaringer<br />
observationer<br />
interviews med brugere.<br />
Uanset hvilken metode der vælges, er det altid vigtigt at inddrage den reviderede institution<br />
i kortlægningen af en programteori.<br />
4) I denne vejledning bruges ”programteori” s<strong>om</strong> betegnelse for den teori eller de forestillinger <strong>om</strong> sammenhæng<br />
mellem indsats og effekt, der ligger til grund for iværksættelsen af en indsats. Andre betegnelser<br />
for ”programteori” er forandringsteori eller interventionslogik.
8 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />
19. Boks 1 viser en oversigt over, hvad en programteori ideelt set indeholder.<br />
BOKS 1. PROGRAMTEORI<br />
Den gode programteori rummer:<br />
en beskrivelse af indsatsen pindet ud i detaljer<br />
en beskrivelse af ønskede og uønskede led i kæden mellem indsats og virkning<br />
en beskrivelse af de forventede resultater<br />
en beskrivelse af mulige utilsigtede virkninger<br />
en beskrivelse af de betingelser, der er afgørende for, at hvert led i kæden fører til det næste<br />
en beskrivelse af mulige eksterne faktorer, der kan påvirke effekten.<br />
20. Når programteorien er kortlagt, skal de dele af programteorien, der skal indgå i den videre<br />
undersøgelse, udvælges. Boks 2 angiver relevante spørgsmål i forbindelse med udvælgelsen<br />
af disse dele af programteorien.<br />
BOKS 2. RELEVANTE SPØRGSMÅL VED UDVÆLGELSEN AF DELE AF PROGRAMTEORIEN<br />
Relevante spørgsmål ved udvælgelsen af dele af programteorien til nærmere undersøgelser:<br />
Hvilke dele af programteorien er kritiske eller afgørende for indsatsen?<br />
Hvor er programteorien ”tyndest” – dvs. hvor er antagelserne s<strong>om</strong> sammenhæng mellem<br />
indsats og virkning mest usikre?<br />
Hvor anvendes der flest resurser?<br />
Hvad er der størst behov for at få viden <strong>om</strong>?<br />
Hvad er der størst politisk interesse for?<br />
Hvad er mest interessant set fra en revisionsmæssig vinkel?<br />
Er programteorien eller dele af programteorien ændret over tid?<br />
Fase 3: Udpegning af indikatorer<br />
21. Når programteorien er opstillet, skal der identificeres målbare indikatorer for de effekter,<br />
s<strong>om</strong> indsatsen stiller i udsigt. Indikatorerne bruges til at vurdere, <strong>om</strong> den ønskede effekt opnås.<br />
I praksis er det ofte ikke muligt at finde en enkelt indikator, der nøjagtigt måler effekten<br />
af indsatsen. Det vil derfor ofte være nødvendigt at arbejde med flere indikatorer, s<strong>om</strong> belyser<br />
forskellige dele af programteorien. Gode indikatorer kan opstilles efter de principper,<br />
s<strong>om</strong> er beskrevet i kap. III.<br />
22. Indikatorerne kan blive påvirket af en række udefrak<strong>om</strong>mende faktorer, fx demografiske<br />
forhold, konjunkturudviklingen eller statistiske problemer. Effekten af den konkrete<br />
indsats bør derfor så vidt muligt isoleres i analysen. Nogle faktorer kan således inddrages<br />
s<strong>om</strong> kontrolvariable i en statistisk analyse, fx hvis det drejer sig <strong>om</strong> demografiske eller socioøkon<strong>om</strong>iske<br />
forhold s<strong>om</strong> aldersfordeling og uddannelsesniveau. Det er dog i praksis<br />
særdeles svært at tage højde for alle de faktorer, der kan påvirke sammenhængen mellem<br />
indsats og effekt. Alternativt kan man derfor beskrive, hvilke faktorer der potentielt kan påvirke<br />
indikatorernes validitet, og inddrage dette i en samlet vurdering af undersøgelsens<br />
pålidelighed.<br />
Fase 4: Undersøgelsesdesign, identifikation af data og valg af dataindsamlingsmetode<br />
23. I denne fase undersøges mulige undersøgelsesdesign, valg af data til belysning af de<br />
udpegede indikatorer og metoder til indsamling af data. Valget af dataindsamlingsmetode<br />
bør vurderes i forhold til <strong>om</strong>kostningerne ved indsamlingen.
VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 9<br />
24. Når der tilrettelægges en undersøgelse af effekt, bør det overvejes, hvilket evidensniveau<br />
det er muligt at opnå med undersøgelsesdesignet i forhold til, hvilke data der er til<br />
rådighed. Placeringen i evidenshierarkiet er udtryk for, hvor sikker viden <strong>om</strong> årsags-virkningssammenhæng<br />
det valgte undersøgelsesdesign vil give. Boks 3 illustrerer evidenshierarkiet<br />
og beskriver, hvilke krav de forskellige undersøgelsesdesign stiller til data.<br />
BOKS 3. EVIDENSHIERARKIET FOR FORSKELLIGE UNDERSØGELSESDESIGN<br />
Niveau Undersøgelsesdesign Krav til data<br />
1 Rand<strong>om</strong>iserede, kontrollerede forsøg,<br />
hvor kontrolgruppen er udvalgt forud for<br />
indsatsen.<br />
2 Kvasieksperimentelle, kontrollerede forsøg<br />
baseret på matchning, hvor kontrolgruppen<br />
kan findes, efter at indsatsen er<br />
gennemført.<br />
Kvantitative data for 2 ens grupper i kontrollerede <strong>om</strong>givelser,<br />
hvor den ene gruppe (indsatsgruppen) modtager indsatsen,<br />
mens den anden gruppe (kontrolgruppen) ikke modtager indsatsen.<br />
Data kan indsamles på forskellige måder, fx register,<br />
målinger, observationer, spørgeskema mv.<br />
Kvantitative data for 2 ensartede grupper, hvor den ene gruppe<br />
får indsatsen, mens den anden er kontrolgruppe. Data kan<br />
indsamles på forskellige måder (register, målinger, observationer,<br />
spørgeskema mv.).<br />
3 Tidsserieundersøgelser Kvantitative data, der følger indsatsgruppen over tid.<br />
4 Paneldataanalyser Kvantitative data for 2 eller flere sammenlignelige undersøgelsesobjekter<br />
over tid.<br />
5 Tværsnitsundersøgelser Kvantitative data for 2 eller flere sammenlignelige undersøgelsesobjekter<br />
på et bestemt tidspunkt.<br />
6 Procesevaluering Kvantitative og/eller kvalitative data for et indsatsforløb. Ideelt<br />
indsamles data realtime, mindre ideelt via historisk analyse.<br />
7 Kvalitative casestudier Kvalitative data – udsagn <strong>om</strong> indsatsens virkning og systematiske<br />
observationer. Designet kan også bruges til at indsamle<br />
kvantitative data (optællinger mv.).<br />
8 Erfaringer og eksempler på god praksis Kvalitative data – udsagn <strong>om</strong>, hvorfor indsatser virker.<br />
9 Ekspertvurderinger Kvalitative data – udsagn <strong>om</strong> indsatsens virkning.<br />
10 Brugerevalueringer Kvantitative og/eller kvalitative data, der beskriver brugernes<br />
oplevelse af indsatsens virkning.<br />
Kilde: Frit efter Olaf Rieper og Hanne Foss Hansen i ”Metodedebatten <strong>om</strong> evidens” (AKF-forlaget 2007).<br />
25. S<strong>om</strong> det fremgår af boks 3, har undersøgelser med sammenligninger mellem 2 grupper<br />
(en undersøgelsesgruppe og en kontrolgruppe) størst evidens. Rand<strong>om</strong>iserede, kontrollerede<br />
forsøg forudsætter imidlertid, at de 2 grupper påvirkes lige meget af eksterne forhold,<br />
hvilket i praksis er svært at gennemføre, mens kvasieksperimentelle, kontrollerede forsøg<br />
forudsætter, at påvirkningen fra indsatsen kan isoleres fra øvrige påvirkninger. Tidsserieundersøgelser,<br />
paneldataanalyser og tværsnitsundersøgelser er baseret på kvantitative data<br />
for en indsatsgruppe og er i praksis lettere at gennemføre end de 2 førnævnte metoder.<br />
Metoderne er uddybet under fase 6. De øvrige metoder, der fremgår af evidenshierarkiets<br />
niveau 6-10, er ofte baseret på både kvantitative og kvalitative data for indsatsen.
10 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />
26. <strong>Rigsrevisionen</strong>s undersøgelser vil ofte være baseret på flere af de nævnte metoder og<br />
være baseret på både kvantitative og kvalitative data, idet det ofte vil være nødvendigt at<br />
kvalificere resultaterne af en kvantitativ undersøgelse gennem fx interviews og ekspertvurderinger.<br />
27. For de kvantitative dele af undersøgelsen er det vigtigt, at <strong>Rigsrevisionen</strong> og den reviderede<br />
er enige <strong>om</strong> pålideligheden, relevansen og validiteten af de anvendte data, så de<br />
pågældende data kan anvendes s<strong>om</strong> grundlag for de videre analyser. Ved identifikation af<br />
data for indikatorerne kan der fx anvendes data fra institutionens egne registreringssystemer<br />
eller fra Danmarks Statistiks forskellige databaser, herunder data fra statistikbanken.<br />
28. Hvis der skal indhentes registerdata, kontaktes de relevante myndigheder med henblik<br />
på at få oplyst leveringstider og priser for afgivelsen af data. <strong>Rigsrevisionen</strong>s egne muligheder<br />
for at analysere data undersøges, og det undersøges, hvilke alternativer der er hertil, fx<br />
at få foretaget analyser hos eksterne udbydere.<br />
29. Hvis der skal foretages interviews, vurderes det, hvor mange og hvilke personer der skal<br />
interviewes, og hvor lang tid der er til rådighed til at gennemføre interviewene. Ved brug af<br />
ekspertpaneler og spørgeskemaundersøgelser undersøges mulighederne og tidsperspektivet<br />
på denne løsning.<br />
Fase 5: Dataindsamling<br />
30. I denne fase er det vigtigt at forholde sig kritisk til de anvendte datas validitet og pålidelighed<br />
og teste datas repræsentativitet. Hvis der fx foretages et udtræk på erhvervsvirks<strong>om</strong>heder<br />
i Danmark, vil det være en god idé at få klarhed over, <strong>om</strong> data fordeler sig nogenlunde<br />
s<strong>om</strong> forventet.<br />
Fase 6: Analyse<br />
31. I denne fase undersøges de enkelte årsags-virkningssammenhænge i forhold til programteorien<br />
ud fra de indhentede data. I de fleste tilfælde vil det være en fordel at inddrage<br />
flere forskellige metoder, så både rent kvantitative målinger foretages, og mere kvalitative<br />
resultater belyses.<br />
32. Valget af den kvantitative metode afhænger af, hvilke data det har været muligt at indsamle,<br />
jf. boks 3. Da det ofte ikke er muligt at foretage rand<strong>om</strong>iserede, kontrollerede eksperimenter<br />
og kvasieksperimentelle undersøgelser, vil undersøgelserne ofte være en<br />
tidsserieundersøgelse, en tværsnitsundersøgelse eller en paneldataanalyse.<br />
33. Tværsnitsundersøgelser giver mulighed for at analysere flere grupper, der påvirkes<br />
forskelligt af et program i en given tidsperiode. Evidensen af resultaterne af en sådan analyse<br />
svækkes af, at analysen alene foretages i én periode. Ved at k<strong>om</strong>binere en tværsnitsundersøgelse<br />
med en tidsserieundersøgelse bliver det muligt at foretage en paneldataanalyse.<br />
Her er det muligt at undersøge, hvordan flere grupper påvirkes af et program over<br />
tid, hvilket styrker analyseresultaternes evidens.<br />
34. Tidsserieundersøgelse, herunder før- og efteranalyser, giver ligeledes mulighed for<br />
evidente resultater, da det er den samme gruppe, der analyseres over tid. Dog er der risiko<br />
for, at gruppen påvirkes forskelligt af eksterne forhold gennem undersøgelsesperioden,<br />
hvilket vil underminere analyseresultaternes pålidelighed.
V. Undersøgelse af <strong>om</strong>kostningseffektivitet<br />
VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 11<br />
35. Formålet med en undersøgelse af <strong>om</strong>kostningseffektivitet kan enten være at vurdere<br />
<strong>om</strong>kostningseffektiviteten (dvs. forholdet mellem de opnåede effekter og de anvendte resurser)<br />
for en enkelt indsats eller at udpege den indsats blandt flere, s<strong>om</strong> levere en indsats af<br />
høj kvalitet til lavest mulige <strong>om</strong>kostninger.<br />
I en undersøgelse af <strong>om</strong>kostningseffektivitet sammenlignes <strong>om</strong>kostningerne ved indsatsen<br />
(opgjort i kroner og ører) med effekten af indsatsen (opgjort i fysiske enheder, fx antal hofteoperationer,<br />
antal personer med en ungd<strong>om</strong>suddannelse osv.). Herunder søges også eventuelle<br />
sideeffekter værdisat. Boks 4 viser de punkter, der bør vurderes forud for en undersøgelse<br />
af <strong>om</strong>kostningseffektivitet.<br />
BOKS 4. VURDERINGER VED UNDERSØGELSE AF OMKOSTNINGSEFFEKTIVITET<br />
Anvendes en kontering for <strong>om</strong>kostninger og indtægter, s<strong>om</strong> gør det muligt at følge de finansielle<br />
transaktioner vedrørende en indsats med det formål at måle <strong>om</strong>kostningseffektiviteten?<br />
Er alle relevante input opgjort og medtaget i undersøgelsen?<br />
36. En undersøgelse af <strong>om</strong>kostningseffektivitet kan foretages ved hjælp af 3 analysemetoder:<br />
brøkmetoden, hvor forholdet mellem produktion og resurseanvendelse vurderes<br />
Data Envelopment Analysis (DEA)-metoden, hvor den optimale sammenhæng mellem<br />
produktion og resurseanvendelse findes ved hjælp af lineær programmering<br />
regressionsanalyse, hvor der estimeres en gennemsnitlig sammenhæng mellem produktion<br />
og resurseanvendelse.<br />
37. Både regressionsanalysen og DEA-metoden giver mulighed for at beregne <strong>om</strong>kostningseffektiviteten<br />
ud fra en marginalbetragtning, dvs. hvor meget ændres effekterne, når resurseanvendelsen<br />
ændres. Opgøres resurseanvendelsen s<strong>om</strong> <strong>om</strong>kostninger, bliver det derved<br />
muligt at foretage et skøn over de gennemsnitlige og marginale ”priser” for effekterne.
12 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />
VI. Metaundersøgelse<br />
38. I metaundersøgelsen bedømmes kvaliteten af de analyser, s<strong>om</strong> den reviderede institution<br />
selv har gennemført, og af de eventuelle tiltag, der er taget på baggrund heraf. Inden<br />
udarbejdelsen af en metaundersøgelse er det vigtigt at tage hensyn til institutionens grundlag<br />
for at gennemføre effektivitetsanalyser og eventuelle krav til udformningen af sådanne i<br />
fx lov- eller aftalegrundlag.<br />
Vurderingen af en institutions analyser bør tage udgangspunkt i kravene til <strong>effektivitetsundersøgelser</strong>,<br />
s<strong>om</strong> er beskrevet i de foregående kapitler. Boks 5 viser en oversigt over,<br />
hvilke elementer der kan indgå i vurderingen.<br />
BOKS 5. ELEMENTER I VURDERINGEN AF EN INSTITUTIONS ANALYSER AF EFFEKTIVITET<br />
Er der opstillet effektmål, og er målene målbare?<br />
Er der opstillet en tilfredsstillende programteori?<br />
Er målsætningerne er i overensstemmelse med lov- og aftalegrundlaget?<br />
Er der fulgt op på, <strong>om</strong> målene er nået?<br />
Er der anvendt en tilfredsstillende analysemetode?<br />
Dækker analysen indsatsens væsentligste målsætninger?<br />
39. Derudover kan følgende kriterier vurderes:<br />
undersøgelsens relevans, dvs. <strong>om</strong> undersøgelsen opfylder formålet, og <strong>om</strong> væsentlig<br />
information afdækkes<br />
undersøgelsens faglige kvalitet, dvs. <strong>om</strong> undersøgelsen anvender videnskabeligt etablerede<br />
teoretiske, metodiske og tekniske analysemetoder, og <strong>om</strong> data er valide og relevante<br />
undersøgelsens anvendelighed, dvs. <strong>om</strong> resultaterne af en undersøgelse kan anvendes<br />
i den administrative proces eller til gennemførelse af en politik.