19.09.2013 Views

Vejledning om effektivitetsundersøgelser - Rigsrevisionen

Vejledning om effektivitetsundersøgelser - Rigsrevisionen

Vejledning om effektivitetsundersøgelser - Rigsrevisionen

SHOW MORE
SHOW LESS

Create successful ePaper yourself

Turn your PDF publications into a flip-book with our unique Google optimized e-Paper software.

<strong>Vejledning</strong> <strong>om</strong><br />

<strong>effektivitetsundersøgelser</strong><br />

Februar<br />

2013<br />

rigsrevisionen<br />

rigsrevisionen


Indholdsfortegnelse<br />

VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 1<br />

I. Indledning .................................................................................................................... 2<br />

II. Forundersøgelse .......................................................................................................... 4<br />

III. Undersøgelse af målopfyldelse .................................................................................... 5<br />

IV. Undersøgelse af effekt ................................................................................................. 7<br />

V. Undersøgelse af <strong>om</strong>kostningseffektivitet ................................................................... 11<br />

VI. Metaundersøgelse ..................................................................................................... 12


2 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />

I. Indledning<br />

1. Denne vejledning giver nogle grundlæggende redskaber til at gennemføre <strong>effektivitetsundersøgelser</strong><br />

i <strong>Rigsrevisionen</strong>. <strong>Vejledning</strong>en indeholder 6 kapitler. Kap. I er en introduktion<br />

til <strong>effektivitetsundersøgelser</strong> i <strong>Rigsrevisionen</strong>. Kap. II beskriver forundersøgelsen til en<br />

effektivitetsundersøgelse. Kap. III handler <strong>om</strong> undersøgelse af målopfyldelse, kap. IV<br />

handler <strong>om</strong> undersøgelse af effekt og <strong>Rigsrevisionen</strong>s model til udarbejdelse af effektundersøgelser,<br />

og kap. V beskriver undersøgelse af <strong>om</strong>kostningseffektivitet. Endelig handler<br />

kap. VI <strong>om</strong> metaundersøgelser.<br />

Hvad er effektivitet og <strong>effektivitetsundersøgelser</strong>?<br />

2. Effektivitetsundersøgelser er sammen med produktivitets- og spars<strong>om</strong>melighedsundersøgelser<br />

grundstenene i forvaltningsrevisionen. Indholdet i en effektivitetsundersøgelse er<br />

beskrevet i INTOSAI’s ”Implementation Guidelines for Performance Auditing”. Her defineres<br />

effektivitet på følgende måde:<br />

Effectiveness is essentially a goal-attainment concept. It is concerned with the relationship<br />

between goals or objectives, outputs and impacts. Are the stipulated aims<br />

being met by the means employed, the outputs produced and the impacts observed?<br />

Are the impacts observed really the result of the policy rather than other circumstances?<br />

(Implementation Guidelines for Performance Auditing, ISSAI 3000, s. 17).<br />

Effektivitetsundersøgelser er således en fællesbetegnelse for undersøgelser af målopfyldelse,<br />

effektundersøgelser og undersøgelser af <strong>om</strong>kostningseffektiviteten. Effektivitetsundersøgelser<br />

kan bidrage med at synliggøre statslige indsatsers målopfyldelse, effekt og <strong>om</strong>kostningseffektivitet<br />

ved at analysere forholdet mellem mål, aktiviteter, resultat og virkning.<br />

Økon<strong>om</strong>istyrelsen har udarbejdet publikationen, ”Ramme for Case-samlingen – inspiration<br />

til effekt”, s<strong>om</strong> er et inspirationsmateriale til offentlige institutioner, der arbejder med at udvikle<br />

og anvende effektmåling i staten 1) .<br />

1) Økon<strong>om</strong>istyrelsen skelner mellem effektundersøgelser og <strong>effektivitetsundersøgelser</strong>. Effekt defineres s<strong>om</strong><br />

at opnå ønskede virkninger på <strong>om</strong>givelserne via en indsats. Effektivitet defineres s<strong>om</strong> at opnå virkninger<br />

med så få resurser s<strong>om</strong> muligt, hvilket i denne vejledning betegnes s<strong>om</strong> <strong>om</strong>kostningseffektivitet.


I <strong>Rigsrevisionen</strong> skelner vi mellem 3 former for <strong>effektivitetsundersøgelser</strong>:<br />

VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 3<br />

Undersøgelser af målopfyldelse sammenligner det faktisk realiserede resultat med<br />

de opstillede mål. Undersøgelsen kan <strong>om</strong>fatte mål på alle niveauer (fx inputmål, aktivitetsmål<br />

og produktivitetsmål). Det skal dog bemærkes, at resultatmål ikke i sig selv angiver<br />

en kausalitet til selve effekten – dette skal undersøges i en effektundersøgelse.<br />

Effektundersøgelser undersøger, <strong>om</strong> den forventede effekt med en indsats er indtruffet,<br />

<strong>om</strong> der er opnået andre virkninger end de tilsigtede, og i hvilket <strong>om</strong>fang resultatet er<br />

en konsekvens af den indsats, der er iværksat (årsags-virkningssammenhængen). Ved<br />

effekt forstås den virkning på kort eller langt sigt, der opnås efter gennemførelsen af en<br />

indsats.<br />

Undersøgelser af <strong>om</strong>kostningseffektiviteten vurderer forholdet mellem indsatsens<br />

samlede <strong>om</strong>kostninger og den effekt, indsatsen har medført.<br />

<strong>Vejledning</strong>en tager udgangspunkt i ovenstående tredeling. Sondringen mellem de 3 undersøgelsesformer<br />

vil dog i praksis ofte være flydende. Figur 1 illustrerer forholdet mellem indsats,<br />

effekt og de 3 former for <strong>effektivitetsundersøgelser</strong> 2) .<br />

Figur 1. Forholdet mellem indsats, effekt og de 3 former for <strong>effektivitetsundersøgelser</strong><br />

3. Genstanden for en effektivitetsanalyse kan være én, flere eller alle indsatser i en institution.<br />

Begrebet ”indsats” anvendes s<strong>om</strong> fællesbetegnelse for et program, en ordning, en foranstaltning<br />

osv.<br />

4. Det følgende kapitel handler <strong>om</strong> de aktiviteter, s<strong>om</strong> bør foretages i forundersøgelsen til<br />

en effektivitetsundersøgelse.<br />

2) Økon<strong>om</strong>istyrelsen sondrer i deres materiale <strong>om</strong> effektmålinger mellem samfundseffekter og brugerrettede<br />

effekter, da en institution både kan påvirke samfundet s<strong>om</strong> helhed og konkrete borgere/virks<strong>om</strong>heder. I denne<br />

vejledning sondres der ikke mellem de 2 typer af effekter.


4 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />

II. Forundersøgelse<br />

5. Formålet med en forundersøgelse er at afklare, <strong>om</strong> det er relevant, og <strong>om</strong> der er et tilstrækkeligt<br />

grundlag til, at iværksætte en effektivitetsundersøgelse. En effektivitetsundersøgelse<br />

vil ofte være en del af en større undersøgelse, hvor der også gennemføres andre<br />

relevante analyser af det pågældende <strong>om</strong>råde.<br />

6. Da <strong>Rigsrevisionen</strong>s <strong>effektivitetsundersøgelser</strong> så vidt muligt bør tage udgangspunkt i en<br />

vurdering af de analyser, s<strong>om</strong> den reviderede institution selv har foretaget, er første trin i<br />

forundersøgelsen at afklare, hvilke analyser der allerede er foretaget af indsatsen. Hvis den<br />

reviderede institution selv udarbejder relevante <strong>effektivitetsundersøgelser</strong>, bør disse lægges<br />

til grund for revisionen. Undersøgelser af eksisterende analyser betegnes metaundersøgelser,<br />

jf. kap. VI.<br />

7. Hvis den reviderede institution ikke selv udarbejder <strong>effektivitetsundersøgelser</strong>, vil forundersøgelsen<br />

skulle bruges til at afklare, <strong>om</strong> <strong>Rigsrevisionen</strong> skal udarbejde en effektivitetsundersøgelse.<br />

Beslutningen her<strong>om</strong> bør bl.a. bygge på følgende overvejelser:<br />

Er indsatsen moden til en undersøgelse af målopfyldelse, effekt og/eller <strong>om</strong>kostningseffektivitet?<br />

Er antagelserne <strong>om</strong> sammenhængen mellem mål, indsats og effekt tydelige?<br />

Foreligger det fornødne datagrundlag i institutionen, eller kan det tilvejebringes?<br />

8. De følgende kapitler beskriver fremgangsmåden for at gennemføre undersøgelser af målopfyldelse<br />

(kap. III), effekt (kap. IV) og <strong>om</strong>kostningseffektivitet (kap. V). Metaundersøgelser<br />

<strong>om</strong>tales specifikt i kap. VI, men forholder sig til samme elementer, s<strong>om</strong> er beskrevet i de foregående<br />

kapitler.


III. Undersøgelse af målopfyldelse<br />

VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 5<br />

9. I en undersøgelse af målopfyldelse sammenlignes de opstillede mål med de faktisk<br />

realiserede resultater. Undersøgelsen kan <strong>om</strong>fatte mål på alle niveauer, fx inputmål, aktivitetsmål,<br />

resultatmål, effektmål mv. Hvis undersøgelsen tager udgangspunkt i effektmål, vil<br />

undersøgelsen få karakter af en effektundersøgelse, jf. kap. IV.<br />

Vurdering af indsatsens mål<br />

10. Det første trin i en undersøgelse af målopfyldelse er at vurdere de mål, den reviderede<br />

institution har opstillet for indsatsen. Herunder <strong>om</strong> de opstillede mål for indsatsen er <strong>om</strong>fattet<br />

af de overordnede målsætninger, der er på policy-<strong>om</strong>rådet. Der er forskellige tilgange<br />

til at vurdere kvaliteten af de opstillede mål. I det følgende beskrives de krav, s<strong>om</strong> man kan<br />

stille til gode mål, med udgangspunkt i SMART-modellen.<br />

SMART-modellen<br />

11. Ifølge SMART-modellen er et godt mål kendetegnet ved at være:<br />

specifikt (Specific)<br />

målbart (Measurable)<br />

accepteret (Acceptable)<br />

realistisk (Realistic)<br />

tidsbestemt (Timely) 3) .<br />

12. Et mål er specifikt, hvis det er så konkret og detaljeret, at det præcist angiver, hvad der<br />

ønskes opnået med indsatsen. Målet skal helst være formuleret s<strong>om</strong> en positiv angivelse af<br />

den udvikling, s<strong>om</strong> indsatsen skal bidrage til. Målet skal desuden være målbart, hvilket vil<br />

sige, at det så vidt muligt skal kunne nedbrydes i kvantitative succeskriterier.<br />

Hvis et mål ikke er specifikt og målbart, kan det være svært at vurdere, <strong>om</strong> målet er nået, og<br />

dermed afgøre, <strong>om</strong> midlerne bruges i overensstemmelse med bevillingen. S<strong>om</strong> revisor kan<br />

det derfor være nødvendigt ex post at kvantificere målene og opstille succeskriterier, så det<br />

bliver muligt at vurdere, <strong>om</strong> målet er nået. Det er vigtigt at inddrage den reviderede institution<br />

i en sådan proces.<br />

Ifølge SMART-modellen skal et mål også være accepteret og realistisk. Det vil sige, at der<br />

skal være enighed <strong>om</strong> målet blandt de vigtigste aktører, og at det skal være sandsynligt, at<br />

målet kan nås med de resurser, der er til rådighed.<br />

Endelig stiller SMART-modellen krav <strong>om</strong>, at målet er tidsbestemt, så det klart fremgår,<br />

hvornår indsatsen eller dele af indsatsen skal være opfyldt. Hvis målet ikke er tidsbestemte,<br />

kan det være vanskeligt at vurdere udviklingen i målopfyldelsen.<br />

3) Der findes forskellige udlægninger af, hvad bogstaverne SMART står for.


6 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />

CREAM-modellen<br />

13. For at kunne følge op på de opstillede mål, vil det ofte være nødvendigt at udvikle indikatorer,<br />

så man har noget at måle på. CREAM-modellen kan anvendes til at kvalitetssikre,<br />

<strong>om</strong> de valgte indikatorer er gode at styre efter. Ifølge CREAM-modellen er en god indikator<br />

kendetegnet ved at være:<br />

klar (Clear)<br />

relevant (Relevant)<br />

ikke-resursekrævende (Econ<strong>om</strong>ic)<br />

dækkende (Adequate)<br />

målbar (Monitorable).<br />

14. Ifølge CREAM-modellen skal en indikator være klar og relevant, hvilket vil sige, at indikatoren<br />

skal være præcis og entydig i forhold til det fæn<strong>om</strong>en, den måler, og at den skal<br />

være tilstrækkelig i forhold til at kunne belyse de ønskede resultater. Indikatoren skal desuden<br />

være ikke-resursekrævende og dækkende, hvilket vil sige, at udgifterne til indsamling<br />

af data skal stå mål med den viden <strong>om</strong> de ønske resultater, s<strong>om</strong> indikatoren giver, og at<br />

den skal give et tilstrækkeligt grundlag at vurdere resultaterne på. Endelig skal indikatoren<br />

være målbar, hvilket vil sige, at den så vidt muligt skal give en pålidelig og gyldig viden <strong>om</strong><br />

udviklingen i målopfyldelsen.<br />

Øvrige krav til gode mål<br />

15. Ud over de krav, s<strong>om</strong> SMART- og CREAM-modellerne formulerer, er det relevant at<br />

overveje, <strong>om</strong> indsatsens mål er i overensstemmelse med målene for institutionens øvrige<br />

virke. Desuden er det relevant at vurdere alle mål for indsatsen s<strong>om</strong> helhed. Målene skal<br />

helst repræsentere forskellige aspekter af indsatsen. Fx kan der opstilles mål for både produktivitetsudvikling,<br />

effekt, kvalitet og service.


IV. Undersøgelse af effekt<br />

VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 7<br />

16. I det følgende gennemgås <strong>Rigsrevisionen</strong>s model til udarbejdelse af en effektundersøgelse.<br />

Modellen beskriver 6 faser:<br />

1) analyse af mål for indsatsen, jf. kap. III<br />

2) kortlægning af indsatsens programteori 4)<br />

3) udpegning af indikatorer<br />

4) undersøgelsesdesign, identifikation af data og valg af dataindsamlingsmetode<br />

5) dataindsamling<br />

6) analyse.<br />

Fase 2-4 gennemføres s<strong>om</strong> hovedregel i den opstillede rækkefølge, men man kan efterfølgende<br />

vende tilbage hertil, hvis det senere viser sig, at de beslutninger, s<strong>om</strong> er taget tidligt<br />

i undersøgelsesforløbet, må revideres for at give et bedre fundament for den videre undersøgelse.<br />

Fase 1: Analyse af mål for indsatsen<br />

17. I den første fase undersøges målene for indsatsen. Målene vurderes efter samme principper<br />

s<strong>om</strong> i en undersøgelse af målopfyldelse, der er beskrevet i kap. III.<br />

Fase 2: Kortlægning af indsatsens programteori<br />

18. Programteorien for en indsats er den teori eller de forestillinger <strong>om</strong> sammenhæng mellem<br />

indsats og effekt, s<strong>om</strong> ligger til grund for iværksættelsen af en indsats. Programteorien<br />

beskriver, hvordan indsatsen antages at føre til en opnåelse af de opstillede mål og forventede<br />

effekter. I nogle tilfælde fremgår programteorien direkte af lovgivningen eller andet<br />

baggrundsmateriale. I andre tilfælde vil det være nødvendigt, at <strong>Rigsrevisionen</strong> rekonstruerer<br />

programteorien i samarbejde med den reviderede institution. I sådanne situationer er<br />

der flere mulige kilder til programteorien:<br />

lovgivning og andre officielle dokumenter<br />

faglig teori<br />

evalueringer, undersøgelser og rapporter<br />

fagfolks/sagsbehandleres erfaringer<br />

observationer<br />

interviews med brugere.<br />

Uanset hvilken metode der vælges, er det altid vigtigt at inddrage den reviderede institution<br />

i kortlægningen af en programteori.<br />

4) I denne vejledning bruges ”programteori” s<strong>om</strong> betegnelse for den teori eller de forestillinger <strong>om</strong> sammenhæng<br />

mellem indsats og effekt, der ligger til grund for iværksættelsen af en indsats. Andre betegnelser<br />

for ”programteori” er forandringsteori eller interventionslogik.


8 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />

19. Boks 1 viser en oversigt over, hvad en programteori ideelt set indeholder.<br />

BOKS 1. PROGRAMTEORI<br />

Den gode programteori rummer:<br />

en beskrivelse af indsatsen pindet ud i detaljer<br />

en beskrivelse af ønskede og uønskede led i kæden mellem indsats og virkning<br />

en beskrivelse af de forventede resultater<br />

en beskrivelse af mulige utilsigtede virkninger<br />

en beskrivelse af de betingelser, der er afgørende for, at hvert led i kæden fører til det næste<br />

en beskrivelse af mulige eksterne faktorer, der kan påvirke effekten.<br />

20. Når programteorien er kortlagt, skal de dele af programteorien, der skal indgå i den videre<br />

undersøgelse, udvælges. Boks 2 angiver relevante spørgsmål i forbindelse med udvælgelsen<br />

af disse dele af programteorien.<br />

BOKS 2. RELEVANTE SPØRGSMÅL VED UDVÆLGELSEN AF DELE AF PROGRAMTEORIEN<br />

Relevante spørgsmål ved udvælgelsen af dele af programteorien til nærmere undersøgelser:<br />

Hvilke dele af programteorien er kritiske eller afgørende for indsatsen?<br />

Hvor er programteorien ”tyndest” – dvs. hvor er antagelserne s<strong>om</strong> sammenhæng mellem<br />

indsats og virkning mest usikre?<br />

Hvor anvendes der flest resurser?<br />

Hvad er der størst behov for at få viden <strong>om</strong>?<br />

Hvad er der størst politisk interesse for?<br />

Hvad er mest interessant set fra en revisionsmæssig vinkel?<br />

Er programteorien eller dele af programteorien ændret over tid?<br />

Fase 3: Udpegning af indikatorer<br />

21. Når programteorien er opstillet, skal der identificeres målbare indikatorer for de effekter,<br />

s<strong>om</strong> indsatsen stiller i udsigt. Indikatorerne bruges til at vurdere, <strong>om</strong> den ønskede effekt opnås.<br />

I praksis er det ofte ikke muligt at finde en enkelt indikator, der nøjagtigt måler effekten<br />

af indsatsen. Det vil derfor ofte være nødvendigt at arbejde med flere indikatorer, s<strong>om</strong> belyser<br />

forskellige dele af programteorien. Gode indikatorer kan opstilles efter de principper,<br />

s<strong>om</strong> er beskrevet i kap. III.<br />

22. Indikatorerne kan blive påvirket af en række udefrak<strong>om</strong>mende faktorer, fx demografiske<br />

forhold, konjunkturudviklingen eller statistiske problemer. Effekten af den konkrete<br />

indsats bør derfor så vidt muligt isoleres i analysen. Nogle faktorer kan således inddrages<br />

s<strong>om</strong> kontrolvariable i en statistisk analyse, fx hvis det drejer sig <strong>om</strong> demografiske eller socioøkon<strong>om</strong>iske<br />

forhold s<strong>om</strong> aldersfordeling og uddannelsesniveau. Det er dog i praksis<br />

særdeles svært at tage højde for alle de faktorer, der kan påvirke sammenhængen mellem<br />

indsats og effekt. Alternativt kan man derfor beskrive, hvilke faktorer der potentielt kan påvirke<br />

indikatorernes validitet, og inddrage dette i en samlet vurdering af undersøgelsens<br />

pålidelighed.<br />

Fase 4: Undersøgelsesdesign, identifikation af data og valg af dataindsamlingsmetode<br />

23. I denne fase undersøges mulige undersøgelsesdesign, valg af data til belysning af de<br />

udpegede indikatorer og metoder til indsamling af data. Valget af dataindsamlingsmetode<br />

bør vurderes i forhold til <strong>om</strong>kostningerne ved indsamlingen.


VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 9<br />

24. Når der tilrettelægges en undersøgelse af effekt, bør det overvejes, hvilket evidensniveau<br />

det er muligt at opnå med undersøgelsesdesignet i forhold til, hvilke data der er til<br />

rådighed. Placeringen i evidenshierarkiet er udtryk for, hvor sikker viden <strong>om</strong> årsags-virkningssammenhæng<br />

det valgte undersøgelsesdesign vil give. Boks 3 illustrerer evidenshierarkiet<br />

og beskriver, hvilke krav de forskellige undersøgelsesdesign stiller til data.<br />

BOKS 3. EVIDENSHIERARKIET FOR FORSKELLIGE UNDERSØGELSESDESIGN<br />

Niveau Undersøgelsesdesign Krav til data<br />

1 Rand<strong>om</strong>iserede, kontrollerede forsøg,<br />

hvor kontrolgruppen er udvalgt forud for<br />

indsatsen.<br />

2 Kvasieksperimentelle, kontrollerede forsøg<br />

baseret på matchning, hvor kontrolgruppen<br />

kan findes, efter at indsatsen er<br />

gennemført.<br />

Kvantitative data for 2 ens grupper i kontrollerede <strong>om</strong>givelser,<br />

hvor den ene gruppe (indsatsgruppen) modtager indsatsen,<br />

mens den anden gruppe (kontrolgruppen) ikke modtager indsatsen.<br />

Data kan indsamles på forskellige måder, fx register,<br />

målinger, observationer, spørgeskema mv.<br />

Kvantitative data for 2 ensartede grupper, hvor den ene gruppe<br />

får indsatsen, mens den anden er kontrolgruppe. Data kan<br />

indsamles på forskellige måder (register, målinger, observationer,<br />

spørgeskema mv.).<br />

3 Tidsserieundersøgelser Kvantitative data, der følger indsatsgruppen over tid.<br />

4 Paneldataanalyser Kvantitative data for 2 eller flere sammenlignelige undersøgelsesobjekter<br />

over tid.<br />

5 Tværsnitsundersøgelser Kvantitative data for 2 eller flere sammenlignelige undersøgelsesobjekter<br />

på et bestemt tidspunkt.<br />

6 Procesevaluering Kvantitative og/eller kvalitative data for et indsatsforløb. Ideelt<br />

indsamles data realtime, mindre ideelt via historisk analyse.<br />

7 Kvalitative casestudier Kvalitative data – udsagn <strong>om</strong> indsatsens virkning og systematiske<br />

observationer. Designet kan også bruges til at indsamle<br />

kvantitative data (optællinger mv.).<br />

8 Erfaringer og eksempler på god praksis Kvalitative data – udsagn <strong>om</strong>, hvorfor indsatser virker.<br />

9 Ekspertvurderinger Kvalitative data – udsagn <strong>om</strong> indsatsens virkning.<br />

10 Brugerevalueringer Kvantitative og/eller kvalitative data, der beskriver brugernes<br />

oplevelse af indsatsens virkning.<br />

Kilde: Frit efter Olaf Rieper og Hanne Foss Hansen i ”Metodedebatten <strong>om</strong> evidens” (AKF-forlaget 2007).<br />

25. S<strong>om</strong> det fremgår af boks 3, har undersøgelser med sammenligninger mellem 2 grupper<br />

(en undersøgelsesgruppe og en kontrolgruppe) størst evidens. Rand<strong>om</strong>iserede, kontrollerede<br />

forsøg forudsætter imidlertid, at de 2 grupper påvirkes lige meget af eksterne forhold,<br />

hvilket i praksis er svært at gennemføre, mens kvasieksperimentelle, kontrollerede forsøg<br />

forudsætter, at påvirkningen fra indsatsen kan isoleres fra øvrige påvirkninger. Tidsserieundersøgelser,<br />

paneldataanalyser og tværsnitsundersøgelser er baseret på kvantitative data<br />

for en indsatsgruppe og er i praksis lettere at gennemføre end de 2 førnævnte metoder.<br />

Metoderne er uddybet under fase 6. De øvrige metoder, der fremgår af evidenshierarkiets<br />

niveau 6-10, er ofte baseret på både kvantitative og kvalitative data for indsatsen.


10 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />

26. <strong>Rigsrevisionen</strong>s undersøgelser vil ofte være baseret på flere af de nævnte metoder og<br />

være baseret på både kvantitative og kvalitative data, idet det ofte vil være nødvendigt at<br />

kvalificere resultaterne af en kvantitativ undersøgelse gennem fx interviews og ekspertvurderinger.<br />

27. For de kvantitative dele af undersøgelsen er det vigtigt, at <strong>Rigsrevisionen</strong> og den reviderede<br />

er enige <strong>om</strong> pålideligheden, relevansen og validiteten af de anvendte data, så de<br />

pågældende data kan anvendes s<strong>om</strong> grundlag for de videre analyser. Ved identifikation af<br />

data for indikatorerne kan der fx anvendes data fra institutionens egne registreringssystemer<br />

eller fra Danmarks Statistiks forskellige databaser, herunder data fra statistikbanken.<br />

28. Hvis der skal indhentes registerdata, kontaktes de relevante myndigheder med henblik<br />

på at få oplyst leveringstider og priser for afgivelsen af data. <strong>Rigsrevisionen</strong>s egne muligheder<br />

for at analysere data undersøges, og det undersøges, hvilke alternativer der er hertil, fx<br />

at få foretaget analyser hos eksterne udbydere.<br />

29. Hvis der skal foretages interviews, vurderes det, hvor mange og hvilke personer der skal<br />

interviewes, og hvor lang tid der er til rådighed til at gennemføre interviewene. Ved brug af<br />

ekspertpaneler og spørgeskemaundersøgelser undersøges mulighederne og tidsperspektivet<br />

på denne løsning.<br />

Fase 5: Dataindsamling<br />

30. I denne fase er det vigtigt at forholde sig kritisk til de anvendte datas validitet og pålidelighed<br />

og teste datas repræsentativitet. Hvis der fx foretages et udtræk på erhvervsvirks<strong>om</strong>heder<br />

i Danmark, vil det være en god idé at få klarhed over, <strong>om</strong> data fordeler sig nogenlunde<br />

s<strong>om</strong> forventet.<br />

Fase 6: Analyse<br />

31. I denne fase undersøges de enkelte årsags-virkningssammenhænge i forhold til programteorien<br />

ud fra de indhentede data. I de fleste tilfælde vil det være en fordel at inddrage<br />

flere forskellige metoder, så både rent kvantitative målinger foretages, og mere kvalitative<br />

resultater belyses.<br />

32. Valget af den kvantitative metode afhænger af, hvilke data det har været muligt at indsamle,<br />

jf. boks 3. Da det ofte ikke er muligt at foretage rand<strong>om</strong>iserede, kontrollerede eksperimenter<br />

og kvasieksperimentelle undersøgelser, vil undersøgelserne ofte være en<br />

tidsserieundersøgelse, en tværsnitsundersøgelse eller en paneldataanalyse.<br />

33. Tværsnitsundersøgelser giver mulighed for at analysere flere grupper, der påvirkes<br />

forskelligt af et program i en given tidsperiode. Evidensen af resultaterne af en sådan analyse<br />

svækkes af, at analysen alene foretages i én periode. Ved at k<strong>om</strong>binere en tværsnitsundersøgelse<br />

med en tidsserieundersøgelse bliver det muligt at foretage en paneldataanalyse.<br />

Her er det muligt at undersøge, hvordan flere grupper påvirkes af et program over<br />

tid, hvilket styrker analyseresultaternes evidens.<br />

34. Tidsserieundersøgelse, herunder før- og efteranalyser, giver ligeledes mulighed for<br />

evidente resultater, da det er den samme gruppe, der analyseres over tid. Dog er der risiko<br />

for, at gruppen påvirkes forskelligt af eksterne forhold gennem undersøgelsesperioden,<br />

hvilket vil underminere analyseresultaternes pålidelighed.


V. Undersøgelse af <strong>om</strong>kostningseffektivitet<br />

VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER 11<br />

35. Formålet med en undersøgelse af <strong>om</strong>kostningseffektivitet kan enten være at vurdere<br />

<strong>om</strong>kostningseffektiviteten (dvs. forholdet mellem de opnåede effekter og de anvendte resurser)<br />

for en enkelt indsats eller at udpege den indsats blandt flere, s<strong>om</strong> levere en indsats af<br />

høj kvalitet til lavest mulige <strong>om</strong>kostninger.<br />

I en undersøgelse af <strong>om</strong>kostningseffektivitet sammenlignes <strong>om</strong>kostningerne ved indsatsen<br />

(opgjort i kroner og ører) med effekten af indsatsen (opgjort i fysiske enheder, fx antal hofteoperationer,<br />

antal personer med en ungd<strong>om</strong>suddannelse osv.). Herunder søges også eventuelle<br />

sideeffekter værdisat. Boks 4 viser de punkter, der bør vurderes forud for en undersøgelse<br />

af <strong>om</strong>kostningseffektivitet.<br />

BOKS 4. VURDERINGER VED UNDERSØGELSE AF OMKOSTNINGSEFFEKTIVITET<br />

Anvendes en kontering for <strong>om</strong>kostninger og indtægter, s<strong>om</strong> gør det muligt at følge de finansielle<br />

transaktioner vedrørende en indsats med det formål at måle <strong>om</strong>kostningseffektiviteten?<br />

Er alle relevante input opgjort og medtaget i undersøgelsen?<br />

36. En undersøgelse af <strong>om</strong>kostningseffektivitet kan foretages ved hjælp af 3 analysemetoder:<br />

brøkmetoden, hvor forholdet mellem produktion og resurseanvendelse vurderes<br />

Data Envelopment Analysis (DEA)-metoden, hvor den optimale sammenhæng mellem<br />

produktion og resurseanvendelse findes ved hjælp af lineær programmering<br />

regressionsanalyse, hvor der estimeres en gennemsnitlig sammenhæng mellem produktion<br />

og resurseanvendelse.<br />

37. Både regressionsanalysen og DEA-metoden giver mulighed for at beregne <strong>om</strong>kostningseffektiviteten<br />

ud fra en marginalbetragtning, dvs. hvor meget ændres effekterne, når resurseanvendelsen<br />

ændres. Opgøres resurseanvendelsen s<strong>om</strong> <strong>om</strong>kostninger, bliver det derved<br />

muligt at foretage et skøn over de gennemsnitlige og marginale ”priser” for effekterne.


12 VEJLEDNING OM EFFEKTIVITETSUNDERSØGELSER<br />

VI. Metaundersøgelse<br />

38. I metaundersøgelsen bedømmes kvaliteten af de analyser, s<strong>om</strong> den reviderede institution<br />

selv har gennemført, og af de eventuelle tiltag, der er taget på baggrund heraf. Inden<br />

udarbejdelsen af en metaundersøgelse er det vigtigt at tage hensyn til institutionens grundlag<br />

for at gennemføre effektivitetsanalyser og eventuelle krav til udformningen af sådanne i<br />

fx lov- eller aftalegrundlag.<br />

Vurderingen af en institutions analyser bør tage udgangspunkt i kravene til <strong>effektivitetsundersøgelser</strong>,<br />

s<strong>om</strong> er beskrevet i de foregående kapitler. Boks 5 viser en oversigt over,<br />

hvilke elementer der kan indgå i vurderingen.<br />

BOKS 5. ELEMENTER I VURDERINGEN AF EN INSTITUTIONS ANALYSER AF EFFEKTIVITET<br />

Er der opstillet effektmål, og er målene målbare?<br />

Er der opstillet en tilfredsstillende programteori?<br />

Er målsætningerne er i overensstemmelse med lov- og aftalegrundlaget?<br />

Er der fulgt op på, <strong>om</strong> målene er nået?<br />

Er der anvendt en tilfredsstillende analysemetode?<br />

Dækker analysen indsatsens væsentligste målsætninger?<br />

39. Derudover kan følgende kriterier vurderes:<br />

undersøgelsens relevans, dvs. <strong>om</strong> undersøgelsen opfylder formålet, og <strong>om</strong> væsentlig<br />

information afdækkes<br />

undersøgelsens faglige kvalitet, dvs. <strong>om</strong> undersøgelsen anvender videnskabeligt etablerede<br />

teoretiske, metodiske og tekniske analysemetoder, og <strong>om</strong> data er valide og relevante<br />

undersøgelsens anvendelighed, dvs. <strong>om</strong> resultaterne af en undersøgelse kan anvendes<br />

i den administrative proces eller til gennemførelse af en politik.

Hooray! Your file is uploaded and ready to be published.

Saved successfully!

Ooh no, something went wrong!