Die Evaluierung durch unabhängige Experten dient einerseits dazu, zu erfahren, ob die umgesetzten Maßnahmen zielführend sind, andererseits liefert sie Erkenntnisse, die dabei helfen, die weitere Arbeit und damit die Wirkung für die Bevölkerung stetig zu verbessern.

Nachdem die Projektarbeit in Ginde Beret Ende 2013 evaluiert wurde, folgte Ende 2014 die Untersuchung der Arbeit in der Nachbarregion Abune Ginde Beret. Beide Regionen werden zur Gänze durch den österreichischen Verein finanziert. Auch in Abune Ginde Beret wurde das Ende der ersten Projektphase zum Anlass genommen, um die umgesetzten Maßnahmen und deren Wirkung zu untersuchen und gleichzeitig die künftig geplanten Maßnahmen anzupassen. Ziel der Evaluierung war es, die Projektarbeit vor dem Hintergrund regionaler Gegebenheiten und internationaler Standards zu analysieren. Diese Analyse orientiert sich dabei an den Kriterien der OECD nach Relevanz, Effektivität, Effizienz und Nachhaltigkeit der Arbeit (siehe Kasten).

Überprüfung nach internationalen Standards

Damit Evaluierungen auch gewissen internationalen Anforderungen entsprechen, ist es wichtig, gewissen Standards zu folgen. Das Development Assistance Committee (DAC; Ausschuss für Entwicklungshilfe) der OECD (Organisation für wirtschaftliche Zusammenarbeit und Entwicklung) hat in diesem Zusammenhang Kriterien erstellt, die bei einer Projektevaluierung zum Tragen kommen. Diese Kriterien sind wie folgt definiert1:

Relevanz

Wird das Richtige getan? Wie groß ist die Relevanz bzw. Bedeutung der Intervention in Bezug auf die lokalen und nationalen Bedürfnisse und Prioritäten vor Ort?

Effektivität

Werden die Ziele der Entwicklungsmaßnahme erreicht? Wie groß ist die Effektivität bzw. der Wirkungsgrad des Vorhabens im Vergleich zu den gesetzten Zielen?

Effizienz

Werden die Ziele durch die Entwicklungsmaßnahme wirtschaftlich erreicht? Wie groß ist die Effizienz bzw. der Nutzungsgrad der eingesetzten Ressourcen?

Wirkung

Trägt die Entwicklungsmaßnahme zur Erreichung übergeordneter entwicklungspolitischer Ziele bei? Was ist der Impact bzw. die Wirkung der Intervention im Verhältnis zur Gesamtsituation der Zielgruppe bzw. der Betroffenen?

Nachhaltigkeit

Sind die positiven Wirkungen von Dauer? Wie ist die Nachhaltigkeit bzw. Dauerhaftigkeit der Intervention und ihrer Auswirkungen zu beurteilen?

1 Quelle: „Leitfaden für Projekt- und Programmevaluierungen“, Austrian Development Agency, 2008

Die Untersuchung und Bewertung der einzelnen Maßnahmen sind außerdem Grundlage für das Aussprechen von Empfehlungen für die weiterführende Projektarbeit. Das macht eine Evaluierung zu einem wichtigen Werkzeug für eine Organisation, da der unabhängige Blick von außen dabei hilft, die Arbeit vor Ort stetig weiterzuentwickeln und gegebenenfalls an sich ändernde Gegebenheiten anzupassen.

Ablauf der Evaluierung

Am Anfang einer Evaluierung steht die Studie aller relevanten Dokumente – in diesem Fall der Bedarfsanalyse, der Projektpläne sowie -berichte. Ausgehend davon wurden zunächst Gespräche mit Projektverantwortlichen der verschiedenen Ebenen geführt: vom Management über Projektleiter bis hin zu Entwicklungsberatern und Sozialarbeitern, die direkt in den Dörfern mit den Menschen arbeiten. Außerdem ist es wichtig, auch andere Parteien, wie Vertreter der örtlichen Behörden, in die Gespräche miteinzubeziehen. Im Mittelpunkt stehen jedoch die sogenannten „Nutznießer“ selbst, also die Frauen, Kinder und Männer der Region, die gemeinsam mit den Mitarbeitern von Menschen für Menschen die eigentlichen Maßnahmen umsetzen und weitertragen.

Mensch und Wirkung im Mittelpunkt

Zu diesem Zweck wird „im Feld“ recherchiert, das heißt: Familien werden zuhause besucht, Quellfassungen oder Schulen besichtigt und Trainings beobachtet. Dabei steht das Gespräch mit den Menschen im Mittelpunkt, um herauszufinden, ob Maßnahmen auch effektiv bei jenen ankommen, denen sie dienen sollten. Teil der Evaluierung ist deshalb auch ein Workshop mit Vertretern aus den Gemeinden, um die Aktivitäten und deren Einfluss auf den Alltag zu eruieren.

Kernstück der Evaluierung sind die vorab festgelegten Indikatoren, anhand derer sich die Wirkung der Maßnahmen ableiten lässt. Dabei orientiert man sich an der Wirkungskette Input-Output-Outcome-Impact (s.a. „Unser Ansatz“), bei der verfolgt wird, welche Mittel eingesetzt werden (Input), welche Leistung diese erbringen (Output), welche direkte Wirkung (Outcome) und welche langfristige Wirkung erzielt werden konnte (Impact).

Ergebnisse der Evaluierung

Sowohl in der direkten als auch der langfristigen Wirkung wurde Menschen für Menschen im Zusammenhang mit der Projektarbeit in Abune Ginde Beret gute Arbeit bescheinigt. Das Ziel „die Lebensbedingungen der Menschen in Abune Ginde Beret“ zu verbessern wurde insofern erreicht, als Maßnahmen im Bereich der Landwirtschaft dazu beitragen, die Ernährung der Menschen zu sichern und das breiter gefächerte Nahrungsmittelangebot (durch die Einführung von neuem Gemüse, Obst und Getreide) außerdem zu einer verbesserten Gesundheit der Menschen beiträgt. In diesem Zusammenhang konnte ein weiterer Fortschritt erreicht werden: dass sauberes Wasser, getrennte Räumlichkeiten für Mensch und Tier und das Anlegen von Latrinen der Gesundheit zuträglich sind, ist der Bevölkerung nun weitgehend bewusst. Gemeinsam mit einer verbesserten Gesundheitsversorgung und Impfkampagnen trägt das zu einer allgemeinen Verbesserung der Gesundheit der Menschen in der Region bei. Dieses Beispiel zeigt, wie komplex eine fundierte Evaluierung ist, da sämtliche Maßnahmen miteinander in Verbindung stehen und sich auf unterschiedliche Bereiche auswirken können.

Empfehlungen der Evaluierung

Die Bemessung und Bewertung der Maßnahmen ist nur ein Ergebnis, das sich Menschen für Menschen von einer Evaluierung erwartet. Ein wichtiger Aspekt ist insbesondere die Weiterentwicklung der Arbeit, die durch den Blick von außen inspiriert wird. Deshalb spricht eine Evaluierung auch immer Empfehlungen aus, wie aus Sicht des Evaluierungsexperten die Projektarbeit theoretisch effizienter, effektiver und wirkungsvoller gestaltet werden kann.

Zwei Empfehlungen, die im Rahmen der Evaluierung in Abune Ginde Beret ausgesprochen wurden und sich bereits in Umsetzung befinden, sind beispielsweise eine wirkungsorientierte Planung, Monitoring und Berichterstattung sowie das Schaffen von Perspektiven auch für die Schwächsten der Gesellschaft ab der zweiten Projektphase. So werden künftig die Auswirkungen unserer Arbeit auf die Lebensbedingungen der Menschen noch strukturierter erhoben. Dazu wird ein wirkungsbezogenes Monitoring-System entwickelt, das messbar macht, welche Veränderung im Leben der Nutznießer durch eine Maßnahme bewirkt wird. Um auch sogenannte Randgruppen in unsere Arbeit zu integrieren, unterstützen wir gegenwärtig beispielsweise landlose, alleinerziehende Frauen bei der Bildung und Umsetzung einer eigenen Kleinkreditgruppe, um auch ihnen die Möglichkeit zu geben, ein Einkommen zu erzielen. Denn gerade Frauen die über kein Land verfügen, können ihre Ernährungssituation auch mit mehr Wissen über Anbaumethoden etc. nicht verbessern. Solche Maßnahmen sind besonders für existenzgefährdete Menschen von großer Bedeutung und werden in Zukunft weiter intensiviert.

„Was die Projekte interessant macht, ist gleichzeitig ihre größte Herausforderung.“

Jochen Currle im Gespräch mit Projektgruppe (Foto)

Die Evaluatoren Chali Guteta und Jochen Currle im Gespräch mit Mitarbeiterinnen von Menschen für Menschen.

Interview mit Jochen Currle, Beratungsorganisation FAKT

Evaluierungen durch unabhängige Experten dienen regelmäßig dazu, unsere Projektmaßnahmen vor Ort insbesondere auf ihre Wirkung für die Bevölkerung zu überprüfen. Als 2014 die erste, dreijährige, Projektphase in Abune Ginde Beret endete, reiste Evaluator Jochen Currle nach Äthiopien, um gemeinsam mit seinem äthiopischen Kollegen Chali Guteta von der Beratungsorganisation FAKT die Projekte vor Ort zu untersuchen. Im Mittelpunkt standen dabei natürlich auch die Ziele, die Menschen für Menschen zu Beginn der Arbeit für die Weiterentwicklung in Abune Ginde Beret festgesetzt hatte.

Herr Currle, wie kann man sich einen typischen Tagesablauf eines Evaluators im Projekt vorstellen?

Üblicherweise ist jeder Tag voll mit Besuchen und Gesprächen in Dörfern oder bei Bauern auf dem Feld. Dazu gehören Gespräche mit einzelnen Personen, wie Bauern, Beratern oder Verwaltungsangestellten, mit Familien und bestimmten Gruppen, wie zum Beispiel den Nutzern einer Quelle, oder Teilen ganzer Siedlungen. Dabei sammle ich Unmengen von Eindrücken und Informationen, die ich in der Regel am Abend strukturiere, um die Wichtigen von den Unwichtigen zu trennen und die Informationen zu bestimmten Hypothesen zu verdichten. Am besten ist es, wenn am Abschluss des Tages ein paar zentrale Erkenntnisse im Heft stehen sowie Fragen, die es in den nächsten Tagen unbedingt noch zu beantworten gilt.

Wie haben Sie persönlich die Arbeit vor Ort empfunden? Gab es in Zusammenarbeit mit dem Team bestimmte Herausforderungen oder Hindernisse?

Nein, das Team war ausgesprochen offen und bereit zum gemeinsamen Nachdenken. Oft ist es ja so, dass man mit dem Projektteam ein Untersuchungsprogramm abgesprochen hat, dann aber auf etwas unverhofft Interessantes stößt. Dann will man das etwas genauer anschauen und schon ist der vorab geplante Ablauf dahin. Dass das Team von Menschen für Menschen selbst solche Umwege geduldig mitging und auch kurzfristig Termine organisierte, war sehr positiv.

Wann ist die Zusammenarbeit mit der Organisation besonders gefragt?

Die Kooperation der Organisation ist während des ganzen Ablaufes einer Evaluierung gefragt. Die beste Voraussetzung ist eine offene und interessierte Haltung der Mitarbeiter sowie der Wunsch zu lernen und die eigene Arbeit verbessern zu wollen. Wichtigstes Kriterium ist dabei die Transparenz und Bereitschaft, Informationen und Kontakte unvoreingenommen und offen zur Verfügung zu stellen. Eine solche Haltung macht eine Evaluierung zu einer spannenden Entdeckungsreise, bei der alle Beteiligten darüber nachdenken, warum Dinge gerade so und nicht anders gelaufen sind, was ein bestimmtes Ergebnis bedeutet und welche Lehren man daraus für die Zukunft des Projektes ziehen kann.

Kann man im Zusammenhang mit einer Evaluierung überhaupt von Ergebnissen sprechen, oder handelt es sich vielmehr um eine Momentaufnahme?

In der Evaluierung versuchen wir, die Ergebnisse und Wirkungen von Projekten zu erfassen und zu bewerten. In der Regel tun wir dies, indem wir bestimmte Werkzeuge und Methoden systematisch anwenden, um damit notwendige Informationen zusammen zu tragen, um etwas über vorab festgelegte Indikatoren aussagen zu können. Diese Aussagen sind dann unsere Ergebnisse. Diese Ergebnisse sind natürlich von verschiedenen Faktoren abhängig: ob wir wirklich relevante Informationen bekommen, ob wir die Informationen überprüfen und vielleicht auch mit anderen diskutieren können und vieles mehr. Das heißt: Ja, eine Evaluierung ist eine Momentaufnahme, da sie in einer begrenzten Zeit durchgeführt wird. Sie ist aber eine Momentaufnahme, deren Aussagen durch möglichst systematisches Vorgehen erklärt und nachvollziehbar gemacht werden.

Bei Evaluierungen geht es zu einem Teil auch darum, den Erfolg eines Projektes zu messen. Doch was bedeutet Erfolg in diesem Zusammenhang überhaupt?

Nicht ganz einfach – denn da sind verschiedene Ebenen und Perspektiven im Spiel. Ganz formal könnte man sagen: Ein Projekt ist erfolgreich, wenn es die OECD/DAC Kriterien (siehe Seite 28) erfüllt, wenn es also die geplanten Ziele mit einem vertretbaren Aufwand erreicht hat. Das kann es in der ländlichen Entwicklung nur dann, wenn diese Ziele für eine möglichst breite Anzahl von Akteuren und Zielgruppen wichtig und stimmig sind und wenn das richtige Vorgehen gewählt wird. Nur wenn das zu guten Teilen zutrifft, werden die Interventionen des Projektes auch langfristig und nachhaltig wirken.

Man könnte aber auch sagen: Ein Projekt der ländlichen Entwicklung ist dann erfolgreich, wenn die beteiligten Menschen bereit und in der Lage sind, einerseits ihr eigenes Leben in die Hand zu nehmen und andererseits ihre selbst gesteckten und geteilten Ziele gemeinsam zu erreichen.

Wie lässt sich dieser Erfolg messbar machen? Gibt es Maßnahmen bei denen diese Messbarkeit leichter fällt als bei anderen?

Alles, was gezählt, gewogen, verglichen werden kann, ist relativ leicht messbar, also z.B. Erträge, Einkommen, Anzahl von Anwendern einer bestimmten Praxis. Allerdings gibt es auch schon da die Schwierigkeit, dass ich für eine Erfolgsmessung wissen sollte, was ich genau darunter verstehen will, welche Erfolgskriterien ich festlegen muss und wie ich sie messen will. Wenn also ein Projektziel wäre, die ökonomische Situation der Bevölkerung zu verbessern, könnte ich den Erfolg beispielsweise dadurch messen, dass ich die Einkommen der Haushalte messe. Ohne jedoch zu wissen, wie diese Einkommen vor dem Projekt waren, kann ich zum so definierten Erfolg nichts sagen.

Schwieriger wird diese Übung natürlich, wenn es um solche Dinge wie „Selbsthilfefähigkeit“ oder „Gleichberechtigung“ geht. Dann muss ich mir im Vorfeld gut überlegen, wie ich diese Fähigkeiten oder Zustände belegen oder messen kann, die Suche nach Indikatoren wird schwieriger.

Wie schwierig ist es darüber hinaus eine direkte Wirkung der Maßnahmen messbar zu machen?

Es kommt darauf an, dass ich mir darüber im Klaren bin, welche Wirkungen ich mit dem Projekt überhaupt anstrebe. In der Projektvorbereitung und -planung richten sich die Maßnahmen daran aus. Außerdem gilt es –möglichst frühzeitig – festzulegen, woran und wie ich messen will, ob diese Wirkungen eintraten, das heißt, ich muss nach geeigneten Messgrößen oder Indikatoren suchen, die etwas über die Wirkung aussagen. Ist es mir also z.B. wichtig, dass der Gesundheitszustand in einer Region sich verbessert, werde ich Indikatoren wie das Durchschnittsalter oder das Auftreten bestimmter, typischer Krankheiten (Durchfall-Erkrankungen, Trachom, Müttersterblichkeit bei Geburt oder im Kindbett) als Indikatoren festlegen. Ist mir wichtig, dass die Ernährungssituation sich verbessert, werde ich z.B. die Veränderung der Essensgewohnheiten verfolgen – was ist im Jahr x bei den meisten Familien auf dem Speiseplan und was ist fünf Jahre später bei den meisten Familien auf dem Speiseplan. Und Sie sehen schon an den Indikatoren, dass die einen recht einfach und die anderen relativ aufwändig zu erheben sind.

Menschen für Menschen setzt in ganzen Regionen ein Bündel an Maßnahmen um – was sind die größten Herausforderungen solcher Projekte?

Was die Projekte von Menschen für Menschen so interessant macht, ist gleichzeitig ihre größte Herausforderung: ihre Komplexität und das Zusammenwirken von verschiedensten Maßnahmen auf ein Ziel zu. Um eine Verbesserung der Gesundheitssituation in einer Region zu erreichen, werden Brunnen gebaut, werden Kurse im Gemüseanbau und Kochkurse abgehalten, werden Gesundheitsposten eingerichtet und Personal trainiert, wird der Bau von Latrinen initiiert und so weiter. Diese Maßnahmen aufeinander abzustimmen, erfordert einen hohen Einsatz an Kommunikation und Zusammenarbeit im Projektteam. Gibt es diesen nicht, laufen Dinge nebeneinander her, ohne sich zu ergänzen, im schlimmsten Falle behindern sie sich sogar. Sind sie aber abgestimmt – und die Projektteams von Menschen für Menschen sind mit hohem Einsatz dabei – sind die Wirkungen zum Teil erstaunlich.

Gab es auch ein Erlebnis das Sie besonders berührt hat?

Besonders berührt hat mich die Vitalität und Energie, die das Projekt vor allem bei Frauen freigesetzt hat. Dies wurde mir besonders beim abschließenden Workshop deutlich, bei dem Delegierte fast aller Kebeles (Gemeinden, Anm.) zusammenkamen, um noch einmal über die Auswirkungen des Projektes zu diskutieren. Die Kraft und die Freude, mit der sich vor allem die Frauen in das Gespräch stürzten, machten deutlich, wie wichtig es ihnen ist, ihre Kinder in die Schule schicken zu können, selbst ihr Leben in die Hand nehmen zu können, das war absolut berührend.

Jochen Currle im Feld (Foto)

Zur Person:

Jochen Currle arbeitet seit 25 Jahren im Bereich der ländlichen Entwicklung und Beratung. In dieser Zeit hat er eine Reihe von Projekten für und mit Menschen im ländlichen Raum entwickelt, geplant und umgesetzt. Auf dem Hintergrund dieser Erfahrung ist er in den letzten Jahren verstärkt in der Projektberatung und der Evaluierung tätig.

www.fakt-consult.de

Ablauf – Ergebnis – Interview

Ein verantwortungsvoller Partner für Abune Ginde Beret

Seit 2012 ist Menschen für Menschen in Abune Ginde Beret aktiv und setzt gemeinsam mit der Bevölkerung Projekte in den Bereichen Landwirtschaft, Wasser, Bildung, Gesundheit und Einkommen um. Mit der RED CHAIRity Intitiative haben wir einen verlässlichen Partner gefunden, durch den die Finanzierung der Projektarbeit seit Beginn erfolgt. Dieses Engagement gewährleistet die Arbeit vor Ort und damit die nachhaltige Entwicklung der Region, die in etwa so groß ist wie halb Vorarlberg. 126.000 Menschen profitieren in Abune Ginde Beret von der „Hilfe zur Selbsthilfe“, die zum Ziel hat die Ernährung auch für nachfolgende Generationen zu sichern und die Region auf Dauer unabhängig von fremder Hilfe zu machen. Dieses Ziel können wir dank der Unterstützung durch Partner wie RED CHAIRity konsequent verfolgen. Wir danken für das Vertrauen in unsere Arbeit und das beispiellose Engagement.

Was in den ersten drei Projektjahren schon erreicht wurde. Ein Auszug:

3.080

Bauern haben an landwirtschaftlichen Schulungen teilgenommen

829 km

an Terrassierungen, Stein- und Erdwällen errichtet

41

Brunnen und Quellfassungen gebaut

140 km

Zufahrtswege geschaffen

8.600

holzsparende Öfen ausgegeben

632

Frauen haben am Kleinkreditprogramm teilgenommen

Durchschnittlich ca.

115.000

Menschen jährlich gegen Trachom behandelt