blog.berndweiss.net

Unter anderem mit diesen Themen: Quantitative Soziologie, Statistik, R & LaTeX

Evaluationergebnisse meiner Lehrveranstaltungen im WS08/09 und SS09

with 6 comments

Bild005

Blogs von Wissenschaftlern können unter anderem den Zweck verfolgen, etwas mehr Transparenz in das Wissenschaftsgeschäft im Allgemeinen und das universitäre Leben im Besonderen zu bringen. Dazu gehört auch die Lehre und eine sehr kurze Recherche zeigt, dass sich noch nicht besonders viele Lehrende in den Wissenschaften kritisch mit ihrer eigenen Lehre auseinander gesetzt haben — sollte ich falsch liegen, so wäre ich natürlich über entsprechende Hinweise mehr als erfreut. Beginnen möchte ich an dieser Stelle mit dem öffentlichen Wissenschaftler per se, nämlich Christian Spannagel. Als öffentlicher Wissenschaftler reflektiert er (natürlich…) über das Aktive[..] Plenum: Feedback der Studierenden (hier Teil II). Vor kurzem (vorgestern) bin ich dann wieder auf orderfromnoise Aufmerksam geworden, wo sich Jan-Hendrik Passoth fragt, “Was tun mit Evaluationen?“. Dass Lehrevaluationen allein noch nicht für bessere Studienbedingungen sorgen, wird auf dem Academics.Blog unter der Überschrift “Macht der Blick in den Spiegel wirklich schöner?” thematisiert. Kritische Gedanken zu “Die Schwierigkeit der Lehrevaluation” finden sich auch bei Gabi Reinmann. Mir geht es in diesem Beitrag aber gar nicht darum, Lehrevaluationen zu hinterfragen. Ich setzte (zumindest teilweise) ihre Sinnhaftigkeit voraus und möchte im Folgenden über die Evaluation meiner eigenen Veranstaltungen reflektieren und, in gewisser Weise, Studierenden eine Entscheidungsgrundlage bieten, sich möglicherweise für eine meiner Veranstaltungen zu entscheiden.

Im Wintersemester 2008/2009 sowie im Sommersemester 2009 wurden (erstmalig) zwei Lehrveranstaltungen von mir evaluiert. Die Entscheidung für (oder gegen) eine Lehrveranstaltung, basiert im wesentlichen auf zwei Momenten: das Veranstaltungsthema und den Dozenten. Ob einem das Veranstaltungsthema liegt, sagt meist bereits ein Blick in die Studienordnung (“Du musst, weil…”) oder den Ausschreibungstext im kommentierten Vorlesungsverzeichnis (“Klingt interessant…”). Bleibt der Dozent: Wie viel Zeit investiert er in die Lehre? Wie geht er mit Fragen der Studierenden um? Wie hoch ist der Zeitaufwand zur Vor- oder Nachbereitung der Sitzungen? etc. Da auch Studierende nicht dazu neigen, die Katze im Sack zu kaufen, versuchen Sie ggf. Informationen über den Dozenten und seine Lehrveranstaltungen einzuholen (ich habe das zumindest so gemacht). Eine Möglichkeit wäre, die Kommilitoninnen und Kommilitonen zu befragen. Das kann mühsam werden, einfacher wäre es doch, wenn man Zugriff auf die Ergebnisse von Lehrevaluationen hat. Wenn dann noch der Dozent gewillt ist, über diese Befunde zu reflektieren und ggf. Besserung zu gelobt, dann sollte einer (hoffentlich) gelungen Dozentenwahl eigentlich nichts mehr im Wege stehen, oder?

Was enthält der Evaluationsbericht und wie liest man ihn?

Die im Folgenden vorzustellenden Evaluationsergebnisse enthalten drei Bereiche, nämlich “Inhalt und Präsentation”, “Studierverhalten” und die “Dialogorientierung der Lehrperson”. Die zweite Kategorie “Studierverhalten” ist eine Selbstauskunft der Studierenden über ihren eigenen Arbeitsaufwand. Neben der eigentlichen Bewertung in Form einer Schulnote enthält der Bericht immer auch eine relative Positionierung im Vergleich mit “einer Referenzgruppe, die aus sämtlichen Veranstaltungen [...] in den letzten drei Semestern besteht”  (die mit “Gesamtvergleich” überschriebenen bunten Balken). Unglücklicherweise neigen Befragte bei Bewertungen dazu, häufig alles sehr positiv zu sehen. Dieses Verhalten führt dazu, dass der absolute Notenwert nur noch wenig aussagt (alle werden positiv bewertet) und die relative Position häufig aussagekräftiger ist. Im vorliegenden Fall beschreibt für jede Kategorie ein “x”, wo meine Veranstaltung im Gesamtvergleich anzusiedeln ist. Vom WiSo-Evaluationszentrum haben wir eine kleine Interpretationshilfe erhalten, dort heißt es:

Daneben finden Sie in der Rubrik Gesamtvergleich zu jeder Aussage einen Balken. Dieser bezieht sich auf die Häufigkeitsverteilung der durchschnittlichen Studierendenurteile in einer Referenzgruppe, die aus sämtlichen Veranstaltungen Ihres Veranstaltungstyps in den letzten drei Semestern besteht. Diese Balken sind in drei Teilbereiche unterteilt, die eine Flächentransformation der Veranstaltungsbewertungen darstellen: die besten 25%, die mittleren 50% und die 25% kritisch bewerteten Lehrveranstaltungen (s. Legende am oberen Rand).

Man könnte nun eine noch technischere Erklärung hinzufügen, die bspw. die Begriffe Quartile enthält, das lasse ich aber lieber. Die Farbwahl erleichtert die Interpretation hinreichend: grün = gut (“Schulterklopfen”), gelb = Mittelfeld (“soweit ok”), rot = schlecht (“das muss sich ändern”).

Wintersemester 2008/2009: “Interaktion in der Familie”

Im Wintersemester 2008/2009 wurde mein (Grundstudiums-/Bachelor-)Seminar “Interaktion in der Familie” begutachtet und im Gesamtergebnis als gut (1,73) befunden (Evaluationsergebnis als PDF). Grundlage waren 15 Fragebögen (insgesamt haben ca 20 Studierende teilgenommen). Im Gesamtranking der WISO-Fakultät (leider nur im Intranet verfügbar) liegt die Veranstaltung damit auf dem 28. Platz (von insgesamt 225), von den Soziologieveranstaltungen auf dem 4. Platz. Die Kategorie “Inhalt und Präsentation” enthält 17 Items (also Aussagen oder Fragen). Relativ schlecht (roter Bereich) bewertet wurden die Items “Ziel der LV insgesamt deutlich” und “Verständliche Vermittlung”. Ansonsten finden sich die meisten Bewertungen im mittleren Bereich (gelb). (Ganz) Gut bewertet wurden “Stoffumfang zu bewältigen”, “Präsentierte Medien” und “Verwendete Unterlagen”, “Abwechslung” und “Tempo ist angemessen” sowie “Literatur-Empfehlungen hilfreich”.

Das “Studierverhalten” gibt (zumindest teilweise) indirekt Auskunft über den Dozenten: Je besser die Studierenden Ihr eigenes Arbeits- und Lernverhalten einschätzen, desto besser die Motivation etc. Hier muss man sagen, dass die Items “Sitzung nachbereitet” und “Zeitaufwand” in Grenzbereich (am Ende des gelben Balkens) oder gar schon im nicht mehr zu akzeptierenden Bereich (rot) liegen. Recht “erfolgreich” waren meine Bemühungen, die Studierenden zu einer regelmäßigen Teilnahme zu bewegen. Interessant sind auch auch die Teilnahmegründe (“TN, …”; Mehrfachnennungen möglich). 93% der befragten Studierenden fanden das Thema interessant — was bei “Interaktion in der Familie” wenig verwunderlich ist. Nur 27% denken, dass die Teilnahme für ihre berufliche Qualifizierung relevant ist. 33% halten die Lehrperson für sympathisch — hier schwanke ich zwischen “immerhin” oder “na ja” :-) . 40% nahmen aus “Pflicht” teil (Studienordnung etc.).

Der letzte Bereich bezieht sich auf die “Dialogorientierung der Lehrperson” und hier, das freut mich ehrlich gesagt, habe ich gut abgeschnitten. Es ist mir scheinbar gelungen, die Studierenden zu Fragen zu ermutigen, ihre Fragen kompetent zu beantworten und sie in den Lernprozess einzubinden. Das Lernklima untereinander wurde immerhin noch mit der Note 2 bewertet.

Sommersemester 2009: Meta-Analyse

Im Sommersemester habe ich unter anderem die Vorlesung “Meta-Analyse” angeboten, die durch die (Pflicht-)Übung “Meta-Analyse” ergänzt wurde. Insgesamt handelte es sich also um eine Veranstaltung im Umfang von vier Semesterwochenstunden. Von den insgesamt 12 Teilnehmerinnen und Teilnehmern haben 7 den Fragebogen ausgefüllt. Insgesamt wurde diese Veranstaltung mit 2,14 bewertet (Evaluationsergebnis als PDF). Im Gesamtvergleich ist das im Mittelfeld. Ein Gesamtranking liegt zur Zeit noch nicht vor.

Wie verteilen sich die Bewertungen auf die einzelnen Kategorien? Für “Inhalt und Präsentation” zeigt sich, dass es mir (wieder einmal) nicht gelungen ist, das “Ziel der Einzelsitzung[en] deutlich” zu machen. Das Item “Interesse geweckt/vertieft” bewegt sich auch schon gefährlich nah an Ende des gelben Balkens. Auch “Stoffumfang zu bewältigen” und “Hohe Leistungsanforderungen” wurden eher negativ bewertet. Dazu passt, dass auch das Tempo der Lehrveranstaltung eher zu hoch war (“Tempo ist angemessen”). Erfreulich ist, dass ich bei den Items “Interesse am Lernerfolg” und “LP [Lehrperson] auch bei Fragen verfügbar” überdurchschnittlich gut abgeschnitten habe.

Die Kategorie “Studienverhalten” enthält in meinen Augen keine dramatischen Ausschläge nach unten. Erbaulich ist, dass die Teilnahme diesmal unter anderem in 86% der Fälle durch die sympathische Lehrperson motiviert wurde.

Ich habe für diese Veranstaltung auch noch einen offenen Fragebogen genutzt, in den die Studierenden detaillierter auf ihre Kritik eingehen konnten. Ein ganz zentraler Kritikpunkt war mein Beharren auf der Statistiksoftware GNU R, um die Analysen durchzuführen. Zwei bis drei der Teilnehmer waren daran interessiert, sich mit GNU R auseinanderzusetzen, für den Rest der Teilnehmerinnen und Teilnehmer war es eher belastend, langweilig oder nervig (in wechselnder Reihenfolge).

Was muss sich ändern?

Da ich in beiden Evaluationen in der Frage der Veranstaltungsziele relativ schlecht abgeschnitten habe, muss ich in Zukunft also die  Relevanz des Themas oder das Anliegen der Veranstaltung in der 1. Sitzung stärker herausstellen. Im Veranstaltungsverlauf sollte dann immer mal wieder der aktuelle Zwischenstand reflektiert werden und ggf. eine Änderung des restlichen Seminarverlaufs erwogen werden. Die Mehrzahl der Studierenden mag scheinbar Strukturen. Also gilt es, noch stärker als bisher (und mir vielleicht lieb ist) Strukturen zu schaffen!

Dazu gehört auch, bereits in künftigen Ausschreibungen im kommentierten Vorlesungsverzeichnis sehr deutlich zu machen, was die Voraussetzungen für eine Teilnahme in meinen Veranstaltungen sind. Ich hoffe, dass mir das für das kommende Wintersemester 2009/2010 gelungen ist (wiederum eine Vorlesung + Übung zur Meta-Analyse). Leider hat dieses Vorgehen auch dazu geführt, dass sich bislang erst 5 Studierende eingeschrieben haben.

Defizite in der “verständlichen Vermittlung” lassen sich nur durch eine noch verständliche Vermittlung ausgleichen ;-) . An dieser Stelle könnte man Sachen wie “Lernen-durch-Lehren” stärker einbinden. Methoden des kooperativen Lernens (bspw. Gruppenpuzzle) ermöglichen zudem, in der Gruppe auf Probleme zu stoßen und diese zu diskutieren. Mir als Dozent geben sie eine gute und vor allem unmittelbare Rückmeldung, wo es tatsächlich ‘hakt’.

Sowohl der durch mich vermittelte Zeitaufwand (Soll) als auch die tatsächlich aufgebrachte Zeit werden im Seminar “Interaktion in der Familie” als zu hoch bewertet. Mmmh, das kann eigentlich gar nicht sein :-) Zwar findet sich diese Bewertung in dem Meta-Analyse-Seminar nicht in der gleichen Deutlichkeit wieder, doch durch eine zusätzliche qualitative Befragung weiß ich, dass auch dort der Umfang der Hausaufgaben als zu hoch angesehen wurde.

Aus meiner eigenen Wahrnehmung heraus muss sich noch die rhetorische Gestaltung verbessern. Auch der Einsatz (für mich) “neuerer” Lehrmethoden, lässt noch stark zu wünschen übrig. Didaktisch haben ich (und einige meiner Kolleginnen und Kollegen) noch Nachholbedarf.

Written by Bernd Weiss

August 11th, 2009 at 8:57 pm

6 Responses to 'Evaluationergebnisse meiner Lehrveranstaltungen im WS08/09 und SS09'

Subscribe to comments with RSS or TrackBack to 'Evaluationergebnisse meiner Lehrveranstaltungen im WS08/09 und SS09'.

  1. Sehr löbliche Transparenz, schön! Ich habe meine InstEval Ergebnisse nur auf dem Seminarinternen Blog gepostet, um so eine zweite Runde als Gruppendiskussion (ohne Namensnennung im Blog und mit Gesichtserkennung im Seminar) zu starten. Und da kamen ganz spannende Dinge raus: die Anforderungen in Niveau und Tempo wurden zwar im Fragebogen als recht hoch eingeschätzt, in der Debatte aber wurde gerade das als besonderer Grund angegeben, das Seminar zu besuchen.

    Jan-H. Passoth

    11 Aug 09 at 10:13 pm

  2. Danke für die Rückmeldung! Ein anonymes Forum gab es auch, das hat immerhin eine Studierende mal für eine Frage genutzt…

    [WORDPRESS HASHCASH] The poster sent us ‘0 which is not a hashcash value.

    Bernd Weiss

    12 Aug 09 at 5:46 am

  3. Ich finde es absolut spitze, mutig und vorbildlich von dir, eine solche Reflexion öffentlich zu machen und damit auch zur Diskussion anzuregen. Hast du noch die Möglichkeit, diesen Thread den Studenten zugänglich zu machen? Es wäre klasse zu lesen, was sie von deiner Reflexion und Interpretation der Ergebnisse halten.

    Viele Grüße,

    Christian

  4. Hallo Christian,

    auch Dir danke ich für die positive Rückmeldung.

    Ich werde in den nächsten Tagen die Klausuren korrigieren und dann im Zuge einer Abschlussmail noch einmal auf meine Ausführungen zur Lehrevaluation verweisen.

    Bernd

    12 Aug 09 at 12:57 pm

  5. Ich kann Christian nur beipflichten. Diese öffentliche Reflexion belegt die sehr gute Bewertung der Items „Kompetente Reaktion auf Studenten“ (WS 08/09) und „LP auch bei Fragen verfügbar“ (SS 09).

    Ich denke aber, dass eine Handlungsempfehlung bzw. eine Optimierung der Lehrveranstaltung auf Grundlage der WISO-Evaluation schwierig ist. Eine Argumentation basierend auf Mittelwerten (von 15 bzw. 7 Befragten) scheint nicht sehr ergiebig zu sein. Ein Blick auf die Standartabweichungen unterstützt diese Einschätzung.
    Des Weiteren lassen die Fragestellungen durchaus einen Spielraum für Interpretationen offen und es ist fraglich oder zumindest schwer zu belegen, dass hier nicht Unterschiedliches gemessen wird.

    Der offene Fragebogen (individuell die jeweilige Veranstaltung ausgerichtet und initiativ durch die Lehrperson durchgeführt) hingegen ist viel mächtiger. Die Durchführung oder ein möglicher Ausbau dieses Befragungsinstrumentes trägt bestimmt dazu bei, dass der „Blick in der Spiegel“ wirklich schöner macht. Als Entscheidungshilfen für Studierende ist eine detaillierte Beschreibung im kommentierten Vorlesungsverzeichnis (zumindest für Seminare) gewinnbringender.
    Mir ist bewusst, dass die Sinnhaftigkeit der Evaluation nicht Thema war. Nichtsdestotrotz bietet sie ein dankbares Ziel :-) und sollte durchaus in die Überlegungen mit einbezogen werden.
    Viel Erfolg für die folgenden Veranstaltungen und beste Grüße!

    Carl Berning

    12 Aug 09 at 4:08 pm

  6. Hallo Carl,

    vielen Dank für Deine Rückmeldung!

    Ich denke aber, dass eine Handlungsempfehlung bzw. eine Optimierung der Lehrveranstaltung auf Grundlage der WISO-Evaluation schwierig ist. Eine Argumentation basierend auf Mittelwerten (von 15 bzw. 7 Befragten) scheint nicht sehr ergiebig zu sein. Ein Blick auf die Standartabweichungen unterstützt diese Einschätzung.

    Natürlich sind die Fallzahlen nicht besonders hoch und natürlich können die Ergebnisse nicht allein eine Verhaltensänderung legitimieren. Ich nehme sie aber dennoch ernst und gerade der “Strukturpunkt” passt in meine eigene Wahrnehmung.

    Des Weiteren lassen die Fragestellungen durchaus einen Spielraum für Interpretationen offen und es ist fraglich oder zumindest schwer zu belegen, dass hier nicht Unterschiedliches gemessen wird.

    Oh ja, das ist ein ganz großes Problem. Vielleicht liefert das Zentrum ja mal eine psychometrische Analyse des Instruments.

    Der offene Fragebogen (individuell die jeweilige Veranstaltung ausgerichtet und initiativ durch die Lehrperson durchgeführt) hingegen ist viel mächtiger. Die Durchführung oder ein möglicher Ausbau dieses Befragungsinstrumentes trägt bestimmt dazu bei, dass der „Blick in der Spiegel“ wirklich schöner macht.

    Auch hier stimme ich Dir zu. Die Tatsache, dass ich nicht mehr aus den offenen Antworten zitiert habe, liegt daran, dass diese im Büro liegen — und noch habe ich Urlaub.

    Als Entscheidungshilfen für Studierende ist eine detaillierte Beschreibung im kommentierten Vorlesungsverzeichnis (zumindest für Seminare) gewinnbringender.

    Ich kann nicht beurteilen, welcher Aspekt mit welchem Gewicht die Entscheidung beeinflusst. Ich kannte/kenne Dozenten, bei denen würde ich unbesehen jedes Thema belegen — natürlich gibt es auch den gegenteiligen Fall. Ich als Student habe mich nicht nur auf das Vorlesungsverzeichnis verlassen. Aber mir geht es ja auch nicht nur darum, Studierenden eine Entscheidungshilfe zu bieten, sondern ich möchte meine Lehre transparent machen und mich einem kontinuierlichen Prozess/Zwang zur Verbesserung aussetzen.

    Dir viel Erfolg bei Deinen künftigen Unternehmungen, genieß die nächsten Monate!

    Bernd

    12 Aug 09 at 5:18 pm

Leave a Reply

Bad Behavior has blocked 803 access attempts in the last 7 days.

Creative Commons Attribution-NonCommercial-ShareAlike 3.0 Germany
This work by Bernd Weiß is licensed under a Creative Commons Attribution-NonCommercial-ShareAlike 3.0 Germany.