Du hast zahllose Interviews geführt, Fokusgruppen geleitet, oder Feedback mittels Fragebögen erhoben? Wörter, Stimmen und Aussagen der Befragten schwirren noch durch deinen Kopf? Dein Gehirn arbeitet schon fleissig, sortiert Informationen und steckt Personen in Schubladen?

Keine Angst, das ist ganz normal. 🙂

Unser Verstand möchte möglichst schnell logische Schlüsse aus den Eindrücken ziehen, um offene Fragen beantwortet zu sehen. Nach einer intensiven Erhebungsphase bin ich daher einerseits super dankbar für die vielfältigen Antworten. Andererseits aber meist auch ziemlich erschöpft – und ein Stück weit überwältigt von der Flut an Aussagen, die auf mich eingeprasselt ist.

Das Datenmonster droht, den Researcher aufzufressen.

Das «lost in data»-Gefühl ist ganz normal.

Jetzt heisst es, klaren Kopf bewahren (oder wieder herstellen) und sich Schritt für Schritt an eine strukturierte Auswertung machen. Wie das geht, welches Material du dafür brauchst und welche Tools dir womöglich dabei helfen, möchte ich dir an einem Beispiel aus der Praxis aufzeigen.

1. Beweise sichern

Bevor wir unser Rohmaterial zu Edelsteinen schleifen können, müssen wir die von uns erhobenen Daten sichten und sortieren. Nach einer Studie haben wir in der Regel eine Vielzahl an Notizen, Tonaufnahmen und bestenfalls auch Filmmaterial zur Verfügung. Diese digitalen Protokolle gilt es zuallererst einmal anonym und ordentlich abzulegen. Klingt banal, ist aber die Grundlage, damit du und andere deine Ergebnisse später noch nachvollziehen können.

Tipp:

Wenn du kein User-Research-Tool benutzt, das eine strukturierte Ablage ermöglicht, empfehle ich dir, jeder Aufnahme eine eindeutige ID zuzuweisen und im Dateinamen Datum, Interviewer, Methode und Bezeichnung der Studie zu ergänzen. In der Regel werden die Inhalte anonymisiert gespeichert.

Beispiel: <3-stellige fortlaufendeNr><KürzelResearcher><Tag/Monat/Jahr>,
d.h. 001_Personas-ERP-Projekt_Tel-Interviews_TonAufnahme_KrS_08052019

2. Inhalte transkribieren

Im nächsten Schritt ist es notwendig, alle erfassten Aufnahmen in verwertbare Dokumente zu verwandeln, also für jede einzelne Research-Sitzung ein schriftliches Protokoll anzufertigen. Klingt nach Arbeit? Ja, das ist es: Als Faustregel gilt, dass das Transkribieren 5-10 Mal länger dauert als die Audiodatei selbst lang ist!

Schnapp’ dir also die erste Ton- oder Videoaufnahme und deine Notizen sowie eine grosse Tasse Tee oder Kaffee und suche dir einen ungestörten Platz. Nun tippst du die Inhalte, die dir deine TeilnehmerInnen anvertraut haben, einfach ab. Z.B. in Word oder auch in Excel.

Ein Mann mit Kopfhörern trinkt eine Tasse Kaffee und vertieft sich in seine Human Data Analytics.

Weil das Transkribieren ganz schön viel Zeit in Anspruch nimmt, darfst du gerne deine KollegInnen um Unterstützung bitten. Achte jedoch darauf, dass ihr das Gesprochene aus jeder Aufnahme vollständig, im Original-Wortlaut und in der Ich-Form sowie im gleichen Format erfasst. Beim Speichern folgt der Dateiname dem Schema der Originaldatei.

Kleiner Exkurs: Wer hat Zugriff auf die Rohdaten?

In einigen Projekten habe ich erlebt, dass Researcher ihre Protokolle wie einen heiligen Gral behandeln, denn die in qualitativen Studien aufwändig erhobenen Inhalte bilden die Grundlage für jede spätere Interpretation. Trotzdem denke ich, dass sich die «Datenhoheit» lediglich auf das Erheben und Ändern beziehen sollte. Ich plädiere dafür, Protokolle auch für Marketing, Produkt-Manager und -Owner, Content Management und Entwicklung zugänglich zu machen.

Vergiss nicht, dass auch andere Abteilungen Daten erheben! Sicherlich möchtest du diese ebenso einsehen, verwenden und auswerten können. Und wenn ich die Ergebnisse anderer Studien sehe, möchte ich auch nachvollziehen können, wie diese zustande kamen.

Natürlich kann es passieren, dass deine Daten fehlinterpretiert werden oder dass andere Personen und Abteilungen in deine Erkenntnisse «reinreden» möchten. Aber gerade wenn du deine Quellen offenlegst, schaffst du Glaubwürdigkeit. Und Transparenz schafft Vertrauen.

3. Inhalte analysieren

Nachdem wir alle gesprochenen Antworten in einem einheitlichen Format verschriftlicht haben, können wir uns damit beschäftigen, was nun eigentlich gesagt und damit ausgesagt wurde. Denn der Sinn von qualitativen Studien liegt ja genau darin, deinem Gegenüber durch offene Fragen möglichst ausführliche und freie Antworten zu entlocken.

Diese einzelnen Insights oder Aussagen gilt es nun zu kodieren, also einem Schlagwort zuzuordnen. Dabei komprimierst du nicht nur die Inhalte, sondern vereinheitlichst auch das unterschiedliche Wording der ProbandInnen.

Jemand markiert eine Textstelle mit einem Buntstift.

Dazu musst du jeden erhobenen Datensatz, also z.B. die Interview-Transkription von Person A12, intensiv durchforsten und gleichzeitig jede wichtige Aussage unterstreichen und/oder farbig hervorheben und einem Schlagwort (oder mehreren) zuordnen. Ich gebe dir nachfolgend ein paar Beispiele:

Tipps:

  • Erfasse das Schlagwort, das zur Aussage gehört, am besten direkt neben dem Text in einer Extraspalte.
  • Wenn du ein Farbschema anwendest oder Begriffe um Icons ergänzt, bekommst du eine visuelle Stütze für die Auswertung. Übertreibe es aber nicht, sonst wird es bunt und unübersichtlich.
  • Wenn mehrere Personen gemeinsam kodieren, ist es besonders wichtig, einheitlich und iterativ vorzugehen. Sorge unbedingt für regelmässigen Austausch, damit alle Datensätze gleich behandelt werden.
  • Sicherlich hatten du und dein Team schon die eine oder andere Antwort erwartet. Hattest du solche möglichen Antworten vor der Umfrage oder dem Interview in deinem Interviewleitfaden vermerkt, kannst du sie jetzt als Schlagwort wiederverwenden.
  • Es ist nicht immer nötig, jeden einzelnen Satz zu kodieren. Manchmal steckt in 3 Minuten Redezeit nur eine interessante Aussage. Wichtig ist jedoch, jedes Auftauchen der gleichen Aussage erneut zu kodieren – denn je häufiger etwas genannt wird, desto wichtiger ist es der Person offensichtlich.
  • Mimik, Lachen, Räuspern, Stutzen, Tonfall, Lautstärke etc. sind ebenfalls wichtige Indizien, wie das Gesagte zu verstehen ist. Meiner Meinung nach gehören solche Zusatzinformationen ebenfalls ins Protokoll, damit auch sie entsprechend verschlagwortet werden können.

Das Verschlagworten machst du für alle erhobenen Datensätze nach dem gleichen Schema. Ob du dabei ein Protokoll nach dem anderen abarbeitest oder alle Inhalte in einer grossen Datei zusammenführst und dann kodierst, macht für mich keinen grossen Unterschied.

Sei dir jedoch bewusst, dass bei jedem Protokoll, das du durchschaust, neue Inhalte zum Vorschein kommen. Entsprechend musst du die Schlagwörter ständig überarbeiten, also neue anlegen, umbenennen oder auch mal zwei zusammenlegen. In jedem Fall hast du nun eine sehr grosse Anzahl an sogenannten «Einzel-Insights» – mehrere hundert bis tausend!

4. Inhalte gruppieren

Im nächsten Schritt gilt es, die Aussagen anhand der zugeordneten Codes miteinander zu vergleichen und übergeordnete, verbindende Themen zu finden. Dazu verwenden wir nun Kategorien. Eine Kategorie dient zu nichts anderem, als die von unseren Probanden gelieferten Antworten zu gruppieren. Sie bildet eine thematische Klammer für inhaltlich zusammengehörende Ausprägungen. Dieses kleine Beispiel veranschaulicht die Abhängigkeit:

  • Kategorie: Urlaub
  • Schlagwörter: daheim, im Ausland, allein, gemeinsam, jährlich

Merke:

Ein Schlagwort kann, je nach Kontext, mehreren Kategorien zugeordnet sein.

Um die Antworten aller ProbandInnen bestmöglich zu vergleichen, können wir die Einzel-Insights ausdrucken oder als Kopie in einer Datei zusammenfassen. Wenn wir nicht besonders viele Daten, aber genug Researcher und viel Platz haben, schreiben wir jede Erkenntnis auf einen eigenen Post-It.

Eine Frau gruppiert ihre Inhalte mithilfe von bunten Post-Its.

Als nächstes werden wir jede einzelne Aussage durchlesen, verstehen und mit den anderen Aussagen vergleichen. Findet sich etwas, das ähnlich klingt, klebst du den Datenschnipsel zum passenden Gegenstück oder verschiebst ihn an die entsprechende Stelle. Wenn du die Insights mit deinem Team untersuchst und gruppierst, arbeitet ihr am besten still und jeder für sich. Findet sich keine passende Kategorie, eröffne einfach eine neue.

Nach und nach werden sich Gruppen mit ähnlichen Inhalten herauskristallisieren: sogenannte Cluster. Wenn alle Datenschnipsel angeschaut und umgehängt wurden, überprüfst du, ob alles zusammenpasst. Diskutiert kurz miteinander, ob man zwei oder gar drei Gruppen zusammenfügen kann, ob etwas woanders hingehört, oder ob eine neue Gruppe eröffnet werden soll.

User Testing Kit

User Testing Kit

Das User Testing Kit enthält alles, was du für einen erfolgreichen Benutzertest benötigst:

  • Testskript-Vorlage mit hilfreichen Tipps für alle Phasen deines User Tests 
  • Beobachtungsprotokoll-Vorlage
  • Benutzertest-Analyse-Spreadsheet-Vorlage

Ist das Gruppieren erledigt, gilt es nun, passende Überschriften für die Cluster zu finden – also die jeweilige Kategorie oder Schublade, die die Inhalte zusammenhält. Die Kategorien sind je nach Projekt unterschiedlich und ergeben sich aus den erhobenen Daten. Möchtest du in deiner Studie beispielsweise die Usability einer Software untersuchen, könnten sich die Kategorien Prozessschritt, Modul, Funktion, Anforderung, Fehler, Export, Schnittstelle, … herauskristallisieren.

Wenn du Daten für Personas erhebst, sind die typischen Kategorien: Job, Alter, Highlight, Pain Points, Idee, Zitat, Wunsch, … In jedem Fall gilt das bereits für Schlagwörter Gesagte: Auch Kategorien werden laufend erweitert, während du die Insights sichtest. Daher ist es mega wichtig, sich im Team gut über die verwendeten Begriffe abzustimmen.

Tipps:

  • Arbeite weder zu high-level noch zu kleinteilig. Für mehrere 1-stündige Interviews sollten sich mehr als 5 Kategorien herauskristallisieren. 35 Kategorien, die sich nur minimal voneinander unterscheiden, sind jedoch definitiv zu viele.
  • Egal ob ihr die Kategorien induktiv oder deduktiv erstellt, ein iteratives Vorgehen ist unumgänglich.
  • Nehmt euch genug Zeit für die Kategorisierung, aber überlegt nicht ewig. Vermeide endlose Debatten! Ein Timer leistet auch hier gute Dienste.

5. Aussagen zusammenfassen

Nachdem wir alle relevanten Aussagen in passende Kategorien gesteckt haben, können wir nun die wichtigsten Kategorien identifizieren. Unser Ziel ist es, übergeordnete Themen zu finden, um Muster zu erkennen. Letztlich möchten wir Antworten auf unsere Fragen und Hypothesen herausarbeiten, die uns zur aktuellen Studie bewogen haben.

Schauen wir uns als nächstes genauer an, welche Schlagwörter in welchen Kategorien enthalten sind. Wenn zum Beispiel in der Kategorie Urlaub 3 von 5 Schlagwörtern einen kritischen Bezug zur Umwelt haben, könnten wir die Erkenntnis «Reisende sind sensibel für Klimafolgen» ableiten:

6. Digital oder analog auswerten

Wenn du die Auswertung mittels digitalem Tool machen möchtest, muss es nicht gleich ein professionelles Online-Research-Tool wie z. B. Reframer sein. Auch ein Tabellenverarbeitungsprogramm wie Excel oder Google Sheets leistet bereits gute Dienste. Wenn du jede Aussage in einer eigenen Zeile untereinander erfasst, kannst du gut nach einzelnen Begriffen suchen, filtern, sortieren, zählen, etc.

So sieht die Auswertung mit einem ganz normalen Spreadsheet aus.

Mit Papier und Post-Its an der Wand zu arbeiten macht nur dann Sinn, wenn du nicht allzu viele Datensätze erfasst hast. Du benötigst zudem genug Platz und am besten einen eigenen Raum, wo du die einzelnen Aussagen ein paar Stunden oder Tage hängen lassen kannst. Alle Inhalte müssen lesbar und zum «Scannen» aufgehängt werden. Suche dir genug Leute, um Vorarbeiten wie das Zerschnippeln der Ausdrucke zu bewältigen.

User Testing Kit

User Testing Kit

Das User Testing Kit enthält alles, was du für einen erfolgreichen Benutzertest benötigst:

  • Testskript-Vorlage mit hilfreichen Tipps für alle Phasen deines User Tests 
  • Beobachtungsprotokoll-Vorlage
  • Benutzertest-Analyse-Spreadsheet-Vorlage

Glückwunsch, während der Auswertung hast du sicherlich schon viele Beziehungen und Verbindungen innerhalb der Daten entdeckt! Berücksichtige diese unbedingt bei der Zusammenfassung deiner Ergebnisse. Egal, ob uns neue Erkenntnisse und vielleicht sogar neue Ideen entgegenfunkeln oder sich einfach nur unsere Annahmen bestätigen – was ja auch nicht immer verkehrt ist.