Wirkungsmessung
Im Rahmen des acatech Projekts „Technologischen Wandel gestalten“ wurde die Wirkung des ePA Check-ups auf die Meinungsbildung der Besucher:innen gemessen: Es sollte überprüft werden, ob bzw. wie der ePA Check-up auf die Meinungsbildung von Nutzer:innen wirkt, ob das Ziel einer sachgerechten und ausgewogenen Meinungsbildung erfüllt wird, inwieweit Vertrauen in die Seriosität der Informationen und die Urheber eine Rolle spielt und wie die Seite ganz allgemein hinsichtlich der Gestaltung und der Bedienbarkeit wahrgenommen wird.
Die Beantwortung dieser Fragen erfolgte auf Basis quantitativer und qualitativer Daten:
- Tracking der Klickzahlen wie Besuche oder Interaktionen der Besucher:innen. Diese Daten wurden mittels der Analyse-Software Matomo erhoben (mehr dazu in der Datenschutzerklärung).
- Tracking des Verhaltens der Besucher:innen bei den Interaktionsmöglichkeiten im ePA Check-up. Diese Daten wurden durch die Web-Agentur ressourcenmangel mittels einer programmierten Datenbank erhoben (mehr dazu in der Datenschutzerklärung).
- Erheben von soziodemografischen Daten und einiger Einstellungen zur ePA. Die Besucher:innen konnten diese Daten freiwillig über ein nach dem Durchlaufen des ePA Check-ups gezeigtes Umfrageformular eingeben. Da die Untersuchung abgeschlossen ist, wurde das Formular bereits offline genommen.
- Befragung von 48 Proband:innen sowohl vor Nutzung als auch nach Nutzung des ePA Check-ups mittels standardisierter Fragebögen. Die Proband:innen teilten sich ausgewogen in männliche und weibliche Teilnehmende sowie in drei Altersgruppen ein. Aufgrund der geringen Stichprobengröße sind die Ergebnisse der Probandenbefragung nicht repräsentativ: Sie können nur Hinweise auf mögliche Wirkzusammenhänge geben.
Eine Meinungsbildung findet statt – eine Meinungsänderung ist aber eher unwahrscheinlich
Mehr als die Hälfte der befragten Personen geben an, sich nach Besuch der Website eine Meinung gebildet zu haben. Nach dem Besuch der Website können deutlich mehr Personen einen Standpunkt zur ePA vertreten als vorher. Zudem können nach dem Besuch der Website deutlich mehr Personen eine Aussage machen, ob sie die ePA künftig nutzen möchten oder nicht. Zugleich ändert durch den Besuch des ePA Check-ups niemand seine Meinung von einer positiven Einstellung zur ePA hin zu einer negativen Einstellung oder umgekehrt. Das ist ein Hinweis darauf, dass vorbestehende Haltungen zur ePA eher bestärkt als geändert worden sind. Im Vorfeld der Befragung wurde ausgeschlossen, dass die Teilnehmenden die ePA z. B. aufgrund ihres Berufes gut kennen.
Aus den Daten der Besucher:innen des ePA Check-ups, die unabhängig von der Probandenbefragung die Website besucht haben, geht hervor: Auch bei diesen Besucher:innen kann von einer Meinungsbildung ausgegangen werden, etwa nimmt der Anteil derjenigen, die zu Beginn des ePA Check-ups „keine Meinung“ zur ePA haben bis zum Ende des ePA Check-ups von etwa 30 zu etwa 20 Prozent ab. Ihre Meinung geändert – von positiv zu negativ, von negativ zu positiv, von unsicher zu positiv, von unsicher zu negativ, von positiv zu unsicher, von negativ zu unsicher – haben nur 20 Prozent der Besucher:innen. Hierunter ist der Anteil, der von unsicher auf positiv gewechselt hat, mit 13 Prozent am höchsten. 80 Prozent der Besucher:innen bleiben also bei ihrer Ersteinschätzung: 53 Prozent stehen weiterhin positiv zur ePA, 12 Prozent negativ, unschlüssig bleiben 15 Prozent.
Die Website wurde nicht zum Zweck der Meinungsänderung konzipiert – die Nutzer:innen sollten weder in Richtung pro ePA noch contra ePA beeinflusst werden. Das Ziel des ePA Check-ups war es vielmehr, die Bildung eines eigenen Standpunkts zu unterstützen (egal wie dieser aussieht). Die Daten zur Meinungsbildung und Meinungsänderung sprechen dafür, dass dieses Ziel erreicht wurde.
Aus den Daten der Besucher:innen des ePA Check-ups, die unabhängig von der Probandenbefragung die Website besucht haben, geht hervor: Auch bei diesen Besucher:innen kann von einer Meinungsbildung ausgegangen werden, etwa nimmt der Anteil derjenigen, die zu Beginn des ePA Check-ups „keine Meinung“ zur ePA haben bis zum Ende des ePA Check-ups von etwa 30 zu etwa 20 Prozent ab. Ihre Meinung geändert – von positiv zu negativ, von negativ zu positiv, von unsicher zu positiv, von unsicher zu negativ, von positiv zu unsicher, von negativ zu unsicher – haben nur 20 Prozent der Besucher:innen. Hierunter ist der Anteil, der von unsicher auf positiv gewechselt hat, mit 13 Prozent am höchsten. 80 Prozent der Besucher:innen bleiben also bei ihrer Ersteinschätzung: 53 Prozent stehen weiterhin positiv zur ePA, 12 Prozent negativ, unschlüssig bleiben 15 Prozent.
Die Website wurde nicht zum Zweck der Meinungsänderung konzipiert – die Nutzer:innen sollten weder in Richtung pro ePA noch contra ePA beeinflusst werden. Das Ziel des ePA Check-ups war es vielmehr, die Bildung eines eigenen Standpunkts zu unterstützen (egal wie dieser aussieht). Die Daten zur Meinungsbildung und Meinungsänderung sprechen dafür, dass dieses Ziel erreicht wurde.
Es besteht Vertrauen in den ePA Check-up – und die Seite wird als verständlich und ansprechend wahrgenommen
Die meisten Proband:innen geben an, den auf der Website dargestellten Informationen zur ePA zu vertrauen oder zumindest den meisten. Nur eine Handvoll Personen ist skeptisch gegenüber einem Großteil der Informationen oder vertraut diesen gar nicht. Auch die Hintergründe des ePA Check-ups, also die Absender und die Projekthintergründe, werden von etwa der Hälfte der Proband:innen als ausreichend oder eher ausreichend transparent wahrgenommen. Gleichzeitig können nur sehr wenige Personen die Urheber der Website benennen. Offensichtlich entscheidet hier das aktive Wissen über die Urheber nicht unbedingt über Vertrauen in die Inhalte der Website.
Auch die Frage, ob die Gestaltung der Website gefällt und ob sie als intuitiv bedienbar wahrgenommen wird, spielt eine wichtige Rolle für gelingende Meinungsbildungsprozesse. Daher haben wir auch danach gefragt. Die Bedienbarkeit wird weit überwiegend als intuitiv wahrgenommen – sowohl von Proband:innen, die den ePA Check-up vom Smartphone aus als auch vom Computer aus öffneten. Auch die Animationen werden von etwa zwei Drittel der Proband:innen als ansprechend empfunden ebenso wie die farbliche Gestaltung. Nur wenige Personen äußerten sich ablehnend dazu.
Auch die Frage, ob die Gestaltung der Website gefällt und ob sie als intuitiv bedienbar wahrgenommen wird, spielt eine wichtige Rolle für gelingende Meinungsbildungsprozesse. Daher haben wir auch danach gefragt. Die Bedienbarkeit wird weit überwiegend als intuitiv wahrgenommen – sowohl von Proband:innen, die den ePA Check-up vom Smartphone aus als auch vom Computer aus öffneten. Auch die Animationen werden von etwa zwei Drittel der Proband:innen als ansprechend empfunden ebenso wie die farbliche Gestaltung. Nur wenige Personen äußerten sich ablehnend dazu.
Der ePA Check-up beschreibt Chancen und Risiken – beides wird wahrgenommen
Nur knapp eine Handvoll Personen kann keinen Nutzen für sich selbst in der ePA erkennen, nur zwei Proband:innen erkennen keinen Nutzen für die Allgemeinheit. Jeweils etwas mehr Personen sehen keine Risiken für sich selbst bzw. keine Risiken für die Allgemeinheit. Dies könnte bedeuten, dass der Nutzen der ePA von den Proband:innen höher bewertet wird, als die Risiken. Da die Zustimmung zu den verschiedenen Antwortoptionen jedoch keine Nuancen zuließ, ist diese Aussage mit Vorsicht zu genießen.
Einen weiteren Anhaltspunkt bietet die Frage, ob sich die Proband:innen vom ePA Check-up eher in Richtung einer positiven oder einer negativen Wahrnehmung der ePA gedrängt fühlen: In eine positive Richtung gedrängt fühlen sich gut die Hälfte der Befragten. Der Rest fühlt sich nicht in eine Richtung gedrängt. Aus der Formulierung der Frage geht nicht hervor, ob die Proband:innen einen Überhang der Argumente pro ePA auf der Website wahrnehmen oder ob dieser Überhang als eine Manipulation in Richtung pro ePA wahrgenommen wird. Dies lässt sich auch aus den restlichen Daten nicht abschließend klären.
Gleichzeitig deuten bei gut einem Drittel der Proband:innen die Antworten auf eine veränderte Risikowahrnehmung mit Blick auf Datenschutz und Datensicherheit der ePA nach Durchlaufen des ePA Check-ups hin. Werden diese Personen dann nach einer Bestätigung der veränderten Risikowahrnehmung gefragt, stimmt nur die Hälfte zu. Hier scheint also eine Inkonsistenz im Antwortverhalten der Proband:innen vorzuliegen. Da der ePA Check-up sowohl Chancen als auch Risiken darstellt, ist sowohl eine Schärfung der Nutzenwahrnehmung als auch der Risikowahrnehmung durchaus möglich. Die Inkonsistenz im Antwortverhalten der Proband:innen lässt auf die Komplexität des Themas ebenso wie auf eine Unsicherheit bei den Proband:innen schließen.
Besucher:innen des ePA Check-ups wurden danach gefragt, ob sie die ePA trotz der dargestellten Risiken nutzen würden: 65 Prozent möchten die ePA trotz der Risiken nutzen, 16 Prozent möchten die ePA nicht nutzen, 19 Prozent sind noch unentschieden, 1 Prozent hat keine Meinung dazu. Die Wahrnehmung von Risiken führt also nicht unbedingt zu einer Ablehnung der Anwendung an sich.
Eine ausführliche Analyse der Ergebnisse aus der Wirkungsmessung wird aktuell für eine Publikation zusammengefasst. Weitere Infos zum Projekt unter: www.acatech.de/technikwandel-gestalten
Einen weiteren Anhaltspunkt bietet die Frage, ob sich die Proband:innen vom ePA Check-up eher in Richtung einer positiven oder einer negativen Wahrnehmung der ePA gedrängt fühlen: In eine positive Richtung gedrängt fühlen sich gut die Hälfte der Befragten. Der Rest fühlt sich nicht in eine Richtung gedrängt. Aus der Formulierung der Frage geht nicht hervor, ob die Proband:innen einen Überhang der Argumente pro ePA auf der Website wahrnehmen oder ob dieser Überhang als eine Manipulation in Richtung pro ePA wahrgenommen wird. Dies lässt sich auch aus den restlichen Daten nicht abschließend klären.
Gleichzeitig deuten bei gut einem Drittel der Proband:innen die Antworten auf eine veränderte Risikowahrnehmung mit Blick auf Datenschutz und Datensicherheit der ePA nach Durchlaufen des ePA Check-ups hin. Werden diese Personen dann nach einer Bestätigung der veränderten Risikowahrnehmung gefragt, stimmt nur die Hälfte zu. Hier scheint also eine Inkonsistenz im Antwortverhalten der Proband:innen vorzuliegen. Da der ePA Check-up sowohl Chancen als auch Risiken darstellt, ist sowohl eine Schärfung der Nutzenwahrnehmung als auch der Risikowahrnehmung durchaus möglich. Die Inkonsistenz im Antwortverhalten der Proband:innen lässt auf die Komplexität des Themas ebenso wie auf eine Unsicherheit bei den Proband:innen schließen.
Besucher:innen des ePA Check-ups wurden danach gefragt, ob sie die ePA trotz der dargestellten Risiken nutzen würden: 65 Prozent möchten die ePA trotz der Risiken nutzen, 16 Prozent möchten die ePA nicht nutzen, 19 Prozent sind noch unentschieden, 1 Prozent hat keine Meinung dazu. Die Wahrnehmung von Risiken führt also nicht unbedingt zu einer Ablehnung der Anwendung an sich.
Eine ausführliche Analyse der Ergebnisse aus der Wirkungsmessung wird aktuell für eine Publikation zusammengefasst. Weitere Infos zum Projekt unter: www.acatech.de/technikwandel-gestalten