Testmodule unter Android
Benutzbarkeit
Bei keiner Gerätegattung hat die Benutzbarkeit von Sicherheits-Apps einen so starken Einfluss wie bei Mobilgeräten. Zwar verunsichern Fehlalarme den Nutzer und beeinflussen somit die Gerätenutzung, wie es auch bei anderen Geräten der Fall ist. Doch bei Smartphones kommt hinzu, dass Prüfungen durch Sicherheits-Apps die ohnehin oft knapp bemessene Batteriekapazität sowie das verfügbare Datenvolumen schmälern. Die Android-Experten des AV-TEST Instituts überprüfen das unter Einsatz selbst entwickelter, ausgefeilter Testmethoden.
Stufe 1: Performance-Tests
Im ersten Modul der Prüfung der Benutzbarkeit untersuchen die Tester den Einfluss der Sicherheits-App auf die Batterielaufzeit, die beim Einsatz erzeugte Netzwerklast (Datenvolumen) sowie eine mögliche Verlangsamung des Mobilgerätes. Alle Tests werden mittels simulierter Benutzeraktivitäten durchgeführt, um das Standardnutzerverhalten nachzubilden. Dazu gehört die Installation von Apps, das Laden von Webseiten, sowie die Nutzung von Standard-Apps wie Adobe Reader oder YouTube.
Dabei werden die folgenden Punkte geprüft:
-
Die App hat keinen Einfluss auf die Batterielaufzeit.
-
Die App verlangsamt die Benutzung des Geräts im normalen Gebrauch nicht.
-
Die App generiert nur wenig Netzwerklast.
Jede einzelne Aktion wird mehrfach ausgeführt, um einen verlässlichen Mittelwert zu bilden. Durch weitere Maßnahmen werden Fehlmessungen ausgeschlossen, um verlässliche Werte für alle Produkte und Testfälle zu ermitteln. Alle Funktionen, die Messergebnisse potentiell verfälschen können, werden vor Testbeginn ausgeschaltet. Dies betrifft z. B. bestimmte Systemfunktionen, automatische Updates oder Scans und Backups. Auf baugleichen Systemen werden die Tests zeitgleich durchgeführt, um vergleichbare Bedingungen zu schaffen.
Stufe 2: Fehlalarm-Tests
Im zweiten Modul erfassen die Tester die Anzahl der durch die Schutzprodukte verursachten Fehlalarme. Dazu gehören fälschliche Warnungen während der Installation und Nutzung von Apps aus dem Google Play Store, sowie von Software aus App-Stores von Drittanbietern.
So registrieren die Tester unter anderem Anfragen seitens der Schutzprodukte, die eine den Arbeitsablauf störende Nutzerinteraktion erfordern. Als Resultat dieser Tests entsteht ein genaues Protokoll über Zahl und Art fälschlich ausgegebener Warnmeldungen.