Human-centered privacy in intelligent environments

Windl, Maximiliane (2025): Human-centered privacy in intelligent environments. Dissertation, LMU München: Fakultät für Mathematik, Informatik und Statistik

Abstract

Advancements in technology have transformed our everyday environments into intelligent, sensor-rich spaces. While technologies such as smart home devices, augmented reality, and radio frequency sensing bring various benefits and make life more convenient and enjoyable, they also expose users to significant privacy risks. However, users often lack awareness and understanding of how their data is collected, processed, stored, and shared. At the same time, they lack mechanisms that help manage privacy effectively. Technology designers and researchers have the opportunity to support users by creating privacy-friendly devices and mechanisms. However, they must carefully balance privacy considerations with maintaining rich features and ensuring engagement in users' primary tasks. Overly strict privacy measures can deter adoption, especially since many users consider privacy management a low priority. It is rarely a primary goal but rather a secondary concern that arises alongside the main use case. This thesis outlines a vision of privacy mechanisms that seamlessly integrate into users' daily routines and effectively empower them to claim autonomy and exercise agency over their privacy. To realize this vision, we require (1) a thorough understanding of users' privacy concerns and the factors shaping their perceptions of privacy risks to (2) design effective interventions to mitigate these concerns. Consequently, this thesis outlines a vision of a privacy-preserving future among advanced, sensor-rich technologies. In this thesis, we first investigate how users perceive and interact with privacy risks in intelligent environments. Second, we design and evaluate innovative, human-centered solutions to address these concerns. The first part of this dissertation examines privacy concerns in intelligent environments. We conducted surveys, interviews, and focus groups to understand how users perceive privacy risks and navigate data practices. In detail, we explored concerns in smart homes, focusing on bystanders' perspectives on mobile and smart home technologies and users' understanding of interconnected interactions involving mobile phones and smart devices. We further examined people's experiences with privacy violations in the physical world and investigated people's understanding and concerns about emerging technologies, such as advanced domestic robots and radio frequency sensing. These systematic investigations offer new insights into people's privacy concerns and establish a foundation for designing effective, user-centered solutions. The second part of this thesis develops and evaluates innovative privacy solutions and interventions, focusing on empowering users to claim autonomy and exercise agency over their privacy. We proposed two conceptual frameworks: one for designing effective consent mechanisms for spontaneous interactions in augmented reality and one for addressing privacy violations in the physical world. We further proposed communication patterns enabling domestic robots to convey their privacy-relevant states to users effectively. We then created interactive privacy labels that inform users about the privacy implications of smart home devices and support control and use-case-based interactions. Finally, through three studies, we explored tangible privacy interfaces for smart homes, resulting in a cross-ecosystem privacy hub. We evaluated this hub in an in-the-wild study, delivering unique insights into lived experiences with a tangible privacy control system. Based on our findings from the first part of this dissertation, I propose a conceptual model for privacy concerns in intelligent environments, outlining how personal, technological, and situational factors impact privacy concerns. Next, condensing the insights from the dissertation's second half, I present a research playbook for human-centered privacy mechanisms in intelligent environments. The framework integrates theoretical insights and practical findings to guide the design of future privacy-preserving technologies. I designed the framework as a resource for researchers and designers aiming to create systems that align privacy practices with user needs. Overall, this thesis contributes (1) a comprehensive understanding of people's privacy concerns and mental models in intelligent environments, (2) innovative systems, tools, and comprehensive concepts to enhance privacy awareness and control, (3) a conceptual model for privacy concerns in intelligent environments, (4) a research playbook to elicit effective human-centered privacy mechanisms for intelligent environments, and (5) reflections on methods in privacy research and the future of privacy in intelligent environments. I envision human-centered privacy solutions that reduce the burden on individuals while making privacy management seamless and engaging. By developing a deep understanding of people's privacy concerns and creating several privacy mechanisms and frameworks, this thesis lays the groundwork for a future where privacy and innovation coexist.

Abstract

Unser Alltag hat sich durch technologischen Fortschritt zunehmend in intelligente, sensorreiche Umgebungen verwandelt. Smart-Home-Geräte und Technologien wie Augmented Reality und radiofrequenzbasierte Sensoren haben zahlreiche Anwendungen und versprechen, das Leben komfortabler und angenehmer zu machen. Gleichzeitig setzen diese Technologien Nutzerinnen und Nutzer erheblichen Datenschutzrisiken aus. Häufig fehlt es jedoch an Bewusstsein und Verständnis dafür, wie persönliche Daten erfasst, verarbeitet, gespeichert und weitergegeben werden. Zudem mangelt es an wirksamen Mechanismen zur Kontrolle über die eigenen Daten und die eigene Privatsphäre. Hier liegt eine zentrale Herausforderung für die Gestaltung datenschutzfreundlicher Technologien, die Funktionalität, einfache Benutzbarkeit und Datenschutz in Einklang bringen. Zu strenge Datenschutzmaßnahmen können die Akzeptanz mindern – insbesondere, da viele Menschen den Schutz ihrer Privatsphäre nicht als vorrangiges Ziel, sondern eher als eine begleitende Aufgabe erachten. Diese Dissertation verfolgt das Ziel, Datenschutzmechanismen menschenzentriert zu entwickeln, die sich nahtlos in den Alltag integrieren und es Nutzenden ermöglichen, Selbstbestimmung und Autonomie über ihre Privatsphäre zu gewinnen, ohne dadurch das Benutzererlebnis zu schmälern. Grundlage dafür sind (1) ein vertieftes Verständnis der zugrunde liegenden Datenschutzbedenken sowie der Faktoren, die die Risikowahrnehmung beeinflussen, und (2) darauf aufbauende, gezielte Interventionen, um diese Bedenken auszuräumen. Die Arbeit eröffnet damit eine fundierte und empirisch abgesicherte Perspektive auf eine datenschutzfreundliche Zukunft im Zeitalter ubiquitärer digitaler Technologien. Im ersten Teil der Dissertation werden Datenschutzbedenken in intelligenten Umgebungen untersucht. Anhand von Umfragen, Interviews und Fokusgruppen analysiere ich, wie Menschen Risiken wahrnehmen und wie sie mit der Erhebung, Verarbeitung und Weitergabe ihrer Daten umgehen. Im Fokus stehen dabei unter anderem Bedenken im Kontext von Smart Homes aus der Perspektive sekundärer Nutzender. Insbesondere untersuchen wir das Verständnis für vernetzte Interaktionen zwischen Smartphones und smarten Geräten. Darüber hinaus betrachten wir auch Erfahrungen mit Datenschutzverletzungen im analogen Alltag sowie Wahrnehmungen gegenüber neuartigen Technologien wie innovativen Haushaltsrobotern und radiofrequenzbasierten Sensoren. Diese Analysen liefern wertvolle Einblicke in die Bedenken und Bedürfnisse von Nutzenden und bilden die Grundlage für die Entwicklung wirksamer datenschutzfreundlicher Lösungen. Im zweiten Teil der Arbeit werden neuartige Datenschutzmechanismen entwickelt und empirisch evaluiert, die Menschen zu mehr Kontrolle über ihre Daten befähigen. Dabei stelle ich zwei konzeptuelle Rahmenwerke vor: Das erste befasst sich mit der Gestaltung wirksamer Einwilligungsmechanismen für spontane Interaktionen in Augmented Reality. Das zweite befasst sich mit dem Umgang mit Datenschutzverletzungen im physischen Raum. Darüber hinaus entwickeln wir Kommunikationsmuster, mit denen Haushaltsroboter ihre datenschutzrelevanten Zustände transparent vermitteln können. Darauf aufbauend entstehen interaktive Privacy Labels, die über die Datenschutzimplikationen von Smart-Home-Geräten informieren und eine fallbezogene und feingranulare Kontrolle ermöglichen. Ergänzend werden in drei Studien greifbare Interaktionsmechanismen für die Einstellung von Datenschutzparametern untersucht. Diese wurden anschließend zu einem plattformübergreifenden System, dem PrivacyHub, weiterentwickelt. Auf Basis der Erkenntnisse aus dem ersten Teil entwickle ich ein konzeptuelles Modell, das zeigt, wie persönliche, technologische und situative Faktoren die Risikowahrnehmung in intelligenten Umgebungen beeinflussen. Im zweiten Teil fasse ich die gewonnenen Erkenntnisse in einem praxisorientierten Leitfaden für nutzerzentrierte Datenschutzmechanismen in intelligenten Umgebungen zusammen. Dieser richtet sich an Forschende sowie an Entwicklerinnen und Designer, die datenschutzfreundliche Systeme entwickeln möchten, die sich konsequent an den Bedürfnissen der Nutzenden orientieren. Insgesamt leistet die Dissertation einen Beitrag, indem sie (1) ein umfassendes Verständnis von Datenschutzbedenken und mentalen Modellen in intelligenten Umgebungen vermittelt, (2) innovative Konzepte und Werkzeuge zur Förderung von Datenschutzbewusstsein und Kontrolle entwickelt, (3) ein konzeptuelles Modell zur Erklärung von Risikowahrnehmung vorstellt, (4) ein Rahmenwerk für effektive, nutzerzentrierte Schutzmechanismen bereitstellt und (5) methodische Reflexionen zur Datenschutzforschung sowie Ausblicke auf künftige Herausforderungen bietet. Die Arbeit zeigt auf, wie benutzerfreundliche Datenschutzlösungen gestaltet sein können, die sich nahtlos in den Alltag integrieren lassen und das Management von Privatsphäre intuitiv und wirkungsvoll machen. So legt diese Dissertation den Grundstein für einen Ansatz, der Datenschutz, technologische Innovation und Benutzbarkeit in Einklang bringt.

• Dokumententyp: Dissertationen (Dissertation, LMU München)
• Keywords: human-computer interaction, usable privacy, intelligent environments
• Themengebiete: 000 Allgemeines, Informatik, Informationswissenschaft ; 000 Allgemeines, Informatik, Informationswissenschaft > 004 Informatik
• Fakultäten: Fakultät für Mathematik, Informatik und Statistik
• Sprache der Hochschulschrift: Englisch
• Datum der mündlichen Prüfung: 21. Oktober 2025
• 1. Bericht­erstatter:in: Schmidt, Albrecht