Physical modeling of opinion formation in complex social systems

Kainz, Viktoria (2026): Physical modeling of opinion formation in complex social systems: an agentic approach based on information theory. Dissertation, LMU München: Faculty of Physics

Abstract

Modern communication environments are complex systems, currently suffering from misinformation, polarization, and declining trust relationships. Navigating them requires solving a dual-learning problem: simultaneously extracting reliable information and evaluating source trustworthiness, both under high uncertainty. Interdisciplinary research, specifically generative social science, aims to link these micro-level cognitive challenges to emergent macro-level dynamics from the bottom up, but faces a persistent trade-off between cognitive realism and network scale. Specifically, Bayesian learning and information-theoretically grounded reasoning -- despite being optimal frameworks for modeling cognition under uncertainty -- have been mostly excluded from larger multi-agent simulations due to their high computational and analytic costs. To bridge this gap, we extend the Reputation Game Simulation (RGS), an information-theoretic agent-based model intended for socio-physical applications, which uses approximate Bayesian learning and a Theory of Mind to mimic human reasoning under limited cognitive resources. Coupling probabilistic belief inference with dynamic, adaptive social interactions enables the framework to capture both sophisticated individual cognition and emergent group-level phenomena across diverse, self-organizing networks of up to 50 agents. Applying the RGS reveals how deeply individual cognition intertwines with social dynamcis. At the micro-level, under active manipulation, even rational agents develop a "Learned Insignificance of Credibility Signs" (LICS) bias, rationally disregarding valid evidence purely due to deceptive social influence. At the macro-level, baseline communication within small-world networks shows naturally emerging agreement between agents driven by mutual trust, though this consensus often remains disconnected from factual reality. The consequence are illusory group opinions even without any deliberate manipulation. Introducing such manipulation further reveals that both epistemic vulnerabilities and resiliences are strongly bound to communication habits and thereby emerging network structures: small-world networks are highly susceptible to rapid informational cascades and central propagandists; dense networks resist self-reinforcing spirals but foster persistent, equilibrium-like groupthink; and ring networks show two phases, exhibiting either polarized fracturing or strong resilience. Across all topologies, we identified a robust, decentralized intervention: diversifying conversation topics spreads attention and disrupts manipulative feedback loops, improving group-level epistemic stability even with minority adoption. In conclusion, these findings advance scientific methodology, theoretical understanding, and approaches to societal resilience. Methodologically, we demonstrate that Bayesian cognitive architectures can overcome traditional scaling limits to successfully generate complex macro-level dynamics from cognitively realistic micro-foundations. Theoretically, our results reframe cognitive biases systemically: phenomena like polarization and delusion-like states are not merely products of human irrationality, but emerge dynamically from the interplay of network communication and deceptive social influence. Ultimately, these results also point to an important second pillar of collective informational health: beyond relying on top-down interventions like content moderation or algorithmic restrictions, resilience can as well be cultivated from the bottom up through simple, decentralized behavioral strategies -- such as topic diversification -- providing a powerful complementary defense for modern information environments.

Abstract

Um in modernen, häufig von Fehlinformationen und Polarisierung geprägten Kommunikationsumgebungen zu navigieren, müssen Individuen unter hoher Unsicherheit verlässliche Informationen extrahieren und gleichzeitig die Vertrauenswürdigkeit ihrer Quellen bewerten. Interdiszplinäre Forschung, speziell die generative Sozialwissenschaft zielt darauf ab, diese kognitiven Mikro-Herausforderungen mit emergenten Makrodynamiken zu verknüpfen, befindet sich jedoch in einem steten Kompromiss zwischen kognitivem Realismus und Netzwerkgröße. Insbesondere Informationstheorie und Bayes'sches Lernen -- obwohl optimal für das Modellieren von unsicherheitsbehaftetem Lernen -- blieb aufgrund seiner Komplexität und hohen Rechenaufwands in größeren Multi-Agenten-Simulationen bisher meist ungenutzt. Um diese Lücke zu schließen, erweitern wir die Reputation Game Simulation (RGS), ein informationstheoretisches, auf soziophysikalische Anwendungen ausgerichtetes agentenbasiertes Modell, das approximatives Bayes'sches Lernen und eine Theory of Mind nutzt, um ressourcenbeschränktes menschliches Denken nachzubilden. Die Verbindung probabilistischer Inferenz mit adaptiven sozialen Interaktionen erfasst sowohl komplexe individuelle Kognition als auch emergente Gruppenphänomene in diversen, selbstorganisierenden Netzwerken mit bis zu 50 Agenten. Die Anwendung der RGS verdeutlicht die tiefe Verflochtenheit von individueller Kognition und sozialer Dynamik. Auf der Mikroebene entwickeln selbst rationale Agenten unter manipulativem Einfluss einen "Learned Insignificance of Credibility Signs" (LICS) Bias, wobei sie lernen, valide Evidenz durch trügerischen sozialen Einfluss zu ignorieren. Auf der Makroebene sehen wir, dass durch reine Gruppendynamik der entstehende Konsens nicht immer der faktischen Realität entspricht und damit illusorische Gruppenmeinungen schon ganz ohne aktive Manipulation auftreten. Die Einführung einer solchen Manipulation offenbart zudem die starke Abhängigkeit epistemischer Verwundbarkeit von Gesprächsgewohnheiten und dadurch entstehenden Netzwerkstrukturen: Small-World-Netzwerke sind hochgradig anfällig für Informationskaskaden und zentrale Propagandisten, dichte Netzwerke fördern zwar zunächst widerstandsfähiges, aber später weitgehend unreflektiertes Gruppendenken, und Ringnetzwerke weisen zwei Phasen auf, bestehend aus entweder hoher Resilienz oder stark polarisierter Fragmentierung. Über alle Topologien hinweg erweist sich jedoch Themendiversifizierung als robuste Interventionsmöglichkeit: Sie streut Aufmerksamkeit, unterbricht manipulative Feedbackschleifen und verbessert die epistemische Stabilität, selbst wenn sie nur von einer Minderheit angewendet wird. Zusammenfassend erweitern diese Erkenntnisse Methodik, Theorie und Ansätze zur gesellschaftlichen Resilienz. Methodisch zeigen wir, dass Bayes'sche Modelle traditionelle Skalierungsgrenzen überwinden können, um komplexe Makrodynamiken aus kognitiv realistischen Mikromodellen zu erzeugen. Theoretisch werden kognitive Verzerrungen systemisch eingeordnet: Phänomene wie Polarisierung und wahnähnliche Zustände sind nicht bloß Produkte menschlicher Irrationalität, sondern entstehen dynamisch aus Wechselwirkungen zwischen Netzwerkkommunikation und manipulativem Einfluss. Letztlich weisen diese Ergebnisse auch auf eine wichtige zweite Säule kollektiver Informationsgesundheit hin: Statt sich auf Top-Down-Interventionen wie Inhaltsmoderation oder algorithmische Vorgaben zu verlassen, kann Resilienz auch Bottom-Up durch einfache, dezentrale Verhaltensstrategien -- etwa Themendiversifizierung -- gefördert werden und so eine wirkungsvolle, komplementäre Absicherung für moderne Informationsumgebungen darstellen.

• Item Type: Theses (Dissertation, LMU Munich)
• Keywords: Agent-Based Modeling, Bayesian Learning, Information Theory, Opinion Formation, Reputation Dynamics, Misinformation, Social Networks, Generative Social Science, Cognitive Biases, Learned Insignificance of Credibility Signs, Network Topology, Topic Diversification, Polarization, Theory of Mind, Bounded Rationality
• Subjects: 500 Natural sciences and mathematics; 500 Natural sciences and mathematics > 530 Physics
• Faculties: Faculty of Physics
• Language: English
• Date of oral examination: 6. July 2026
• 1. Referee: Enßlin, Torsten
• Signature of the printed copy: 0001/UMC 32148