# Technik gemeinsam verhandeln ## und gestalten für eine ökosoziale Zukunft Dr. Daniel Guagnin | nexus Institut Berlin [*smartcity.social/technikreflex*](https://smartcity.social/technikreflex) (Mastodon) Note: 1. What could possibly go wrong 2. Sozio-technische Strukturierung 3. Gestaltungsmodi auf drei Ebenen - Individuum - Kollektiv - Gesellschaft 4. Fazit / Diskussion [langversion](https://md.chaospott.de/j6NK3vnuReORA5r-21PmWw#) ---- ## Daniel Guagnin | nexus Institut - Dr. phil. Techniksoziologie - Transdisziplinäre Forschung (seit 2010), Beratung seit (2017) - Datenschutz & IT-Sicherheit, - Technik und Gesellschaft, - Partizipative Technikgestaltung - KI-Governance, menschzentriert - Bereichsleitung Netze und Gesellschaft bei nexus (2022) - Forum Informatiker:innen für Frieden ----  > "Wir wollen ... ... dass Informationstechnik im Dienst einer lebenswerten Welt steht." ---- ## Agenda: Technik gemeinsam verhandeln 1. What could possibly go wrong 2. Sozio-technische Strukturierung 3. Gestaltungsmodi auf drei Ebenen - Individuum - Kollektiv - Gesellschaft 4. Fazit / Diskussion Note: <!-- ggf anpassen am Ende --> - Nur kurz die Beispiele anreissen - Welche Werte stecken eigentlich in unserer Technik? - Kurz analytisch begründen - Dann Ansätze für die Frage der Gestaltung - Diskussion: Wie, wen beteiligen? Wo führt das hin? --- ## 1. Beispiele der technischen Strukturierung 1. [~~Instant Messenger~~ (link)](https://netzpolitik.org/2024/digitale-muendigkeit-whatsapp-nein-danke/#) 2. MicroBlogs 3. "KI": chatbots > Alles was wir Wissen, wissen wir aus Massenmedien <small> (Luhmann, Niklas. Die Realität der Massenmedien. 2004)</small> --- ### 1.2 Micro Blogs - Twitter: Per SMS ins Netz Bloggen (2006), Etabliertes Medium - Musk: Hold my beer! <!-- .element: class="fragment" data-fragment-index="1" --> Note: Twitter und X prägt den Diskurs. Die sozio-technischen Änderungen durch Musk sind deutlich merkbar anhand der Diskussionkultur. Auch die Verstärkung von Hassrede und Desinformation.... ---- ### 1.2 Twitter: Alpha und Omega <small> | | | |-|-| | **2006** | SMS-Micro-Blog (offen zugänglich) | | **2022** | Musk will Twitter zu einem "globalen Marktplatz" für „Meinungsfreiheit" machen. | | | November 2022: Wiederzulassung (wegen hate & fake) gesperrter Accounts | | **2024** | ==Selektive Bevorzugung bestimmter Narrative (rechtsautoritäte, libertär-autokratische)== [1,2,3] | | | Anhaltende Kritik an Hassrede und Desinformation; Abwanderung prominenter User und Organisationen | </small> Note: Empfehlungs- und Moderationssystem wurde zugunsten Positionen und Akteur:innen modifiziert (vgl. Ye et al. 2025) [1] Graham, Timothy & Andrejevic, Mark (2024): A computational analysis of potential algorithmic bias on platform X during the 2024 US election. https://eprints.qut.edu.au/253211/ [2] Prama, Tabia Tanzin, Chhandak Bagchi, Vishal Kalakonnavar, Paul Krauß, und Przemyslaw A. Grabowicz. „Political Biases on X before the 2025 German Federal Election“, 17. Februar 2025. https://doi.org/10.5281/zenodo.14880275. [3] Jinyi Ye, Luca Luceri und Emilio Ferrara (2025): Auditing Political Exposure Bias: Algorithmic Amplification on Twitter/X During the 2024 U.S. Presidential Election. Vgl. https://dl.acm.org/doi/10.1145/3715275.3732159, zuletzt abgerufen am 4. 11. 2025. ---- ### Allgemein: Walled Gardens  "Enshitification": Nach Etablierung folgt Monetarisierung und Entwicklung läuft wider User-Interessen (Doctorow) Note: - Walled Gardens und Enshitification ---- ### Allgemein: Walled Gardens & "Enshitification" #### Optimierung worauf? - Aufmerksamkeitsökonomie - Konsummöglichkeiten - Individualisierungsversprechen ---- ### 1.2 Dezentrale Microblogs - Kollektive Governance - Wahlfreiheit zwischen verschiedenen Plattformen - ⚡Verstärkungsalgorithmen: - Keine / Wahlmöglichkeiten - Reichweitenmessung? - Rechtfertigungsdruck von PR-Abteilungen - Interoperationalität / Offenheit Note: ---- ### 1.2 Dezentrale Microblogs  2018: Activity Pub als neues Standard Austauschprotokoll des W3C<!-- .element: class="fragment" data-fragment-index="1" --> 2019/21: Start von Bluesky als Spin Off von Twitter<!-- .element: class="fragment" data-fragment-index="1" --> 2023: Meta/Threads kündigen an ActivityPub zu unterstützen<!-- .element: class="fragment" data-fragment-index="1" --> ---- ### 1.2 Dezentrale Microblog-Protokolle  Alternativ-Modell: ==Interoperables förderiertes Netzwerk autonomer Knotenpunkte, die von Kollektiven betrieben und moderiert werden.== Note: Interoperable, dezentrale Netze sind ein Gegenentwurf Sind aber nicht immer ganz nach den Nutzerbedürfnissen ausgerichtet ---- ### 1.2 Fragen technischer Strukturierung - Zugänglichkeit (Offen vs. Account-Only) - Kompatibilität / (De-)Zentralität - Pfadabhängigkeiten / Netzwerkeffekte - Funktionalitäten: Sortierung, „Trending Topics“, (Un)Like-Buttons - Moderationsregeln („Free Speech“ vs. „Hate Speech“/„Fake News“) ---- ### 1.3 Generative Pretrained Transformer ("KI") - Repräsentation von Wissen - Wahrnehmung von Wissen (Quellen?) - Gestaltungsoptionen: - User Interface, - Systemprompts, - Training, - Kuratierung der Trainingsdaten, ---- ### What the Musk? 😑  Politische Gestaltung: ==Kuratierung der Trainingsdaten, Training, Systemprompts, User Interface== Note: - zu Woke? - zu Biased? - Einflussnahme auf Grok um rassistische Verschwörungstheorien zu validieren... ---- ### What could possibly go wrong? 😳 <!-- .element: class="fragment" data-fragment-index="1" --> ---- ### Nein! - Doch! - Oooch! 🫣 <!-- .element: class="fragment" data-fragment-index="1" --> Eine von Grok umgeschriebene Enzyklopädie<!-- .element: class="fragment" data-fragment-index="1" --> --- ### 2 Technik strukturiert Gesellschaft - Als materialisierte Struktur - Dabei werden implizite und explizite Normen eingeschrieben - Gesellschaftliche Wertvorstellungen reproduzieren sich > Technology is society made durable <small> (Latour 1992)</small> ---- ### 2.1 Technik als materialiserte Gesellschaftsstruktur <small> | | <span class="fragment" data-fragment-index="0">**Technikvermittelt**</span> | <span class="fragment" data-fragment-index="0">**Strukturvermittelt**</span> | |---|---|---| | **1. Reinterpretation der Situation** | <span class="fragment" data-fragment-index="1">Materialisierte Bereitstellung von Informationen</span> | <span class="fragment" data-fragment-index="2">Leitbilder</span> | | **2. Anreize** | <span class="fragment" data-fragment-index="1">Materialisierte Anreizsysteme (Sanktion)</span> | <span class="fragment" data-fragment-index="2">Etablierte Anreizsysteme</span> | | **3. Ausstattung** | <span class="fragment" data-fragment-index="1">Materialisiertes Ermöglichen, Fördern, Hemmen oder Verunmöglichen von Handlungen</span> | <span class="fragment" data-fragment-index="2">Prozeduren der Ressourcenverteilung</span> | | **4. Zwang** | <span class="fragment" data-fragment-index="1">Materialisierte Beschränkungen</span> | <span class="fragment" data-fragment-index="2">Vorschriften</span> | </small> (Berlin Script Collective 2018) Note: - Affordances, Handlungsskripte, Einschreibung von Werten in Technik - Mit einer Reihe von Berliner Techniksoziologinnen haben wir die Beeinflussung menschlichen Handelns **systematisiert**, man kann dies gegenüberstellen sozialen Strukturen ---- ### 2.2 Modellierung der Welt, Einschreibung von Werten - Wert- und Weltvorstellungen - Annahmen, Prämissen - Notwendige Reduktion der Welt im Modell - ==Welche Werte, wessen Werte?== (Pohle / Guagnin 2019) ---- ### 2.3 Gesellschaftliche Paradigmen - Individuelle und kollektive Wertvorstellungen - Personalisierte, "relevante Inhalte" = Werbefläche - Usability & "intuitive Nutzung" = Pfadabhängigkeiten - Wahlfreiheit = Responsibilisierung - User Experience = Make apps a habit Note: - Technik (re)produziert also Weltvorstellungen (wie auch soziale Strukturen) - Technik schreibt bestimmte Verhaltensmuster fest ---- ## 2.3 Optimierung worauf? Apps als Selbstzweck?  Note: Ziel: Ständiges verharren in Applikation, Zeit als Werbefläche zu verbringen, die App aufzuwerten durch eigene Beiträge... ---- ### Personalisierung, Individualisierung, Monetarisierung #### Individuum = Werbekategorie  Note: --- ### 2.3 Responsibilisierung - Freiwillig 😂 - Informiert 🤯  Wäge deine Risiken selbst ab! --- ## 3. Gestaltung ### Gestaltungsmodi - Individuum - Free / Open Source Software - Kollektiv / Organisation - Participatory Design - Gesellschaft - Bürger:innen-Beteiligung / Diskurse Note: - Individuum: Zunächst Selbstermächtigung Kontrolle über die Technik auszuüben. Bottom Up - aber dann auch Organsations-Ebene / Kollektive - Participatory Design wird aber immer organisiert, und hiervon hängen die Rahmenbedindungen ab. - Auf Gesellschaftlicher Ebene tritt meist der Staat in Erscheinung und finanziert Bürgerbeteiligungsprozesse (Exekutive, Kommunen, Bundestag, Stiftungen, Förderer). --- ### 3.1 Individuum: Free Software #### FLOSS Prinzipien - **Funktionsweise einsehen** 🔍 (study) - **... verändern** 🔧 (change) - **... und teilen** 📤 (share) - **... ohne Zweckbeschränkung** 🎯 (use) Note: Ideal der selbstermächtigten Veränderung von Software. Aus einer Zeit, in der es selbstverständlich war Software selbst zu verändern, und eine Kultur der gemeinsamen Entwicklung etabliert und praktiziert wurde. Oftmals wahrgenommen als eine Kultur der individuellen Problemlösung - was sich auch äußert in der Pflicht zur Selbstermächtigung in der Redewendung RTFM. ---- #### Individuelle Freiheit - Individuelle Freiheit als Grundprinzip (share, use) - Deliberation: Transparenz und kontrolle (study, change) - Subsidiariät: "Help your neighbour", "scratch your own itch" - "free as in free speech" Note: Referenz an die amerikanischen liberalen Werte: Freedom of Speech & Worship, from Want & Fear Aufbrechen der Herrschaft der Experten? Beteiligung von Laien vs. Meritokratie? ---- #### Governance und Zielstellungen - Institutionalisierug und Entscheidungsstrukturen - Öffentliche Aushandlungsprozesse - Beteiligungsmöglichkeiten - Meritokratische Selektion der Mitglieder - Abstimmung mit den Füßen: **"Forks"** - Technik und Organisation Gegenstand der Verhandlung - Parallelprojekte (Ubuntu vs. Arch, ActivityPub vs. ATP) Note: Aushandlung der technischen Entscheidungen meist transparent. Hier kommt wiederum das Kollektiv zum Tragen, die Bedeutung der individuellen Beiträge kommt erst durch die Integration in die Community (den gemeinsamen Korpus) <!---  --> ---- #### Aushandlung: "rough consensus..." Selbsthilfe vs. meritokratische Gemeinschaft - Core Developers - Contributors (technical / non-technical) - Pull request - Governance / Entscheidungsstrukturen *(Guagnin 2020)* Note: Wer darf mitmachen / mitentscheiden? Auch eine Frage der Code-Literacy / technischen Expertise --- ### 3.2 Participatory Design / Value-Sensitive-Design Ungehörte Stimmen einholen, durch organisierte Beteiligung - **Conceptual Investigations**: ==Werte der Betroffenen== - Welche Werte sollten Gegenstand der Technik sein? - **Empirical Investigations**: Betrachtung der Interaktion - Wie wirken sich (bestehende) Technologien tatsächlich aus - **Technical Investigations**: Wie unterstützen Technologien die Umsetzung gewünschter Werte Note: Die VSD Prinzipien verbinden sozialwissenschaftliche Analyse mit einem gestalterischen Anspruch und sind gewissermaßen komplementär zu meinem Forschungsansatz und so verbinden sich Analyse und Gestaltung. ---- #### Reflexion unbewusster normative Vorstellungen & impliziter Annahmen - Erfahrungshintergründe und Zielstellungen - Einbeziehung vulnerabler Gruppen - z.B. auf Basis von Erfahrung / Identität / Sozialisation <!-- .slide: data-background-image="https://md.chaospott.de/uploads/fa42a48a-d514-4279-984f-d29168a67054.png" data-background-position="right bottom" data-background-size="40%" data-background-repeat="no-repeat" --> <small>*Bild: charta-der-vielfalt.de*</small> ---- #### Z.B.: KIDD-Prozess  Note: - Organisation stösst einen Prozess an - muss aber überzeugt werden - Das Panel der Vielfalt (PdV) handelt aus - partizipativ und divers - Evaluierung von Risiken & Anforderungen - Multiperspektivität (Rollen, Expertisen, Erfahrungshintergründe) - Repräsentation Überzeugung durch Argumente, Mitarbeitende, Gesetze (AI Act), ... <!-- ---- #### Ziele: Deliberation, Inklusion, "Gute Arbeit" - Das Panel der Vielfalt (PdV) - Risiken & Anforderungen: Gleichheit (Grundrechtsrisiken) - Multiperspektivität (Rollen, Expertisen, Erfahrungshintergründe) - Repräsentation - ==partizipative Folgenabschätzung== Note: - Mitgestaltung - fördert Akzeptanz - Anstossen, Bereitschaft der GF notwendig --> ---- #### Stellvertretende Einbeziehung - Moderierter Einführungsprozess - Stakeholder Mapping (im Unternehmen) - Vielfalt - ⚖️Vermittlung zwischen Geschäftsführung, Belegschaft und Technikentwicklung - Ergebnis: z.B. Organisationale Regeln (Betriebsvereinbarung), Pflichtenheft - ⚠️Kooperation Technikdienstleister / Hersteller Note: - Faktor Zeit und Bereitschaft der Teilnahme - Aushandlungsspielraum mit Technikanbieter (Take it or leave it) --- ### 3.3 Gesellschaft: Dialog und Beteiligungsformate - Aushandlung von Leitlinien, Anforderungen - Perspektivenabgleich - Bürger:innengutachten - Beteiligung am Diskurs ---- ### 3.3 Gesellschaft: Multistakeholder-Dialog [Der Dialog für Cybersicherheit des Bundesamtes für Sicherheit in der Informationstechnik (BSI)](https://www.dialog-cybersicherheit.de/):  Note: Stakeholder Dialog: Aushandlung politischer Framings Aushandlungsräume: Denkwerkstatt, und Arbeitsgruppen ("Workstreams") ---- #### Austausch zwischen Zivilgesellschaft und Behörde - Bundesamt für Sicherheit in der Informationstechnik - Cyber-Expert:innen - Anwender:innen, Multiplikatoren - Aushandlung politischer Implikationen (Grundrechtsabwägungen) - Gemeinsame Entwicklung von Lösungsansätzen Note: Recht, Technik, Executive (Unversertheit, Freiheit, Gleichheit, Technische Integrität, ...) ---- ### Spannungsfelder: Technische Integrität (->Cyberpeace)  ---- #### Rahmenbedindungen - Spannungen zwischen Innenministerium und kritische Zivilgesellschaft - Behörde vs. ehrenamtliche Kollektive - Cyberexpertise vs. Domänenexpertise - ==Wer ist sprechfähig, worüber?== -> Nachmittagsworkshop Cyberpeace [masto](https://mastodon.bits-und-baeume.org/@bitsundbaeume_berlin/115553615728372608) [website](https://www.dialog-cybersicherheit.de/) Note: - Teils Misstrauen - Sehr unterschiedliche Arbeitsweisen (auch der Stakeholder) - Große Differenzen im Expertiselevel --- ## 4. Fazit Gestaltung ist notwendig: Aushandlung der Werte, die wir in Technik einschreiben - Zielstellungen: Technik wofür? - Governance / Legitimität: Wer? - Umsetzung: Auf welcher Ebene? --- # Fragen? Diskussion! <!-- .slide: style="font-size: 50%;" --> <!-- QR/ Link einbinden -->   [Folien/Skript: https://md.chaospott.de/p/v81e8U1sH#/](https://md.chaospott.de/p/v81e8U1sH#/) | [offene-netzwerke.eu](https://offene-netzwerke.eu/forderungen/) Dr. Daniel Guagnin | nexus Institut Berlin [*smartcity.social/technikreflex*](https://smartcity.social/technikreflex) (Mastodon) [guagnin@nexusinstitut.de](mailto:guagnin@nexusinstitut.de) (Mail) --- # Literatur <!-- .slide: style="font-size: 50%;" --> - Berlin Script Collective 2018: „Technik vergleichen. Ein Analyserahmen für die Beeinflussung von Arbeit durch Technik.“ (mit Berlin Script Collective) In: Arbeits- und Industriesoziologische Studien. - Guagnin, D. 2020: „Linux für alle? Zur Rolle von Laien in Communities der quelloffenen Softwareproduktion.“ Verlag Werner Hülsbusch. - Pohle, J. und D. Guagnin 2019: „Welt → Modell → Technik → Welt’ : Grundrisse eines Frameworks zur Analyse und Kritik der Modellifizierung und Einschreibung von Machtmustern in soziotechnische Systeme“ In: FIfF Kommunikation, 36(1), 14-18. ---- # Literatur (2) <!-- .slide: style="font-size: 50%;" --> - Collins, Harry M., und Robert Evans. „The Third Wave of Science Studies: Studies of Expertise and Experience“. Social Studies of Science 32, Nr. 2 (2002): 235–96. https://doi.org/10.1177/0306312702032002003. - Guagnin, D. et al 2023: „Beteiligung von Betroffenen in der Abwägung und Adressierung von Datenschutzrisiken: Grundrechte schützen durch partizipative Technikgestaltung“ In: F., Michael, A. Roßnagel, R. Neuburger, F. Bieker, und G. Hornung (Hg.): Daten-Fairness in Einer Globalisierten Welt. Nomos. - Wiesse, B., D. Eckhardt, N. Feist, A. Gazos, T. Grenz, D. Guagnin, L. Kocksch, S. Sönmez i.E: „Für eine Soziologie der Cybersicherheit: Multitemporalität und Spannungsverhältnisse digitaler Gesellschaften“ In: Zeitschrift für Soziologie. --- # Anhang ----  (Pohle / Guagnin 2019) ----  Individuelle Beiträge und Expertise: "Doocracy" - wer macht hat recht. - Gemeinsame Repositorien werden aber kollektiv verwaltet. *(Guagnin 2020, Collins/Evans 2002)* Note: Auf der individuellen Ebene: Meritokratie, aber eben unterschiedliche Level von Expertise notwendig. Aushandlung von Governance Strukturen und Validitäts-Kriterien ---- ### Fazit: Legitimität / Governance | Case | Entscheidung | Zusammensetzung | | -------- | -------- | -------- | | FLOSS | Doocracy | Meritokratie | | KIDD | Geschäftsführung | Stakeholder Mapping | | Cyberdialog | Abstimmung | Stakeholder Netzwerk| Note: Tabelle mit Stärken und Schwächen Meritokratie aber stark in der Umsetzung vs. Stark bei den Laien, aber schwer in der Umsetzung - Wie entscheiden die Mitglieder des Kollektivs - Meritokratie (Meso) / Doocracy (Mikro) - Beteiligung Moderation - Wie setzen sie sich zusammen - Selektionsmechanismen (Meritokratie) - Zufallsauswahl - Stakeholder Mapping - Sampling - Was passiert in der partizipativen Forschung - (Wer spricht? Welches Setting? Rückkoppelung an die Repräsentierten? Konfligierende Perpektiven?) - Wie wird entschieden was geforscht wird? (Selektion des Ziels:) - Kommunen (Exekutive) - Lead Developer (Meritokratie) - Forschende (VSD) ---- ### Fazit: Qualität | Case | Stärken | Schwäche | | -------- | -------- | -------- | | FLOSS | Umsetzung (Running Code)| Eintrittshürde| | KIDD | Integrativ | Bereitschaft von Unternehmen | | Cyberdialog | Aushandlung | Gemeinsame Zielsetzung | ---- ### Fazit: Umsetzung / Setting | Case | Setting | Grenzobjekte | | -------- | -------- | -------- | | FLOSS | Community | Code / Bugtracker | | KIDD | Stakeholder Mapping | Anforderungen / Fairness| | Cyberdialog | Stakeholder Netzwerk| Workstreamstruktur | ---- ### 1.3 "Wissensbasis" und Bot-"Verhalten"  - Daten, die Bots von Propagandaakteuren zur Verfügung gestellt werden - ==Veränderung in der Reaktion der Bots auf Fragen ausserhalb der Datenbasis (anstatt zu schweigen)== - [newsguardtech.com/ai-monitor](https://www.newsguardtech.com/ai-monitor/august-2025-ai-false-claim-monitor/)