# Technik demokratisch verhandeln ## Partizipation als Grenzarbeit in Forschung und Innovation Dr. Daniel Guagnin | nexus Institut Berlin [*smartcity.social/technikreflex*](https://smartcity.social/technikreflex) (Mastodon) Note: 1. Technik und Demokratie - Technik strukturiert 2. Gestaltungsmodi auf drei Ebenen - Individuum - Kollektiv - Gesellschaft 3. Diskussion / Gegenüberstellung ---- ## Daniel Guagnin | nexus Institut - Dr. phil. Techniksoziologie - Interdisziplinäre Forschung (seit 2010), Beratung seit (2017) - Datenschutz & IT-Sicherheit, - Technik und Gesellschaft, - Partizipative Technikgestaltung - KI-Governance, menschzentriert - Bereichsleitung Netze und Gesellschaft bei nexus (2022) --- ## Technik demokratisch verhandeln 1. Technik und Demokratie - Technik strukturiert 2. Gestaltungsmodi auf drei Ebenen - Individuum - Kollektiv - Gesellschaft 3. Diskussion / Gegenüberstellung Note: Legitimation der Forderung nach Partizipation in der Technikentwicklung Warum ist eine demokratische Forderung partizipativ Technik zu entwickeln --- ## 1. Technik und Demokratie? Was hat Technik mit Demokratie zu tun? Technik wirkt als materialiserte Gesellschaftsstruktur. ("Society made durable" Latour 1992) Note: Klassiker aus den Science and Technology Studies ---- ### 1.1 Technik strukturiert Gesellschaft <small> | | <span class="fragment" data-fragment-index="0">**Technikvermittelt**</span> | <span class="fragment" data-fragment-index="0">**Strukturvermittelt**</span> | |---|---|---| | **1. Reinterpretation der Situation** | <span class="fragment" data-fragment-index="1">Materialisierte Bereitstellung von Informationen</span> | <span class="fragment" data-fragment-index="2">Leitbilder</span> | | **2. Anreize** | <span class="fragment" data-fragment-index="1">Materialisierte Anreizsysteme (Sanktion)</span> | <span class="fragment" data-fragment-index="2">Etablierte Anreizsysteme</span> | | **3. Ausstattung** | <span class="fragment" data-fragment-index="1">Materialisiertes Ermöglichen, Fördern, Hemmen oder Verunmöglichen von Handlungen</span> | <span class="fragment" data-fragment-index="2">Prozeduren der Ressourcenverteilung</span> | | **4. Zwang** | <span class="fragment" data-fragment-index="1">Materialisierte Beschränkungen</span> | <span class="fragment" data-fragment-index="2">Vorschriften</span> | </small> (Berlin Script Collective 2018): **Materialisierte** Strukturierung von Gesellschaft Note: - Affordances, Handlungsskripte, Einschreibung von Werten in Technik - Mit einer Reihe von Berliner Techniksoziologinnen haben wir die Beeinflussung menschlichen Handelns **systematisiert**, man kann dies gegenüberstellen sozialen Strukturen ---- ### 1.2 Micro Blogs Twitter: What could possibly go wrong? <!-- .element: class="fragment" data-fragment-index="1" --> Note: Twitter und X prägt den Diskurs. Die sozio-technischen Änderungen durch Musk sind deutlich merkbar anhand der Diskussionkultur. Auch die Verstärkung von Hassrede und Desinformation.... ---- ### 1.2 Microblogs  Alternativ-Modell: Interoperables förderiertes Netzwerk autonomer Knotenpunkte, die von Kollektiven / sozialen Gruppen betrieben und moderiert werden. Note: Interoperable, dezentrale Netze sind ein Gegenentwurf Sind aber nicht immer ganz nach den Nutzerbedürfnissen ausgerichtet - Zugänglichkeit (Offen vs. Account-Only) - Kompatibilität / (De-)Zentralität - Pfadabhängigkeiten / Netzwerkeffekte - Funktionalitäten: Sortierung, „Trending Topics“, (Un)Like-Buttons - Moderationsregeln („Free Speech“ vs. „Hate Speech“/„Fake News“) ---- ### 1.3 KI  KI-Politik: Kuratierung der Trainingsdaten, Training, Systemprompts / UX Note: - zu Woke? - zu Biased? - Einflussnahme auf Grok um rassistische Verschwörungstheorien zu validieren... --- ## 2. Gestaltungsmodi - Individuum - Free / Open Source Software - Kollektiv / Organisation - Participatory Design - Gesellschaft - Bürger:innen-Beteiligung Note: - Individuum: Zunächst Selbstermächtigung Kontrolle über die Technik auszuüben. Bottom Up - aber dann auch Organsations-Ebene / Kollektive - Participatory Design wird aber immer organisiert, und hiervon hängen die Rahmenbedindungen ab. - Auf Gesellschaftlicher Ebene tritt meist der Staat in Erscheinung und finanziert Bürgerbeteiligungsprozesse (Executive, Kommunen, Bundestag, Stiftungen, Förderer). --- ### 2.1 Individuum: Free Software #### FLOSS Prinzipien - **Funktionsweise einsehen** 🔍 (study) - **... verändern** 🔧 (change) - **... und teilen** 📤 (share) - **... ohne Zweckbeschränkung** 🎯 (use) (Guagnin 2020) Note: Ideal der selbstermächtigten Veränderung von Software. Aus einer Zeit, in der es selbstverständlich war Software selbst zu verändern, und eine Kultur der gemeinsamen Entwicklung etabliert und praktiziert wurde. Oftmals wahrgenommen als eine Kultur der individuellen Problemlösung - was sich auch äußert in der Pflicht zur Selbstermächtigung in der Redewendung RTFM. ---- #### Ideal: Individuelle Freiheit - Individuelle Freiheit als Grundprinzip (share, use) - Deliberation: Transparenz und kontrolle (study, change) - Liberales Weltbild: "four freedoms" - "free as in free speech" - Subsidiariät: "Help your neighbour", "scratch your own itch" Note: Referenz an die amerikanischen liberalen Werte: Freedom of Speech & Worship, from Want & Fear Aufbrechen der Herrschaft der Experten? Beteiligung von Laien vs. Meritokratie? ---- #### Aushandlung  Individuelle Beiträge und Expertise: "Doocracy" - wer macht hat recht. - Gemeinsame Repositorien werden aber kollektiv verwaltet. *(Guagnin 2020, Collins/Evans 2002)* Note: Auf der individuellen Ebene: Meritokratie, aber eben unterschiedliche Level von Expertise notwendig. Aushandlung von Governance Strukturen und Validitäts-Kriterien ---- #### Aushandlung: "rough consensus..." - Core Developers - Contributors (technical / non-technical) - Governance / Entscheidungsstrukturen *(Guagnin 2020)* ---- #### Grenzobjekte: "... and running code" Basis der Zusammenarbeit sind neben den etablierten Governancetrukturen technische Kooperationstools - Software Code - Bug Tracker - Wikis - Mailinglisten Note: Auch Community Events spielen eine Rolle... ---- #### Rahmenbedingungen - **Selbsthilfe vs. meritokratische Gemeinschaft** - Meritokratische Selektion der Mitglieder - vs. Abstimmung mit den Füßen: **"Forks"** - Technik und Organisation Gegenstand der Verhandlung - Rückbindung: Antworten, Features, Bug Fixes - Umsetzung oder Zurückweisung Note: Aushandlung der technischen Entscheidungen meist transparent. Hier kommt wiederum das Kollektiv zum Tragen, die Bedeutung der individuellen Beiträge kommt erst durch die Integration in die Community (den gemeinsamen Korpus) --- ### 2.2 Kollektiv / Organisation Participatory Design / Value Sensitive Design - **Conceptual Investigations**: **Werte** der Betroffenen - Welche Werte sollten Gegenstand der Technik sein? (Genese) - **Empirical Investigations**: Betrachtung der **Interaktion** - Wie wirken sich (bestehende) Technologien tatsächlich aus (Wirkung) - **Technical Investigations**: Wie unterstützen Technologien die **Umsetzung** gewünschter Werte (Gestaltung) Note: Die VSD Prinzipien verbinden sozialwissenschaftliche Analyse mit einem gestalterischen Anspruch und sind gewissermaßen komplementär zu meinem Forschungsansatz und so verbinden sich Analyse und Gestaltung. ---- #### Aushandlung: KIDD-Prozess  Note: - Organisation stösst einen Prozess an - muss aber überzeugt werden - Das Panel der Vielfalt (PdV) handelt aus - partizipativ und divers - Evaluierung von Risiken & Anforderungen - Multiperspektivität (Rollen, Expertisen, Erfahrungshintergründe) - Repräsentation Überzeugung durch Argumente, Mitarbeitende, Gesetze (AI Act), ... ---- #### Ideal: Deliberation, Inklusion, "Gute Arbeit" - Das Panel der Vielfalt (PdV) - Risiken & Anforderungen: Gleichheit (Grundrechtsrisiken) - Multiperspektivität (Rollen, Expertisen, Erfahrungshintergründe) - Repräsentation Note: - Mitgestaltung - fördert Akzeptanz - Anstossen, Bereitschaft der GF notwendig ---- #### Grenzobjekte - Canvas (Assets, Routinen, Stakeholder) - Szenarien, Use Cases, User Journeys - Transparenzkatalog (**Fairness**, Transparent, Zieldienlich) - Qualitätskriterien Note: Qualität Transparenz, Fairness der Ergebnisse, Qualität der Arbeit - [KIDD-Handbuch](https://kidd-handbuch.gitbook.io) ---- #### Rahmenbedingungen - Moderierter Einführungsprozess - Stakeholder Mapping (im Unternehmen) - Vielfalt - ⚖️Vermittlung zwischen Geschäftsführung, Belegschaft und Technikentwicklung - Ergebnis: z.B. Organisationale Regeln (Betriebsvereinbarung), Pflichtenheft - ⚠️Kooperation Technikdienstleister / Hersteller Note: - Faktor Zeit und Bereitschaft der Teilnahme - Aushandlungsspielraum mit Technikanbieter (Take it or leave it) --- ### 2.3 Gesellschaft: Dialog und Beteiligungsformate [Der Dialog für Cybersicherheit des Bundesamtes für Sicherheit in der Informationstechnik (BSI)](https://www.dialog-cybersicherheit.de/):  Note: Stakeholder Dialog: Aushandlung politischer Framings Aushandlungsräume: Denkwerkstatt, und Arbeitsgruppen ("Workstreams") ---- #### Ideal: Deliberativer Diskurs - Austausch zwischen Zivilgesellschaft und Behörde - Bundesamt für Sicherheit in der Informationstechnik - Cyber-Expert:innen - Anwender:innen, Multiplikatoren - Aushandlung politischer Implikationen: Grundrechte (Unversertheit, Freiheit, Gleichheit, Technische Integrität, ...) Note: Recht, Technik, Executive ----  ---- #### Grenzobjekte - Arbeitsstruktur: Denkwerkstatt, Worksstreams - Output: Gemeinsame Arbeitsergebnisse - Arbeitspapiere - Lernmaterialien - Umsetzungskonzepte ---- #### Rahmenbedindungen - Spannungen zwischen Innenministerium und kritische Zivilgesellschaft - Behörde vs. ehrenamtliche Kollektive - Cyberexpertise vs. Domänenexpertise (prekär: technisches Verständnis) Note: - Teils Misstrauen - Sehr unterschiedliche Arbeitsweisen (auch der Stakeholder) - Große Differenzen im Expertiselevel --- ## Fazit - Legitimität / Governance - Qualität - Umsetzung / Setting ---- ### Fazit: Legitimität / Governance | Case | Entscheidung | Zusammensetzung | | -------- | -------- | -------- | | FLOSS | Doocracy | Meritokratie | | KIDD | Geschäftsführung | Stakeholder Mapping | | Cyberdialog | Abstimmung | Stakeholder Netzwerk| Note: Tabelle mit Stärken und Schwächen Meritokratie aber stark in der Umsetzung vs. Stark bei den Laien, aber schwer in der Umsetzung - Wie entscheiden die Mitglieder des Kollektivs - Meritokratie (Meso) / Doocracy (Mikro) - Beteiligung Moderation - Wie setzen sie sich zusammen - Selektionsmechanismen (Meritokratie) - Zufallsauswahl - Stakeholder Mapping - Sampling - Was passiert in der partizipativen Forschung - (Wer spricht? Welches Setting? Rückkoppelung an die Repräsentierten? Konfligierende Perpektiven?) - Wie wird entschieden was geforscht wird? (Selektion des Ziels:) - Kommunen (Exekutive) - Lead Developer (Meritokratie) - Forschende (VSD) ---- ### Fazit: Qualität | Case | Stärken | Schwäche | | -------- | -------- | -------- | | FLOSS | Umsetzung (Running Code)| Eintrittshürde| | KIDD | Integrativ | Bereitschaft von Unternehmen | | Cyberdialog | Aushandlung | Gemeinsame Zielsetzung | ---- ### Fazit: Umsetzung / Setting | Case | Setting | Grenzobjekte | | -------- | -------- | -------- | | FLOSS | Community | Code / Bugtracker | | KIDD | Stakeholder Mapping | Anforderungen / Fairness| | Cyberdialog | Stakeholder Netzwerk| Workstreamstruktur | --- ## Fragen?  Dr. Daniel Guagnin | nexus Institut Berlin [*smartcity.social/technikreflex*](https://smartcity.social/technikreflex) (Mastodon) [guagnin@nexusinstitut.de](mailto:guagnin@nexusinstitut.de) (Mail) --- # Literatur <!-- .slide: style="font-size: 50%;" --> - Berlin Script Collective 2018: „Technik vergleichen. Ein Analyserahmen für die Beeinflussung von Arbeit durch Technik.“ (mit Berlin Script Collective) In: Arbeits- und Industriesoziologische Studien. - Guagnin, D. 2020: „Linux für alle? Zur Rolle von Laien in Communities der quelloffenen Softwareproduktion.“ Verlag Werner Hülsbusch. - Pohle, J. und D. Guagnin 2019: „Welt → Modell → Technik → Welt’ : Grundrisse eines Frameworks zur Analyse und Kritik der Modellifizierung und Einschreibung von Machtmustern in soziotechnische Systeme“ In: FIfF Kommunikation, 36(1), 14-18. ---- # Literatur (2) <!-- .slide: style="font-size: 50%;" --> - Collins, Harry M., und Robert Evans. „The Third Wave of Science Studies: Studies of Expertise and Experience“. Social Studies of Science 32, Nr. 2 (2002): 235–96. https://doi.org/10.1177/0306312702032002003. - Guagnin, D. et al 2023: „Beteiligung von Betroffenen in der Abwägung und Adressierung von Datenschutzrisiken: Grundrechte schützen durch partizipative Technikgestaltung“ In: F., Michael, A. Roßnagel, R. Neuburger, F. Bieker, und G. Hornung (Hg.): Daten-Fairness in Einer Globalisierten Welt. Nomos. - Wiesse, B., D. Eckhardt, N. Feist, A. Gazos, T. Grenz, D. Guagnin, L. Kocksch, S. Sönmez i.E: „Für eine Soziologie der Cybersicherheit: Multitemporalität und Spannungsverhältnisse digitaler Gesellschaften“ In: Zeitschrift für Soziologie.