WAS HABEN DIESE BEGRIFFE GEMEIN?

1. Algokratie
2. Demokratie
3. Aristokratie
4. Technokratie

​

WAS HABEN DIESE BEGRIFFE GEMEIN?

1. Algokratie
2. Demokratie
3. Aristokratie
4. Technokratie

​

🡪 Autor versteht den Begriff Algokratie wie folgt:

- Suffix „-kratie“ meint to rule by oder herrschen über

- Prefix „Algo-, Demo,-…“ meint wer herrscht

​

z.B. Die Demokratie wird regiert von den Menschen

Die Technokratie von den Technokraten

Die Algokratie von den Algorithmen

POLITIK UND FREIHEIT I: �IM ZEITALTER DER ALGOKRATIE

Ein Referat von Isabel Haringer und Milena Fohrmann

1. WO BEGEGNEN EUCH IM ALLTAG ALGORITHMISCHE STRUKTUREN?

Frage ans Plenum

�2. KÖNNEN WIR UNS IHNEN ENTZIEHEN?�

Frage ans Plenum

INHALT

JOHN DANAHER

• National University of Ireland, Galway

​

Heutiger Text:

• Veröffentlicht in: The Oxford Handbook of Philosophy of Technology
• Titel der Veröffentlichung: Freedom in an Age of Algocracy
• Veröffentlicht am 10.11.2020
• DOI 11.1093

ALGOKRATIE

Begrifsklärung

ALGOKRATIE

Begrifsklärung

= Neologismus

• geprägt wurde der Begriff vom Soziologen A. Aneesh (2006, 2009)

• laut Danaher ist die Bezeichnung nicht so wichtig wie das Phänomen, dass damit beschrieben wird

​

• Danaher verwendet den Begriff als eine Beschreibung der unvermeidlich und scheinbar allgegenwärtigen Verwendung von computercodierten Algorithmen, um die Welt zu verstehen in der wir leben.

➥ wortwörtlich: Herrrschaft der Algorythmen

Sieg von Maschinen über den Menschen und dafür, dass in der weiteren Entwicklung der Menschheit Algorithmen, also eigentlich ganz einfache künstliche Intelligenzen sogar die Staatsgewalt übernehmen und die Menschen beherrschen könnten.

ARGUMENTATIONSALALYSE

Milena Fohrmann

BEHAUPTUNG DES TEXTES

• Im Haupttext wird herausgestellt, dass es die Möglichkeit gebe, dass Algokratie unsere Freiheit beschränke aber auch befreiend/emanzipatorisch sein kann. 

�

„... how algorithmic governance can be both emancipatory and enslaving“

​

ASPEKTE DER FREIHEITSEINSCHRÄNKUNG

• Konkret kommen laut Danaher 2020  in der Debatte über die Freiheit(seinschränkung) durch Algorkratien drei Hauptaspekte auf: 

​

• Die Debatte um Privatsphäre und Kontrolle (zit. n. Polonetsky & Tene 2013)

​

• Die Debatte um Vorurteile (bias) und Ungleichheit (zit. n. Zarsky 2012; Crawford 2013; …) 

​

• Die Debatte um Transparenz und Ablauf (zit. n. Pasquale 2015; Danaher 2016b)

​

UNTERMAUERUNG DER BEGRÜNDUNG

• Wichtigkeit sich mit dem Thema zu befassen, wird herausgestellt
• um sich selbst eine Meinung bilden zu können und aufmerksam zu werden braucht es Hintergrundwissen
• Zur Erläuterung des Themas durchläuft die Argumentation drei Schritte

​

• Zunächst wird die Natur der Freiheit diskutiert
• Anschließend die Natur der Algokratie dargestellt
• darauf folgend werden fünf komplexe Mechanismen erläutert, in denen algokratische Systeme unsere Freiheit “untergraben”

​

(Danaher 2020, 252). 

ARGUMENTATIONSVERLAUF �& BEGRÜNDUNG DER BEHAUPTUNG

• um den Einfluss von Algokratie auf unsere Freiheit zu erfassen, erläutert Danaher zunächst woraus Freiheit besteht
1. Einstieg über die Grundsatzdiskussion von Freiheit (z.B. hat der Mensch einen freien Willen ect.)
2. Fokus des Autors hier auf politische und soziale Freiheit

​

• nicht haben wir einen freien Willen, sondern was braucht es um frei in einem bestimmten politischen / sozialem / kulturellem System zu sein?

Bsp.:

• Bin ich frei wenn ich eine bestimmte Sprache nicht sprechen darf, man sich an gewisse „Sprech-Codes“ halten muss?

Bedeutung der Freiheit

a)

ARGUMENTATIONSVERLAUF �& BEGRÜNDUNG DER BEHAUPTUNG

• Nach Quentin Skinner: Freiheit ist…
1. Frei von Einmischung (Gewalt um Verhalten zu steuern)
2. Authentisches Selbst (mit seinem Handeln und Werten übereinstimmen)
3. Herrschaft (frei sein davon, von jemandes willkürlichem Willen befreit sein)

​

• Ähnlich dazu: List und Vallentini (eher abstrakteren Zugang)

- „Logischer Raum“

🡪 Einmischung anderer untergräbe die Freiheit

Bedeutung der politischen Freiheit

b)

ARGUMENTATIONSVERLAUF �& BEGRÜNDUNG DER BEHAUPTUNG

• Einordnung der Autonomie eines Menschen und dessen Einfluss auf unser Freiheitsempfinden .

​

Nach Joseph Raz

3 Bedingungen müssen erfüllt sein

• Rationalität (Handlungen planen, um Ziele erreichen zu können)
• Angemessene Optionen verfügen (auswählen ist wichtig)
• Unabhängigkeit (frei von Zwang / Manipulation sein)

​

• Viele Theorien der Freiheit
• Zentrale Themen: Rationalität, angemessene Optionen und Einmischung / Manipulation

Bedeutung der Entscheidungsfreiheit & Autonomie

c)

ARGUMENTATIONSVERLAUF �& BEGRÜNDUNG DER BEHAUPTUNG

• Kritisches Hinterfragen unserer eigenen Auffassung über den Wert unserer Freiheit

​

3 Ansätze

1. Intrinsischer Wert – eigene Haltung, es ist wichtig Freiheit zu beschützen
2. Instrumenteller Wert – hilft uns (wie ein Werkzeug) andere Werte zu erfüllen (Freiheit verhilft uns zu Wohlergehen)
3. Beides kann zutreffen

Der Wert unserer Freiheit

d)

KANN ES SINNVOLL SEIN DIE FREIHEIT MANCHMAL ZU OPFERN ODER�IST ES DER WICHTIGSTE WERT?

Frage ans Plenum

KOMPLEXITÄT DER ALGOKRATIE

• Verschiedene Arten von Algokratie :
• finanzieller, rechtlicher, bürokratisches und persönlicher Art

WIE FUNKTIONIEREN ALGORITHMEN?

• 3 Schritte nach Zarsky (2013)

​

1. Daten-Sammlung
2. Daten-Analyse
3. Daten-Verwendung

WIE BEEINFLUSSEN (ZERSTÖREN/FÖRDERN) A.S. DIE INDIVIDUELLE FREIHEIT?

• Nach Gal (2028)

1. Started Preference = ich kann spezifisch angeben was ich will

2. Menu of Preference = wähle aus, basierend auf Vorschlägen meiner Algorithmen

3. Predicted Preference = Basierend auf allgemeinen Daten werden Schätzungen vorgeschlagen

4. Self restraint preference = Langzeit-Daten des Benutzers werden von jetzigem Interesse bevorzugt

​

• 1. schein freiheitsförderlicher als 3. zu sein
• Also je nach dem wie viel Einfluss wir haben ?

3 HAUPTVARIABLEN, �DIE ALGORITHMISCHE SYSTEME BESTIMMEN

• 1. Entscheidungsfindung (Entscheidungen, die durch das System beeinflusst werden)

​

• 2. Entscheidungsschleife (alle Stufen werden von jedem System durchgeführt)
• 4 verschiedene Aufgabenstufen:
• 1. Erfassen
• 2. Verarbeiten
• 3. Handeln
• 4. Lernen

​

• 3. Beziehung zwischen Menschen und Algorithmen …

​

​

ARGUMENTATIONSKRITIK

Isabel Haringer

KRITIK: ASPEKTE DER FREIHEITSEINSCHRÄNKUNG

• Konkret kommen laut Danaher 2020  in der Debatte über die Freiheit(seinschränkung) durch Algorkratien drei Hauptaspekte auf: 

​

1. Die Debatte um Privatsphäre und Kontrolle (surveillance) (zit. n. Polonetsky & Tene 2013)

-> Das Sortieren und Auswerten geschieht über eine „Massenüberwachung“ -> löst Ängste bei den Menschen gegenüber Freiheit aus

​

​

KRITIK: ASPEKTE DER FREIHEITSEINSCHRÄNKUNG

• Konkret kommen laut Danaher 2020  in der Debatte über die Freiheit(seinschränkung) durch Algorkratien drei Hauptaspekte auf: 

​

​

2. Die Debatte um Vorurteile (bias) und Ungleichheit (zit. n. Zarsky 2012; Crawford 2013; …) 

​

-> Da Algorithmen durch Trainingsdaten gefüttert werden, können Verzerrungen die Folge sein (Z.B. Thema Rassismus)

​

​

KRITIK: ASPEKTE DER FREIHEITSEINSCHRÄNKUNG

• Konkret kommen laut Danaher 2020  in der Debatte über die Freiheit(seinschränkung) durch Algorkratien drei Hauptaspekte auf: 

​

3. Die Debatte um Transparenz und Ablauf(procedure) (zit. n. Pasquale 2015; Danaher 2016b)

​

• Funktionsweise von Algorithmen undurchsichtig (aus technischen oder rechtlichen Gründen verborgen)

​

• Bedrohung der Demokratie durch der undurchsichtigen Verfahrensabläufen (Transparenz, was geschieht mit meinen Daten?)

​

3 HAUPTVARIABLEN, �DIE ALGORITHMISCHE SYSTEME BESTIMMEN

• Vorteile des Modells der 3 Hauptvariablen:
• - schnell lesbar / erkennbare Werte
• Für Forscher hilfreich für Untersuchungen z.B. ob Freiheit untergraben oder gefördert wird
• Menschliche Überwachung geschieht aktiv oder passiv? Auswirkungen ermitteln bezüglich der Freiheit möglich
• Auch ein Instrument, mit dem wir messen können, wie algorithmisch ein System ist(Veränderungen werden deutlich)

​

🡪 Grobe Regel:

• Je algorithmischer ein System, desto wahrscheinlicher, dass sie Freiheit untergraben wird (zumindest innerhalb eines Entscheidungsbereiches)

​

3 HAUPTVARIABLEN, �DIE ALGORITHMISCHE SYSTEME BESTIMMEN

• Kritik:
• Wie soll zwischen dem Menschen und Algorithmen geteilt werden?
• Modell zu vage, es gibt viele Möglichkeiten eine Aufgabe zu teilen
• -> diese Komplexität wird nicht erfasst im Modell
• Modell konzentriert sich auf verschiedene Arten der Aufgabenteilung -> andere normative Bedenken finden weniger Beachtung wie schlechte oder verzerrte Daten neg. Konsequenzen

5 MECHANISMEN �ZIEL: REIHE AN VERSCHIEDENEN DENKMUSTERN ZUR THEMATIK ERLANGEN

• Vorschlag des Autors:

- Die Form der Algorithmen so annehmen wie sie ist,

Dann prüfen wie (in verschiedenen Bereichen)

Sie sich auswirkt (also ob gut oder schlecht abwägen),

Basierend auf den Werten von Freiheit

​

- Kontrolle über alles kann anstrengen: Freiheit kann in einem Bereich untergraben werden, dafür nicht grundsätzlich schlecht

ARGUMENTE�= 5 MECHANISMEN �

Argumente bezüglich wie a.Systeme die Freiheit untergraben können

In Anlehnung an die bereits erwähnten Bedingungen der Entscheidungsfreiheit

1. Rational

2. Manipulation

3. Herrschaft

​

Sowie 2 positive Mechanismen, die die Freiheit durch algorithmische Systeme fördern können

• Filtrierung von Entscheidungen
• Schaffung kognitiver Freiräume

ARGUMENTE�= 5 MECHANISMEN �

Argumente bezüglich wie a.Systeme die Freiheit untergraben können

1. Rational (Ziele erreichen durch bewusste Entscheidungsfindung)

- Bedrohung der Rationalität, wenn algorithmische Systeme das Entscheiden übernehmen

(vollständig und automatisiert)

- Undurchsichtigkeit problematisch

(warum handle ich so? Mensch wird programmiert? Bsp Apps wi Google Maps etc. man befolgt blind Anforderungen)

​

​

ARGUMENTE�= 5 MECHANISMEN �

Argumente bezüglich wie a.Systeme die Freiheit untergraben können

2. Manipulation (Entscheidungen können manipuliert werden)

- Freiheit in Gefahr durch a.Sy. Wenn man zu einem Verhalten gezwungen wird (AGB‘s bestätigen…)

- Psychische Nötigung möglich (bei gewissem Verhalten, Schocks durch Armband), je nachdem wie a.Sy. Programmiert wurde

- subtile Form ebenfalls gefährlich: wenn man es nicht als bewusst wahrnimmt

- „Nudging“ – Menschen werden zu bestimmten Handlungen angeregt, die ihr Wohlbefinden maximieren und dem Gemeindewohl dienen -> dieses Konzept kritisch

- Zb gesundes Essen immer auf Augenhöhe -> Menschen wählen diese wahrscheinlich langfristig unbewusst (man könnte das erkennen und es ablehnen, dennoch manipulativ)

​

​

ARGUMENTE�= 5 MECHANISMEN �

Argumente bezüglich wie a.Systeme die Freiheit untergraben können

3. Herrschaft (man ist frei von einem willkürlichen Willen eines Anderen)

- Herrschaftsaspekt im großen Maße durch Massenüberwachung (welche auf algorithmischen Systemen aufbauen) in Gefahr

- man muss sich in den Grenzen des Systems aufhalten

- BSp. Menschen mit Behinderung leiden oft unter „dem guten Willen einer anderen Person“ bzw. abhängig

- bei Algokratie ähnliches Phänomen -> treffen viele kleine Entscheidungen -> ein Netz von Geräten überwacht unser Verhalten, somit doch auch abhängig

-Verbraucherverhalten: Schwangerschaftsdaten lukrativ (normaler Bürger 50 Cent, Schwangere 1,50) -> Versuch Schwangerschaft zu verbergen endet mit schlechtem Gewissen (kriminell)

​

​

ARGUMENTE�= 5 MECHANISMEN �

2 positive Mechanismen, die die Freiheit durch algorithmische Systeme fördern können

​

1. Filtrierung von Entscheidungen

- wenn wir Optionen kennen und auswählen können

- manche sagen, je mehr Optionen, desto besser, da für jeden was dabei ist

- zugleich: „Paradoxon der Welt“: zu viele Optionen überfordern auch und somit kann es auch die Freiheit wiederum untergraben

​

2. Schaffung kognitiver Freiräume

- algorithmische Systeme können „kognitive Lockerheit“ erzeugen (z.B. bei Zeitmangel)

RESULTAT

• Welche Auswirkungen haben algorithmische Systeme auf unsere individuellen Entscheidungen und unser Verhalten?

- Fördern und untergraben gleichzeitig

- Meisten sehen in a.S. eine Bedrohung

- einfache Antworten sollen abgelehnt werden, da Thema sehr komplex

​

„Freiheit, als einen komplexen multidimensionalen Wert, und

Algokratie ein komplexes multidimensionales Phänomen.“

SCHLUSSWORT

Manipulation und Herrschaft waren schon davor vorhanden (als Aspekte die unsere Freiheit bedrohen können),

-> Im Bezug auf Algorithmen müssen wir immer wieder genau hinsehen und abwägen, in welche Richtung sie gehen

AKTIVER AUSTAUSCH

VIELEN DANK

QUELLEN

• Danaher (2020) "Freedom in the Age of Algocracy"

→ 5. [2020] Danaher - Freedom in an Age of Algocracy.pdf

��