WHY AI CANNOT BE A BONA FIDE MORAL AGENT (YET)

Julius Eder

Bruno Zaro Steffen

• I Das Argument
• II Argumentkritik
• III Debatte

2

I.

3

P1 Ein „bona fide moral agent“ ist ein vertrauenswürdiger Agent

​

P2 Vertrauenswürdigkeit besteht aus Zuverlässigkeit und dem Verinnerlichen von Normen

​

P3 AI kann Normen nicht Verinnerlichen

____________________________________________

​

C1 AI kann nicht vertrauenswürdig sein (aus P2 und P3)

​

C2 Ai kann nicht ein „bona fide moral agent“ sein (aus P1 und C1)

I.

4

P1 Ein „bona fide moral agent“ ist ein vertrauenswürdiger Agent

​

P2 Vertrauenswürdigkeit besteht aus Zuverlässigkeit und dem Verinnerlichen von Normen

​

P3 AI kann Normen nicht Verinnerlichen

_____________________

​

C1 AI kann nicht vertrauenswürdig sein

​

C2 Ai kann nicht ein „bona fide moral agent“ sein

Fähigkeiten zur Verinnerlichung von Normen:

​

1. Kognitiv ✗

​

2. Emotional ✗

​

3. Sozial ?

II.

• A 1: A ↔ B
• A 2: B ↔ (C ^ D)
• A 3: ¬D

�

• C1: ¬B
• C2: ¬A

​

Sample Footer Text

5

2/9/2024

→ Argument ist gültig

II.

• Einwand zu A1: Die Gleichsetzung von bona fide agency mit Vertrauenswürdigkeit ist nicht hinreichend.
• Erwiderung: Für die Argumentation ist es nicht hinderlich, von einem

Sample Footer Text

6

2/9/2024

II.

• Einwand zu A2: Vertrauenswürdigkeit nur an geteilten Normen (und Zuverlässigkeit) festzumachen ist sehr eng, warum das die einzige Möglichkeit für Vertrauenswürdigkeit ist, ist unklar. Denkbar wäre auch (C ^ D) → B.
• Erwiderung: Ich habe die Sekundärtexte nicht gelesen, auf die sich da bezogen wird

​

Sample Footer Text

7

2/9/2024

II.

• Einwand zu A1: Gerade die Differenz zwischen bewussten Normen und normativen Handeln (siehe Milgram-Experiment) macht Menschen grundsätzlich weniger vertrauenswürdig, trotzdem vertrauen sich Menschen → Vertrauenswürdigkeit nicht notwendig für bona fide Handeln.
• Erwiderung: Menschen sehen beim Vertrauen ihr Gegenüber trotz deren Limitationen als vertrauenswürdig an. 

Sample Footer Text

8

2/9/2024

II.

• Erwiderung zu A1, A3: Erklärbarkeit/Rechtfertigbarkeit von Entscheidungen kann auch als notwendig für Vertrauenswürdigkeit gesehen werden, das können KIs leisten. 
• Erwiderung: Aufgrund ihrer fehlenden Emotionen und Flexibilität können KIs in unerwarteten Situationen nicht adäquat handeln und fühlen und fürchten auch keine negativen emotionen, wenn in dort "Fehler" gemacht werden. Beispiel: KI wird home security anvertraut, eine Pilotin stürzt ab und landet mit ihrem Fallschirm im Garten. Die KI sieht sie als Eindringling und geht gewaltsam gegen sie vor.

Sample Footer Text

9

2/9/2024

III.

Bildet zwei Gruppen.

Ihr habt 10 Minuten Zeit, in eurer Gruppe Argumente zu besprechen

​

Anschließend verteidigt eine Gruppe die These des Papers, die andere Gruppe argumentiert dagegen.

10