ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ: ΗΘΙΚΗ ΚΑΙ ΝΟΜΟΘΕΤΙΚΗ ΠΡΟΣΕΓΓΙΣΗ

ΕΙΣΗΓΉΤΡΙΑ: ΗΛΙΑΝΑ ΚΩΣΤΗ, ΔΙΚΗΓΟΡΟΣ, LLM, ΥΠΟΨΗΦΙΑ ΔΙΔΑΚΤΩΡ ΣΤΑ ΠΡΟΣΩΠΙΚΑ ΔΕΔΟΜΕΝΑ ΚΑΙ ΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ

ΙΣΑΑΚ ΑΣΙΜΩΦ�THREE LAWS OF ROBOTICS (1942)

• 1. ΠΡΩΤΟΣ ΝΟΜΟΣ: ΈΝΑ ΡΟΜΠΟΤ ΔΕΝ ΜΠΟΡΕΙ ΝΑ ΒΛΑΨΕΙ ΈΝΑΝ ΑΝΘΡΩΠΟ Ή ΜΕΣΩ ΑΔΡΑΝΕΙΑΣ ΝΑ ΕΠΙΤΡΕΨΕΙ ΤΗΝ ΠΡΟΚΛΗΣΗ ΒΛΑΒΗΣ ΣΕ ΈΝΑΝ ΑΝΘΡΩΠΟ,
• 2. ΔΕΥΤΕΡΟΣ ΝΟΜΟΣ: ΈΝΑ ΡΟΜΠΟΤ ΠΡΕΠΕΙ ΝΑ ΥΠΑΚΟΥΕΙ ΣΤΙΣ ΕΝΤΟΛΕΣ ΠΟΥ ΤΟΥ ΕΧΟΥΝ ΔΟΘΕΙ ΑΠΌ ΤΑ ΑΝΘΡΩΠΙΝΑ ΟΝΤΑ, ΕΚΤΟΣ ΕΆΝ ΟΙ ΕΝΤΟΛΕΣ ΑΥΤΈΣ ΕΡΧΟΝΤΑΙ ΣΕ ΑΝΤΙΘΕΤΗ ΜΕ ΤΟΝ ΠΡΩΤΟ ΝΟΜΟ, ΚΑΙ
• 3. ΤΡΙΤΟΣ ΝΟΜΟΣ: ΈΝΑ ΡΟΜΠΟΤ ΠΡΕΠΕΙ ΝΑ ΠΡΟΣΤΑΤΕΥΕΙ ΤΗ ΔΙΚΗ ΤΟΥ ΥΠΑΡΞΗ, ΑΡΚΕΙ ΑΥΤΉ Η ΠΡΟΣΤΑΣΙΑ ΝΑ ΜΗΝ ΕΡΧΕΤΑΙ ΣΕ ΑΝΤΙΘΕΣΗ ΜΕ ΤΟΝ ΠΡΩΤΟ ‘Η ΤΟΝ ΔΕΥΤΕΡΟ ΝΟΜΟ.

​

​

​

​

ΗΘΙΚΗ/ΔΕΟΝΤΟΛΟΓΙΚΗ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ

• Η ηθική τεχνητή νοημοσύνη (Ethical AI) είναι ένα τεχνητό σύστημα που εκτελεί εντολές και παράγει αποτελέσματα που δεν εκφεύγουν των ηθικών κανόνων.
• Με την έννοια «εφαρμογή ηθικών κανόνων στην τεχνητή νοημοσύνη», εννοούμε κυρίως την εφαρμογή κανόνων δεοντολογίας στην ανάπτυξη συστημάτων τεχνητής νοημοσύνης που εγγυώνται τον σεβασμό σε κάποιες αρχές.
• Με την κατάλληλη εφαρμογή ηθικών/δεοντολογικών κανόνων, μπορεί κάποιος να δημιουργήσει ΤΝ που εμφανίζει ηθική συμπεριφορά (δηλαδή, Ethical AI)
• Η εφαρμογή των ηθικών κανόνων θα πρέπει να γίνεται by design και by default

​

​

ΗΘΙΚΑ ΖΗΤΗΜΑ ΣΤΗΝ ΤΝ

• 1. ΙΔΙΩΤΙΚΟΤΗΤΑ ΚΑΙ ΕΠΙΒΛΕΨΗ/ ΠΑΡΑΚΟΛΟΥΘΗΣΗ

​

• -ΣΥΛΛΟΓΗ ΚΑΙ ΕΠΕΞΕΡΓΑΣΙΑ ΠΡΟΣΩΠΙΚΩΝ ΔΕΔΟΜΕΝΩΝ
• -ΚΑΤΑΡΤΙΣΗ ΠΡΟΦΙΛ ΚΑΤΑΝΑΛΩΤΩΝ/ΠΟΛΙΤΩΝ
• -ΣΤΟΧΕΥΣΗ ΚΑΤΑΝΑΛΩΤΩΝ
• -ΠΑΡΑΚΟΛΟΥΘΗΣΗ ΕΥΡΕΙΑΣ ΚΛΙΜΑΚΑΣ

​

ΗΘΙΚΑ ΖΗΤΗΜΑ ΣΤΗΝ ΤΝ

• 2. ΔΙΑΚΡΙΣΕΙΣ ΚΑΙ ΠΡΟΚΑΤΑΛΗΨΗ

​

-ΕΝΙΣΧΥΣΗ ΤΗΣ ΔΥΣΜΕΝΟΥΣ ΔΙΑΚΡΙΤΙΚΗΣ ΜΕΤΑΧΕΙΡΙΣΗΣ ΣΕ ΒΑΡΟΣ ΚΟΙΝΩΝΙΚΩΝ ΟΜΑΔΩΝ, ΑΛΛΟΔΑΠΩΝ, ΓΥΝΑΙΚΩΝ, ΜΕΛΩΝ ΤΗΣ LGTB ΚΟΙΝΟΤΗΤΑΣ

-ΠΡΟΚΑΤΑΛΗΨΗ ΕΞΑΙΤΙΑΣ ΤΗΣ ΦΥΛΗΣ

-ΠΡΟΚΑΤΑΛΗΨΗ ΕΞΑΙΤΙΑΣ ΤΟΥ ΦΥΛΟΥ

-ΠΡΟΤΕΙΝΟΜΕΝΕΣ ΛΥΣΕΙΣ

​

​

ΗΘΙΚΑ ΖΗΤΗΜΑ ΣΤΗΝ ΤΝ

• 3. ΑΠΟΝΟΜΗ ΔΙΚΑΙΟΣΥΝΗΣ

​

• -ΧΡΗΣΗ ΤΗΣ ΤΝ ΩΣ ΕΡΓΑΛΕΙΟ ΑΠΟΝΟΜΗΣ ΔΙΚΑΙΟΣΥΝΗΣ
• -ΚΙΝΔΥΝΟΙ ΑΠΌ ΤΗΝ ΕΞΑΡΤΗΣΗ ΣΤΗΝ ΤΝ ΓΙΑ ΤΗ ΛΗΨΗ ΑΠΟΦΑΣΗΣ
• -ΥΠΟ ΠΟΙΕΣ ΠΡΟΫΠΟΘΕΣΕΙΣ ΘΑ ΠΡΕΠΕΙ ΝΑ ΧΡΗΣΙΜΟΠΟΙΕΙΤΑΙ Η ΤΝ ΣΤΟ ΔΙΚΑΣΤΗΡΙΟ;
• -ΤΟ ΔΙΚΑΙΩΜΑ ΣΤΟΝ ΦΥΣΙΚΟ ΔΙΚΑΣΤΗ

ΕΙΔΙΚΟΤΕΡΑ ΗΘΙΚΑ ΖΗΤΗΜΑΤΑ ΤΗΣ ΤΝ

• 1. ΑΝΕΡΓΙΑ
• - Επένδυση στην αυτοματοποίηση της εργασίας
• - Ανάληψη πιο περίπλοκων ρόλων από τους ανθρώπους
• - Η ανθρωπότητα περνάει από τη σωματική εργασία που κυριαρχούσε στον προβιομηχανικό κόσμο στη γνωστική εργασία που χαρακτηρίζει τη στρατηγική και διοικητική εργασία στην παγκοσμιοποιημένη κοινωνία μας.
• -Η σημασία της ικανότητας επίλυσης σύνθετων προβλημάτων που δεν μπορούν να συλλάβουν τα συστήματα ΤΝ
• - Η σημασία της «έλλειψης σκοπού» για την ανθρώπινη ψυχοσύνθεση

ΕΙΔΙΚΟΤΕΡΑ ΗΘΙΚΑ ΖΗΤΗΜΑΤΑ ΤΗΣ ΤΝ

• 2. ΕΠΙΔΡΑΣΗ ΣΤΗΝ ΑΝΤΙΛΗΨΗ ΤΟΥ ΑΝΘΡΩΠΟΥ ΩΣ ΠΡΟΣ ΤΗ ΘΕΣΗ ΤΟΥ ΣΤΟΝ ΚΟΣΜΟ

​

• -ΑΝΤΙΚΑΤΑΣΤΑΣΗ ΤΩΝ ΠΕΡΙΣΣΟΤΕΡΩΝ ΧΕΙΡΟΝΑΚΤΙΚΩΝ ΕΡΓΑΣΙΩΝ ΑΠΌ ΤΗΝ ΤΝ
• - Ο ΑΝΘΡΩΠΟΣ ΩΣ ΔΕΚΤΗΣ ΥΠΗΡΕΣΙΩΝ ΑΠΌ ΣΥΣΤΗΜΑΤΑ ΤΝ
• -ΕΠΙΔΡΑΣΗ ΣΤΗΝ ΑΝΤΙΛΗΨΗ ΠΕΡΙ ΚΟΙΝΟΤΗΤΑΣ, ΑΤΟΜΙΚΗΣ ΕΥΘΥΝΗΣ ΚΑΙ ΠΡΟΣΦΟΡΑΣ

​

ΥΠΕΥΘΥΝΗ ΚΑΙΝΟΤΟΜΙΑ

• -Η ηθική ευθύνη ως αναγνώριση της κατανομής του βάρους των αποφάσεων
• -Η ηθική ευθύνη μέσα από την πρόταση Κανονισμού για την τεχνητή νοημοσύνη
• -Λαμβάνονται υπόψιν τα ηθικά κριτήρια σε συνάρτηση με τα ζητήματα που αναφύονται από τις ανθρώπινες αποφάσεις/επιλογές, την έκταση της χρήσης της τεχνολογίας καθώς και την επιρροή που ασκούν πολιτικές και κοινωνικές ομάδες πίεσης
• -Διαχρονική αύξηση της ηθικής ευθύνης όσων αναπτύσσουν, εμπορεύονται, ή χρησιμοποιούν συστήματα ΤΝ

ΕΠΤΑ ΑΡΧΕΣ ΥΠΕΥΘΥΝΗΣ ΚΑΙΝΟΤΟΜΙΑΣ

• 1. Τα ρομπότ έχουν τη δυνατότητα να προσφέρουν τεράστιο θετικό αντίκτυπο στην κοινωνία.
• 2. Οι κακές πρακτικές βλάπτουν όλους όσους εμπλέκονται.
• 3. Η διευθέτηση των εμφανών κοινωνικών ζητημάτων βοηθάει την πρόοδο όλων.
• 4. Είναι σημαντικό να αποδείξουμε ότι, όλοι όσοι ασχολούνται με την ρομποτική, έχουμε δεσμευτεί για τα καλύτερα δυνατά πρότυπα πρακτικής.

​

ΕΠΤΑ ΑΡΧΕΣ ΥΠΕΥΘΥΝΗΣ ΚΑΙΝΟΤΟΜΙΑΣ

• 5. Για να κατανοήσουμε καλύτερα το πλαίσιο και τις συνέπειες της έρευνας, πρέπει να συνεργαστούμε με ειδικούς από άλλους κλάδους, όπως: κοινωνικές επιστήμες, νομική, φιλοσοφία και τέχνες.
• 6. Πρέπει να λάβουμε υπόψη και τους ηθικούς κανόνες της διαφάνειας: υπάρχουν όρια σε αυτό που πρέπει να είναι δημόσια διαθέσιμο.
• 7. Όταν βλέπουμε λανθασμένες δημοσιεύσεις στον Τύπο, δεσμευόμαστε να αφιερώσουμε χρόνο για να επικοινωνήσουμε με τους συγγραφείς.

​

A.I. ACT (proposal)

• Ο κανονισμός εφαρμόζεται σε:
• α)παρόχους που διαθέτουν στην αγορά ή θέτουν σε λειτουργία συστήματα ΤΝ στην Ένωση, ανεξάρτητα από το αν οι εν λόγω πάροχοι είναι εγκατεστημένοι εντός της Ένωσης ή σε τρίτη χώρα·
• β)χρήστες συστημάτων ΤΝ οι οποίοι βρίσκονται εντός της Ένωσης·
• γ)παρόχους και χρήστες συστημάτων ΤΝ οι οποίοι βρίσκονται σε τρίτη χώρα, όταν τα στοιχεία εξόδου που παράγει το σύστημα χρησιμοποιούνται στην Ένωση.

​

Προσέγγιση βάσει κινδύνου�

• Μη αποδεκτός κίνδυνος
• Υψηλός Κίνδυνος
• Περιορισμένος κίνδυνος
• Χαμηλός Κίνδυνος

Προσέγγιση βάσει κινδύνου�Μη αποδεκτός κίνδυνος (α. 5)

• Μη αποδεκτός κίνδυνος:
• η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που χρησιμοποιεί τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο ενός προσώπου υπερκεράζοντας το συνειδητό του, προκειμένου να στρεβλώσει ουσιωδώς τη συμπεριφορά ενός προσώπου κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη·
• η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που εκμεταλλεύεται οποιοδήποτε από τα τρωτά σημεία συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας, της σωματικής ή διανοητικής αναπηρίας τους, προκειμένου να στρεβλωθεί ουσιωδώς η συμπεριφορά προσώπου που ανήκει στην εν λόγω ομάδα κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη· (επικίνδυνη προτροπή από ψηφιακή βοηθό)

ΤΑ ΣΥΣΤΗΜΑΤΑ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ (α. 8 επ.)

• Τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν σε οποιονδήποτε από τους ακόλουθους τομείς ή ενέχουν κίνδυνο βλάβης για την υγεία και την ασφάλεια ή κίνδυνο δυσμενών επιπτώσεων στα θεμελιώδη δικαιώματα, δηλαδή όσον αφορά τη σοβαρότητα και την πιθανότητα εμφάνισης κινδύνου ισοδύναμου ή μεγαλύτερου από τον κίνδυνο βλάβης ή δυσμενών επιπτώσεων που ενέχουν τα συστήματα ΤΝ υψηλού κινδύνου που αναφέρονται ακολούθως.
• Ειδικότερα:
• - Βιομετρική ταυτοποίηση και κατηγοριοποίηση φυσικών προσώπων
• - Διαχείριση και λειτουργία υποδομών ζωτικής σημασίας
• - Εκπαίδευση και επαγγελματική κατάρτιση
• - Απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση
• - Πρόσβαση και απόλαυση βασικών ιδιωτικών υπηρεσιών και δημόσιων υπηρεσιών και παροχών
• - Επιβολή του νόμου
• - Διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων
• - Απονομή δικαιοσύνης και δημοκρατικές διαδικασίες

​

ΑΠΑΙΤΗΣΕΙΣ ΓΙΑ ΤΑ ΣΥΣΤΗΜΑΤΑ ΥΨΗΛΟΥ ΚΙΝΔΥΝΟΥ

• - υψηλής ποιότητας δεδομένα,
• -τεκμηρίωση και ιχνηλασιμότητα,
• -διαφάνεια,
• -ανθρώπινη εποπτεία,
• -ακρίβεια και
• -στιβαρότητα

​

ΣΥΣΤΗΜΑΤΑ ΧΑΜΗΛΟΥ ΚΙΝΔΥΝΟΥ (Α. 52)

• Οι πάροχοι συστημάτων τεχνητής νοημοσύνης θα πρέπει να διασφαλίζουν ότι τα συστήματα τεχνητής νοημοσύνης που προορίζονται για αλληλεπίδραση με φυσικά πρόσωπα έχουν σχεδιαστεί με τέτοιο τρόπο ώστε τα άτομα να ενημερώνονται ότι αλληλεπιδρούν με ένα σύστημα τεχνητής νοημοσύνης, εκτός εάν αυτό είναι προφανές από τις περιστάσεις. (π.χ. συστήματα υποστήριξης πελατών, chatbots)
• Διαφάνεια προς τους χρήστες αναμένεται και σε περιπτώσεις όπου υπάρχει σύστημα αναγνώρισης συναισθημάτων ή σύστημα βιομετρικής κατηγοριοποίησης.
• Αναμένονται επίσης υποχρεώσεις γνωστοποίησης για περιπτώσεις όπου ενδέχεται να υπάρχουν απεικονίσεις ανθρώπων, αντικειμένων ή άλλων οντοτήτων που θα μπορούσαν να κατηγοριοποιηθούν ως «deep-fakes».

​

​

ΕΥΡΩΠΑΪΚΗ ΒΑΣΗ ΔΕΔΟΜΕΝΩΝ ΜΕ ΤΑ ΣΥΣΤΗΜΑΤΑ ΥΨΗΛΟΥ ΡΙΣΚΟΥ (Α. 60)

• - Δημόσια προσβάσιμη
• -Δημιουργία συστημάτων παρακολούθησης ανάλογα με την τεχνολογία ΤΝ και τον κίνδυνο του συστήματος.
• -Συλλογή, τεκμηρίωση και ανάλυση των δεδομένων που παρέχονται από τους χρήστες για την αξιολόγηση της συνεχούς συμμόρφωσης των συστημάτων τεχνητής νοημοσύνης.
• -Αναφορά τυχόν σοβαρών περιστατικών ή δυσλειτουργιών που θα συνιστούσαν παραβίαση των υποχρεώσεων της ΕΕ.
• -Ειδοποίηση εντός 15 ημερών από τη διαπίστωση της αιτιώδους συνάφειας μεταξύ του συστήματος ΤΝ και του συμβάντος ή της δυσλειτουργίας.

​

ΚΥΡΩΣΕΙΣ

• -ΠΕΡΙΘΩΡΙΟ ΣΤΑ ΚΡΑΤΗ-ΜΕΛΗ ΓΙΑ ΘΕΣΠΙΣΗ ΔΙΟΙΚΗΤΙΚΩΝ ΠΡΟΣΤΙΜΩΝ
• -ΔΙΟΙΚΗΤΙΚΟ ΠΡΟΣΤΙΜΟ ΕΩΣ 30.000.000 ΕΥΡΩ Ή ΕΩΣ ΤΟ 6% ΤΟΥ ΠΑΓΚΟΣΜΙΟΥ ΕΤΗΣΙΟΥ ΤΖΙΡΟΥ ΤΟΥ ΠΡΟΗΓΟΥΜΕΝΟΥ ΟΙΚΟΝΟΜΙΚΟΥ ΕΤΟΥΣ ΣΕ ΠΕΡΙΠΤΩΣΗ ΠΑΡΑΒΙΑΣΗΣ ΤΩΝ ΔΙΑΤΑΞΕΩΝ ΓΙΑ ΤΙΣ ΑΠΑΓΟΡΕΥΜΕΝΕΣ ΧΡΗΣΕΙΣ (Α. 5) Ή ΓΙΑ ΤΗ ΔΙΑΚΥΒΕΡΝΗΣΗ ΔΕΔΟΜΕΝΩΝ (Α. 10)
• Η ΜΗ ΣΥΜΜΟΡΦΩΣΗ ΜΕ ΤΙΣ ΥΠΟΧΡΕΩΣΕΙΣ ΤΟΥ ΚΑΝΟΝΙΣΜΟΥ ΕΠΙΣΥΡΕΙ ΠΡΟΣΤΙΜΟ 20.000.0000 ΕΥΡΩ Ή ΕΩΣ ΤΟ 4% ΤΟΥ ΕΤΗΣΙΟΥ ΤΖΙΡΟΥ
• Η ΠΑΡΟΧΗ ΕΣΦΑΛΜΕΝΩΝ, ΠΑΡΑΠΛΑΝΗΤΙΚΩΝ Ή ΕΛΛΙΠΩΝ ΠΛΗΡΟΦΟΡΙΩΝ ΣΤΙΣ ΑΡΜΟΔΙΕΣ ΑΡΧΕΣ ΩΣ ΑΠΑΝΤΗΣΗ ΣΕ ΑΙΤΗΜΑ ΔΥΝΑΤΑΙ ΝΑ ΕΠΙΣΥΡΕΙ ΠΡΟΣΤΙΜΑ ΕΩΣ 10.000.000 ΕΥΡΩ Ή ΕΩΣ ΤΟ 2% ΤΟΥ ΠΑΓΚΟΣΜΙΟΥ ΕΤΗΣΙΟΥ ΤΖΙΡΟΥ ΤΟΥ ΠΡΟΗΓΟΥΜΕΝΟΥ ΟΙΚΟΝΟΜΙΚΟΥ ΕΤΟΥΣ

Σε κάθε περίπτωση απαιτείται…

•  Ανθρώπινη παρέμβαση και εποπτεία,
•  Τεχνική στιβαρότητα και ασφάλεια,
•  Ιδιωτική ζωή και διακυβέρνηση των δεδομένων,
•  Διαφάνεια,
•  Πολυμορφία, απαγόρευση των διακρίσεων και δικαιοσύνη,
•  Κοινωνική και περιβαλλοντική ευημερία, και
•  Λογοδοσία.

ΣΥΜΠΕΡΑΣΜΑΤΑ

• Σας ευχαριστώ πολύ για την προσοχή!!!