Στις 13 Μαρτίου 2024, το Ευρωπαϊκό Κοινοβούλιο ενέκρινε κατά πλειοψηφία την Πράξη της ΕΕ για την Τεχνητή Νοημοσύνη (Artificial Intelligence Act), το πρώτο ολοκληρωμένο σύνολο κανόνων για την τεχνητή νοημοσύνη παγκόσμια.
Ο ορισμός της τεχνητής νοημοσύνης διατυπώνεται ώστε να περιλαμβάνει τόσο την «προγνωστική» τεχνητή νοημοσύνη (αυτήν που βασίζεται σε αποφάσεις) όσο και τη δημιουργική τεχνητή νοημοσύνη (αυτήν που δημιουργεί νέα αποτελέσματα με βάση δεδομένα στα οποία οι μηχανές έχουν εκπαιδευτεί, πχ το ChatGPT).
Η πρόκληση που αντιμετώπισαν οι νομοθέτες κατά τη σύνταξη ενός διαχρονικού ορισμού της ΤΝ, φαίνεται από το γεγονός ότι το πρώτο σχέδιο του νόμου για την ΤΝ τον Απρίλιο του 2021 δεν προέβλεπε τη χρήση της δημιουργικής ΤΝ, καθώς προηγήθηκε της κυκλοφορίας του ChatGPT κατά σχεδόν 18 μήνες. Ο νόμος για την ΤΝ την ορίζει ως:
σύστημα βασισμένο σε μηχανές, σχεδιασμένο να λειτουργεί με ποικίλα επίπεδα αυτονομίας, το οποίο μπορεί να παρουσιάζει προσαρμοστικότητα μετά την ανάπτυξη και το οποίο, για ρητούς ή σιωπηρούς στόχους, συμπεραίνει, από την είσοδο που λαμβάνει, πώς να παράγει εκροές όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν φυσικά ή εικονικά περιβάλλοντα.
Ο νόμος ρυθμίζει διάφορους ρόλους στο περιβάλλον της ΤΝ. Ωστόσο οι σημαντικότερες ευθύνες βαρύνουν τους παρόχους (εκείνους που την αναπτύσσουν ή την διαθέτουν στην αγορά) και τους φορείς ανάπτυξης (υπό την εποπτεία των οποίων χρησιμοποιείται το σύστημα ΤΝ, στους οποίους συμπεριλαμβάνονται και οι εργοδότες) ανάλογα με το δυνητικό επίπεδο κινδύνου που προκύπτει από την ΤΝ.
Προσέγγιση της τεχνητής νοημοσύνης με βάση τον κίνδυνο
Η ρύθμιση των συστημάτων ΤΝ βασίζεται στους ενδεχόμενους κινδύνους: όσο μεγαλύτερος είναι ο δυνητικός κίνδυνος που ενέχει η ΤΝ για τα άτομα, τόσο αυστηρότερες είναι οι υποχρεώσεις συμμόρφωσης. Ως «κίνδυνος» ορίζεται η πιθανότητα εμφάνισης βλάβης, ενώ συνυπολογίζεται και η σοβαρότητά της.
Απαράδεκτος κίνδυνος
Ο νόμος ορίζει έναν κατάλογο πρακτικών ΤΝ που ενέχουν «απαράδεκτο κίνδυνο» και, ως εκ τούτου απαγορεύονται. Το επίκεντρο της απαγόρευσης είναι συστήματα ΤΝ που αφορούν την ασφάλεια των ανθρώπων ή που είναι παρεμβατικά ή εισάγουν διακρίσεις. Ειδικότερα για τους εργοδότες, μια πρόσφατη προσθήκη στον κατάλογο των απαγορευμένων πρακτικών είναι η χρήση συστημάτων ΤΝ για την εξαγωγή συμπερασμάτων για τα συναισθήματα των ατόμων στον χώρο εργασίας.
Υψηλός κίνδυνος
Ο νόμος προσδιορίζει επίσης μια κατηγορία χρήσεων «υψηλού κινδύνου», η οποία γι’ αυτόν τον λόγο υπόκειται σε αυστηρή εποπτεία, με λεπτομερείς απαιτήσεις συμμόρφωσης, τόσο για τους παρόχους όσο και για τους φορείς ανάπτυξης.
Η ΤΝ στον χώρο εργασίας θεωρείται «υψηλού κινδύνου» όταν χρησιμοποιείται
- για την πρόσληψη ή την επιλογή (ιδίως για την ανάρτηση στοχευμένων αγγελιών εργασίας, την ανάλυση και την διαλογή αιτήσεων εργασίας ή την αξιολόγηση των υποψηφίων) και
- για τη λήψη αποφάσεων που επηρεάζουν όρους εργασιακών σχέσεων, την προαγωγή ή την καταγγελία συμβάσεων εργασίας, την κατανομή καθηκόντων με βάση τη συμπεριφορά, τα προσωπικά χαρακτηριστικά ή τις ιδιότητες του εργαζόμενου ή για την παρακολούθηση και την αξιολόγηση της απόδοσης και της συμπεριφοράς των ατόμων στον χώρο εργασίας.
Αυτό καλύπτει τις συνηθέστερες χρήσεις των συστημάτων ΤΝ σε χώρους εργασίας, που πλέον θα πρέπει να λαμβάνουν πρόσθετα μέτρα συμμόρφωσης.
Υποχρεώσεις συμμόρφωσης των "παρόχων" ΤΝ
Οι κύριες υποχρεώσεις των παρόχων ΤΝ υψηλού κινδύνου στοχεύουν στη διασφάλιση ότι τα συστήματα συμμορφώνονται με τον νόμο περί ΤΝ εξαρχής και σε όλη τη διάρκεια της χρήσης τους.
Επιβάλλεται η καθιέρωση, εφαρμογή, τεκμηρίωση και συντήρηση συστήματος διαχείρισης κινδύνου, ως επαναλαμβανόμενη διαδικασία που σχεδιάζεται και εκτελείται καθ' όλη τη διάρκεια του κύκλου ζωής των συστημάτων υψηλού κινδύνου. Η εφάπαξ αξιολόγηση κινδύνου δεν καλύπτει την υποχρέωση αυτή. Επιπλέον οι πάροχοι οφείλουν να διατηρούν τεκμηριωμένο σύστημα ποιοτικού ελέγχου για τη διασφάλιση της συμμόρφωσης με τον νόμο, που θα περιλαμβάνει τη θέσπιση γραπτών πολιτικών, διαδικασιών και οδηγιών και την παραγωγή και διατήρηση τεχνικής τεκμηρίωσης για την απόδειξη της συμμόρφωσης.
Η λειτουργία των συστημάτων πρέπει να είναι διαφανής, ώστε οι φορείς που τα αναπτύσσουν να μπορούν να ερμηνεύουν τα αποτελέσματα του συστήματος και να τα χρησιμοποιούν κατάλληλα. Η εκπαίδευση μοντέλων ΤΝ πρέπει να διασφαλίζει ότι τα δεδομένα εκπαίδευσης, επικύρωσης και δοκιμής συμμορφώνονται με τα κριτήρια ποιότητας που ορίζονται στον νόμο και είναι συναφή, αντιπροσωπευτικά και απαλλαγμένα από σφάλματα στον καλύτερο δυνατό βαθμό.
Τα συστήματα θα πρέπει να σχεδιάζονται και να αναπτύσσονται με τρόπο που να επιτρέπει ανθρώπινη εποπτεία ανάλογη με τους κινδύνους, το επίπεδο αυτονομίας και το πλαίσιο χρήσης τους, ενώ πρέπει να επιτρέπουν την αυτόματη καταγραφή των αρχείων. Τα συστήματα που προορίζονται για τον κυβερνοχώρο πρέπει να εξασφαλίζουν ανώτερο επίπεδο ακρίβειας, αξιοπιστίας και ασφάλειας. Προς τον σκοπό αυτό υποβάλλονται σε διαδικασία αξιολόγησης πριν διατεθούν στην αγορά και υποχρεούνται σε συμμόρφωση με τις απαιτήσεις του νόμου και στην τήρηση αρχείων σε σχέση με τη συμμόρφωση αυτή.
Υποχρεώσεις συμμόρφωσης για τους "φορείς ανάπτυξης" ΤΝ (στους οποίους περιλαμβάνονται οι εργοδότες)
Το μεγαλύτερο μέρος του βάρους της συμμόρφωσης βαρύνει τους παρόχους. Ωστόσο, και οι φορείς ανάπτυξης υπόκεινται σε σημαντικές υποχρεώσεις, που συνδέονται με τις υποχρεώσεις των παρόχων.
Οφείλουν να διασφαλίζουν ότι το σύστημα ΤΝ χρησιμοποιείται σύμφωνα με τις οδηγίες χρήσης του και να το παρακολουθούν με βάση αυτές, ενημερώνοντας τον πάροχο για τυχόν προβλήματα. Την ανθρώπινη εποπτεία αναλαμβάνουν άτομα που διαθέτουν την απαραίτητη ικανότητα, κατάρτιση, εξουσία και υποστήριξη.
Οι εργοδότες πρέπει να διασφαλίζουν ότι τα δεδομένα εισόδου είναι συναφή και αντιπροσωπευτικά του επιδιωκόμενου σκοπού του συστήματος. Επιπλέον έχουν υποχρέωση ενημέρωσης των εργαζομένων ότι θα υπόκεινται σε σύστημα ΤΝ υψηλού κινδύνου, πριν από την χρήση του.
Οι εργαζόμενοι δικαιούνται να λάβουν από τον φορέα ανάπτυξης «σαφή και ουσιαστική» εξήγηση του ρόλου του συστήματος ΤΝ στη διαδικασία λήψης αποφάσεων, εφόσον έχουν θιγεί από απόφαση συστήματος ΤΝ, η οποία παράγει έννομα αποτελέσματα ή επηρεάζει σημαντικά τα θεμελιώδη δικαιώματά τους, όπως αποφάσεις διαχείρισης της απόδοσης ή καταγγελίας σύμβασης. Τα συστήματα χαμηλότερου κινδύνου (πχ τα Chatbots για την εξυπηρέτηση πελατών) υπόκεινται σε λιγότερο επαχθείς υποχρεώσεις διαφάνειας.
Διεθνές πεδίο εφαρμογής του νόμου περί ΤΝ
Όπως και ο ευρωπαϊκός κανονισμός για την προστασία προσωπικών δεδομένων GDPR, ο νόμος για την ΤΝ θα έχει διεθνές πεδίο εφαρμογής και ισχύει και για εταιρίες που δεν έχουν την έδρα τους στην ΕΕ. Ο AI Act θα εφαρμόζεται σε παρόχους που διαθέτουν συστήματα ΤΝ ή παραγωγικά μοντέλα ΤΝ στην αγορά της ΕΕ, ανεξάρτητα από τον τόπο εγκατάστασής τους και σε παρόχους και φορείς ανάπτυξης συστημάτων ΤΝ που εδρεύουν εκτός της ΕΕ, εφόσον η παραγωγή των συστημάτων χρησιμοποιείται στην ΕΕ.
Κυρώσεις για μη συμμόρφωση
Οι κυρώσεις για μη συμμόρφωση μπορεί να φτάσουν το ποσό των €35 εκατ ή του 7% του ετήσιου κύκλου εργασιών της εταιρείας. Το ποσό αυτό είναι σχεδόν διπλάσιο από το μέγιστο ύψος της ποινής για παραβάσεις του GDPR (που ήδη θεωρήθηκε υπερβολικό κατά την θέσπισή του πριν από έξι χρόνια).
Επόμενα βήματα
Ο νόμος για την ΤΝ βρίσκεται στα τελικά στάδια της νομοθετικής διαδικασίας και υπόκειται πλέον απλώς σε τελική διόρθωση και επίσημη έγκριση από το Ευρωπαϊκό Συμβούλιο, η οποία αναμένεται να γίνει πριν από τις εκλογές της ΕΕ στις αρχές Ιουνίου. Στη συνέχεια, ο νόμος για την ΤΝ θα δημοσιευθεί στην Επίσημη Εφημερίδα και θα τεθεί σε ισχύ 20 ημέρες μετά τη δημοσίευσή του, με την πλειονότητα των διατάξεων να τίθεται σε ισχύ δύο χρόνια μετά. Η απαγόρευση των συστημάτων ΤΝ απαράδεκτου κινδύνου θα τεθεί σε ισχύ έξι μήνες μετά και οι υποχρεώσεις για τα συστήματα υψηλού κινδύνου θα εφαρμοστούν 36 μήνες αργότερα.
Το πλήρες κείμενο της Πράξης, όπως εγκρίθηκε από το Ευρωπαϊκό Κοινοβούλιο, είναι εδώ.