Η Ισπανία έχει ξεπεράσει την Ευρωπαϊκή Ένωση στη ρύθμιση της τεχνητής νοημοσύνης στον τομέα της απασχόλησης. Ενώ η ΕΕ έθεσε τη βάση για τη ρύθμιση των αλγορίθμων με την πρόταση κανονισμού για την τεχνητή νοημοσύνη (PAIR), ο κανόνας δεν αναμένεται να εφαρμοστεί έως, προβλέψιμα, τουλάχιστον το 2023. Ωστόσο, στις 11 Μαΐου, η Ισπανία πέρασε ένα νέο διάταξη που ρυθμίζει την αλγοριθμική διαφάνεια στον τομέα της απασχόλησης. Αυτός ο νέος κανόνας δίνει στους εργαζόμενους το δικαίωμα να ενημερώνονται σχετικά με τις παραμέτρους, τους κανόνες και τις οδηγίες μέσω των οποίων αλγόριθμοι ή συστήματα τεχνητής νοημοσύνης (AI) επηρεάζουν τις συνθήκες εργασίας τους και καθορίζουν την πρόσβαση στην απασχόληση.
Η διάταξη, για την καινοτομία της, φαίνεται να είναι φιλόδοξη με την πρώτη ματιά. Ωστόσο, αυτό μπορεί να είναι μόνο ένα πρώτο βήμα. Οι πιθανοί περιορισμοί και οι πρακτικές συνέπειές του θα καθορίσουν το βαθμό στον οποίο θα είναι αποτελεσματικά σε θέση να βοηθήσουν τους εργαζομένους να αντιμετωπίσουν το αλγοριθμικό αίνιγμα στην απασχόληση.
Ο νόμος: Τι είναι και από πού προέρχεται;
Η διάταξη είναι πρωτοποριακή, καθώς είναι η πρώτη προσπάθεια οποιουδήποτε ευρωπαϊκού κράτους να ρυθμίσει την αλγοριθμική διαφάνεια στον τομέα της απασχόλησης. Ωστόσο, είναι επίσης ένας περιορισμένος κανόνας που θα πρέπει να αναπτυχθεί στο μέλλον για την επίτευξη του στόχου του: να παρέχει στους εργαζόμενους έναν ορισμένο βαθμό ελέγχου στα συστήματα AI που τους επηρεάζουν.
Η διάταξη αναφέρει ότι:
"[ Το Συμβούλιο Εργαζομένων [ μιας εταιρείας ] έχει το δικαίωμα, στο κατάλληλο διάστημα, να :]
Ενημερωθείτε από την εταιρεία σχετικά με τις παραμέτρους, τους κανόνες και τις οδηγίες σχετικά με τους αλγόριθμους ή τα συστήματα τεχνητής νοημοσύνης που επηρεάζουν τη λήψη αποφάσεων που ενδέχεται να έχουν αντίκτυπο στις συνθήκες εργασίας, στην πρόσβαση και στη συντήρηση της εργασίας, συμπεριλαμβανομένου του προφίλ. "
Το διάταγμα που εφάρμοσε αυτήν τη νέα διάταξη αναπτύχθηκε αρχικά για να καθιερώσει το τεκμήριο ότι οι εργαζόμενοι παράδοσης δεν είναι αυτοαπασχολούμενοι αλλά εργαζόμενοι. Η νομολογία είχε καταλήξει επανειλημμένα, και το ζήτημα έληξε στο Ανώτατο Δικαστήριο της Ισπανίας σε μια υπόθεση κατά του Γκλόβο . Αν και αυτό το τεκμήριο αναφέρεται μόνο στους αναβάτες ("άτομα που εργάζονται κατά την παράδοση και τη διανομή"), η πόρτα είναι πιθανότατα ανοιχτή για την εφαρμογή της ίδιας λογικής σε άλλους εργαζόμενους στην ψηφιακή πλατφόρμα, εάν παρόμοια υπόθεση παραπέμπεται στο δικαστήριο.
Η κοινωνική συζήτηση που οδήγησε σε αυτήν την αλλαγή της νομοθεσίας έχει τις ρίζες της στην άνθηση της οικονομίας των συναυλιών. Υποσχέθηκε ένα νέο και ευέλικτο μοντέλο απασχόλησης που θα παρέχει στους εργαζόμενους τον έλεγχο της επαγγελματικής τους ζωής. Αυτό θα μπορούσε να ήταν δυνατό σε ένα πλαίσιο όπου οι εργαζόμενοι εκτιμώνται ως άτομα με ειδικές δεξιότητες. Ωστόσο, όταν οι εργαζόμενοι αποτιμώνται μόνο ως εναλλάξιμο μέρος της αλυσίδας παραγωγής, η ευελιξία μετατρέπεται σε χρονικότητα, αστάθεια και επισφάλεια.
Σε αυτές τις νέες ψηφιακές πλατφόρμες, καθώς και σε μεγάλες εταιρείες στις οποίες προσλαμβάνεται κυρίως εργατικό δυναμικό για βασικές και επαναλαμβανόμενες εργασίες, όπως το Amazon, οι εργαζόμενοι στερούνται την εγγενή ανθρώπινη αξία τους και αντιμετωπίζονται ως ρομπότ. Ακόμη χειρότερα, αυτοί μπορεί να ελέγχονται από ρομπότ: τα αυτοματοποιημένα συστήματα αποφασίζουν τώρα για τη μοίρα και τις συνθήκες των εργαζομένων χωρίς να λαμβάνουν υπόψη κανένα ανθρώπινο παράγοντα. Επιπλέον, οι εργαζόμενοι θεωρούνται αυτοαπασχολούμενοι, επομένως οι κίνδυνοι, το κόστος και οι πτώσεις της δραστηριότητας βαρύνουν αυτούς, ενώ στερούνται ακόμη και τα πιο βασικά εργασιακά τους δικαιώματα. Δεν έχουν καμία προστασία από παράτυπες απολύσεις ή σε περίπτωση εργατικού ατυχήματος. Εάν ένας εργαζόμενος έχει οποιοδήποτε είδος προβλήματος που τους εμπόδιζε να φτάσουν στο ελάχιστο ποσοστό που επιβάλλει το σύστημα ή μια παρανόηση με έναν πελάτη, θα μπορούσαν να δουν τη δουλειά τους να τερματίζεται, καθώς η πλατφόρμα απλώς θα τους διώξει, χωρίς καμία πιθανότητα να εξηγήσουν τον εαυτό τους ή αμφισβητώντας την απόφαση.
Πώς επηρεάζει η τεχνητή νοημοσύνη τους εργαζομένους στην πράξη;
Η αναγκαιότητα της νέας διάταξης υπογραμμίζεται από την ανάπτυξη παραδειγμάτων αλγοριθμικών επιδράσεων στους εργαζομένους. Στο Ηνωμένο Βασίλειο, αρκετοί εργαζόμενοι από την Ταχυδρομική Υπηρεσία έχασαν τη δουλειά τους – και χειρότερα – λόγω ενός λάθους σε ένα σύστημα τεχνητής νοημοσύνης, το οποίο καθόρισε ψευδώς ότι είχαν κλέψει χρήματα από την εταιρεία. Στις Κάτω Χώρες, οι οδηγοί Uber μήνυσαν την εταιρεία αφού ένας αλγόριθμος ανέστειλε τους λογαριασμούς τους για φερόμενη διάπραξη απάτης. Το Δικαστήριο απέρριψε τον ισχυρισμό τους , καθώς δεν θεωρήθηκε πλήρως αυτοματοποιημένη λήψη αποφάσεων βάσει του GDPR (Γενικός Κανονισμός Προστασίας Δεδομένων). Στην πραγματικότητα, οι εργαζόμενοι έμειναν χωρίς καμία προστασία. Αντίθετα, στην Ιταλία, ένα δικαστήριο διέταξε τον Deliveroo να αποκαλύψει τον αλγόριθμό του και να καταστήσει τα στοιχεία που το έκαναν διακρίσεις, καθώς δεν έλαβε υπόψη παράγοντες που διέπονται από το εργατικό δίκαιο, όπως τα άρρωστα φύλλα ή τα δικαιώματα απεργίας.
Με διαφορετικό τρόπο, οι εργαζόμενοι της Amazon – τόσο οι αποθήκες όσο και οι εργαζόμενοι παράδοσης – επηρεάζονται επίσης από αλγόριθμους, καθώς τα συστήματα βαθμολογίας καθορίζουν και ελέγχουν το ρυθμό απόδοσης που απαιτείται για να επιτύχουν, γεγονός που τους οδηγεί σε μια κατάσταση διαρκούς άγχους και φόβου . Οι ανάγκες και οι συνθήκες του ανθρώπου, φυσικά, δεν λαμβάνονται υπόψη από το σύστημα. Οι εργαζόμενοι δεν μπορούν να πάνε στο μπάνιο εάν θέλουν να ικανοποιήσουν τις απαιτήσεις του συστήματος (ούτε καν γυναίκες κατά τη διάρκεια των περιόδων τους).
Παρούσες προοπτικές και μελλοντικές συνέπειες
Η πρόοδος στην αλγοριθμική ρύθμιση μπορεί να βοηθήσει στην αντιμετώπιση ολόκληρου του προβλήματος. Το ισπανικό Υπουργείο Απασχόλησης ανακοίνωσε ότι ο νέος κανόνας επιδιώκει να κάνει αλγόριθμους να εξυπηρετούν τους εργαζόμενους και να διασφαλίζει ότι λαμβάνουν υπόψη όχι μόνο τους επιχειρηματικούς στόχους, αλλά και τα ανθρώπινα και εργασιακά δικαιώματα. Προς το σκοπό αυτό, ο κανόνας στοχεύει στο να παρέχει στους εργαζόμενους τον έλεγχο των κατά τα άλλα σκοτεινών μηχανισμών που ενδέχεται να επηρεάσουν τις συνθήκες εργασίας τους ή την ίδια την εργασιακή σχέση και να τους επιτρέψει να ενεργούν όταν οι αλγόριθμοι δεν λαμβάνουν υπόψη τις υποχρεώσεις που επιβάλλει το εργατικό δίκαιο στους εργοδότες .
Ωστόσο, το μόνο που λάμπει δεν είναι χρυσό. Ο κανόνας δεν παρέχει κανένα μηχανισμό για την αποτελεσματική άσκηση ελέγχου στον αλγόριθμο, αλλά παρέχει μόνο δικαίωμα ενημέρωσης σχετικά με το πώς επηρεάζονται οι εργαζόμενοι. Οι πληροφορίες είναι το πρώτο βήμα για την επίτευξη ελέγχου, αλλά λείπουν τα επόμενα βήματα.
Τι μέτρα μπορούν να κάνουν οι εργαζόμενοι εναντίον της εταιρείας εάν ο αλγόριθμος αποδειχθεί επιβλαβής δεν είναι σαφές. Η τακτική νομική προσφυγή κατά, για παράδειγμα, των διακρίσεων ή της μη συμμόρφωσης με τα δικαιώματα απασχόλησης μοιάζει με την πιο εφικτή επιλογή. Ωστόσο, η έλλειψη σαφήνειας προκαλεί αβεβαιότητα σχετικά με τον τρόπο ερμηνείας των απαιτήσεων και των προϋποθέσεων και τον τρόπο εφαρμογής του κανόνα στην πράξη.
Επιπλέον, δεν είναι οι ίδιοι οι εργαζόμενοι που έχουν το δικαίωμα, αλλά το Συμβούλιο των Εργαζομένων σε μια εταιρεία – είναι συλλογικό δικαίωμα. Ωστόσο, τέτοια συμβούλια υπάρχουν μόνο σε εταιρείες ή χώρους εργασίας με 50 ή περισσότερους εργαζομένους, και ως εκ τούτου, οι μικρότερες εταιρείες παραμένουν απροστάτευτες. Επιπλέον, το Συμβούλιο έχει καθήκον απορρήτου και εμπιστευτικότητας σχετικά με τις πληροφορίες που λαμβάνει από την εταιρεία και δεν μπορεί να τις χρησιμοποιήσει για διαφορετικούς σκοπούς, γεγονός που μπορεί να αποτελέσει σημαντικό μειονέκτημα για δημόσια συζήτηση και να εμποδίσει την έρευνα επί του θέματος.
Από τη μία πλευρά, αφήνοντας ένα τόσο σημαντικό δικαίωμα στα χέρια ενός Συμβουλίου και όχι άμεσα στα χέρια των εργαζομένων αφήνει περιθώριο σε προβλήματα που μπορεί να αποτρέψουν την επαρκή άσκηση του δικαιώματος. Από την άλλη πλευρά, το γεγονός ότι το Συμβούλιο Εργατών δικαιούται να ασκεί τη νομική υπεράσπιση των εργαζομένων μπορεί να είναι επωφελές: τα αλγοριθμικά συστήματα επηρεάζουν μεγάλο αριθμό εργαζομένων, οπότε η συλλογική δράση φαίνεται καλύτερη επιλογή από την ατομική δράση. Ωστόσο, η κεντρική πρόκληση παραμένει: δεν είναι σαφές πώς θα λειτουργήσει στην πραγματικότητα η υποχρέωση ενημέρωσης έναντι των Συμβουλίων. Πρώτον, επειδή ο κανόνας υποχρεώνει την εταιρεία να παρέχει πληροφορίες περιοδικά, αλλά δεν παρέχει καθορισμένη περίοδο. Παρόμοιες διατάξεις σχετικά με τα δικαιώματα πληροφόρησης αναφέρουν διαστήματα 6 μηνών και ετήσιων, τα οποία μοιάζουν πολύ καιρό σε σύγκριση με την ταχύτητα με την οποία εξελίσσεται η τεχνολογία. Δεύτερον, επειδή ο κανόνας δεν διευκρινίζει ούτε ορίζει κανένα από τα στοιχεία που αναφέρει – αν και η τελική πρόθεσή του φαίνεται να είναι αρκετά σαφής για ερμηνεία.
Πώς θα αναπτυχθεί η παροχή;
Το να αφήσετε την πρακτική εφαρμογή ανοιχτή στην ερμηνεία μπορεί να είναι επικίνδυνο. Στη Γερμανία, όπου εφαρμόστηκε αλγοριθμική διαφάνεια για τη βαθμολόγηση της πιστοληπτικής ικανότητας, τα δικαστήρια διευθετήθηκαν με ένα πολύ βασικό δικαίωμα που περιλάμβανε μόνο τη γενική λογική πίσω από τον αλγόριθμο και την περιγραφή των παραμέτρων που χρησιμοποιήθηκαν, λαμβάνοντας υπόψη τον αλγόριθμο ένα εμπορικό μυστικό που δεν μπορούσε να αποκαλυφθεί περαιτέρω. Αυτό είχε ως αποτέλεσμα ένα περιορισμένο δικαίωμα πληροφόρησης που δεν ήταν χρήσιμο στην πράξη, καθώς το θέμα δεν είχε καμία δυνατότητα να γνωρίζει πραγματικά τη λειτουργία του αλγορίθμου και πώς κατέληξε στα συμπεράσματά του.
Η ισπανική κυβέρνηση σκοπεύει να δημιουργήσει μια ομάδα εμπειρογνωμόνων για την ανάλυση αλγοριθμικών και AI αποτελεσμάτων στην απασχόληση, επιδιώκοντας να «προχωρήσει προς μια δίκαιη και βασισμένη στα δικαιώματα μετάβαση τεχνολογίας», με δικά τους λόγια . Ευτυχώς, αυτό φαίνεται να σημαίνει ότι οι ελλείψεις της διάταξης θα επιλυθούν. Υπό αυτήν την έννοια, μία από τις μεγαλύτερες ισπανικές ενώσεις έχει ήδη προτείνει τη διεύρυνση του πεδίου και των προϋποθέσεων του νέου κανόνα, δημιουργώντας ένα μητρώο αλγορίθμων, ένα ευρύτερο δικαίωμα επεξήγησης, ένα σύστημα ευθύνης και δικαιώματα ελέγχου – παρόμοια με τις διατάξεις της νέας ΕΕ – επίπεδο ζεύγος. Αυτό θα μπορούσε ακόμη και να εφαρμοστεί άμεσα όταν τεθεί σε ισχύ ο κανονισμός AI, καθώς το PAIR επισημαίνει συστήματα που «προορίζονται να χρησιμοποιηθούν για τη λήψη αποφάσεων σχετικά με την προώθηση και τον τερματισμό συμβατικών σχέσεων που σχετίζονται με την εργασία, για την κατανομή εργασιών και για την παρακολούθηση και αξιολόγηση απόδοση και συμπεριφορά ατόμων σε τέτοιες σχέσεις »όπως συστήματα υψηλού κινδύνου, που υπόκεινται σε ένα ευρύ πεδίο υποχρεώσεων, συμπεριλαμβανομένης της διαφάνειας, των απαιτήσεων για εκπαίδευση δεδομένων και της επεξήγησης.
Πώς όλα αυτά σχετίζονται με το δίκαιο της ΕΕ;
Αν και συμπίπτει με το PAIR, δεν φαίνεται ότι ο Ισπανός νομοθέτης εμπνεύστηκε από αυτό. Δεν έγινε αναφορά στην πρόταση, στο ευρωπαϊκό τοπίο ή στη συζήτηση. Ωστόσο, υπάρχουν κάποιες ομοιότητες – δεν αποτελεί έκπληξη, δεδομένου ότι η πρόταση της ΕΕ αντικατοπτρίζει επίσης τη δημόσια και ακαδημαϊκή συζήτηση των τελευταίων ετών.
Γενικά, το νέο ισπανικό δικαίωμα συνδέεται με την ισχύουσα νομοθεσία της ΕΕ και μπορεί να ενισχυθεί από αυτήν. Κυρίως, ένας πρόσθετος μηχανισμός προστασίας μπορεί να αντληθεί από το άρθρο 22 του GDPR, το οποίο παρέχει το δικαίωμα να αντιτίθεται σε αυτοματοποιημένη λήψη αποφάσεων όταν έχει νομική ή παρόμοια επίδραση σε ένα θέμα του οποίου τα προσωπικά δεδομένα χρησιμοποιούνται για την επεξεργασία. Ο GDPR επιτρέπει επίσης στα κράτη μέλη να διευρύνουν μια τέτοια προστασία, η οποία έχει αποδειχθεί ανεπαρκής στον τομέα της απασχόλησης. Με τον ίδιο τρόπο, οι εθνικοί κανόνες θα μπορούσαν να αναπτυχθούν για να εισαγάγουν ορισμένες από τις απαιτήσεις από το PAIR προτού τεθεί σε ισχύ και τεθεί σε ισχύ.
Ακόμα κι αν το νέο ισπανικό δικαίωμα μπορεί να μοιάζει με το άρθρο 22 του GDPR, ο GDPR παρέχει ένα ατομικό, εν μέρει περιορισμένο δικαίωμα, σε αντίθεση με το ευρύτερο, συλλογικό δικαίωμα πληροφόρησης που αναγνωρίζεται τώρα στην Ισπανία. Παρόλα αυτά, δεδομένης της έλλειψης μηχανισμού προσφυγής, το άρθρο 22 του GDPR μπορεί να αποτελέσει μέσο για τη διακοπή της επεξεργασίας των δεδομένων των εργαζομένων, σύμφωνα με τις πληροφορίες που παρέχει η εταιρεία.
Ωστόσο, αυτή η μέθοδος μπορεί να είναι ανεπαρκής σε σχέσεις με δύο άνισες πλευρές, όπου ο εργοδότης κατέχει εξουσία έναντι του εργαζομένου. Αυτό είναι ακόμη πιο κραυγαλέο σε μεγάλες πλατφόρμες όπως το Uber ή το Amazon, όπου οι εργαζόμενοι είναι διαθέσιμοι. Στην τελευταία περίπτωση, ο εργοδότης δεν ασκεί απλώς δύναμη αλλά απόλυτη ισχύ, ενισχυμένη από έντονο έλεγχο και επιτήρηση, που διευκολύνεται από συστήματα AI που στοχεύουν στην εξουδετέρωση και την εξαγωγή της τελευταίας απόδοσης από τον εργαζόμενο.
Απλώς ένα πρώτο βήμα
Ο μόνος τρόπος εξισορρόπησης της κλίμακας είναι η προστασία των εργαζομένων από αλγοριθμική επίδραση. Τα δικαιώματα πληροφόρησης σχετικά με τη λειτουργία τέτοιων συστημάτων, όπως προβλέπονται τώρα από την ισπανική νομοθεσία, είναι βασικά. Ωστόσο, είναι απλώς ένα πρώτο βήμα. Απαιτούνται πρόσθετοι και στοχευμένοι μηχανισμοί που λαμβάνουν υπόψη τη φύση και τις ιδιαιτερότητες αυτών των συστημάτων. Ας ελπίσουμε ότι αυτή η πρόσφατη νομοθετική αλλαγή θα είναι απλώς μια πρώτη πέτρα για μια πορεία που θα συνεχίσει να χτίζεται από τα δικαστήρια, εάν επέλεξαν να ερμηνεύσουν τον κανόνα από την πρόθεσή του και όχι από αυτό που του λείπει, και από τους νομοθέτες, που μπορεί να συνεχίσουν να αναπτύσσονται αυτή η πρωτοποριακή διάταξη μαζί με τον νέο ευρωπαϊκό κανονισμό για την τεχνητή νοημοσύνη.
Αυτή είναι μια αυτόματη μετάφραση μιας ανάρτησης που δημοσιεύτηκε στο Verfassungsblog στη διεύθυνση URL https://verfassungsblog.de/workers-vs-ai/ στις Thu, 27 May 2021 07:56:05 +0000.