Συνιστάται δράση

Μετά από ένα μακρύ τύμπανο, τα πράγματα πρόκειται να γίνουν σοβαρά για τις διαδικτυακές πλατφόρμες στην ΕΕ. Ο βασικός κανονισμός για τις πλατφόρμες του μπλοκ, ο νόμος για τις ψηφιακές υπηρεσίες (DSA) , τέθηκε σε ισχύ το περασμένο φθινόπωρο. Πριν από λίγες ημέρες, στις 17 Φεβρουαρίου, οι πλατφόρμες έπρεπε να δηλώσουν πόσους μηνιαίους ενεργούς χρήστες έχουν στην ΕΕ — και αν ξεπερνούν το όριο για να πληρούν τις προϋποθέσεις ως «πολύ μεγάλη διαδικτυακή πλατφόρμα» (VLOP — ή μια πολύ μεγάλη διαδικτυακή μηχανή αναζήτησης , VLOSE), γεγονός που θα τους έκανε να υπόκεινται στο πιο αυστηρό σύνολο κανόνων του DSA.

Είναι πολύ σημαντικό, το DSA να έχει λόγο στα μέτρα που θα πρέπει να εφαρμόσουν εταιρείες όπως το Instagram, το Twitter, το YouTube ή η TikTok σχετικά με τις μηχανές συστάσεων που χρησιμοποιούν για να επιμεληθούν τις ροές και τα χρονοδιαγράμματα των χρηστών.

Οι πλατφόρμες έχουν από καιρό μια τεράστια επίδραση στο οικοσύστημα πληροφοριών μας, με ευρέως διαδεδομένες κοινωνικές συνέπειες. Συμβάλλουν στη διάδοση του μίσους και της βίας. Μπορούν να χρησιμεύσουν ως φορείς παραπληροφόρησης. Και μπορούν να βοηθήσουν τους κακόβουλους παράγοντες να αμφισβητήσουν την ακεραιότητα των αστικών και δημοκρατικών διαδικασιών – μόνο τον περασμένο χρόνο, τα μέσα κοινωνικής δικτύωσης χρησιμοποιήθηκαν για να υπονομεύσουν τις εκλογές στις Φιλιππίνες , την Κένυα , τις Ηνωμένες Πολιτείες και πιο πρόσφατα τη Βραζιλία . Αλλά στις συζητήσεις για αυτά τα ζητήματα, τα αλγοριθμικά συστήματα που καθορίζουν το περιεχόμενο που διαδίδεται στις πλατφόρμες και τι όχι έχουν θεωρηθεί ως εκ των υστέρων σκέψη. Αντίθετα, οι συζητήσεις έχουν συχνά επικεντρωθεί σε μια στενή άποψη της εποπτείας του περιεχομένου. Δηλαδή, το ερώτημα τι καταρρίπτεται σε μια πλατφόρμα και τι μπορεί να παραμείνει όρθιο.

Το DSA είναι μια απόκλιση από αυτή τη στενή λογική, δίνοντας μεγαλύτερη προσοχή στους κινδύνους που απορρέουν από την ενίσχυση του επιβλαβούς περιεχομένου και τις υποκείμενες σχεδιαστικές επιλογές. Αυτό γίνεται σαφές στην αιτιολογική σκέψη 70, η οποία αναφέρεται ρητά στις κοινωνικές επιπτώσεις της σύστασης. Ως εκ τούτου, ενώ εξακολουθεί να επικεντρώνεται στη μετριοπάθεια περιεχομένου, παρέχει επίσης την πιο συνεπακόλουθη προσπάθεια μέχρι σήμερα για τον περιορισμό των βλαβών που προκαλούνται από τα συστήματα συστάσεων των πλατφορμών. ¹⁾ ))

Ωστόσο, υποστηρίζουμε ότι είναι πολύ νωρίς για να γιορτάσουμε: οι ρυθμιστικές αρχές της ΕΕ έχουν αρκετή δουλειά για να λειτουργήσουν και να εφαρμόσουν το DSA και να διασφαλίσουν ότι οι πλατφόρμες διατηρούνται σε υψηλό επίπεδο που σηματοδοτεί μια πραγματική απόκλιση από το status quo. Παρακάτω, περιγράφουμε τι πρέπει να περιλαμβάνει ένα τέτοιο πρότυπο — και τι είναι απαραίτητο για να καταστεί δυνατή η επαγρύπνηση της κοινωνίας των πολιτών και ανεξάρτητων εμπειρογνωμόνων.

Απολογισμός: η αντιμετώπιση των συστημάτων συστάσεων από την DSA

Το DSA περιλαμβάνει μια σειρά από διατάξεις που αντιμετωπίζουν ρητά τον ρόλο των συστημάτων συστάσεων. Πρώτον, η νέα προσέγγιση του DSA απαιτεί από τα VLOP/VLOSE να αξιολογούν και να μετριάζουν τους «συστημικούς κινδύνους» τους (άρθρα 34 και 35), λαμβάνοντας επίσης υπόψη «το σχεδιασμό των συστημάτων συστάσεών τους και κάθε άλλο σχετικό αλγοριθμικό σύστημα» (άρθρο 34 (2 )). Το άρθρο 27 (το οποίο ισχύει για όλες τις διαδικτυακές πλατφόρμες) είναι ακόμη πιο άμεσο, προβλέποντας μια βασική γραμμή διαφάνειας που αντιμετωπίζουν οι χρήστες σχετικά με τα συστήματα συστάσεων. Επιπλέον, το άρθρο 38 ορίζει ότι τα VLOP/VLOSE πρέπει να προσφέρουν τουλάχιστον μία έκδοση του συστήματος συστάσεων που δεν βασίζεται στο "προφίλ" σύμφωνα με τον Γενικό Κανονισμό Προστασίας Δεδομένων (GDPR) .

Αρκετά άλλα άρθρα έχουν επίσης σημαντικές επιπτώσεις στο πλαίσιο των συστημάτων συστάσεων, συμπεριλαμβανομένων εκείνων που σχετίζονται με τον ανεξάρτητο έλεγχο (άρθρο 37), την πρόσβαση των ερευνητών στα δεδομένα (άρθρο 40) και τις διατάξεις για τους όρους και τις προϋποθέσεις των πλατφορμών (άρθρο 14) και τις αιτιολογικές δηλώσεις (άρθρο 17), που αποτυπώνουν επίσης τις λεγόμενες παρεμβάσεις υποβιβασμού .

Αλλά πόσο κατάλληλα είναι αυτά τα μέτρα για να διασφαλίσουμε ότι οι πλατφόρμες και οι μηχανές συστάσεών τους διατηρούνται υπό έλεγχο; Πόσο απομένει να διευκρινιστεί στο παράγωγο δίκαιο και στην καθοδήγηση από τις ρυθμιστικές αρχές; Και, κρίσιμα, πόσος χώρος περιστροφής απομένει στις πλατφόρμες;

Σε μια πρόσφατη εργασία για τη Mozilla, έχουμε περιγράψει μια συναυλία δράσεων που θα μπορούσαν μαζί να χαράξουν την πορεία προς ένα πιο υπεύθυνο οικοσύστημα που προτείνει. Επιπλέον, μπορούν να χρησιμεύσουν ως χρήσιμο σημείο αναφοράς βάσει του οποίου μπορούμε να αξιολογήσουμε πού το DSA φτάνει στο σημείο, πού υπολείπεται και πού μπορούν να γίνουν βήματα κατά την εφαρμογή.

Οι παρεμβάσεις που προτείνουμε στο έγγραφό μας επικεντρώνονται στη διαφάνεια προς τους τελικούς χρήστες, το κοινό και τους ειδικούς. έλεγχοι τρίτων συστημάτων συστάσεων· εκτεταμένη πρόσβαση ερευνητών σε δεδομένα, τεκμηρίωση και εργαλεία· καθώς και ουσιαστικό έλεγχο για τους τελικούς χρήστες της εμπειρίας τους σε πλατφόρμες και των δεδομένων που συλλέγονται από αυτές. Αν και καμία από αυτές τις παρεμβάσεις από μόνη της δεν θα μπορέσει να περιορίσει όλες τις αρνητικές επιπτώσεις που προκαλούνται από τις πλατφόρμες και τις μηχανές συστάσεων τους, μαζί θα μπορούσαν να σημειώσουν σημαντική πρόοδο διασφαλίζοντας περισσότερο δημόσιο έλεγχο και επιτρέποντας περισσότερη (και βαθιά απαραίτητη) έρευνα για συστήματα συστάσεων.

Πώς λοιπόν η DSA ανταποκρίνεται σε αυτές τις συστάσεις; Θα δώσει τη δυνατότητα στους ερευνητές να εργαστούν για την καλύτερη κατανόηση των συστημάτων συστάσεων; Θα επιφέρει επαρκή διαφάνεια για να καταστεί δυνατός ο πραγματικός έλεγχος αυτών των συστημάτων; Και θα παρέχει στους τελικούς χρήστες γνήσια αντιπροσωπεία;

Τρίτοι που αντιμετωπίζουν παρεμβάσεις

Το άρθρο 34 υποχρεώνει τα VLOP/VLOSE να διενεργούν τακτικές αξιολογήσεις για ένα ευρύ φάσμα συστημικών κινδύνων (για παράδειγμα, κινδύνους για την άσκηση θεμελιωδών δικαιωμάτων ή δημοκρατικές διαδικασίες). Στο πλαίσιο αυτό, και κατά την εκπόνηση μέτρων μετριασμού για τους εντοπισθέντες κινδύνους, σύμφωνα με το άρθρο 35, οι εταιρείες πρέπει επίσης να λαμβάνουν υπόψη το σχεδιασμό των συστημάτων συστάσεων τους. Τα συστήματα συστάσεων αναφέρονται ρητά ως παράγοντες κινδύνου και η προσαρμογή τους ως μέτρο μετριασμού του κινδύνου. Ενώ εστιάζουν επίσης σε πολλούς άλλους παράγοντες, είναι σαφές ότι αυτές οι διατάξεις κατανοούν τα συστήματα συστάσεων ως βασικό μοχλό για την πρόληψη βλάβης και τον μετριασμό των κινδύνων — και αναγκάζουν τις πλατφόρμες να το λάβουν υπόψη κατά τη δέουσα επιμέλεια και την ανάπτυξη προϊόντων.

Οι ανεξάρτητοι έλεγχοι στους οποίους πρέπει να υποβληθούν τα VLOP/VLOSE σε σχέση με τις υποχρεώσεις δέουσας επιμέλειας υπογραμμίζουν περαιτέρω τον ρόλο της σύστασης. Ενώ αυτοί οι έλεγχοι (οι λεπτομέρειες των οποίων εξακολουθούν να ορίζονται) θα έχουν ευρύτερο πεδίο από το να εξετάζονται απλώς τα συστήματα συστάσεων, θα πρέπει να εξετάζουν εάν η αυτοαξιολόγηση των πλατφορμών και τα μέτρα μετριασμού του κινδύνου αντιμετωπίζουν επαρκώς το ρόλο αυτών των συστημάτων.

Επιπλέον, οι πλατφόρμες έχουν αποδείξει ξανά και ξανά ότι μπορούν να αποτελέσουν σημεία συμφόρησης ή να αποτρέψουν ενεργά τον έλεγχο των εσωτερικών τους λειτουργιών. Η πρόσφατη κίνηση του Twitter να περιορίσει την πρόσβαση στη διεπαφή προγραμματισμού εφαρμογών τρίτου μέρους (API) είναι ένα χαρακτηριστικό παράδειγμα. Το ίδιο είναι, για παράδειγμα, οι κινήσεις της Meta να κλείσει ανεξάρτητα ερευνητικά προγράμματα που μελετούν τις πλατφόρμες της. Αυτός είναι ο λόγος για τον οποίο οι διατάξεις για την πρόσβαση των ερευνητών στο άρθρο 40 είναι κρίσιμες για να μπορούν οι ερευνητές να έχουν πρόσβαση σε δεδομένα χωρίς να χρειάζεται να βασίζονται πολύ στην καλή θέληση των πλατφορμών. Αυτό όχι μόνο θα δημιουργήσει μια πιο ισχυρή βάση στοιχείων σχετικά με τις λειτουργίες των πλατφορμών και τον αντίκτυπό τους στην κοινωνία. Προσθέτει επίσης ένα επίπεδο ελέγχου πάνω από τις εκτιμήσεις κινδύνου και τους ελέγχους, καθώς και έναν πόρο που μπορούν να αξιοποιήσουν οι ελεγκτές. Η πρόσβαση των ερευνητών θα μας βοηθήσει να κατανοήσουμε καλύτερα τους πιθανούς κινδύνους της σύστασης και την αποτελεσματικότητα των αντίμετρων.

Τελικός χρήστης που αντιμετωπίζει παρεμβάσεις

Δημιουργία διαφάνειας

Ενώ οι πλατφόρμες έχουν κάνει σημαντικά βήματα όσον αφορά τη διαφάνεια σχετικά με την εποπτεία περιεχομένου, οι λεπτομέρειες σχετικά με το πώς λειτουργούν οι συστάσεις τους εξακολουθούν να είναι σπάνιες. Το άρθρο 27 του DSA σηματοδοτεί κάποια πρόοδο από αυτή την άποψη, υποχρεώνοντας όλες τις διαδικτυακές πλατφόρμες (όχι μόνο τα VLOP/VLOSE) να αποκαλύπτουν, σε «απλή και κατανοητή γλώσσα», τις κύριες παραμέτρους των συστημάτων συστάσεων τους (συμπεριλαμβανομένης της σχετικής σημασίας τους) καθώς και τυχόν επιλογές για τους τελικούς χρήστες για να τις αλλάξουν. Ωστόσο, εάν αυτό θα εξυπηρετήσει πραγματικά τον στόχο της δημιουργίας ουσιαστικής διαφάνειας θα εξαρτηθεί από τον τρόπο ερμηνείας και εφαρμογής αυτής της διάταξης.

Πρώτον, ακόμα κι αν οι πληροφορίες που παρέχονται από τις πλατφόρμες είναι πραγματικά χρήσιμες, μπορεί να είναι ανεπαρκείς εάν είναι κρυμμένες στους όρους παροχής υπηρεσιών των πλατφορμών. Όπως δείχνει η έρευνα χρηστών από το Κέντρο για τη Δημοκρατία και την Τεχνολογία , έχει σημασία πού και πώς παρουσιάζονται οι πληροφορίες. Για παράδειγμα, η έρευνα διαπίστωσε ότι οι χρήστες προτιμούσαν οι πληροφορίες σχετικά με τα συστήματα συστάσεων να παρουσιάζονται με τρόπο οπτικό, διαδραστικό, εξατομικευμένο και που θα τους επέτρεπε να ασκούν άμεσα τον έλεγχο του συστήματος. Ελάχιστα από αυτά μπορεί να επιτευχθεί όρους υπηρεσίας των πλατφορμών. Θα ήταν επομένως προτιμότερο αυτές οι πληροφορίες να αποτελούν μέρος μιας καθορισμένης σελίδας πληροφοριών ή έκθεσης διαφάνειας.

Δεύτερον, δεν είναι δεδομένο ότι οι πληροφορίες που παρέχουν οι πλατφόρμες είναι επαρκείς. Δεδομένης της ασάφειας της γλώσσας που χρησιμοποιείται στο άρθρο 27 — για παράδειγμα, ποιες είναι οι κύριες παράμετροι ή τα πιο σημαντικά κριτήρια; — είναι σημαντικό οι πλατφόρμες να διατηρούνται σε υψηλά πρότυπα, αντί να τους επιτραπεί να δημιουργήσουν τη σκηνή για το «θέατρο διαφάνειας» . ²⁾ Επιπλέον, το άρθρο 27 επικεντρώνεται στις πληροφορίες που παρέχονται στους χρήστες. Ωστόσο, όπως σημειώνουμε στο έγγραφό μας , οι πλατφόρμες θα πρέπει επίσης να αποκαλύπτουν πληροφορίες που μπορεί να είναι πιο σχετικές με ένα εξειδικευμένο κοινό. Αυτό θα μπορούσε να περιλαμβάνει, για παράδειγμα, πληροφορίες σχετικά με τη σχεδίαση του συστήματος, τις βασικές μετρήσεις για τις οποίες βελτιστοποιούν τα συστήματα συστάσεων ή τα δεδομένα που χρησιμοποιούν. Με άλλα λόγια, είναι σημαντικό να ληφθούν υπόψη και οι διαφορετικοί αποδέκτες της διαφάνειας.

Έχει γίνει αληθές ότι οι πλατφόρμες βελτιστοποιούν για την αφοσίωση, αλλά ο διάβολος βρίσκεται στις λεπτομέρειες: Πώς οι πλατφόρμες λειτουργούν τη δέσμευση; Όπως θα μπορούσαν να υποστηρίξουν οι πλατφόρμες, αυτό δεν είναι απαραιτήτως μια απλή εργασία — αλλά είναι δυνατό. Για παράδειγμα, ο γερμανικός δημόσιος ραδιοτηλεοπτικός οργανισμός ZDF δημοσίευσε πρόσφατα λεπτομερείς πληροφορίες σχετικά με τα συστήματα συστάσεων που χρησιμοποιούνται στις διαδικτυακές υπηρεσίες ροής του, καθώς και επίσημους ορισμούς των υποκείμενων βασικών μετρήσεων.

Ενεργοποίηση ελέγχου χρήστη

Για τα VLOP/VLOSE, το άρθρο 38 περιλαμβάνει την υποχρέωση παροχής συστάσεων που δεν βασίζονται στην κατάρτιση προφίλ κατά την έννοια του άρθρου 4 παράγραφος 4 του GDPR. Αυτό εξοπλίζει τους χρήστες με περισσότερο έλεγχο της εμπειρίας τους στην υπηρεσία και των δεδομένων που μπορεί να χρησιμοποιήσει. Ωστόσο, αυτό θέτει ως βάση μόνο μια δυαδική επιλογή μεταξύ προτάσεων που είτε χρησιμοποιούν είτε δεν χρησιμοποιούν προφίλ. Στην ιδανική περίπτωση, οι χρήστες θα πρέπει να έχουν στη διάθεσή τους πιο λεπτομερείς ελέγχους για να καθορίσουν ποια δεδομένα μπορούν να παρέχουν τις συστάσεις τους και από ποιες πηγές μπορούν να συλλεχθούν αυτά τα δεδομένα.

Επιπλέον, η εμπειρία έχει δείξει ότι τέτοιες επιλογές μπορούν να κρυφτούν καλά από πλατφόρμες, οι οποίες έχουν κάθε εμπορικό κίνητρο να το κάνουν. Οι ρυθμιστικές αρχές θα πρέπει να είναι επιφυλακτικές όσον αφορά τις παραπλανητικές πρακτικές σχεδιασμού που προσπαθούν να αποτρέψουν τους χρήστες από την άσκηση της επιλογής που τους παρέχει το άρθρο 38. Το άρθρο 25 σχετικά με τη σχεδίαση διαδικτυακής διεπαφής θα πρέπει να θεωρηθεί ότι απαιτεί από τις πλατφόρμες να παρουσιάζουν αυτές τις επιλογές δίκαια.

Ρίχνοντας φως στον υποβιβασμό περιεχομένου

Τέλος, σημασία δεν έχει μόνο τι προτείνουν οι αλγόριθμοι των πλατφορμών, αλλά και τι δεν προτείνουν. Εκτός από την κατάργηση περιεχομένου ή την αναστολή λογαριασμών, οι πλατφόρμες παρεμβαίνουν επίσης για να μειώσουν την ορατότητα του περιεχομένου (συχνά αναφέρεται επίσης ως υποβιβασμός, αποενίσχυση ή "σκιώδης αποκλεισμός"). Ενώ οι περισσότερες μεγάλες πλατφόρμες ενημερώνουν τους χρήστες εάν οι αναρτήσεις ή οι λογαριασμοί τους αφαιρεθούν ή αποκλειστούν, ο υποβιβασμός τείνει να πραγματοποιείται αθόρυβα. Ωστόσο, το περιεχόμενο που υποβιβάζεται δεν είναι ούτε παράνομο ούτε παραβιάζει τους όρους παροχής υπηρεσιών της πλατφόρμας — διαφορετικά θα καταργηθεί. Αντίθετα, οι πλατφόρμες αναλαμβάνουν δράση εναντίον του επειδή το κρίνουν αποδεκτό αλλά και ανεπιθύμητο. Παραδόξως, αυτό οδηγεί σε μια κατάσταση στην οποία οι παρεμβάσεις ενάντια στο λιγότερο επιβλαβές περιεχόμενο έρχονται με τη μικρότερη διαφάνεια και τη δέουσα διαδικασία για τους χρήστες. Το DSA είναι πιθανό να ρίξει κάποιο πολύ αναγκαίο φως σε αυτήν την πρακτική. Συμπεριλαμβάνοντας τον υποβιβασμό στο πεδίο εφαρμογής του ορισμού της εποπτείας περιεχομένου, η πρακτική υπόκειται σε ορισμένες από τις διατάξεις περί δέουσας επιμέλειας στο Κεφάλαιο III του DSA. Αυτό σημαίνει, για παράδειγμα, ότι οι πλατφόρμες πρέπει να αποκαλύπτουν τις πολιτικές και τις πρακτικές υποβιβασμού σύμφωνα με τους όρους και τις προϋποθέσεις τους (σύμφωνα με το άρθρο 14) και ότι, κατά γενικό κανόνα, οι χρήστες θα πρέπει να ειδοποιούνται εάν το περιεχόμενό τους υποβιβαστεί.

Απομένουν εργασίες για όλους

Εναπόκειται πλέον στις πλατφόρμες να διασφαλίσουν ότι λαμβάνουν τα απαραίτητα μέτρα για να συμμορφωθούν με το DSA — και στις ρυθμιστικές αρχές να διασφαλίσουν ότι οι πάροχοι υπηρεσιών τηρούν το πνεύμα του νόμου. Πολλά στο DSA δείχνουν υπόσχεση, αλλά μένει να γίνουν λεπτομέρειες. Η επικείμενη παράγωγη νομοθεσία και η καθοδήγηση μπορούν να κάνουν τη διαφορά μεταξύ της συμμόρφωσης με τις σφραγίδες και της ουσιαστικής αλλαγής στην πλατφόρμα και στο οικοσύστημα που προτείνει περιεχόμενο.

Ο τρόπος με τον οποίο αυτές οι νέες υποχρεώσεις κατόπιν σύστασης μεταφράζονται σε εμπειρία χρήστη μπορεί να κάνει τη διαφορά. Οι πλατφόρμες θα πρέπει να αναλαμβάνουν τις νέες τους υποχρεώσεις με καλή πίστη και η κοινωνία των πολιτών, η ερευνητική κοινότητα και οι τελικοί χρήστες θα πρέπει να τις τηρούν σε αυτό.

---

Αυτή είναι μια αυτόματη μετάφραση μιας ανάρτησης που δημοσιεύτηκε στο Verfassungsblog στη διεύθυνση URL https://verfassungsblog.de/action-recommended/ στις Mon, 27 Feb 2023 10:16:13 +0000.