Είναι πλέον κλισέ να σημειωθεί ότι οι πραγματικοί πελάτες των πλατφορμών κοινωνικής δικτύωσης είναι οι διαφημιστές και όχι οι χρήστες . Στις 21 Ιουνίου, η Meta (πρώην Facebook) και το Υπουργείο Στέγασης και Αστικής Ανάπτυξης των ΗΠΑ κυκλοφόρησαν μια νομική διευθέτηση που θα περιορίσει τη δυνατότητα της Meta να προσφέρει σε αυτούς τους πελάτες ορισμένα από τα βασικά προϊόντα στόχευσης διαφημίσεων. Επιλύει (προς το παρόν) μια μακροχρόνια υπόθεση σχετικά με τη μεροληπτική στόχευση αγγελιών κατοικιών – για παράδειγμα, επιτρέποντας στους ιδιοκτήτες να εξαιρούν έγχρωμους ή εμφανίζουν αυτόματα διαφημίσεις σε κυρίως λευκό κοινό. Η Meta πλέον απαγορεύεται να χρησιμοποιεί συγκεκριμένα εργαλεία στόχευσης σε αυτό το πλαίσιο και έχει υποσχεθεί νέα εργαλεία για να εξασφαλίσει πιο αντιπροσωπευτική στόχευση. Η εταιρεία ανακοίνωσε ότι θα επεκτείνει τα ίδια μέτρα σε διαφημίσεις απασχόλησης και πίστωσης, επίσης σε τομείς όπου οι διακρίσεις είναι παράνομες και παρόλα αυτά διάχυτες.
Ποιες είναι οι επιπτώσεις αυτής της διευθέτησης; Αυτές οι ανακοινώσεις εγείρουν περισσότερα ερωτήματα από όσα απαντούν, και αφήνουν πολλά να είναι επιθυμητά όταν πρόκειται για την αντιμετώπιση των συστημικών διακρίσεων. Ωστόσο, τουλάχιστον η αγωγή και ο διακανονισμός αντιπροσωπεύουν προσπάθειες της κυβέρνησης των ΗΠΑ να αντιμετωπίσει προληπτικά τις αλγοριθμικές διακρίσεις, οδηγώντας σε συγκεκριμένες αλλαγές στις επιβλαβείς επιχειρηματικές πρακτικές.
Αξίζει να σημειωθεί, λοιπόν, ότι αυτά τα νέα μέτρα θα ισχύουν μόνο εντός των ΗΠΑ . Τι κάνουν λοιπόν οι ευρωπαίοι πολιτικοί; Τα ευρωπαϊκά θεσμικά όργανα μπορεί να θεωρούν τους εαυτούς τους ηγέτες στη ρύθμιση της τεχνολογίας και υπερασπιστές των «ευρωπαϊκών αξιών», όπως η ισότητα, αλλά οι ενέργειές τους δεν ανταποκρίνονται. ο νόμος για τις ψηφιακές υπηρεσίες (DSA) είναι σε μεγάλο βαθμό συμβολικοί. Αυτή η μήνυση των ΗΠΑ θα πρέπει να είναι μια κλήση αφύπνισης για τις ευρωπαϊκές ρυθμιστικές αρχές, υπενθυμίζοντάς τους ότι η σοβαρή αντιμετώπιση των συστημικών διακρίσεων απαιτεί προληπτική κανονιστική μεταρρύθμιση και επιβολή.
Τι συμφώνησε ο Μέτα και γιατί;
Η μεροληπτική στόχευση πληροφοριών όπως οι διαφημίσεις στέγασης και εργασίας μπορεί να αποκλείσει άμεσα τις μειονότητες από τις υλικές ευκαιρίες. Αντίθετα, μπορεί επίσης να διευκολύνει την «αρπακτική ένταξη» , στοχεύοντας σκόπιμα φτωχούς ή ευάλωτους ανθρώπους με εκμεταλλευτικά προϊόντα όπως ο τζόγος και τα δάνεια ημέρας πληρωμής. Τα εργαλεία της Meta έχουν επανειλημμένα αποδειχθεί ότι επιτρέπουν και διαιωνίζουν αυτού του είδους τις διακρίσεις. Σε πολλές περιπτώσεις, η Meta άλλαξε τους κανόνες στόχευσης διαφημίσεων αφότου οι δημοσιογράφοι αποκάλυψαν πώς οι διαφημιστές μπορούν να κάνουν διακρίσεις – για παράδειγμα, δεν επιτρέπουν πλέον τη στόχευση ή τον αποκλεισμό με βάση την «εθνοτική συνάφεια», τον αντιπρόσωπο για τη φυλή που είχε εκχωρήσει προηγουμένως η Meta με βάση τη συμπεριφορά και τα ενδιαφέροντα των ανθρώπων – μόνο για μεταγενέστερες έρευνες για την αποκάλυψη εσκεμμένων διακρίσεων είναι ακόμα εύκολο.
Ακόμη και όταν οι διαφημιστές δεν έχουν καμία πρόθεση να κάνουν διακρίσεις, το λογισμικό στόχευσης που βασίζεται στη μηχανική εκμάθηση μπορεί να δημιουργήσει πολύ μη αντιπροσωπευτικό κοινό, επειδή είναι βελτιστοποιημένο για να εμφανίζει διαφημίσεις στους χρήστες που θεωρούνται πιο πιθανό να κάνουν κλικ σε αυτά. Αντίστοιχα, αν προηγούμενα δεδομένα δείχνουν ότι, για παράδειγμα, οι άνδρες ενδιαφέρονται περισσότερο για διαφημίσεις για ανώτερες θέσεις στελεχών, είναι λογικό να εμφανίζονται αυτές οι διαφημίσεις σε άνδρες χρήστες . Όπως υποστηρίζει η Wendy Chun , αυτή είναι μια εγγενής τάση των σημερινών συστημάτων μεγάλων δεδομένων, καθώς η χρησιμότητά τους βασίζεται στην υπόθεση ότι το μέλλον θα είναι βασικά παρόμοιο με τα ιστορικά δεδομένα στα οποία εκπαιδεύτηκαν. Εάν εκπαιδεύονται σε πληροφορίες για ρατσιστικά και σεξιστικά κοινωνικά συστήματα – ας πούμε, μια αγορά στέγης που βασίζεται στην ακραία οικονομική ανισότητα και τον de facto διαχωρισμό ή μια αγορά εργασίας όπου οι άνδρες κυριαρχούν σε ανώτερους ρόλους – αναπόφευκτα θα κάνουν ρατσιστικές και σεξιστικές προβλέψεις.
Είναι σημαντικό ότι η Meta δεν χρειάζεται καν να συλλέγει δεδομένα για ευαίσθητα χαρακτηριστικά όπως η φυλή για να επιτρέψει αυτές τις μορφές διακρίσεων. Τα ίδια αποτελέσματα μπορούν να επιτευχθούν – σκόπιμα ή ακούσια – με την παραγοντοποίηση των πληρεξουσίων που συσχετίζονται με αυτά τα χαρακτηριστικά, όπως η γειτονιά, η γλώσσα και τα ενδιαφέροντα. Για παράδειγμα, εάν μια διαφήμιση στοχεύει ή αποκλείει άτομα στη Γερμανία που μιλούν τουρκικά ή παρακολουθούν τηλεοπτικές εκπομπές στην τουρκική γλώσσα, είναι προφανές ότι οι περισσότεροι από αυτούς δεν θα είναι λευκοί.
Η διευθέτηση στοχεύει να αντιμετωπίσει αυτά τα ζητήματα με δύο βασικές δεσμεύσεις. Πρώτον, η Meta θα σταματήσει να προσφέρει "Lookalike Audiences" για διαφημίσεις στέγασης (ή πίστωσης ή απασχόλησης). Αυτό το εργαλείο επιτρέπει στους διαφημιστές να ανεβάζουν μια λίστα με υπάρχουσες επαφές και στη συνέχεια να βρίσκουν άλλους χρήστες που το λογισμικό της Meta ταξινομεί ως παρόμοιους με αυτά τα άτομα. Έχει συνδεθεί άμεσα με τις διακρίσεις, καθώς τα συστήματα τεχνητής νοημοσύνης που έχουν σχεδιαστεί για να βρίσκουν άτομα παρόμοια με υπάρχοντες πελάτες είναι πιθανό να επιλέξουν με βάση τη φυλή, το φύλο, τη σεξουαλικότητα κ.λπ., ή πληρεξούσιους για αυτά τα χαρακτηριστικά.
Δεύτερον, η Meta θα αναπτύξει ένα «Σύστημα μείωσης διακύμανσης» (VRS) για να κάνει το στοχευμένο κοινό πιο δημογραφικά αντιπροσωπευτικό των «κατάλληλων κοινού» που πληρούν τα κριτήρια στόχευσης της διαφήμισης. Για παράδειγμα, εάν μια διαφήμιση στοχεύει άτομα στο Βερολίνο ηλικίας 18-30 ετών που τους αρέσει η μουσική του Nicolas Jaar και αυτό το κατάλληλο κοινό είναι 60% άνδρες, αλλά το κοινό που δημιουργείται αυτόματα είναι 80% άνδρες, το VRS θα μειώσει αυτό το ποσοστό.
Τι διαφορά θα κάνει αυτό;
Όπως υποστηρίζει η Virginia Eubanks , εάν οι τεχνολογίες δεν δημιουργηθούν με σαφείς προθέσεις για την αποκατάσταση των ιστορικών διακρίσεων, θα τις εντείνουν. Καθιστώντας δυσκολότερο για τους διαφημιστές να στοχεύουν άτομα δημογραφικά παρόμοια με τους υπάρχοντες πελάτες και προσπαθώντας να κάνουν το κοινό πιο αντιπροσωπευτικό, αντιπροσωπεύουν τουλάχιστον σκόπιμα βήματα προς αυτή την κατεύθυνση. Οι όροι του διακανονισμού υποδηλώνουν επίσης ότι το τμήμα στέγασης θέλει να τον επιβλέπει ενεργά και να τον επιβάλλει.
Ωστόσο, παραμένουν σημαντικά ερωτήματα. Πρώτον, προφανώς, πώς θα λειτουργήσουν αυτά τα συστήματα και θα είναι πραγματικά αποτελεσματικά; Χωρίς πολύ περισσότερη διαφάνεια από τη Meta σχετικά με τη σχεδίαση και τα αποτελέσματά τους, αυτό είναι πολύ αβέβαιο – όπως τόνισε η ειδικός της adtech Shoshana Wodinsky , η Meta ουσιαστικά μας ζητά να πιστέψουμε ότι αντικαθιστά ένα σύστημα μαύρου κουτιού με ένα άλλο, λιγότερο μεροληπτικό σύστημα μαύρου κουτιού. Το πόσα πραγματικά θα επενδύσει η Meta στο σχεδιασμό αυτών των νέων εργαλείων παραμένει επίσης αβέβαιο.
Πιο ουσιαστικά, το εύρος και η τεχνική τους λειτουργία εγείρουν μεγάλα ερωτήματα. Προς το παρόν, το VRS θα στοχεύει μόνο το φύλο και τη φυλή – αγνοώντας άλλα νομικά προστατευμένα χαρακτηριστικά που είναι εξαιρετικά σχετικά με τις διακρίσεις για τη στέγαση και την απασχόληση, όπως η αναπηρία και η σεξουαλικότητα. Επίσης, δεν υπάρχει καμία ένδειξη ότι θα εξετάσει το ενδεχόμενο διατομεακής διάκρισης – επομένως ένα κοινό για μια αγγελία εργασίας που είναι απολύτως αντιπροσωπευτικό ανάλογα με το φύλο και τη φυλή θα μπορούσε να αποκλείσει εντελώς τα άτομα LGBTQ+ ή τις μαύρες γυναίκες.
Ακόμη και η επιδίωξη αντιπροσωπευτικότητας του φύλου και της φυλής είναι γεμάτη δυσκολίες. Οι περισσότεροι χρήστες του Facebook παρέχουν πληροφορίες ταυτότητας φύλου, αλλά -δεν αποτελεί έκπληξη, δεδομένου του ιστορικού των διαφωνιών σχετικά με τις διακρίσεις- δεν συλλέγει ρητά δεδομένα για τη φυλή. Αντίθετα, η Meta θα βασιστεί σε ένα έργο που ξεκίνησε πέρυσι για να προβλέψει τη φυλή χρησιμοποιώντας επώνυμα, τοποθεσίες και δεδομένα ερευνών, προκειμένου να εντοπίσει τις φυλετικές ανισότητες σε επίπεδο πληθυσμού. Ουσιαστικά, επομένως, το VRS απαιτεί εντατικό προφίλ. Επιπλέον, αυτά τα προφίλ χρησιμοποιούν αναγκαστικά εξαιρετικά απλοϊκές κατηγορίες και αναμφισβήτητα αντικατοπτρίζουν μια λογική ουσιοκρατίας. Η φυλή και το φύλο νοούνται ως σταθερά, αμετάβλητα προσωπικά χαρακτηριστικά που μπορούν να προβλεφθούν αξιόπιστα και ομοιόμορφα, παρά ως ετικέτες που επιβάλλονται σε άτομα σε συγκεκριμένα κοινωνικά πλαίσια.
Για παράδειγμα, το Facebook επιτρέπει στους χρήστες να επιλέγουν ανάμεσα σε πάνω από 50 περιγραφείς ταυτότητας φύλου στα δημόσια προφίλ τους, αλλά οι υποκείμενες βάσεις δεδομένων του αναταξινομούν τους χρήστες σύμφωνα με το δυαδικό φύλο. Δεδομένης της επιπλέον πολυπλοκότητας που θα εισήγαγε η αντιπροσώπευση διαφορετικού φάσματος ταυτοτήτων φύλου, φαίνεται πιθανό το VRS να επικεντρωθεί (κυρίως) στην αναλογική εκπροσώπηση ανδρών και γυναικών, παραβλέποντας τις συστημικές διακρίσεις σε βάρος των μη δυαδικών ατόμων. Ομοίως, οι φυλετικές ανισότητες θα αξιολογηθούν χρησιμοποιώντας τέσσερις κατηγορίες : Ισπανόφωνοι/Λατινικοί, λευκοί, μαύροι και άλλες. Αυτό μετά βίας αντιπροσωπεύει την πολυπλοκότητα και την εξάρτηση από το πλαίσιο των φυλετικών ταυτοτήτων. Ακόμα κι αν το VRS διασφαλίζει την αντιπροσωπευτικότητα αυτών των τεσσάρων κατηγοριών, πολλές μορφές φυλετικών διακρίσεων θα μπορούσαν να περάσουν απαρατήρητες.
Η λήψη του «κατάλληλου κοινού» ως βάσης αφήνει επίσης ένα κενό για τη συνεχιζόμενη διάκριση, καθώς μπορεί ακόμα να επιλεγεί χρησιμοποιώντας κριτήρια μεσολάβησης που συσχετίζονται με προστατευμένα χαρακτηριστικά. Εάν τα στοχευμένα χαρακτηριστικά παράγουν κατάλληλο κοινό που αποτελείται κυρίως από λευκούς άνδρες, το VRS θα τα λάβει ως τα «σωστά» δημογραφικά στοιχεία.
Τέλος, αυτός ο διακανονισμός επηρεάζει μόνο τις διαφημίσεις Facebook και Instagram. Ένα τεράστιο μέρος της επιχείρησης της Meta είναι η διαφήμιση προβολής σε ιστότοπους, η οποία έχει εξίσου μεγάλες δυνατότητες μεροληψίας. Άλλες μεγάλες εταιρείες adtech, ιδίως η Google και η Amazon , δεν επηρεάζονται (το YouTube της Google προσφέρει ένα εργαλείο στόχευσης παρόμοιο με το Lookalike Audiences). Συνολικά, λοιπόν, αυτά τα μέτρα στην καλύτερη περίπτωση θα βάλουν ένα μικρό βαθούλωμα σε ένα τεράστιο οικοδόμημα μεροληπτικής διαφήμισης παρακολούθησης.
Εν τω μεταξύ, στην ΕΕ…
Από ευρωπαϊκή προοπτική, ο πιο προφανής περιορισμός αυτών των μέτρων είναι ότι δεν ισχύουν καθόλου στην Ευρώπη: συμβαίνουν μόνο στις ΗΠΑ . Αυτό είναι λογικό όχι μόνο επειδή η Meta αναγκάστηκε να τα εισαγάγει από μια αμερικανική αγωγή, αλλά και επειδή οι ΗΠΑ είναι η πιο πολύτιμη αγορά τους. Η ανάπτυξη του VRS πιθανότατα θα απαιτεί ένταση πόρων. Θα ήταν εκθετικά περισσότερο η προσαρμογή του σε χώρες με πολύ διαφορετικές ιστορίες και περιβάλλοντα φυλετικών διακρίσεων. Οποιαδήποτε προσπάθεια αποκατάστασης των συστημικών διακρίσεων για τη στέγαση στην Ευρώπη θα πρέπει να εξετάσει τις διακρίσεις σε βάρος των Ρομά, μεταναστών από πρώην αποικίες, ενδοευρωπαϊκών μεταναστών – για να αναφέρουμε μόνο μερικές ευρέως εφαρμόσιμες κατηγορίες, για να μην αναφέρουμε τις συγκεκριμένες ομάδες που αντιμετωπίζουν διακρίσεις σε μεμονωμένα κράτη μέλη. Θα ήταν περίεργο αν ο Meta επένδυε στο να το κάνει αυτό εθελοντικά.
Αλλά φυσικά, η Ευρώπη έχει τους δικούς της νόμους κατά των διακρίσεων – και οι ευρωπαϊκές ρυθμιστικές αρχές θεωρούνται γενικά ιδιαίτερα ενεργές στη νομοθεσία και στην επιδίωξη επιβολής κατά της «μεγάλης τεχνολογίας». Γιατί λοιπόν δεν ζητήθηκε από τον Μέτα να κάνει τέτοια βήματα εδώ;
Πρώτον, αντιμετωπίζει λίγους νομικούς κινδύνους. Όπως δείχνει το πρωτοποριακό έργο της Sandra Wachter για τις αλγοριθμικές διακρίσεις, οι ευρωπαϊκές νομικές απαντήσεις είναι ανεπαρκείς. Σύμφωνα με τη νομοθεσία περί διακρίσεων, εκτός εάν οι διαφημιστές στοχεύουν ρητά με βάση προστατευμένα χαρακτηριστικά, οι ενάγοντες μπορούσαν να ισχυριστούν μόνο έμμεση διάκριση, απαιτώντας τους να δείξουν ότι επηρεάστηκαν άνισα σε σχέση με μια πιο προνομιακή αλλά κατά τα άλλα συγκρίσιμη ομάδα. Αυτό πιθανότατα θα απαιτούσε στατιστικά στοιχεία που να αποδεικνύουν ότι, για παράδειγμα, οι γυναίκες στο «κατάλληλο κοινό» ήταν λιγότερο πιθανό να δουν μια διαφήμιση από τους άνδρες.
Οι πιθανότητες ιδιωτών να μηνύσουν τη Meta επειδή δεν είδαν διαφήμιση και να πετύχουν είναι ελάχιστες. Οι ομάδες της κοινωνίας των πολιτών που κάνουν μήνυση για λογαριασμό των επηρεαζόμενων ομάδων χρηστών ενδέχεται να έχουν καλύτερες πιθανότητες, αλλά μόνο εάν μπορούσαν να έχουν πρόσβαση σε πληροφορίες σχετικά με τον τρόπο στόχευσης των διαφημίσεων – κάτι που, δεδομένου ότι η Meta δεν καθιστά αυτές τις πληροφορίες διαθέσιμες στη Βιβλιοθήκη Διαφημίσεών της και έχει καταστήσει επιθετικές νομικές απειλές κατά τρίτων που ανεπίσημα αποκόπτουν δεδομένα, είναι μια μεγάλη παραγγελία. Οι διατάξεις του DSA για την πρόσβαση σε δεδομένα για τους ερευνητές θα μπορούσαν να το καταστήσουν ευκολότερο, αλλά μένει να δούμε πόσο θα ενδυναμώσουν την κοινωνία των πολιτών ευρύτερα. Η καλύτερη επιλογή θα ήταν οι ψηφιακές υπηρεσίες και οι ρυθμιστικές αρχές ισότητας να χρησιμοποιήσουν τις υπάρχουσες εποπτικές εξουσίες για να απαιτήσουν πληροφορίες και να αναλάβουν δράση για τις συστημικές διακρίσεις, όπως το τμήμα στέγασης των ΗΠΑ, αλλά υπάρχουν ελάχιστα σημάδια για αυτό μέχρι στιγμής.
Το Ευρωπαϊκό Κοινοβούλιο συζήτησε την πλήρη απαγόρευση της διαφήμισης παρακολούθησης στο DSA, αλλά την απέρριψε. το τελικό κείμενο απλώς απαγορεύει τη στόχευση διαφημίσεων που χρησιμοποιούν «ευαίσθητα» δεδομένα όπως φυλή, εθνικότητα και πολιτικές πεποιθήσεις. Αυτό αποσκοπεί ξεκάθαρα στην αναγνώριση των θεμάτων διάκρισης που συζητούνται εδώ, αλλά η αξία του είναι – το πολύ – εξ ολοκλήρου συμβολική. Ο ΓΚΠΔ περιόριζε ήδη σημαντικά την επεξεργασία αυτών των κατηγοριών δεδομένων, αλλά όπως έδειξε ο Wachter, τέτοιες απαγορεύσεις είναι εντελώς ανεπαρκείς για την πρόληψη των διακρίσεων στην πράξη. Παραβλέπουν την κεντρική θέση των προβλέψεων και των δεδομένων μεσολάβησης στη διαφήμιση παρακολούθησης και την εμφάνιση διακρίσεων σε επίπεδο πληθυσμού και όχι σε ατομικό επίπεδο.
Για παράδειγμα, η Meta δεν χρειάζεται να επεξεργάζεται δεδομένα που δείχνουν ότι συγκεκριμένα άτομα είναι γκέι για να κάνουν διακρίσεις με βάση τη σεξουαλικότητα. Εάν οι αλγόριθμοί του μπορούν να προβλέψουν ότι, ας πούμε, τα άτομα που πηγαίνουν συχνά σε γκέι μπαρ και τους αρέσει να παρακολουθούν το Queer Eye έχουν 25% λιγότερες πιθανότητες να είναι επιθυμητές υποψήφιες για δουλειά και να το συνυπολογίσουν στη στόχευση διαφημίσεων, αυτό είναι αρκετό για να προκαλέσει μεγάλης κλίμακας διακρίσεις. Λέγοντας απλώς ότι οι διαφημιστές δεν μπορούν να στοχεύουν ρητά χρησιμοποιώντας ευαίσθητα δεδομένα, το DSA δείχνει μια πολύ απλοϊκή κατανόηση της αλγοριθμικής διάκρισης. Το φύλο επίσης δεν χαρακτηρίζεται ως ευαίσθητο χαρακτηριστικό, παρόλο που οι διακρίσεις λόγω φύλου στην απασχόληση αποτελούν υποτίθεται προτεραιότητα πολιτικής της ΕΕ.
Ειδικά για τις αγγελίες εργασίας, ο νόμος για την τεχνητή νοημοσύνη θα μπορούσε να προσφέρει πιο αποτελεσματική ρύθμιση, καθώς τα συστήματα τεχνητής νοημοσύνης που επηρεάζουν την πρόσβαση των ανθρώπων στην απασχόληση ταξινομούνται ως υψηλού κινδύνου , που συνεπάγονται πρόσθετες υποχρεώσεις επίβλεψης και συμμόρφωσης. Ωστόσο, δεν είναι μια κατάλληλη λύση. Οι σχολιαστές έχουν σημειώσει πολλούς λόγους για να αμφισβητήσουν ότι ο νόμος θα εφαρμοστεί αποτελεσματικά, δεδομένης της εξάρτησής του από την αυτοαξιολόγηση από τις εταιρείες και των ιδιωτικοποιημένων τεχνικών προτύπων. Ακόμη και αν οι απαιτήσεις τεχνητής νοημοσύνης υψηλού κινδύνου επιβάλλονται αυστηρά, αντιπροσωπεύουν μια πολύ ελλιπή κατανόηση των τύπων αλγοριθμικών διακρίσεων που συζητούνται εδώ. Ειδικότερα, η μεροληψία αναφέρεται μόνο σε σχέση με την ποιότητα των δεδομένων. Ωστόσο, όπως δείχνει το βιβλίο του Chun, η μηχανική μάθηση μπορεί να παράγει αποτελέσματα άκρως διακριτικά, ακριβώς επειδή δίνει ακριβείς προβλέψεις βασισμένες σε ένα ακριβές και αντιπροσωπευτικό σύνολο δεδομένων, εάν αυτό το σύνολο δεδομένων καταγράφει μια πραγματικότητα που χαρακτηρίζεται από συστημικές διακρίσεις.
Η ουσιαστική αντιμετώπιση των συστημικών διακρίσεων στη στόχευση διαφημίσεων –όπως σε πολλά άλλα πλαίσια– απαιτεί επομένως πολύ περισσότερα από την «αμερόληπτη» τεχνητή νοημοσύνη . Τα συστήματα πρέπει να σχεδιαστούν από την αρχή για να διορθώσουν προληπτικά τις υπάρχουσες κοινωνικές ανισότητες. Όπου αυτό δεν είναι δυνατό –όπως θα μπορούσε να συμβεί στην περίπτωση της στοχευμένης διαφήμισης, δεδομένων των τεχνικών δυσκολιών που αναφέρθηκαν παραπάνω– μπορεί να απαιτηθεί να μην χρησιμοποιηθούν καθόλου. αλλά τουλάχιστον αντιπροσωπεύει μια σοβαρή προσπάθεια κατανόησης και προληπτικής αντιμετώπισης των διάχυτων αλγοριθμικών διακρίσεων. Οι ευρωπαϊκές ρυθμιστικές αρχές είναι πολύ πίσω.
Αυτή είναι μια αυτόματη μετάφραση μιας ανάρτησης που δημοσιεύτηκε στο Verfassungsblog στη διεύθυνση URL https://verfassungsblog.de/targeted-ad/ στις Thu, 23 Jun 2022 09:09:05 +0000.