Καταιγίδα κριτικής στο Google μετά την έξοδο από την εταιρεία Timnit Gebru, πρωτοπόρο στη μελέτη της ηθικής στην τεχνητή νοημοσύνη
Εργαζόμενοι και ακαδημαϊκοί σε εξέγερση εναντίον του Big G.
Πάνω από 1.200 υπάλληλοι της Google και περισσότεροι από 1.500 ακαδημαϊκοί ερευνητές υπέγραψαν μια ανοιχτή επιστολή διαμαρτυρίας εναντίον του γίγαντα του Mountain View.
Ο λόγος είναι η έξοδος από την εταιρεία Timnit Gebru, έναν από τους πιο γνωστούς και πιο σεβαστούς Αφροαμερικανούς επιστήμονες στον τομέα της ηθικής της τεχνητής νοημοσύνης, ο οποίος κατήγγειλε στο Twitter ότι απολύθηκε από την Google επειδή εξέφρασε κριτική για τις προσπάθειές της για την ποικιλομορφία. και τόνισε τις προκαταλήψεις των συστημάτων AI.
Η Google είπε στους υπαλλήλους ότι παραιτήθηκε.
Ο Timnit Gebru βοήθησε στη βελτίωση της δημόσιας εικόνας της Google ως εταιρείας που ανασηκώνει τους μαύρους επιστήμονες υπολογιστών και αμφισβητεί τις επιβλαβείς χρήσεις της τεχνητής νοημοσύνης.
Όλες οι λεπτομέρειες.
ΤΙ ΣΥΜΒΑΙΝΕΙ ΜΕΤΑΞΥ GOOGLE ΚΑΙ ΧΡΟΝΟΔΙΑΓΡΑΜΜΑ GEBRU
Ο Timnit Gebru ήταν τεχνικός συν-επικεφαλής της ομάδας Ethical AI της Google μέχρι την περασμένη Τετάρτη.
Η Gebru έγραψε στο κοινωνικό δίκτυο ότι είχε τορπίλη μετά την αποστολή ενός email (με τίτλο «Σιωπή των περιθωριοποιημένων φωνών με οποιονδήποτε τρόπο δυνατό») σε μια εσωτερική γυναικεία ομάδα και σε άλλους συναδέλφους που εργάζονται στη μονάδα AI της εταιρείας.
Ένα μήνυμα ηλεκτρονικού ταχυδρομείου που εκφράζει την απογοήτευσή του για τα προγράμματα ποικιλομορφίας της Google και προκαλεί μια μελέτη της το 2018 σχετικά με τη φυλετική και μεροληψία φύλου στο λογισμικό αναγνώρισης προσώπου, το οποίο ένα στέλεχος της εταιρείας της ζήτησε να ανακαλέσει τον περασμένο Νοέμβριο.
ΤΟ ΕΓΓΡΑΦΟ ΔΙΑΤΑΞΗΣ
Ο Gebru είχε πρόσφατα εργαστεί σε ένα έγγραφο που εξέταζε τους κινδύνους ανάπτυξης συστημάτων υπολογιστών που ανιχνεύουν τεράστιες βάσεις δεδομένων ανθρώπινης γλώσσας. Η μελέτη αναφέρει τη νέα τεχνολογία της Google που χρησιμοποιείται στην ερευνητική της δραστηριότητα.
Εκτός από την επισήμανση των πιθανών κινδύνων φυλετικών προκαταλήψεων, η εφημερίδα ανέφερε επίσης το περιβαλλοντικό κόστος της σπατάλης τόσο πολλών ενεργειών κατά τη λειτουργία των μοντέλων. Ένα σημαντικό ζήτημα για μια εταιρεία που υπερηφανεύεται για τη δέσμευσή της να είναι ουδέτερη από τον άνθρακα από το 2007, ενώ προσπαθεί να πάει ακόμη πιο πράσινη.
ΑΠΟΚΑΤΑΣΤΑΣΗ ΤΗΣ ΕΤΑΙΡΕΙΑΣ ΠΟΥ ΔΗΜΙΟΥΡΓΕΤΑΙ ΑΠΟ ΤΟΝ SUNDAR PICHAI
Η επιστήμονας ανέφερε ότι προσπάθησε να διαπραγματευτεί με την Google, προσφέροντας να αφαιρέσει το όνομά της από τη μελέτη σε αντάλλαγμα για μια πλήρη εξήγηση των αντιρρήσεων της εταιρείας και μια συζήτηση για το πώς να διαχειριστεί καλύτερα αυτά τα ζητήματα στο μέλλον, απειλώντας να παραιτηθεί εάν αποτύχει. απάντηση.
Η Google απέρριψε το αίτημά της και την ενημέρωσε ότι αποδέχθηκε την παραίτησή της.
«Ένιωσα ότι λογοκρίθηκα και σκέφτηκα ότι αυτό θα μπορούσε να έχει επιπτώσεις σε όλες τις ηθικές έρευνες για την τεχνητή νοημοσύνη», δήλωσε ο Gebru στο Wire.
Προφανώς ο διευθυντής του διευθυντή μου έστειλε ένα μήνυμα ηλεκτρονικού ταχυδρομείου στις άμεσες αναφορές μου λέγοντας ότι αποδέχθηκε την παραίτησή μου. Δεν είχα παραιτηθεί – είχα ζητήσει πρώτα απλούς όρους και είπα ότι θα απαντούσα όταν επέστρεψα από τις διακοπές. Αλλά υποθέτω ότι αποφάσισε για μένα
μιλάει ο δικηγόρος.
– Timnit Gebru (@timnitGebru) 3 Δεκεμβρίου 2020
Η ΘΕΣΗ ΤΟΥ JEFF DEAN, HEAD OF GOOGLE AI
Όπως αναφέρει το CNN , σε ένα email που έστειλε την Πέμπτη στους υπαλλήλους της Google Research, το οποίο δημοσίευσε την Παρασκευή, ο Jeff Dean, επικεφαλής της τεχνητής νοημοσύνης της Google, δήλωσε στους υπαλλήλους το θέμα του. «Ο Gebru συνέγραψε ένα άρθρο, αλλά δεν έδωσε στην εταιρεία τις δύο εβδομάδες για να το επανεξετάσει πριν από την προθεσμία της. Το έγγραφο αναθεωρήθηκε εσωτερικά – έγραψε – αλλά "δεν πληρούσε τις απαιτήσεις μας για δημοσίευση".
Ο Ντιν πρόσθεσε: «Δυστυχώς, το συγκεκριμένο έγγραφο κοινοποιήθηκε μόνο με προειδοποίηση μιας ημέρας πριν από την προθεσμία. Χρειαζόμαστε δύο εβδομάδες για αυτόν τον τύπο ελέγχου και στη συνέχεια, αντί να περιμένουμε τα σχόλια των κριτικών, έχει εγκριθεί για υποβολή και αποστολή. "
Εξ ου και η «αποδεκτή» παραίτηση για τον Γκέμπρου.
ΤΟ ΕΡΓΟ ΤΟΥ GEBRU ΣΤΟΝ ΤΟΜΕΑ ΤΗΣ AI
Ο Timnit Gebru είναι διάσημος στον κόσμο της ηθικής της τεχνητής νοημοσύνης. Εργάστηκε επίσης στην Apple αναπτύσσοντας τους αλγόριθμους για τα πρώτα iPad και απέκτησε το διδακτορικό του από το εργαστήριο τεχνητής νοημοσύνης του Στάνφορντ.
Είναι συνιδρυτής του ομίλου Black in AI, ο οποίος προωθεί τη μαύρη απασχόληση και την ηγεσία στον κλάδο. Είναι γνωστή για τη μελέτη του 2018 που συνυπογράφηκε με την Joy Buolamwini, ερευνητή στο Ινστιτούτο Τεχνολογίας της Μασαχουσέτης, η οποία διαπίστωσε μεροληψία φυλών και φύλων στο λογισμικό αναγνώρισης προσώπου.
ΤΙ ΤΕΛΟΣ ΤΟΥ ΜΟΤΟ "ΜΗΝ ΕΧΕΤΕ";
Η ιστορία κινδυνεύει να είναι ένα κακό χτύπημα στην εικόνα και την αξιοπιστία της εταιρείας με επικεφαλής τον Sundar Pichia, του οποίου το αρχικό σύνθημα ήταν "Don't Be Evil" ("Μην πληγωθείτε").
ΤΑ ΠΡΟΗΓΟΥΜΕΝΑ ΠΡΟΣΤΑΣΙΑ ΤΩΝ GOOGLE ΕΡΓΑΖΟΜΕΝΩΝ
Η απότομη αποχώρηση του Gebru προσθέτει χρόνια έντασης, συμπεριλαμβανομένων αρκετών παραιτήσεων και απολύσεων, στο τμήμα AI και σε άλλους οργανισμούς της Google λόγω της ποικιλομορφίας και εάν οι προσπάθειες της εταιρείας να ελαχιστοποιήσει την πιθανή ζημία των υπηρεσιών της είναι επαρκής.
Το καλοκαίρι του 2018, η Google εγκατέλειψε το έργο Maven του Πενταγώνου. Το έργο χρησιμοποιεί λογισμικό υπολογιστικής όρασης για να αναλύσει αυτόματα πλάνα που συλλέχθηκαν από στρατιωτικά αεροσκάφη των ΗΠΑ. Ο Big G εξαναγκάστηκε στην απόφαση από διαμαρτυρίες υπαλλήλων που ισχυρίζονται ότι ο Big G είναι εκτός επιχείρησης πολέμου.
Επίσης το 2018, οι υπάλληλοι της Google υπέγραψαν μια ανοιχτή επιστολή καλώντας την εταιρεία να ακυρώσει το έργο Dragonfly σχετικά με μια μηχανή αναζήτησης που έχει απαγορευτεί για την κινεζική αγορά που θα επέτρεπε την επιτήρηση του κράτους.
ΤΙΣ ΕΠΟΜΕΝΕΣ ΠΡΟΚΛΗΣΕΙΣ ΤΟΥ ΜΕΓΑΛΟΥ Ζ
Ο τρόπος με τον οποίο διαχειρίζεται την πρωτοβουλία δεοντολογίας της AI και η εσωτερική διαφωνία που προκαλείται από την έξοδο του Gebru θα είναι το πρώτο εμπόδιο που θα αντιμετωπίσει ο γίγαντας Mountain View τη νέα χρονιά. Για να μην αναφέρουμε την κατηγορία από το Υπουργείο Δικαιοσύνης των ΗΠΑ ότι εκμεταλλεύεται τη δεσπόζουσα θέση της για να καταπνίξει τον ανταγωνισμό.
Αυτή είναι μια αυτόματη μετάφραση μιας ανάρτησης που δημοσιεύτηκε στο Start Magazine στη διεύθυνση URL https://www.startmag.it/innovazione/perche-molti-dipendenti-di-google-sono-in-rivolta/ στις Tue, 08 Dec 2020 07:43:20 +0000.