Περιεχόμενο
- Τι σε ένα όνομα;
- Εάν οι υπολογιστές μπορούν να μιλήσουν, πώς πρέπει να ακούγονται;
- No Bugs, No Stress - Ο οδηγός σας βήμα προς βήμα για τη δημιουργία λογισμικού που αλλάζει τη ζωή χωρίς να καταστρέφει τη ζωή σας
- Τι λέει η φωνή και οι εκφράσεις του Σίρι για μας
- Tech μπορεί να έχει προηγμένες, αλλά γυναίκες ... Δεν είναι τόσο πολύ
- Πολύ λίγες γυναίκες εργάζονται σε AI
- Ο δρόμος μπροστά
Πηγή: Idey / Dreamstime.com
Πάρε μακριά:
Υπάρχουν αποδείξεις για ένα επίμονο πρόβλημα μεροληψίας στην ΑΙ που θα μπορούσε να είναι ένας από τους λόγους για τους οποίους βλέπουμε τα στερεότυπα των φύλων που εκδηλώνονται στις γυναικείες ταυτότητες που συνδέονται με τους βοηθούς της ΑΠ.
Αναρωτηθήκατε ποτέ γιατί η Alexa δεν είναι ο Alex, που θα μπορούσε να είναι ένα ψευδώνυμο για κάθε φύλο; Είναι πραγματικά ειρωνικό ότι μια εταιρεία με όνομα που προέρχεται από έναν άγριο πολεμιστή αγώνα γυναικών έπεσε απλώς στη συνήθη πρακτική της χύτευσης του βοηθού που παίρνει εντολές από το χρήστη ως θηλυκό.
Τι σε ένα όνομα;
Στην πραγματικότητα, το όνομα του πράκτορα του AI προέρχεται από την Αλεξάνδρεια, μια πόλη της οποίας η αξίωση για φήμη στον αρχαίο κόσμο ήταν η βιβλιοθήκη της, σύμφωνα με τον Daniel Rausch, επικεφαλής του τμήματος "Smart Home" του Αμαζονίου. Είπε στο Business Insider ότι πρόκειται να συλλάβει την ιδέα της αρχικής συλλογής τόμων που φιλοξένησαν "όλη τη συλλογική γνώση του κόσμου εκείνη την εποχή".
Αλλά θα μπορούσαν εξίσου εύκολα να θεωρήσουν το γεγονός ότι η πόλη ονομάστηκε για τον Μέγα Αλέξανδρο, και πήγε με το όνομα Alex, ένα ψευδώνυμο που υιοθετήθηκε από άνδρες και γυναίκες. Αντ 'αυτού, πήγαν με τη σαφώς θηλυκή Alexa.
Ο Amazon δεν είναι μόνος σε αυτό. Η Apple επέλεξε τη Siri ως το όνομα του βοηθού της φωνής που μιλά με θηλυκή φωνή. Μια γυναικεία ταυτότητα επιλέχθηκε επίσης για την Cortana της Microsoft. Δεν φαίνεται να είναι απλή σύμπτωση ότι οι τρεις καλύτερες γνωστές ταυτότητες ΑΙ είναι γυναίκες.
Πιθανότατα όλες οι εταιρείες έκαναν το ίδιο είδος έρευνας αγοράς που είπε ότι έκανε το Amazon. (Για τη μη τόσο σοβαρή πλευρά του Siri, ελέγξτε το Pardon Moi; Top Siri Fail s.)
Εάν οι υπολογιστές μπορούν να μιλήσουν, πώς πρέπει να ακούγονται;
Στην συνέντευξη του Business Insider, ο Rausch δήλωσε ότι «διαπίστωσε ότι η φωνή μιας γυναίκας είναι περισσότερο« συμπαθητική »και καλύτερη λήψη». Το άρθρο συνέχισε να λέει ότι αυτή η προτίμηση για γυναικείες φωνές προηγείται των βοηθών AI.
Αυτό θα μπορούσε να είναι ο λόγος για τον οποίο ο υπολογιστής επί του Enterprise μίλησε με θηλυκή φωνή. Η φωνή ήταν στην πραγματικότητα αυτή της Majel Barrett-Roddenberry, σύζυγος του δημιουργού της σειράς "Star Trek" και αναγνωρισμένη από τους οπαδούς για τον επαναλαμβανόμενο ρόλο της ως η τέλεια εξημερωμένη ξανθιά νοσοκόμα, Christine Chapel, Δρ. McCoy.
Στο βίντεο παρακάτω, δίνει στην φωνή σε μια βιβλιοθήκη, μοιράζοντας τις πληροφορίες στο αρχείο για το άτομο που ζητάει ο καπετάνιος.
No Bugs, No Stress - Ο οδηγός σας βήμα προς βήμα για τη δημιουργία λογισμικού που αλλάζει τη ζωή χωρίς να καταστρέφει τη ζωή σας
Δεν μπορείτε να βελτιώσετε τις δεξιότητες προγραμματισμού σας όταν κανείς δεν ενδιαφέρεται για την ποιότητα του λογισμικού.
Είναι αλήθεια ότι υπάρχουν πράκτορες του AI που συνδέονται με τις ανδρικές ταυτότητες, όπως παρατηρεί ο Chandra Steele του PC Mag σε ένα Medium blog φέτος. Συνήθως συνδέονται με πιο σοβαρά καθήκοντα από αυτά που υποβιβάζονται στον εικονικό βοηθό στην επιφάνεια εργασίας ή το τηλέφωνό σας. Κατά συνέπεια, η Watson της IBM, η οποία συνδέεται με πράγματα όπως η ιατρική έρευνα, έλαβε τη "φωνή ανδρικής ηχητικής" που οι άνθρωποι συνδέουν με την εμπιστοσύνη και την ηγεσία.
Αντίθετα, οι γυναίκες φωνές συνδέονται με την εγκαρδιότητα και την παραδοξότητα. "Αν και στερούνται σωμάτων", εξήγησε ο Steele, "ενσωματώνουν αυτό που σκεφτόμαστε όταν φτιάχνουμε έναν προσωπικό βοηθό: μια ικανή, αποτελεσματική και αξιόπιστη γυναίκα".
Μερικές φορές τους δίνεται ένα θηλυκό εικονικό σώμα, τουλάχιστον ένα που εμφανίζεται στην οθόνη. Αυτή είναι η περίπτωση του γνωστικού παράγοντα της IPsoft Amelia. Όπως μπορείτε να δείτε στο βίντεο παρακάτω, εμφανίζεται ως μια αρκετά νέα ξανθιά (το χρώμα μαλλιών Barrett-Roddenberry βαμμένα τα μαλλιά της για το ορατό ρόλο της ως νοσοκόμα).
Η Amelia ενσωματώνει το αξιόπιστο θηλυκό που υποστηρίζει το υπεύθυνο, στο βάθος αλλά και λίγο διακοσμητικό. Έχει στο μυαλό του τον ιδανικό βοηθό που οραματίστηκε στη δεκαετία του 1950. Όπως και η Della Street της Perry Mason, ο βασικά πιστός γραμματέας, είναι πάντα εκεί για να καλύψει τις ανάγκες του αρσενικού προϊσταμένου της και δεν αρνείται κανένα αίτημα ή έργο.
Τι λέει η φωνή και οι εκφράσεις του Σίρι για μας
Υποθέτουμε ότι έχουμε σημειώσει σημαντική πρόοδο όσον αφορά την ισότητα των φύλων από τα μέσα του περασμένου αιώνα, αλλά οι βοηθοί της ΑΠ μας υπενθυμίζουν ότι έχουμε ακόμα πολύ δρόμο. Αυτό ήταν το επίκεντρο μιας πρόσφατης μελέτης της UNESCO με τίτλο "Είχα Blush If I Could."
Ο τίτλος της μελέτης είναι μια φράση ότι ο βοηθός φωνής της γυναίκας της Apple, Siri, είχε αρχικά προγραμματιστεί να πει σε απάντηση στους χρήστες που την ονόμασαν σεξιστική ονομασία. Τα καλά νέα είναι ότι η Apple ενημέρωσε τον προγραμματισμό του Siri στις αρχές του 2019 για να προσφέρει πλέον ένα μηχανικό κατάλληλο "δεν ξέρω πώς να ανταποκρίνεσαι σε αυτό" όταν κάποιος κάνει μια τέτοια δήλωση στον πράκτορα του AI.
Ωστόσο, όπως αναφέρει η έκθεση, η Apple την άφησε να παραμείνει για πολύ καιρό, λαμβάνοντας υπόψη ότι το Siri απελευθερώθηκε το 2011. Αυτή είναι η ουσία του προβλήματος.
Tech μπορεί να έχει προηγμένες, αλλά γυναίκες ... Δεν είναι τόσο πολύ
Όπως επισημαίνει η έκθεση, η «θηλυκή» επιδεξιότητα του Siri - και η εξυπνάδα που εκφράζουν τόσοι πολλοί άλλοι ψηφιακοί βοηθοί που προβάλλονται ως νεαρές γυναίκες - παρέχει μια ισχυρή απεικόνιση των προκαταλήψεων των φύλων που κωδικοποιούνται σε τεχνολογικά προϊόντα, διαδεδομένα στον τεχνολογικό τομέα και εμφανή στις ψηφιακές δεξιότητες εκπαίδευση."
Η έκθεση υιοθετεί το σεξισμό που εντάσσεται στη γυναικεία ταυτότητα του AI και στις προγραμματισμένες απαντήσεις που οφείλονται στο συστηματικό χάσμα των φύλων στην τεχνολογία γενικότερα και στην AI ειδικότερα: «Σήμερα, οι γυναίκες και τα κορίτσια είναι 25% λιγότερο πιθανό από τους άνδρες να γνωρίζουν πώς να εκμεταλλεύονται ψηφιακά τεχνολογία για βασικούς σκοπούς, 4 φορές λιγότερο πιθανό να ξέρει πώς να προγραμματίζει υπολογιστές και 13 φορές λιγότερο πιθανό να υποβάλει αίτηση για δίπλωμα τεχνολογίας ».
Πολύ λίγες γυναίκες εργάζονται σε AI
Αυτό ταιριάζει με τα ευρήματα των Διακριτικών Συστημάτων του AI Now Institute: Φύλο, Φυλή και Εξουσία. Στα συνέδρια του AI, οι γυναίκες αποτελούν μόνο το 18% των αντιπροσωπευομένων συγγραφέων και λιγότερο από το 20% των καθηγητών του AI. Η αντιπροσώπευση είναι ακόμη χειρότερη στον κλάδο. Στις γυναίκες κατέχουν μόνο το 15% των θέσεων του ερευνητικού προσωπικού, ενώ στο Google το ποσοστό πέφτει στα 10.
Όσο κακοί είναι αυτοί οι αριθμοί, είναι καλύτερο από όσα αναφέρει η έκθεση της UNESCO για τους υποψηφίους σε τέτοιες θέσεις: «Οι εργοδότες για εταιρείες τεχνολογίας στην Silicon Valley εκτιμούν ότι η αιτούσα ομάδα τεχνικών θέσεων εργασίας στην τεχνητή νοημοσύνη (AI) από το 1 τοις εκατό των γυναικών. "
Σύμφωνα με την έκθεση της UNESCO, υπάρχουν σοβαρές συνέπειες για την ανισορροπία αυτή: "Καθώς οι άνδρες εξακολουθούν να κυριαρχούν σε αυτό το διάστημα, η διαφορά χρησιμεύει μόνο για τη διαιώνιση και την επιδείνωση των ανισοτήτων φύλου, καθώς η μη αναγνωρισμένη προκατάληψη αντιγράφεται και ενσωματώνεται σε αλγόριθμους και τεχνητή νοημοσύνη".
Εξηγεί ότι οι «ομάδες που κυριαρχούνται από τους άνδρες» είναι εκείνες που καθόρισαν τα κριτήρια που έθεσαν έναν κανόνα που «μπορεί να είναι δύσκολο να καθοριστεί όταν επισημάνουμε τις μεροληψίες του φύλου». . Το AI δεν δημιουργεί την προκατάληψη, αλλά αντικατοπτρίζει τις προκαταλήψεις του προγραμματισμού του.
"Δεν υπάρχει τίποτα τεχνητό για το AI", δήλωσε ο Fei-Fei Li, ειδικός στον τομέα. "Είναι εμπνευσμένο από τους ανθρώπους, δημιουργείται από τους ανθρώπους και - το σημαντικότερο - επηρεάζει τους ανθρώπους." Ακριβώς όπως τα "σκουπίδια, σκουπίδια" ισχύουν για όλα τα δεδομένα, το ίδιο συμβαίνει και με όσα λέει "προκατάληψη, μεροληψία" για συστήματα AI.
Ο δρόμος μπροστά
Πώς λοιπόν μπορούμε να ξεπεράσουμε τέτοιες προκαταλήψεις που έχουν ενσωματωθεί στις λειτουργίες μάθησης μηχανών μας και να διαμορφώσουμε περαιτέρω τις προσδοκίες μας; Η απάντηση, σύμφωνα με την έκθεση της UNESCO, είναι η εκπαίδευση: «Η εκπαίδευση είναι όπου οι προσδοκίες είναι πλαστές και οι ικανότητες καλλιεργούνται».
Ο Li συμφωνεί ότι είναι δυνατό να αναμορφωθεί η διαδρομή που έχει τεθεί. «Με την σωστή καθοδήγηση η AI θα κάνει τη ζωή καλύτερη», υποστηρίζει. "Αλλά χωρίς αυτό, η τεχνολογία σημαίνει να διευρύνει ακόμη περισσότερο τον πλούτο, να κάνει την τεχνολογία ακόμα πιο αποκλειστική και να ενισχύσει τις προκαταλήψεις που έχουμε ξοδέψει γενιές που προσπαθούν να ξεπεράσουν".
Ήρθε η ώρα να πάτε με τόλμη, όπου ο άνθρωπος δεν έχει πάει πριν.