Περιεχόμενο
Παρουσιάστηκε από: AltaML
Ερ:
Γιατί μερικές εταιρείες σκέπτονται να προσθέσουν "ελέγχους ανθρώπινης ανάδρασης" σε σύγχρονα συστήματα AI;
ΕΝΑ:
Ορισμένες εταιρείες που συνεργάζονται με την τεχνολογία αιχμής της τεχνολογίας αιχμής προσπαθούν να δημιουργήσουν ανθρώπινο έλεγχο για τα συστήματα αυτά, δίνοντας στην μηχανική μάθηση και στα εργαλεία βαθιάς μάθησης κάποια άμεση ανθρώπινη επίβλεψη. Αυτές οι εταιρείες δεν είναι ούτε μικροί παίκτες - το DeepMind της Google και το OpenAI του Elon Musk είναι δύο παραδείγματα μεγάλων εταιρειών που παίρνουν πρακτικές σχετικά με την πρόοδο της τεχνητής νοημοσύνης. Με αυτό το πνεύμα, τα αποτελέσματα διαφέρουν - για παράδειγμα, το DeepMind αποτέλεσε το αντικείμενο διαμάχης για την αντιληπτή απροθυμία του να παρέχει βασικά δεδομένα στο κοινό, ενώ το OpenAI είναι πολύ περισσότερο, Άνοιξε για το έργο του για τον έλεγχο της τεχνητής νοημοσύνης.
Ακόμη και ανυπόμονοι όπως ο Bill Gates έχουν ζυγίσει στο θέμα, η Gates λέει ότι είναι ένας από τους πολλούς που ανησυχούν για την εμφάνιση ενός τεχνητού υπερήχου που μπορεί με κάποιο τρόπο να ξεφύγει από τον ανθρώπινο έλεγχο. Ο Musk, από την πλευρά του, έχει επίσης βάλει κάποια ανησυχητική γλώσσα σχετικά με τη δυνατότητα "απατεώνων AI".
Αυτός είναι ίσως ο πιό επείγων λόγος που οι εταιρείες εργάζονται για την εφαρμογή των ανθρώπινων ελέγχων στο AI - η ιδέα ότι κάποια τεχνολογική ιδιαιτερότητα θα οδηγήσει σε μια υπερδύναμη αισθητή τεχνολογία που ο άνθρωπος απλά δεν μπορεί να ελέγξει πια. Από την αρχή των ανθρώπινων φιλοδοξιών έχουμε βάλει εργαλεία για να βεβαιωθούμε ότι μπορούμε να ελέγξουμε τις δυνάμεις που ασκούμε - είτε πρόκειται για άλογα με ιπποδρομίες και ιμάντες, για ηλεκτρική ενέργεια σε μονωμένα καλώδια ή για οποιοδήποτε άλλο μηχανισμό ελέγχου, έχοντας ο έλεγχος είναι μια εγγενώς ανθρώπινη λειτουργία και έτσι κάνει όλο το νόημα στον κόσμο ότι καθώς η τεχνητή νοημοσύνη έρχεται πιο κοντά στην πραγματική λειτουργικότητα, οι άνθρωποι εφαρμόζουν τους δικούς τους άμεσους ελέγχους για να διατηρήσουν αυτή την εξουσία υπό έλεγχο.
Ωστόσο, ο φόβος των υπερσύγχρονων ρομπότ δεν είναι ο μόνος λόγος για τον οποίο οι εταιρείες εφαρμόζουν τους ελέγχους του ανθρώπου για μηχανικά μαθήματα και έργα AI. Ένας άλλος σημαντικός λόγος είναι η μεροληψία της μηχανής - αυτή είναι η ιδέα ότι τα συστήματα τεχνητής νοημοσύνης είναι συχνά περιορισμένα στον τρόπο με τον οποίο αξιολογούν τα εν λόγω δεδομένα - έτσι ώστε να ενισχύουν κάθε εγγενή μεροληψία στο σύστημα. Οι περισσότεροι επαγγελματίες που ασχολούνται με τη μηχανική μάθηση μπορούν να μιλούν ιστορίες τρόμου σχετικά με τα συστήματα πληροφορικής που δεν ήταν σε θέση να αντιμετωπίσουν τις ομάδες χρηστών τόσο - είτε ήταν φύλο είτε εθνική ανισότητα, ή κάποια άλλη αποτυχία του συστήματος να κατανοήσει πραγματικά τις αποχρώσεις των ανθρώπινων κοινωνιών μας πώς αλληλεπιδράμε με τους ανθρώπους.
Κατά μία έννοια, θα μπορούσαμε να βάλουμε τα ανθρώπινα χειριστήρια στα συστήματα επειδή φοβόμαστε ότι θα μπορούσαν να είναι πάρα πολύ ισχυρά - ή εναλλακτικά, επειδή φοβόμαστε ότι μπορεί να μην είναι αρκετά ισχυροί. Τα ανθρώπινα χειριστήρια συμβάλλουν στη στοχοθέτηση των συνόλων δεδομένων μάθησης μηχανής για μεγαλύτερη ακρίβεια. Βοηθούν να ενισχυθούν οι ιδέες που ο υπολογιστής απλώς δεν μπορεί να μάθει μόνος του, είτε επειδή το μοντέλο δεν είναι αρκετά εξελιγμένο, επειδή το AI δεν έχει προχωρήσει αρκετά μακριά, είτε επειδή ορισμένα πράγματα βρίσκονται απλώς στην επαρχία της ανθρώπινης γνώσης. Η τεχνητή νοημοσύνη είναι μεγάλη για μερικά πράγματα - για παράδειγμα, ένα σύστημα βασισμένο σε ανταμοιβή και σκορ επέτρεψε σε μια τεχνητή νοημοσύνη να κερδίσει έναν άνθρωπο παίκτη στο εξαιρετικά περίπλοκο επιτραπέζιο παιχνίδι "Go" - αλλά για άλλα πράγματα, αυτό το σύστημα που βασίζεται σε κίνητρα είναι εντελώς ανεπαρκής.
Με λίγα λόγια, υπάρχουν πολλοί επιτακτικοί λόγοι για να διατηρήσουν οι χρήστες του ανθρώπινου δυναμικού άμεσα εμπλεκόμενοι στο πώς λειτουργούν τα έργα τεχνητής νοημοσύνης. Ακόμη και οι καλύτερες τεχνολογίες τεχνητής νοημοσύνης μπορούν να σκέφτονται μόνοι τους - αλλά χωρίς πραγματικό βιολογικό ανθρώπινο εγκέφαλο που μπορεί να επεξεργάζεται πράγματα όπως τα συναισθήματα και τα κοινωνικά σκηνικά, απλά δεν μπορούν να δουν τη μεγάλη εικόνα με έναν ανθρώπινο τρόπο.
Μια εξειδικευμένη εταιρεία εκμάθησης μηχανών μπορεί να βοηθήσει στην επίτευξη αυτής της ισορροπίας με ένα συνδυασμό εμπειρογνωμόνων επιχειρήσεων και αντικειμένων και των μηχανικών προγραμματιστών με τις δεξιότητες για την επίλυση μεγάλων επιχειρηματικών προβλημάτων.
