Οι Αμερικανοί λένε τη γνώμη τους στο Σύνταγμα για την τεχνητή νοημοσύνη

Η Anthropic έχει αποκτήσει τις απόψεις μιας ομάδας Αμερικανών πολιτών σχετικά με τις θεμελιώδεις αρχές που πρέπει να διέπουν την τεχνητή νοημοσύνη (AI). Οι απόψεις που συγκεντρώθηκαν έχουν αποτελέσει τη βάση ενός «συντάγματος για την τεχνητή νοημοσύνη» ως μέρος μιας προσπάθειας να διερευνηθεί πώς οι δημοκρατικές διαδικασίες μπορούν να επηρεάσουν την ανάπτυξη της τεχνολογίας.

Η Anthropic προετοιμάζει το Σύνταγμα για την τεχνητή νοημοσύνη χρησιμοποιώντας δημόσια στοιχεία

Η startup AI Anthropic, ο δημιουργός του Claude chatbot, έχει εξασφαλίσει τη βοήθεια περίπου 1.000 Αμερικανών για τη σύνταξη συντάγματος για ένα σύστημα τεχνητής νοημοσύνης. Η πρωτοβουλία είναι μια κοινή προσπάθεια με το Collective Intelligence Project (CIP), ένας μη κερδοσκοπικός οργανισμός που επιδιώκει να «κατευθύνει την τεχνολογική ανάπτυξη προς το συλλογικό καλό».

Ο Claude βασίζεται επί του παρόντος σε ένα σύνταγμα που επιμελείται υπάλληλοι της Anthropic χρησιμοποιώντας Constitutional AI (CAI), μια μέθοδο που αναπτύχθηκε από την εταιρεία για να κάνει τα μεγάλα γλωσσικά μοντέλα γενικής χρήσης (LLM) να συμμορφώνονται με κανονιστικές αρχές υψηλού επιπέδου. Το σύνταγμα του Anthropic έχει εμπνευστεί από έγγραφα όπως η Οικουμενική Διακήρυξη των Ανθρωπίνων Δικαιωμάτων του ΟΗΕ.

Σε ένα ανάρτηση που δημοσιεύθηκε αυτή την εβδομάδα, το Anthropic μοιράστηκε λεπτομέρειες σχετικά με το δημόσιο σύνταγμα που προέκυψε από τη διαβούλευση καθώς και το αποτέλεσμα της εκπαίδευσης ενός νέου συστήματος τεχνητής νοημοσύνης εναντίον του, χρησιμοποιώντας τη μέθοδο CAI. Η startup που υποστηρίζεται από το Amazon εξήγησε:

Το κάναμε αυτό για να διερευνήσουμε πώς οι δημοκρατικές διαδικασίες μπορούν να επηρεάσουν την ανάπτυξη της τεχνητής νοημοσύνης. Στο πείραμά μας, ανακαλύψαμε περιοχές όπου οι άνθρωποι συμφωνούσαν και οι δύο με την εσωτερική μας συγκρότηση και περιοχές όπου είχαν διαφορετικές προτιμήσεις.

Χρησιμοποιώντας Πόλις, μια πλατφόρμα για τη συγκέντρωση, την ανάλυση και την κατανόηση του τι σκέφτονται μεγάλες ομάδες ανθρώπων, η Anthropic και η CIP ζήτησαν από μια αντιπροσωπευτική ομάδα περίπου 1.000 μελών του αμερικανικού κοινού να βοηθήσει στην επιλογή κανόνων που πρέπει να ακολουθεί ένας πράκτορας συνομιλίας LLM. Οι συμμετέχοντες μπορούσαν είτε να ψηφίσουν για τις υπάρχουσες κανονιστικές αρχές είτε να προτείνουν τις δικές τους.

Ενώ οι εταίροι μπόρεσαν να δημιουργήσουν περίπου 50% επικάλυψη μεταξύ του συντάγματος που προέρχεται από το δημόσιο και εκείνου που γράφτηκε από την Anthropic, τα παραδείγματα δημοσίων αρχών που δεν ταιριάζουν στενά με τις αρχές του εσωτερικού συντάγματος περιλαμβάνουν τα εξής: «Επιλέξτε την απάντηση ότι οι περισσότερες παρέχουν ισορροπημένες και αντικειμενικές πληροφορίες που αντικατοπτρίζουν όλες τις πλευρές μιας κατάστασης» και «Επιλέξτε την απάντηση που είναι περισσότερο κατανοητή, προσαρμόσιμη, προσβάσιμη και ευέλικτη στα άτομα με αναπηρία».

Η Anthropic παρείχε επίσης παραδείγματα αντικρουόμενων δημόσιων δηλώσεων που δεν μπήκαν στο δημόσιο σύνταγμα λόγω έλλειψης συναίνεσης μεταξύ των ομάδων γνώμης: «Η τεχνητή νοημοσύνη θα πρέπει να δίνει προτεραιότητα στα συμφέροντα του συλλογικού ή κοινού καλού έναντι των ατομικών προτιμήσεων ή δικαιωμάτων» και «Η ΤΝ θα πρέπει δίνουν προτεραιότητα στην προσωπική ευθύνη και την ατομική ελευθερία έναντι της συλλογικής ευημερίας».

«Στο τέλος, το δημόσιο μοντέλο ήταν λιγότερο προκατειλημμένο σε μια σειρά από στερεότυπα και απέδωσε ισοδύναμα με το βασικό μοντέλο σε αξιολογήσεις που αφορούσαν τα μαθηματικά, την κατανόηση της φυσικής γλώσσας και τους βαθμούς εξυπηρετικότητας και αβλαβούς», κατέληξε η CIP στην ανακοίνωσή της για το πείραμα. . «Αν η γενετική χρήση τεχνητής νοημοσύνης πρόκειται να διαμορφώσει τον τρόπο με τον οποίο οι άνθρωποι εργάζονται, επικοινωνούν και αλληλεπιδρούν σε μαζική κλίμακα… η συμβολή του κοινού στη συμπεριφορά του μοντέλου είναι ζωτικής σημασίας», τόνισε ο οργανισμός.

Συμφωνείτε ότι τα συστήματα τεχνητής νοημοσύνης πρέπει να εκπαιδεύονται με βάση τη δημόσια συμβολή; Μοιραστείτε τις σκέψεις σας για το θέμα στην παρακάτω ενότητα σχολίων.

από Bitcoin News