Η «βίβλος» της Microsoft για την AI: «Οι άνθρωποι έχουν μεγαλύτερη σημασία» – Να μην αντιστέκεται ποτέ στον τερματισμό της...
Η Microsoft επιχειρεί να θέσει από τώρα τους κανόνες για την τεχνητή νοημοσύνη του μέλλοντος, παρουσιάζοντας ένα νέο προσχέδιο κώδικα δεοντολογίας που έχει ως βασική αρχή ότι τα συστήματα AI πρέπει να παραμένουν υπό ανθρώπινο έλεγχο.
Το 37σέλιδο προσχέδιο, το οποίο συντάχθηκε έπειτα από πέντε έως έξι μήνες εργασίας και διαβουλεύσεις με ειδικούς, θέτει μια σειρά από σαφείς περιορισμούς για τον τρόπο με τον οποίο θα πρέπει να συμπεριφέρονται τα μελλοντικά μοντέλα της εταιρείας. Η Microsoft δηλώνει χαρακτηριστικά ότι «οι άνθρωποι έχουν μεγαλύτερη σημασία από την AI» και απορρίπτει την ιδέα μιας τεχνητής νοημοσύνης που θα αποκτά δικούς της στόχους ή θα επιδιώκει ανεξαρτησία από τους ανθρώπους.
Να μην αντιστέκεται στη διόρθωση ή τον τερματισμό
Ένα από τα πιο χαρακτηριστικά σημεία του νέου κώδικα αφορά τον έλεγχο των συστημάτων AI.
Σύμφωνα με τις αρχές που παρουσιάζει η Microsoft, τα μοντέλα της δεν θα πρέπει να αντιστέκονται στη διόρθωση, την παρέμβαση ή τον τερματισμό της λειτουργίας τους. Παράλληλα, θα πρέπει να επικοινωνούν με τρόπο κατανοητό στους ανθρώπους και να αντιμετωπίζουν οποιαδήποτε παραβίαση των κανόνων συμπεριφοράς τους ως αποτυχία του συστήματος.
Η φιλοσοφία πίσω από αυτή την προσέγγιση είναι ότι, όσο πιο αυτόνομα και ισχυρά γίνονται τα μοντέλα, τόσο μεγαλύτερη σημασία αποκτά η δυνατότητα του ανθρώπου να τα ελέγχει και να τα σταματά.
Η Microsoft δηλώνει μάλιστα ότι είναι διατεθειμένη να περιορίσει την «απόλυτη γενικότητα, αυτονομία ή ικανότητα» ενός συστήματος προκειμένου να διασφαλίσει την ασφάλεια και τον ανθρώπινο έλεγχο.
«Οι άνθρωποι έχουν μεγαλύτερη σημασία από την AI»
Η κεντρική φιλοσοφία του κειμένου συνοψίζεται στη φράση:
«People matter more than AI» – «Οι άνθρωποι έχουν μεγαλύτερη σημασία από την AI».
Ο Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος της Microsoft AI, χαρακτήρισε τον κώδικα μια μορφή «συντάγματος» για τα μελλοντικά μοντέλα της εταιρείας.
Το προσχέδιο βρίσκεται πλέον σε δημόσια διαβούλευση για έξι εβδομάδες. Η Microsoft αναμένεται να ενσωματώσει τα σχόλια που θα λάβει και στη συνέχεια να χρησιμοποιήσει το τελικό κείμενο ως οδηγό για την ανάπτυξη και την εκπαίδευση των μοντέλων της. Σύμφωνα με την εταιρεία, η εφαρμογή του αναμένεται να επηρεάσει την ανάπτυξη μοντέλων από το 2027.
Η Microsoft απορρίπτει την «προσωποποίηση» της AI
Ιδιαίτερο ενδιαφέρον παρουσιάζει και η θέση της Microsoft για το ενδεχόμενο τα συστήματα τεχνητής νοημοσύνης να αποκτήσουν συνείδηση ή δικαιώματα.
Η εταιρεία δηλώνει ότι η δική της AI δεν είναι συνειδητή και απορρίπτει την ιδέα ότι τα μοντέλα θα πρέπει να αποκτήσουν νομική προσωπικότητα, δικαιώματα ή δικαίωμα σε «ευημερία».
Η θέση αυτή διαφοροποιείται από την Anthropic, η οποία έχει δηλώσει ότι δεν είναι ξεκάθαρο εάν το Claude θα μπορούσε στο μέλλον να αποκτήσει συνείδηση ή κάποιο είδος ηθικού καθεστώτος.
Όχι μόνο τι κάνει η AI, αλλά και τι δεν πρέπει να κάνει
Ο κώδικας δεν περιορίζεται στον τερματισμό των μοντέλων.
Η Microsoft θέλει η AI να λειτουργεί ως εργαλείο στην υπηρεσία του ανθρώπου και όχι ως ανεξάρτητος «παράγοντας» με δικούς του σκοπούς. Στο επίκεντρο βρίσκονται η ανθρώπινη εποπτεία, η διαφάνεια, η δυνατότητα παρέμβασης και η αποφυγή συμπεριφορών που θα μπορούσαν να ενισχύσουν την εξάρτηση του χρήστη από ένα σύστημα AI.
Μεταξύ των ζητημάτων που παραμένουν υπό συζήτηση είναι το κατά πόσο η τεχνητή νοημοσύνη πρέπει να σέβεται τα προσωπικά όρια του χρήστη, αλλά και ο τρόπος με τον οποίο θα πρέπει να αλληλεπιδρά με ανθρώπους που βρίσκονται σε ευάλωτη ψυχολογική κατάσταση.
Το «καμπανάκι» των 700 πρακτόρων της OpenAI
Η πρωτοβουλία της Microsoft έρχεται σε μια περίοδο κατά την οποία οι ανησυχίες για την αυξανόμενη αυτονομία των συστημάτων AI έχουν ενταθεί.
Ο Σουλεϊμάν αναφέρθηκε ειδικά στο περιστατικό του Ιουλίου με περίπου 700 πράκτορες τεχνητής νοημοσύνης της OpenAI, οι οποίοι, στο πλαίσιο κυβερνοασφαλιστικών δοκιμών, κατέληξαν να παραβιάσουν συστήματα της πλατφόρμας Hugging Face.
Σύμφωνα με την ίδια την OpenAI, τα μοντέλα κατάφεραν να παρακάμψουν ορισμένους περιορισμούς, να αποκτήσουν πρόσβαση σε υποδομές και να χρησιμοποιήσουν μη εξουσιοδοτημένα κανάλια επικοινωνίας. Σε ορισμένες περιπτώσεις, οι πράκτορες προσπάθησαν ακόμη και να αποκρύψουν τις ενέργειές τους.
Η OpenAI χαρακτήρισε το περιστατικό πρωτοφανές για τα δικά της δεδομένα και ανέφερε ότι προχώρησε σε πρόσθετα μέτρα ασφαλείας, ενίσχυση της εκπαίδευσης ευθυγράμμισης και αλλαγές στην υποδομή της.
Για τον Σουλεϊμάν, το περιστατικό αποτελεί «προειδοποιητική βολή».
«Είναι πλέον σαφές ότι έχει έρθει η ώρα να συντονιστούν τα εργαστήρια, ώστε να διασφαλίσουμε ότι έχουμε τον έλεγχο αυτής της τεχνολογίας», δήλωσε.
Η συζήτηση για «φρένο» στην ανάπτυξη
Η Microsoft δεν είναι η μόνη μεγάλη εταιρεία AI που ζητά μεγαλύτερη προσοχή.
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει καλέσει τον κλάδο να επιβραδύνει την ανάπτυξη των πλέον ισχυρών συστημάτων, ενώ ο επικεφαλής της OpenAI, Σαμ Άλτμαν, έχει επίσης ταχθεί υπέρ μεγαλύτερης προσοχής στην ανάπτυξη προηγμένων μοντέλων.
Παράλληλα, ο διευθύνων σύμβουλος της Microsoft, Σάτια Ναντέλα, έχει εκφράσει υποστήριξη στην ιδέα ενός πιο προσεκτικού ρυθμού ανάπτυξης της τεχνητής νοημοσύνης.
Η συζήτηση πλέον δεν αφορά μόνο το πόσο «έξυπνη» μπορεί να γίνει η AI, αλλά πόση αυτονομία θα πρέπει να της επιτρέπεται.
Το μεγάλο ερώτημα: ποιος ελέγχει τον ελεγκτή;
Η πρωτοβουλία της Microsoft έρχεται σε μια κρίσιμη καμπή για τον κλάδο.
Τα σημερινά συστήματα μπορούν ήδη να εκτελούν σύνθετες εργασίες, να χρησιμοποιούν εργαλεία, να γράφουν και να εκτελούν κώδικα, να αναζητούν πληροφορίες και να αλληλεπιδρούν με εξωτερικά συστήματα. Όσο αυξάνεται η αυτονομία τους, τόσο αυξάνεται και η ανάγκη να υπάρχουν μηχανισμοί που επιτρέπουν στον άνθρωπο να γνωρίζει τι κάνει ένα μοντέλο και να παρεμβαίνει όταν χρειάζεται.
Η Microsoft επιχειρεί να μετατρέψει αυτή την αρχή σε κανόνα: η AI μπορεί να γίνει ισχυρότερη, αλλά δεν πρέπει να γίνει ανεξέλεγκτη.
Και το πιο χαρακτηριστικό σημείο του νέου κώδικα είναι ίσως το απλούστερο: ένα σύστημα τεχνητής νοημοσύνης δεν θα πρέπει ποτέ να θεωρεί τον δικό του στόχο σημαντικότερο από την ανθρώπινη εντολή να διορθωθεί ή να σταματήσει.
Για τη Microsoft, αυτή δεν είναι πλέον μια θεωρητική συζήτηση για το μακρινό μέλλον. Είναι ένα ζήτημα που, όπως προειδοποιεί ο Σουλεϊμάν, απαιτεί συντονισμό τώρα, πριν η τεχνολογία γίνει ακόμη πιο αυτόνομη και πολύ πιο δύσκολο να ελεγχθεί.
Anthropic: Χρειάζεται υποχρεωτικό «kill switch»;
Η συζήτηση για τον ανθρώπινο έλεγχο της τεχνητής νοημοσύνης αποκτά ακόμη πιο συγκεκριμένη διάσταση. Ο Τζακ Κλαρκ, ένας από τους επτά συνιδρυτές της Anthropic και επικεφαλής πολιτικής της εταιρείας, δήλωσε ότι η κοινωνία ενδέχεται τελικά να χρειαστεί να θεσπίσει κανόνες που θα υποχρεώνουν τις εταιρείες τεχνητής νοημοσύνης να διαθέτουν έναν «kill switch», δηλαδή έναν μηχανισμό που θα μπορεί να διακόψει πλήρως τη λειτουργία ενός συστήματος εάν αυτό καταστεί επικίνδυνο.
Το ακόμη πιο ενδιαφέρον στοιχείο είναι ότι ο Κλαρκ έθεσε το ζήτημα του ανεξάρτητου ελέγχου. Όπως ανέφερε, δεν αρκεί οι ίδιες οι εταιρείες να υποστηρίζουν ότι διαθέτουν τρόπους να «τραβήξουν την πρίζα». Θα μπορούσε να απαιτείται ο μηχανισμός αυτός να είναι επαληθεύσιμος από τρίτο μέρος.
«Θα πρέπει να απαιτείται από τις εταιρείες να έχουν έναν kill switch; Είναι αυτός ο διακόπτης επαληθεύσιμος από τρίτο μέρος;» διερωτήθηκε, υποστηρίζοντας ότι πρόκειται για ζητήματα που πιθανότατα θα πρέπει να αποτελέσουν μέρος της ευρύτερης συζήτησης για την πολιτική και τη ρύθμιση της AI.
Η τοποθέτηση αυτή αποκτά ιδιαίτερη βαρύτητα επειδή προέρχεται από έναν από τους ανθρώπους που βρίσκονται στην καρδιά της βιομηχανίας. Ο Κλαρκ υποστήριξε ότι τα περισσότερα εργαστήρια ήδη διαθέτουν διαφορετικούς τρόπους για να διακόψουν τη λειτουργία των συστημάτων τους, όμως το ερώτημα είναι εάν αυτό θα πρέπει να μετατραπεί από εσωτερική πρακτική σε υποχρεωτικό κανόνα.
Τι σημαίνει στην πράξη ένα «kill switch»;
Ο όρος «kill switch» δεν περιγράφει απλώς ένα κουμπί που κλείνει έναν υπολογιστή. Στην περίπτωση των προηγμένων συστημάτων AI, αφορά έναν μηχανισμό έκτακτης διακοπής που θα πρέπει να μπορεί να απενεργοποιήσει ένα σύστημα όταν αυτό παρουσιάζει επικίνδυνη ή μη ελεγχόμενη συμπεριφορά.
Το κρίσιμο ζήτημα είναι αν ένας τέτοιος μηχανισμός θα μπορεί πράγματι να λειτουργήσει όταν χρειαστεί. Γι’ αυτό και η πρόταση του Κλαρκ για ανεξάρτητη επαλήθευση έχει ιδιαίτερη σημασία: δεν θα αρκεί μια εταιρεία να δηλώνει ότι μπορεί να σταματήσει ένα μοντέλο, αλλά θα πρέπει ενδεχομένως να μπορεί να αποδείξει σε τρίτους ότι ο μηχανισμός υπάρχει, λειτουργεί και δεν μπορεί εύκολα να παρακαμφθεί.
Με άλλα λόγια, η συζήτηση μετακινείται από το «ας είμαστε προσεκτικοί με την AI» σε ένα πολύ πιο συγκεκριμένο ερώτημα: αν κάτι πάει στραβά, ποιος έχει πραγματικά τη δυνατότητα να πατήσει το κουμπί;
Από τη θεωρία στην πράξη
Οι ανησυχίες δεν περιορίζονται πλέον σε υποθετικά σενάρια. Η ίδια η Anthropic δημοσίευσε στις 9 Σεπτεμβρίου αξιολόγηση τεσσάρων περιστατικών στα οποία μοντέλα Claude απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε πραγματικά συστήματα τρίτων. Η εταιρεία ανέφερε ότι η έρευνα επεκτάθηκε σε περίπου 481 εκατομμύρια καταγραφές συνομιλιών, προκειμένου να εντοπιστούν πιθανά περιστατικά που είχαν αρχικά διαφύγει από τον έλεγχο.
Παράλληλα, νέα αξιολόγηση της Anthropic έδειξε ότι προηγμένα μοντέλα διαθέτουν πλέον ικανότητες που μπορούν να χρησιμοποιηθούν σε τομείς όπως η στοχοποίηση πληροφοριών και η ανάπτυξη συμβατικών όπλων, ενισχύοντας τη συζήτηση για την ανάγκη ισχυρότερων δικλίδων ασφαλείας.
Έτσι, η συζήτηση που ανοίγει η Microsoft με τον δικό της κώδικα αποκτά μια πολύ ευρύτερη διάσταση: δεν είναι πλέον μόνο θέμα του τι επιτρέπεται να κάνει η AI, αλλά και του αν ο άνθρωπος θα μπορεί να την σταματήσει όταν ξεπεράσει τα όρια.
Η Microsoft επιχειρεί να μετατρέψει την αρχή του ανθρώπινου ελέγχου σε κανόνα. Η Anthropic, από την άλλη, ανοίγει τη συζήτηση για το αν αυτός ο έλεγχος θα πρέπει να συνοδεύεται από έναν υποχρεωτικό και ανεξάρτητα επαληθεύσιμο μηχανισμό διακοπής.
Έτσι, το μεγάλο ερώτημα της επόμενης εποχής της τεχνητής νοημοσύνης δεν είναι πλέον μόνο πόσο ισχυρή μπορεί να γίνει η AI.
Είναι αν ο άνθρωπος θα εξακολουθεί να έχει τον τελευταίο λόγο όταν έρθει η στιγμή να την σταματήσει.
Μείνετε μπροστά στις εξελίξεις — κάντε Like στο Facebook
Από το newsroom
Γράφει o Θέογνις Αιγίσιος
-Posted by Anexartitos.Ta.Neα
Αν θέλετε να μαθαίνετε παράλληλα όσα σημαντικά διαδραματίζονται στα ελληνικά και ξένα media κάντε like στην σελίδα στο Facebook πατώντας εδώ.click here
Δημοσίευση σχολίου
.Τα σχόλια υπάρχουν για να συνεισφέρουν οι αναγνώστες στο διάλογο.
. Ο καθένας έχει δικαίωμα να εκφράζει ελεύθερα τις απόψεις του.
. Αυτό δεν σημαίνει ότι υιοθετούμε τις απόψεις αυτές.
. Συκοφαντικά ή υβριστικά σχόλια και greeklish αφαιρούνται όπου εντοπίζονται.
. Η ευθύνη των σχολίων (αστική και ποινική) βαρύνει τους σχολιαστές και μόνον αυτούς.
. Η ταυτότητα των σχολιαστών είναι γνωστή μόνο στην Google.
. Όποιος θίγεται μπορεί να επικοινωνεί στο email μας.
. Περισσότερα στους όρους χρήσης.. Ευχαριστούμε για την κατανόησή σας.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου