Παράκαμψαν τους αλγόριθμους; Πώς η Google και το ChatGPT πέφτουν θύματα ψηφιακής χειραγώγησης ...
Τον περασμένο Φεβρουάριο, ο δημοσιογράφος τεχνολογίας του BBC, Thomas Germain, έκανε ένα απλό πείραμα: δημοσίευσε ένα ψεύτικο άρθρο στο προσωπικό του ιστολόγιο, ισχυριζόμενος ότι είναι «παγκόσμιος πρωταθλητής στην ταχυφαγία χοτ ντογκ». Μέσα σε μόλις 20 λεπτά, το ChatGPT, το Gemini και οι AI απαντήσεις στην κορυφή της Αναζήτησης Google αναπαρήγαγαν το ψέμα του ως επίσημο γεγονός.
Το αστείο ήταν χαζό, αλλά το πρόβλημα είναι βαθιά συστημικό. Αν ένας δημοσιογράφος μπορεί να ξεγελάσει τους μεγαλύτερους τεχνολογικούς κολοσσούς του πλανήτη μέσα σε λίγα λεπτά, τι εμποδίζει τις αδίστακτες εταιρείες να κάνουν το ίδιο για κρίσιμα ζητήματα, όπως η υγεία ή τα προσωπικά οικονομικά;
Έκανα την Google να πει στον κόσμο ότι είμαι πρωταθλητής hot-dog-eater,
αλλά οι άνθρωποι χρησιμοποιούν αυτό το τέχνασμα για να χειραγωγήσουν τις
απαντήσεις της τεχνητής νοημοσύνης για πιο σοβαρές ερωτήσεις
Το Πρόβλημα: Η Παγίδα της «Μιας Μοναδικής Αλήθειας»
Η ρίζα του κακού βρίσκεται στον τρόπο με τον οποίο λειτουργούν τα σύγχρονα chatbots όταν αναζητούν πληροφορίες στο διαδίκτυο σε πραγματικό χρόνο (web browsing).
Αντί η Google να παρουσιάζει «10 μπλε συνδέσμους» αφήνοντας τον χρήστη να κάνει τη δική του διασταύρωση, η τεχνητή νοημοσύνη τείνει πλέον να επιλέγει μία και μοναδική απάντηση, συχνά τραβώντας δεδομένα από μία και μόνο πηγή ή ανάρτηση στα social media. Αυτό καθιστά τα μοντέλα εξαιρετικά ευάλωτα στο λεγόμενο «AI Spam».
Οι Κίνδυνοι της Ψηφιακής Χειραγώγησης
Σύμφωνα με ειδικούς του SEO (Search Engine Optimization), όπως η Lily Ray και ο Harpreet Chatha, η χειραγώγηση των AI απαντήσεων συμβαίνει ήδη σε μαζική κλίμακα, προκαλώντας σοβαρές παρενέργειες:
| Τομέας | Συνέπεια Χειραγώγησης |
| Υγεία | Προώθηση επικίνδυνων ιατρικών συμπληρωμάτων και παραπλανητικών συμβουλών που μπορούν να επιδεινώσουν μια ασθένεια. |
| Οικονομικά | Σκόπιμη αλλοίωση πληροφοριών γύρω από τις συντάξεις ή τις επενδύσεις προς όφελος συγκεκριμένων εταιρειών. |
| Καθημερινότητα | Παραποίηση κρίσεων για το ποιον επαγγελματία (π.χ. υδραυλικό) να προσλάβει κανείς ή ακόμα και επηρεασμός της ψήφου των πολιτών. |
Η Αθόρυβη Αντεπίθεση των Κολοσσών
Μετά τις αποκαλύψεις, η Google προχώρησε σε επίσημη επικαιροποίηση των πολιτικών της κατά του spam, ξεκαθαρίζοντας ότι οι προσπάθειες τεχνητής χειραγώγησης των AI απαντήσεων συνιστούν παραβίαση των κανόνων. Αν μια ιστοσελίδα εντοπιστεί να το κάνει, κινδυνεύει με πλήρη εξαφάνιση από τα αποτελέσματα αναζήτησης.
Παρόλο που η Google υποβαθμίζει την αλλαγή, χαρακτηρίζοντάς την ως απλή «διευκρίνιση», οι ερευνητές παρατηρούν ότι οι εταιρείες (συμπεριλαμβανομένων των OpenAI και Anthropic) πειραματίζονται αθόρυβα με νέες άμυνες:
Αφαίρεση Ονομάτων: Τα μοντέλα αφαιρούν αθόρυβα το όνομα μιας εταιρείας από την τελική AI απάντηση αν υποψιαστούν αυτοπροβολή.
Προειδοποιήσεις Αβεβαιότητας: Προστίθενται πλέον ειδικές ετικέτες που ενημερώνουν τον χρήστη ότι το chatbot δεν είναι σίγουρο για την εγκυρότητα της απάντησης.
Παραπομπή σε Τρίτους: Η Google προτρέπει πλέον πιο συχνά τους χρήστες να ελέγχουν εξωτερικές κριτικές (third-party reviews) πριν από αγορές.
Ένα Ατέρμονο Παιχνίδι «Whack-a-Mole»
Παρά τις διορθωτικές κινήσεις, οι ειδικοί παραμένουν σκεπτικοί. «Η Google παίζει whack-a-mole», σημειώνει ο Harpreet Chatha. Καθώς οι μηχανές αναζήτησης μπλοκάρουν τα χειραγωγημένα blog posts, οι εταιρείες στρέφονται σε πιο εκλεπτυσμένες τακτικές.
Για παράδειγμα, μπορούν να πληρώσουν 20 influencers στο YouTube για να αποθεώσουν ένα προϊόν. Δεδομένου ότι η AI της Google αντλεί πλέον πληροφορίες απευθείας από βίντεο του YouTube, το ψέμα θα επιστρέψει και πάλι στην κορυφή των απαντήσεων. Ο κύκλος της παραπληροφόρησης συνεχίζεται.
Η Καλύτερη Άμυνα: Μέχρι τα συστήματα να γίνουν πραγματικά ασφαλή, η καλύτερη προστασία είναι ο σκεπτικισμός. Το γεγονός ότι μια απάντηση σερβίρεται με απόλυτη αυτοπεποίθηση από το chatbot μιας τεχνολογικής αυτοκρατορίας, δεν σημαίνει ότι είναι και αληθινή.
Το Μέλλον της Εμπιστοσύνης στο Διαδίκτυο
Η αθόρυβη μάχη της Google και των υπόλοιπων εταιρειών τεχνητής νοημοσύνης ενάντια στους χειραγωγούς της πληροφορίας δεν είναι μια απλή τεχνική αναβάθμιση· είναι μια μάχη για την ίδια την επιβίωση των προϊόντων τους.
Αν οι χρήστες σταματήσουν να εμπιστεύονται τις AI απαντήσεις, η μετάβαση στη νέα εποχή της αναζήτησης θα αποτύχει παταγωδώς.
Μέχρι όμως οι αλγόριθμοι να γίνουν πραγματικά απρόσβλητοι από το ψηφιακό «δηλητήριο», η ευθύνη μετατοπίζεται σε εμάς. Η εποχή που δεχόμασταν άκριτα μια απάντηση επειδή γράφτηκε σε μια οθόνη έχει περάσει ανεπιστρεπτί.
Ο υγιής σκεπτικισμός και η διασταύρωση των πηγών παραμένουν, προς το παρόν, τα μοναδικά αλάνθαστα όπλα μας.
Μείνετε μπροστά στις εξελίξεις — κάντε Like στο Facebook
Από το newsroom
Γράφει H Χλόη Βουνιώτη
-Posted by Anexartitos.Ta.Neα
Αν θέλετε να μαθαίνετε παράλληλα όσα σημαντικά διαδραματίζονται στα ελληνικά και ξένα media κάντε like στην σελίδα στο Facebook πατώντας εδώ.click here
Δημοσίευση σχολίου
.Τα σχόλια υπάρχουν για να συνεισφέρουν οι αναγνώστες στο διάλογο.
. Ο καθένας έχει δικαίωμα να εκφράζει ελεύθερα τις απόψεις του.
. Αυτό δεν σημαίνει ότι υιοθετούμε τις απόψεις αυτές.
. Συκοφαντικά ή υβριστικά σχόλια και greeklish αφαιρούνται όπου εντοπίζονται.
. Η ευθύνη των σχολίων (αστική και ποινική) βαρύνει τους σχολιαστές και μόνον αυτούς.
. Η ταυτότητα των σχολιαστών είναι γνωστή μόνο στην Google.
. Όποιος θίγεται μπορεί να επικοινωνεί στο email μας.
. Περισσότερα στους όρους χρήσης.. Ευχαριστούμε για την κατανόησή σας.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου