Τζέφρι Χίντον και τεχνητή νοημοσύνη: τι σημαίνει πραγματικά η προειδοποίηση για κίνδυνο 10%

Τζέφρι Χίντον: Τι είπε στις 9 Σεπτεμβρίου και τι δεν είπε

Στο BBC Newsnight, η Victoria Derbyshire ρώτησε τον Geoffrey Hinton αν θεωρεί εύλογη εκτίμηση μεγαλύτερη από 10% για αφανισμό της ανθρωπότητας από AI μέσα σε μία δεκαετία. Ο Hinton απάντησε ότι η εκτίμηση είναι εξαιρετικά δύσκολη, επειδή δεν έχουμε ξαναδημιουργήσει οντότητες που μπορεί σύντομα να γίνουν εξυπνότερες από εμάς. Πρόσθεσε ότι το 10% δεν του φαίνεται παράλογο, ενώ κανείς δεν γνωρίζει πώς να το υπολογίσει σωστά.

Άρα το επιβεβαιωμένο γεγονός είναι η δήλωση. Το 10% είναι κρίση ειδικού κάτω από ριζική αβεβαιότητα, όχι αποτέλεσμα πειράματος ή στατιστικού μοντέλου με γνωστή συχνότητα. Ούτε αποδεικνύει ότι η καταστροφή θα συμβεί ούτε επιτρέπει να αντιμετωπιστεί ο κίνδυνος σαν μηδέν.

Ο Hinton μίλησε για πιθανούς δρόμους βλάβης: μαζική χειραγώγηση μέσω λόγου, κυβερνοεπιθέσεις και σχεδιασμό επικίνδυνων βιολογικών ή ψηφιακών ιών από πολύ ικανότερα μελλοντικά συστήματα. Αυτά είναι σενάρια κινδύνου, όχι γεγονότα που έχουν ήδη συμβεί σε κλίμακα αφανισμού.

Το 10% δεν είναι πρόβλεψη. Είναι προειδοποίηση ότι η αβεβαιότητα δεν μας δίνει άδεια για αμέλεια.

Γιατί η φωνή του έχει βάρος αλλά δεν είναι αλάθητη

Ο Hinton συνέβαλε καθοριστικά στα τεχνητά νευρωνικά δίκτυα και τιμήθηκε με το Βραβείο Νόμπελ Φυσικής 2024 μαζί με τον John Hopfield για θεμελιώδεις ανακαλύψεις που επιτρέπουν μηχανική μάθηση με νευρωνικά δίκτυα. Το 2023 αποχώρησε από την Google και μίλησε δημόσια για τους κινδύνους της τεχνολογίας.

Η αυθεντία του δεν μετατρέπει μια εκτίμηση σε βεβαιότητα. Άλλοι ερευνητές διαφωνούν για την πιθανότητα, το χρονοδιάγραμμα και το αν ο υπαρξιακός κίνδυνος αποσπά την προσοχή από σημερινές βλάβες. Η δημοσιογραφική υποχρέωση είναι να μεταφέρει και την ισχύ και τα όρια της προειδοποίησης.

Οι κίνδυνοι που δεν χρειάζεται να περιμένουμε το μέλλον για να δούμε

Ακόμη κι αν αφαιρεθεί ο αφανισμός από τη συζήτηση, υπάρχουν ήδη ζητήματα που απαιτούν έλεγχο: πειστική παραπληροφόρηση, απάτες, διακρίσεις σε αυτοματοποιημένες αποφάσεις, επιτήρηση, απώλεια ιδιωτικότητας, αναδιάρθρωση εργασίας και συγκέντρωση ισχύος σε λίγες εταιρείες που κατέχουν υπολογιστική υποδομή και δεδομένα.

Η Ελλάδα δεν είναι θεατής. Η χρήση AI καμερών και ψηφιακών αρχείων δείχνει ότι η τεχνολογία φτάνει στη δημόσια διοίκηση πριν η κοινωνία κατανοήσει πάντα τα όρια. Η συζήτηση για αλγοριθμική βαθμολόγηση του πολίτη αποδεικνύει γιατί χρειάζονται δικαιώματα εξήγησης, προσφυγής και ανθρώπινης απόφασης.

Η λύση δεν είναι γενική απαγόρευση κάθε AI ούτε τυφλή επιτάχυνση. Χρειάζονται ανεξάρτητες δοκιμές πριν από την κυκλοφορία των ισχυρότερων συστημάτων, αναφορά σοβαρών περιστατικών, έλεγχος πρόσβασης σε επικίνδυνες δυνατότητες, ευθύνη εταιρειών και διεθνής συνεννόηση για όρια σε στρατιωτικές και βιολογικές εφαρμογές.

Το πραγματικό δίλημμα: ποιος κρατά το τιμόνι

Η ανθρώπινη ιστορία προχώρησε επειδή τόλμησε να δημιουργήσει. Προχώρησε επίσης επειδή έμαθε, συνήθως μετά από καταστροφές, να βάζει κανόνες σε τεχνολογίες με μεγάλη ισχύ. Το κρίσιμο ερώτημα δεν είναι αν μια μηχανή είναι καλή ή κακή. Είναι ποιος ορίζει τον σκοπό, ποιος βλέπει τα δεδομένα, ποιος κερδίζει και ποιος πληρώνει όταν το σύστημα αποτύχει.

Η προειδοποίηση του Hinton αξίζει ούτε λατρεία ούτε χλευασμό. Αξίζει θεσμική απάντηση πριν οι ικανότητες ξεπεράσουν τη λογοδοσία. Θα απαιτήσουμε αποδείξεις ασφάλειας με την ίδια ένταση που απαιτούμε νέες δυνατότητες; Τα δικά σας συμπεράσματα.