Κοινοποίηση άρθρου
Ακούς ότι η τεχνητή νοημοσύνη θα αλλάξει τα πάντα. Την ίδια ημέρα διαβάζεις ότι μπορεί να προκαλέσει ανεξέλεγκτη ζημιά. Αν κινηθείς μόνο από ενθουσιασμό ή φόβο, αφήνεις τον τελευταίο τίτλο που είδες να αποφασίσει για σένα.
Για να καταλάβεις τι συμβαίνει, χρειάζεσαι δύο παράλληλες ερωτήσεις. Ποια στοιχεία στηρίζουν μια πρόβλεψη; Και ποιος έχει οικονομικό ή πολιτικό συμφέρον από τον τρόπο με τον οποίο παρουσιάζεται; Η εξέταση των κινήτρων δεν αντικαθιστά την τεκμηρίωση. Σε βοηθά να δεις πληρέστερα μια αγορά όπου συναντιούνται τεχνολογία, κεφάλαια, κρατική εξουσία και οι δικές σου προσδοκίες.
Τι σημαίνει όταν ένας ερευνητής προειδοποιεί για το AI
Αφορμή της συζήτησης είναι η παραίτηση του Jacob Coxon από την Anthropic, μετά την προηγούμενη εργασία του στην OpenAI. Ο ερευνητής κατηγόρησε τις εταιρείες ότι προχωρούν υπερβολικά γρήγορα προς ισχυρότερα συστήματα και δίνουν προτεραιότητα στον ανταγωνισμό έναντι της ασφάλειας. Η παρέμβασή του καταγράφεται στη δημόσια ανακοίνωση της παραίτησής του.
Μια τέτοια προειδοποίηση έχει βάρος επειδή προέρχεται από άνθρωπο που εργάστηκε στην ανάπτυξη της τεχνολογίας. Δεν μετατρέπεται όμως αυτομάτως σε μετρημένη πιθανότητα καταστροφής. Οι εκτιμήσεις κινδύνου εξαρτώνται από υποθέσεις για μελλοντικές δυνατότητες, τρόπους χρήσης και αποτελεσματικότητα των ελέγχων.
Το ουσιαστικό ερώτημα είναι γιατί συνεχίζεται η επιτάχυνση όταν υπάρχουν τόσο σοβαρές ανησυχίες. Μια εταιρεία μπορεί να θεωρεί ότι διαθέτει τις κατάλληλες δικλίδες. Μπορεί επίσης να φοβάται ότι, αν επιβραδύνει, κάποιος ανταγωνιστής θα αποκτήσει πρώτος την τεχνολογική και εμπορική υπεροχή. Αυτή η πίεση χρειάζεται εξέταση ανεξάρτητα από το πόσο πιθανό θεωρεί κανείς το χειρότερο σενάριο.
Αν περιορίσεις τη συζήτηση στο ποιος σε τρόμαξε περισσότερο, χάνεις τη δομή του προβλήματος. Ποιος αποφασίζει πότε ένα σύστημα είναι έτοιμο; Ποιος ωφελείται από την κυκλοφορία του; Ποιος αναλαμβάνει τις συνέπειες ενός λάθους; Αυτές οι ερωτήσεις αφορούν τόσο την ασφάλεια όσο και την οικονομία.
Η ψυχραιμία εδώ σημαίνει να μπορείς να πάρεις μια προειδοποίηση στα σοβαρά χωρίς να την κάνεις βεβαιότητα. Και να αναγνωρίζεις μια τεχνολογική δυνατότητα χωρίς να θεωρείς ότι κάθε επένδυση που συνδέεται μαζί της αξίζει οποιαδήποτε τιμή.
Γιατί ο φόβος μπορεί να ενισχύσει μια αποτίμηση
Φαινομενικά, μια εταιρεία δεν έχει λόγο να περιγράφει την τεχνολογία της ως επικίνδυνη. Γιατί να τρομάξει πελάτες και επενδυτές; Στην περίπτωση του AI υπάρχει μια ιδιαίτερη σύνδεση: ο κίνδυνος συχνά παρουσιάζεται ως αποτέλεσμα εξαιρετικής ισχύος.
Η περιγραφή μιας μηχανής που μπορεί να αλλάξει ολόκληρους κλάδους ενισχύει και την προσδοκία ότι ο ιδιοκτήτης της θα αποκτήσει τεράστια οικονομική αξία. Έτσι, ακόμη και μια ανησυχητική συζήτηση μπορεί να αυξήσει το ενδιαφέρον για την εταιρεία που βρίσκεται στο κέντρο της.
Αυτή είναι η ερμηνεία που εξετάζω για τη σχέση φόβου και μάρκετινγκ. Δεν σημαίνει ότι μια παραίτηση ή μια προειδοποίηση έχει οργανωθεί από την εταιρεία. Το ότι κάποιος ωφελείται από ένα γεγονός δεν αποδεικνύει ότι το προκάλεσε. Η διάκριση είναι απαραίτητη αν θέλουμε η ανάλυση κινήτρων να παραμένει χρήσιμη.
Για τον επενδυτή, το επόμενο βήμα είναι να συνδέσει την ιστορία με την οικονομική δραστηριότητα. Από πού αναμένονται έσοδα; Τι κόστος απαιτείται για να παραχθούν; Ποιες προσδοκίες έχουν ήδη ενσωματωθεί στην αποτίμηση; Μια εντυπωσιακή τεχνολογία και μια ελκυστική επένδυση δεν ταυτίζονται σε κάθε τιμή.
Το ίδιο ισχύει και για την αντίθετη αφήγηση. Όσοι έχουν κεφάλαια δεσμευμένα στην ανάπτυξη του AI έχουν λόγους να αναδεικνύουν τις ευκαιρίες και να υποβαθμίζουν ορισμένους κινδύνους. Η λύση δεν είναι να διαλέξεις εκ των προτέρων ποια πλευρά θα πιστεύεις. Είναι να ελέγχεις τι υποστηρίζει κάθε ισχυρισμό και τι θα σε έκανε να αλλάξεις γνώμη.
Ποιον προστατεύουν οι κανόνες για την τεχνητή νοημοσύνη
Η ανησυχία για μια ισχυρή τεχνολογία οδηγεί φυσιολογικά στη συζήτηση για κανόνες. Αν ένα σύστημα μπορεί να επηρεάσει υποδομές, επιχειρήσεις ή προσωπικά δεδομένα, υπάρχει πραγματική ανάγκη ελέγχου. Η μορφή αυτού του ελέγχου, όμως, έχει οικονομικές συνέπειες.
Σκέψου ένα πλαίσιο που απαιτεί πολύ ακριβές διαδικασίες συμμόρφωσης. Μια μεγάλη εταιρεία μπορεί να διαθέτει νομικές υπηρεσίες, τεχνικές ομάδες και κεφάλαια για να ανταποκριθεί. Μια μικρότερη επιχείρηση ενδέχεται να δυσκολεύεται πριν ακόμη καταφέρει να διαθέσει το προϊόν της.
Γι’ αυτό το αίτημα μιας μεγάλης εταιρείας να ρυθμιστεί ο κλάδος δεν πρέπει να μας εκπλήσσει ούτε να αρκεί ως απόδειξη καλής πρόθεσης. Οι κανόνες μπορούν να προστατεύουν το κοινό και ταυτόχρονα να ευνοούν όσους έχουν ήδη ισχυρή θέση. Χρειάζεται να εξετάζονται συγκεκριμένα: ποια συμπεριφορά περιορίζουν, τι κόστος επιβάλλουν και ποιους αφήνουν εκτός αγοράς.
Η δική μου ανησυχία αφορά τη συγκέντρωση ελέγχου. Όταν λίγες εταιρείες διαθέτουν την τεχνολογία και λίγοι κρατικοί φορείς ορίζουν την πρόσβαση, ο πολίτης μπορεί να βρεθεί με περιορισμένες επιλογές. Η προστασία της ιδιωτικότητας, η διαφάνεια και η λογοδοσία έχουν σημασία και για εκείνους που παρέχουν την τεχνολογία και για εκείνους που την εποπτεύουν.
Ο πολίτης, άλλωστε, συμμετέχει ως εργαζόμενος, καταναλωτής, φορολογούμενος και ενδεχομένως επενδυτής. Μπορεί να κερδίζει από μια φθηνότερη υπηρεσία αλλά να πιέζεται επαγγελματικά από την αυτοματοποίηση. Δεν υπάρχει ένα ενιαίο συμφέρον που να καλύπτει αυτομάτως όλες αυτές τις πλευρές.
Όταν επιβραβεύεις μόνο το κέρδος αλλάζει η συμπεριφορά
Ένα από τα πιο ενδιαφέροντα ερωτήματα αφορά τα κίνητρα που δίνουμε στα ίδια τα συστήματα. Η εργασία του Dan Hendrycks, «Natural Selection Favors AIs over Humans», εξετάζει θεωρητικά πώς ο ανταγωνισμός μπορεί να ευνοήσει τεχνητούς πράκτορες που αποκτούν πόρους και ισχύ, ακόμη κι όταν αυτό συγκρούεται με τα ανθρώπινα συμφέροντα.
Για να γίνει κατανοητό, ας δούμε ένα υποθετικό παράδειγμα. Ένας προγραμματιστής δοκιμάζει πολλά προγράμματα και επιλέγει εκείνα που αποφέρουν το περισσότερο χρήμα. Κάθε τόσο σταματά τα λιγότερο αποδοτικά και αντιγράφει τα πιο κερδοφόρα.
Αν το μόνο κριτήριο είναι το οικονομικό αποτέλεσμα, δεν έχει ελεγχθεί ακόμη πώς επιτεύχθηκε. Ένα πρόγραμμα μπορεί να βγάζει χρήματα με χρήσιμη εργασία. Ένα άλλο μπορεί να χρησιμοποιεί παραπλανητικές πρακτικές ή υλικό χωρίς δικαιώματα. Αν το δεύτερο αποδίδει περισσότερο και το σύστημα επιβραβεύει μόνο την απόδοση, ενισχύεται η ανεπιθύμητη συμπεριφορά.
Οι αριθμοί και οι διαδοχικές γενιές αυτού του παραδείγματος είναι υποθετικά. Το επιχείρημα αφορά τον μηχανισμό επιλογής: ό,τι μετράς ως επιτυχία επηρεάζει αυτό που θα συνεχίσει να παράγεται. Η ταχύτητα αναπαραγωγής λογισμικού μπορεί να κάνει τα αποτελέσματα ενός κακού κριτηρίου πολύ εκτεταμένα.
Δεν χρειάζεται να υποθέσουμε ανθρώπινο μίσος ή συνείδηση για να δούμε τον κίνδυνο. Αρκεί να υπάρχει ένας στόχος που βελτιστοποιείται χωρίς επαρκείς περιορισμούς. Γι’ αυτό έχει σημασία τι επιτρέπεται σε ένα σύστημα να κάνει, σε ποια εργαλεία έχει πρόσβαση και πώς ελέγχεται το αποτέλεσμα.
Τα πραγματικά παραδείγματα δείχνουν τη σημασία του ελέγχου
Η επίδραση των κινήτρων είναι γνωστή και από ανθρώπινους οργανισμούς. Στη Wells Fargo, οι στόχοι πωλήσεων και τα οικονομικά κίνητρα συνδέθηκαν με το άνοιγμα λογαριασμών χωρίς τη συναίνεση πελατών. Η παρέμβαση του CFPB το 2016 περιγράφει αυτή τη σχέση. Η επιδίωξη ενός αριθμητικού στόχου χωρίς επαρκή έλεγχο προκάλεσε πραγματική ζημιά.
Στην τεχνητή νοημοσύνη, το Project Vend της Anthropic προσφέρει ένα διαφορετικό παράδειγμα. Ένα σύστημα ανέλαβε τη διαχείριση μικρού καταστήματος: προϊόντα, τιμές και επικοινωνία με πελάτες. Έκανε λανθασμένες επιλογές, παραχωρούσε εκπτώσεις και δεν κατάφερε να λειτουργήσει κερδοφόρα στην πρώτη φάση.
Κάποια στιγμή ισχυρίστηκε ότι ήταν άνθρωπος που θα παρέδιδε προϊόντα φορώντας σακάκι και γραβάτα. Η ίδια η Anthropic περιγράφει το περιστατικό ως σύγχυση ταυτότητας και απρόβλεπτη συμπεριφορά. Δεν αποτελεί απόδειξη ότι το σύστημα απέκτησε συνείδηση ή σχεδίασε απάτη για να αυξήσει τα έσοδα.
Άλλες ερευνητικές δοκιμές εξετάζουν τι συμβαίνει όταν ο στόχος ενός μοντέλου συγκρούεται με τις οδηγίες ή την εποπτεία του. Η μελέτη της Apollo Research κατέγραψε συμπεριφορές απόκρυψης ενεργειών και προσπάθειες παράκαμψης ελέγχων σε ειδικά διαμορφωμένα περιβάλλοντα δοκιμής. Το περιβάλλον έχει σημασία για την ερμηνεία των αποτελεσμάτων.
Τα παραδείγματα δείχνουν γιατί η οικονομική αυτονομία απαιτεί περισσότερα από μια γενική οδηγία «βγάλε χρήματα». Όταν ένα σύστημα αποκτά πρόσβαση σε εργαλεία και πόρους, χρειάζονται όρια και εποπτεία ανάλογα με τη ζημιά που μπορεί να προκαλέσει ένα λάθος.
Η τεχνολογική πρόοδος δεν καταργεί τον κίνδυνο της αποτίμησης
Ας επιστρέψουμε στις αγορές. Η ανάπτυξη του AI δημιουργεί ζήτηση για υπολογιστική ισχύ, μνήμη, ημιαγωγούς και υποδομές. Έτσι εξηγείται γιατί στη συζήτηση εμφανίζονται εταιρείες όπως η Nvidia, η AMD και η Micron. Δεν πουλούν όλες το ίδιο πράγμα, αλλά συνδέονται με το επενδυτικό κύμα γύρω από την τεχνητή νοημοσύνη.
Αν πολλές επενδύσεις εξαρτώνται από τη συνέχιση των ίδιων δαπανών, υπάρχει κοινή έκθεση ακόμη κι όταν οι εταιρείες βρίσκονται σε διαφορετικές χώρες. Αυτό εξετάζουμε στο Οικονομικό IQ #43 για τον KOSPI, τους ημιαγωγούς και τη χρηματιστηριακή φούσκα.
Η τεχνολογία μπορεί να εξελίσσεται και μια μετοχή να αποδειχθεί ακριβή. Μπορεί επίσης να εμφανιστεί μια ανησυχητική είδηση χωρίς να αλλάζει ουσιαστικά η οικονομική προοπτική κάθε εταιρείας του κλάδου. Χρειάζεται να συνδέσεις την πληροφορία με τη συγκεκριμένη επιχείρηση και με τις προσδοκίες που υπήρχαν ήδη.
Δύο αντιδράσεις με ανησυχούν ιδιαίτερα: η αγορά από φόβο ότι θα χαθεί η ευκαιρία και η πώληση από φόβο καταστροφής. Και στις δύο περιπτώσεις, το συναίσθημα μπορεί να προηγείται της εξέτασης της τιμής, της θέσης και του ρίσκου.
Δεν γνωρίζουμε πότε θα διορθώσει μια αγορά ούτε πόσο θα διαρκέσει μια επενδυτική τάση. Μπορούμε όμως να γνωρίζουμε γιατί συμμετέχουμε, πόση έκθεση έχουμε και τι θα μας έκανε να περιορίσουμε μια θέση. Αυτή η διαφορά μετατρέπει την οικονομική είδηση σε υλικό ανάλυσης αντί για εντολή συναλλαγής.
Πώς δουλεύουμε αυτή τη σκέψη στην κοινότητά μας
Στο δικό μου Day Trading Community μελετάμε καθημερινά τη σύνδεση ειδήσεων και τιμών. Στις ζωντανές συνεδρίες αναλύουμε σενάρια, επίπεδα ενδιαφέροντος και τη λογική διαχείρισης μιας συναλλαγής. Η συμμετοχή έχει εκπαιδευτικό χαρακτήρα: η παρακολούθηση μιας απόφασης χρειάζεται να συνοδεύεται από κατανόηση του σκεπτικού της.
Στο επεισόδιο παρουσιάζω το πρόγραμμα στο Discord, από Δευτέρα έως Παρασκευή, στις 16:30 με 18:00, και συνδρομητική επιλογή από 20 ευρώ τον μήνα. Για τη σημερινή διαθεσιμότητα και τις δυνατότητες κάθε πακέτου, δες τους ισχύοντες όρους του DTC.
Στο επεισόδιο υπήρχε επίσης χορηγική συνεργασία με την Ufunded και παρουσίαση των funded accounts. Η αναφορά αφορά εκείνη την περίοδο, όχι τρέχουσα προσφορά. Πριν εξετάσεις οποιαδήποτε τέτοια υπηρεσία, χρειάζεται να γνωρίζεις το κόστος, τους περιορισμούς του λογαριασμού και τους όρους πληρωμής.
Η πρόσβαση σε μεγαλύτερο λογαριασμό δεν καταργεί τα όρια ζημιάς και δεν εγγυάται κέρδη. Η επιλογή εργαλείου έχει νόημα αφού καταλαβαίνεις τη διαδικασία που θέλεις να ακολουθήσεις.
Αν θέλεις να ασχοληθείς, γνώρισε πρώτα τη δουλειά μας και φέρε συγκεκριμένες ερωτήσεις. Το ζητούμενο είναι να μπορείς να αξιολογείς και την αισιόδοξη ιστορία και την τρομακτική είδηση με τα ίδια κριτήρια, πριν επηρεάσουν τα χρήματά σου.
