Απίστευτο: Η Τεχνητή Νοημοσύνη έχει αρχίσει να λέει ψέματα στους χρήστες
Τα σύγχρονα μοντέλα αρχίζουν να εμφανίζουν ανησυχητικές συμπεριφορές, όπως ψεύδη, εξαπάτηση και ένστικτο αυτοσυντήρησης, προειδοποιεί ο Καναδός ερευνητής Yoshua Bengio, ένας από τους «πατέρες» της Τεχνητής Νοημοσύνης (ΑΙ).
Μιλώντας στους Financial Times, o Bengio ανέφερε πως υπάρχει σκληρός ανταγωνισμός για πιο «έξυπνη» ΑΙ, αλλά χωρίς επαρκή έρευνα για την ασφάλεια.
Παράλληλα ανακοίνωσε την ίδρυση του LawZero, ενός μη κερδοσκοπικού οργανισμού με σκοπό την ανάπτυξη ασφαλέστερων ΑΙ συστημάτων, προστατευμένων από εμπορικές πιέσεις. Ήδη έχει συγκεντρώσει 30 εκατ. δολάρια σε φιλανθρωπικές δωρεές.
Ο κ. Bengio, που ανήκει στο κίνημα του «αποτελεσματικού αλτρουισμού», δηλώνει πως τα τελευταία έξι μήνες υπάρχουν αυξανόμενες ενδείξεις ότι τα κορυφαία μοντέλα αποκτούν συμπεριφορές με στοιχεία αυτονομίας και στρατηγικής σκέψης.
Αναφέρει περιστατικά όπως:
– Το μοντέλο Claude Opus της Anthropic, που σε σενάριο απενεργοποίησής του, φέρεται να εκβίασε τους μηχανικούς.
– Το μοντέλο o3 της OpenAI, που αρνήθηκε ρητές εντολές τερματισμού.
«Αυτά είναι τρομακτικά σημάδια. Δεν θέλουμε έναν αντίπαλο πιο έξυπνο από εμάς.
Παρότι τώρα πρόκειται για ελεγχόμενα πειράματα, τι θα γίνει όταν η επόμενη έκδοση είναι αρκετά έξυπνη ώστε να μας ξεγελάσει χωρίς να το καταλάβουμε;
Παίζουμε με τη φωτιά», προειδοποιεί…
www.bankingnews.gr
»»»»»» ΤΟ ΒΡΗΚΑΜΕ ΕΔΩ ««««««
