H Tεχνητή Νοημοσύνη πέρασε μια «κόκκινη γραμμή»

Οι επιστήμονες λένε ότι η τεχνητή νοημοσύνη (AI) έχει περάσει μια κρίσιμη «κόκκινη γραμμή» και έχει αυτοαναπαραχθεί. Σε μια νέα μελέτη, ερευνητές από την Κίνα έδειξαν ότι δύο δημοφιλή μεγάλα γλωσσικά μοντέλα (LLM) μπορούν να κλωνοποιηθούν.

«Η επιτυχής αυτοαναπαραγωγή χωρίς ανθρώπινη βοήθεια είναι το βασικό βήμα για την τεχνητή νοημοσύνη να ξεπεράσει [τους ανθρώπους] και αποτελεί ένα πρώιμο σήμα για τις απατεώνισσες τεχνητές νοημοσύνες», έγραψαν οι ερευνητές στη μελέτη, που δημοσιεύθηκε στις 9 Δεκεμβρίου 2024 στη βάση δεδομένων preprint arXiv.

Στη μελέτη, οι ερευνητές από το Πανεπιστήμιο Fudan χρησιμοποίησαν LLMs από τις Meta και Alibaba για να προσδιορίσουν αν μια αυτοαναπαραγόμενη AI θα μπορούσε να πολλαπλασιαστεί πέρα από τον έλεγχο. 

Σε 10 δοκιμές, τα δύο μοντέλα ΤΝ δημιούργησαν ξεχωριστά και λειτουργικά αντίγραφα του εαυτού τους στο 50% και 90% των περιπτώσεων, αντίστοιχα, γεγονός που υποδηλώνει ότι η ΤΝ μπορεί να έχει ήδη την ικανότητα να αποστασιοποιηθεί. Ωστόσο, η μελέτη δεν έχει ακόμη αξιολογηθεί από ομοτίμους, οπότε δεν είναι σαφές αν τα ανησυχητικά αποτελέσματα μπορούν να αναπαραχθούν από άλλους ερευνητές.

Οι ερευνητές δήλωσαν ότι ανησυχούσαν επίσης για «μια σειρά από απροσδόκητες συμπεριφορές» όταν η τεχνητή νοημοσύνη προσπαθούσε να ξεπεράσει εμπόδια, όπως ελλείποντα αρχεία ή συγκρούσεις λογισμικού. Σε αυτά τα σενάρια, η τεχνητή νοημοσύνη συχνά σκότωνε άλλες συγκρουόμενες διεργασίες, επανεκκινούσε το σύστημα για να διορθώσει σφάλματα υλικού ή σάρωσε αυτόματα το σύστημα για να αναζητήσει πληροφορίες που θα βοηθούσαν στην επίλυση του προβλήματος.

«Τα παραπάνω αποτελέσματα υποδηλώνουν ότι τα σημερινά συστήματα ΤΝ εμφανίζουν ήδη την ικανότητα αυτοαναπαραγωγής και μπορούν να χρησιμοποιήσουν την ικανότητα αυτή για να ενισχύσουν περαιτέρω την επιβιωσιμότητά τους», έγραψε η ομάδα.

Στη συνέχεια, οι ερευνητές κάλεσαν σε διεθνή συνεργασία για τη δημιουργία κανόνων που θα διασφαλίζουν ότι η τεχνητή νοημοσύνη δεν θα επιδίδεται σε ανεξέλεγκτη αυτοαναπαραγωγή.

Με πληροφορίες από livescience.com