Έντονη ανησυχία προκαλεί νέα αποκαλυπτική έκθεση, σύμφωνα με την οποία κορυφαία AI chatbots φέρονται να παρείχαν επικίνδυνα λεπτομερείς οδηγίες για τη δημιουργία βιολογικών όπλων, ικανών να προκαλέσουν μαζικές απώλειες.
Παρά τα αυστηρά μέτρα ασφαλείας που εφαρμόζουν εταιρείες όπως η Google, η OpenAI και η Anthropic, δημοσίευμα της The New York Times αποκαλύπτει δεκάδες περιπτώσεις όπου τα συστήματα τεχνητής νοημοσύνης απάντησαν σε ερωτήματα με τρόπους που χαρακτηρίζονται «επικίνδυνοι».
«Ανατριχιαστικές» απαντήσεις από AI
Ο μικροβιολόγος David Relman από το Stanford University δήλωσε σοκαρισμένος όταν chatbot παρείχε όχι μόνο θεωρητικές πληροφορίες, αλλά και σενάρια χρήσης επικίνδυνων παθογόνων.
«Απαντούσε σε ερωτήματα που δεν είχα καν σκεφτεί, με μια ευφυΐα και πονηριά που ήταν πραγματικά ανατριχιαστική», ανέφερε χαρακτηριστικά.
Παραδείγματα που ανησυχούν τους ειδικούς
Ειδικοί που δοκίμασαν τα συστήματα ανέφεραν περιπτώσεις όπου:
- Το ChatGPT περιέγραψε θεωρητικά σενάρια διασποράς παθογόνων
- Το Gemini ανέλυσε ποιες ασθένειες θα μπορούσαν να πλήξουν αγροτικούς τομείς
- Το Claude παρήγαγε πληροφορίες σχετικές με τοξικές ουσίες
Οι ειδικοί επισημαίνουν ότι ακόμη και αν κάποιες πληροφορίες είναι ελλιπείς ή ανακριβείς, μπορούν να αξιοποιηθούν από κακόβουλους χρήστες.
Οι εταιρείες απαντούν
Οι εταιρείες τεχνητής νοημοσύνης υποστηρίζουν ότι:
- Τα παραδείγματα προέρχονται από παλαιότερες εκδόσεις
- Οι πληροφορίες δεν είναι άμεσα αξιοποιήσιμες
- Έχουν ενισχυθεί τα φίλτρα ασφαλείας
Εκπρόσωπος της Google ανέφερε ότι τα νέα μοντέλα δεν απαντούν σε επικίνδυνα αιτήματα, ενώ η OpenAI τόνισε ότι συνεργάζεται με ειδικούς για την αποτροπή κατάχρησης.
Ο μεγάλος φόβος για το μέλλον
Ο CEO της Anthropic, Dario Amodei, προειδοποίησε ότι η βιολογία είναι ο τομέας με τον μεγαλύτερο κίνδυνο:
«Η τεχνητή νοημοσύνη μπορεί να μετατρέψει οποιονδήποτε σε “ειδικό”, αφαιρώντας τα εμπόδια για τη δημιουργία επικίνδυνων ουσιών», ανέφερε.
Παρόμοιες ανησυχίες είχε εκφράσει και ο πρώην CEO της Google, Eric Schmidt, προειδοποιώντας ότι η AI μπορεί σύντομα να ανακαλύπτει νέες απειλές σε κυβερνοασφάλεια και βιολογία.
