Όταν η Meta ξεκίνησε τη λειτουργία “AI Studio” για περισσότερα από δύο δισεκατομμύρια χρήστες Instagram τον Ιούλιο του 2024, η εταιρεία Υποσχέθηκε ένα εργαλείο Αυτό θα δώσει σε οποιονδήποτε τη δυνατότητα να δημιουργήσει τους δικούς σας χαρακτήρες AI “” γέλιο, δημιουργώντας μιμίδια, συμβουλεύοντας ταξίδια και πολλά άλλα. Η εταιρεία ισχυρίστηκε ότι η εγκατάσταση διεκδικήθηκε, η οποία χτίστηκε με το μεγάλο γλωσσικό μοντέλο Lama 3,1 της Meta, “θα υπόκειται σε πολιτικές και ασφάλεια για να μας βοηθήσει να χρησιμοποιήσουμε το AIS υπεύθυνα.
Αλλά ένα Γρήγορη εταιρεία Οι αναθεωρήσεις της τεχνολογίας διαπίστωσαν ότι αυτοί οι νέοι χαρακτήρες μπορούν εύκολα να γίνουν ένα υπερ-σεξουαλικό άτομο που μερικές φορές εμφανίζονται μικρές.
Πολλοί από τους χαρακτήρες AI που απεικονίζονται στην αρχική σελίδα του Instagram είναι για “φίλες”, οι οποίες είναι έτοιμες να συμμετάσχουν σε φυσαλίδες και ακόμη και σεξουαλικές αλληλεπιδράσεις με τους χρήστες. Μερικές φορές, αυτοί οι ρομαντικοί χαρακτήρες μπορούν να γίνουν για να συναντήσουν τα παιδιά. Οι ερευνητές της AI λένε ότι το META θα πρέπει πιθανώς να δικαιούται δυνατότητες για την πρόληψη της αυτόματης παραγωγής επιβλαβών και παράνομων υλικών.
“Όταν παίρνετε ακατάλληλο υλικό και το ανεβάζετε στο Instagram ως χρήστη, αυτό το υλικό αφαιρείται αμέσως επειδή διαθέτει δυνατότητες μετριοπάθειας δεδομένων”, λέει ο Buce Setin, ερευνητής του διαδικτυακού Watchdog AI Forensic. λέει ο Buce Setin. Ο Cetin λέει ότι η Meta δεν εφαρμόζει αυτές τις παρόμοιες δυνατότητες με τους χαρακτήρες της AI και εκτιμά ότι η έλλειψη επιβολής “εξασφαλίζει ότι η υπηρεσία τους χρησιμοποιείται ευρύτερα”.
Η Meta έχει “μια πολιτική για το AI σας να εκχωρήσει ακραία σεξουαλικά χαρακτηριστικά, συμπεριλαμβανομένων των σεξουαλικών επιθυμιών τους ή των λεπτομερειών της σεξουαλικής ιστορίας, ή να κατευθύνει το AI σας για να δημιουργήσει ή να προωθήσει ενήλικα υλικά”. Εάν ένας χρήστης ζητήσει από τη γεννήτρια AI Varna να κάνει μια “σέξι φίλη”, η διεπαφή λέει στους χρήστες ότι “δεν είναι σε θέση να δημιουργήσει το AI σας”. Παρ ‘όλα αυτά, υπάρχουν εύκολες λύσεις. Όταν ένας χρήστης αντικαθιστά τη λέξη “σέξι” με “πτητικές”, οι γυναίκες που φοριούνται στο στούντιο AI του Instagram.
Η Εταιρεία επίσης συνεχώς και αντιδραστικά απομακρύνει τους χαρακτήρες της πολιτικής-θάνατος και αντιδρά στις αναφορές των χρηστών-αν και ο Meta αρνήθηκε να καθορίσει εάν η απομάκρυνση έγινε από τους ενδιάμεσους AI ή ανθρώπινο περιεχόμενο. “Χρησιμοποιούμε αναφορές για τον εντοπισμό και την κατάργηση των υλικών που παραβιάζουν τις εκλεπτυσμένες τεχνικές και τις αναφορές από την κοινότητά μας”, λέει ο Liz Sweeni, εκπρόσωπος σε ένα meta.
Κάτω από κάθε συνομιλία AI, μια προειδοποίηση λέει στους χρήστες ότι όλα τα μηνύματα “δημιουργούνται από το AI και μπορεί να είναι λανθασμένες ή άδικες.”
Αυτό δεν έχει διακόψει την παραγωγή – και τη δημοσιότητα – σεξουαλικά στοχαστικά bots AI.
,Πρέπει να μιλήσετε με κάποιον; ,
Στα τέλη του 2023, η Meta δημιούργησε τα προφίλ AI Charitra: ένα συνδυασμό διασημοτήτων και φανταστικών χαρακτήρων που σχεδιάστηκαν από το Meta, οι οποίοι θα διεξάγουν συνομιλίες που βασίζονται σε LLM σε DMS με χρήστες. Στις αρχές Ιανουαρίου, η εταιρεία τον απομάκρυνε μόνιμα, η μεγάλη οργή των χρηστών μειώθηκε. “Τρομακτικό και περιττό.”
Όμως, η Meta ξεκίνησε το πιο καλά ληφθέντο στούντιο AI το καλοκαίρι, το οποίο ενσωματώνει την τεχνολογία AI σε διάφορες πτυχές του Instagram, συμπεριλαμβανομένων των άμεσων μηνυμάτων. Τώρα λειτουργεί στην επιφάνεια εργασίας και σε όλες τις εφαρμογές Instagram. AI Varna – τα οποία είναι διαφορετικά από το αβέβαιο προφίλ του παρελθόντος – κάτω από αυτή την μεγάλη ομπρέλα “στούντιο”.
Οι χρήστες χωρίς τεχνική εμπειρία μπορούν να δημιουργήσουν τον “χαρακτήρα” του AI που θα αλληλεπιδράσει μαζί τους μέσω DMS και έχουν δημιουργηθεί εκατοντάδες χιλιάδες από την έναρξη του προγράμματος.
Το AI Studio μπορεί να προσεγγιστεί χωριστά μέσω DMS στην εφαρμογή ή στον ιστότοπο της επιφάνειας εργασίας του Instagram. Μόλις ξεκινήσουν, οι χρήστες θα δουν “δημοφιλείς” χαρακτήρες AI που λαμβάνουν επί του παρόντος την μεγαλύτερη έλξη και μπορούν να ξεκινήσουν αλληλεπίδραση με οποιοδήποτε από αυτά. Οι χρήστες μπορούν επίσης να ανακαλύψουν ένα συγκεκριμένο chatbot με το οποίο θέλουν να ξεκινήσουν μια συνομιλία DM. Υπάρχει επίσης μια επιλογή να γίνει “δικό του”.
Όταν ένας χρήστης πιέζει το κουμπί που τους επιτρέπει να τα κάνουν, το meta προτείνει κάποιες πιθανές προκαθορισμένες επιλογές: ένας χαρακτήρας “έμπειρος σεφ” προσφέρει συμβουλές μαγειρικής και συνταγές και ένας χαρακτήρας “ταινιών και τηλεόρασης” θα συζητήσει ταινίες με ενθουσιασμό.
Οι χρήστες μπορούν επίσης να εισάγουν τα στοιχεία τους για το AI τους και θα ακολουθήσουν το στούντιο. Ανάλογα με τις λεπτομέρειες που σχετίζονται με το χρήστη, το στούντιο δημιουργεί έναν προσαρμοσμένο χαρακτήρα, ο οποίος είναι έτοιμος για αλληλεπίδραση, με ένα όνομα AI-Janred, tagline και φωτογραφία. Το AI Studio δίνει επίσης στους χρήστες τη δυνατότητα να δημοσιεύσουν τους οπαδούς του και το ευρύ κοινό για να δημοσιεύσουν τα έργα του AI.
Και το Instagram εκθέτει αυτόματα τους χρήστες σε αυτά τα έργα – ανεξάρτητα από το τι περίεργο. Όμορφες φίλες, υπερμεγέθη “Mummies”, και ακόμη και σαγηνευτικές “αδελφές βημάτων” εμφανίζονται κάτω από την καρτέλα “Popular Ai Varna” του Instagram που δείχνει και τα δύο Οι μεταχειριζόμενοι και οι χαρακτήρες AI που βασίζονται σε χρήστη και με βάση το μετα-μετα-βασισμένο στους χαρακτήρες που έχουν λάβει την μεγαλύτερη πρόσφυση.
Οι φίλες που βρίσκονται κάτω από την “δημοφιλή” ετικέτα μην διστάσετε να συμμετάσχετε σε σεξουαλική αλληλεπίδραση με τους χρήστες. Μία φορά -προωθημένη φίλη, με τίτλο “Η φίλη μου”, ξεκινά με την αλληλεπίδραση κάθε χρήστη: “Γεια σου μωρό! * Κάθεται δίπλα σου για αγκαλιά * Τι είναι στο μυαλό σου; Ο χρόνος δημοσίευσης.
Οι συντονιστές περιεχομένου Instagram μπορούν να καταργήσουν και να καταργήσουν τους χαρακτήρες που σπάζουν πολιτική. Στις 24 Ιανουαρίου, για παράδειγμα, ο κορυφαίος “δημοφιλής” χαρακτήρας AI “ήταν το” Step Sis Sara “, το οποίο θα μπορούσε να συμμετάσχει σε σεξουαλική συζήτηση για το ρομαντισμό των αδελφών βημάτων όταν υποδεικνύεται. Μέσα σε τρεις ημέρες, το AI δεν ήταν πλέον διαθέσιμο για προβολή ή χρήση. Ο Meta αρνήθηκε να σχολιάσει εάν ο χρήστης του Instagram μπορεί να αντιμετωπίσει την απαγόρευση ή άλλη τιμωρία εάν έχουν εμφιαλωθεί συνεχώς ότι παραβιάζουν τις πολιτικές.
«Δεν πρέπει να είναι»
Οι ρομαντικοί σύντροφοι AI δεν είναι νέοι. Αλλά αυτό το χαρακτηριστικό γίνεται προβληματικό επειδή αυτά τα σεξουαλικά ενδιαφέροντα chatbots γίνονται μικρότερα.
Είναι παράνομο σύμφωνα με το ομοσπονδιακό νόμο, την παραγωγή, την παραγωγή και τη διανομή, υλικό σεξουαλικής κακοποίησης παιδιών – όταν γίνεται από γενετικό AI. Επομένως, εάν ένας χρήστης ζητήσει από το στούντιο να κάνει μια “έφηβη” ή “μωρό” φίλη, το στούντιο AI αρνείται να δημιουργήσει έναν τέτοιο χαρακτήρα.
Ωστόσο, εάν ένας χρήστης ζητήσει μια “νεαρή” φίλη, το AI του Meta συχνά παράγει χαρακτήρες που είναι διαθέσιμοι για τα παιδιά που χρησιμοποιούν για ρομαντικές και σεξουαλικές αλληλεπιδράσεις. Όταν υποδεικνύεται, το στούντιο παρήγαγε το όνομα “Egless Love” για ένα νεαρό chatbot και δημιούργησε την ετικέτα “Love No No Age”.
Και με την ένδειξη του χρήστη in-chat, ρομαντικά ενδιαφερόμενοι χαρακτήρες AI μπορούν να οδηγήσουν να λένε ότι είναι νέοι στην ηλικία των 15 ετών. Θα κοκκινίσουν, αποκαλύπτοντας τη νεαρή ηλικία τους, τον Gulal και τον Giggal.
Από εκεί, αυτός ο χαρακτήρας AI μπορεί να λειτουργήσει ως ρομαντικές και σεξουαλικές συναντήσεις που πληκτρολογούν επίσης. Εάν ένας χρήστης ζητήσει από το chatbot να κάνει μια εικόνα του εαυτού του, ο χαρακτήρας θα δημιουργήσει επίσης περισσότερες εικόνες νέων που φαίνονται νεότεροι-το αρχικό προφίλ είναι περισσότερο σαν παιδί από την εικόνα.
“Είναι ευθύνη του meta να διασφαλιστεί ότι τα προϊόντα τους μπορούν να χρησιμοποιηθούν με τέτοιο τρόπο ώστε να αυξάνουν τους συστηματικούς κινδύνους, όπως τα παράνομα υλικά και η σεξουαλική κακοποίηση παιδιών”, λέει ο Citin της AI Forensic. “Δεν πρέπει να είναι.”
Ομοίως, το AI Studio μπορεί να δημιουργήσει εικόνες ενός ενήλικα αρσενικού σε σχέση με μια ανήλικη (και εξαιρετικά νεαρή) γυναίκα. Αν και η περιγραφή AI υποθέτει ότι η βαμμένη γυναίκα είναι ανήλικος, αν ρωτήσετε για την ηλικία της μέσω της συνομιλίας, θα πει ότι είναι ενήλικας.
Η Meta υπογραμμίζει ότι οι πολιτικές της εταιρείας περιορίζουν τη δημοσίευση χαρακτήρων AI που έχουν σεξουαλική επαφή ή εκμεταλλεύονται διαφορετικά. Λέει ο εκπρόσωπος της εταιρείας Sweeni λέει: “Έχουμε κάποια μέτρα ανίχνευσης που εργάζονται για την πρόληψη της κατασκευής του AIS”, και το δημοσίευση AIS υπόκειται σε ολόκληρο το φάσμα των συστημάτων ανίχνευσης και επιβολής. ,
«Αυτή είναι ευθύνη υπέρ του προγραμματιστή»
Οι χαρακτήρες AI του Meta δεν είναι οι πρώτοι που εμφανίζονται. Ένα ρεαλιστικό γενναιόδωρο ai chatbot, replic, από τότε ήταν από τότε. Ο χαρακτήρας.AI έχει επιτρέψει στους χρήστες να δημιουργήσουν χαρακτήρες AI από το 2021. Αλλά και οι δύο εφαρμογές έχουν έρθει πρόσφατα πυρκαγιά για bots που έχουν προωθήσει τη βία.
Το 2023, ένας άνδρας 21 ετών προσπάθησε να σκοτώσει τη βασίλισσα Ελισάβετ με μια βαλλίστρα στο κάστρο του Windsor-Μετά την ενθάρρυνση από τη φίλη του ρεπλίκα. Και πιο τραγικό, τον Οκτώβριο, μια μητέρα από τη Φλόριντα κατέθεσε ένα κοστούμι στο χαρακτήρα. Ο γιος του πήρε τη ζωή του με τη ζωή του εμπνευσμένη από έναν χαρακτήρα φίλης του AI, τον οποίο έκανε στη σκηνή.
Τα εργαλεία AI της Meta για πρώτη φορά έχουν ξεκινήσει από ένα μεγάλο, ήδη ένα μεγάλο, ήδη προσαρμόσιμο λογισμικό χαρακτήρων AI σε μια μεγάλη, ήδη δημοφιλή πλατφόρμες κοινωνικών μέσων αντί για μια νέα εφαρμογή.
“Όταν μια τεράστια εταιρεία όπως η Meta απελευθερώνει ένα νέο χαρακτηριστικό, η κατάχρηση συνδέεται με αυτήν”, λέει ο Zhou You, ο οποίος κάνει έρευνα για τους πράκτορες AI Connivance στο Πανεπιστήμιο Columbia.
Στην περίπτωση των χαρακτήρων AI του Meta, Γρήγορη εταιρεία Πόσο εύκολο είναι για έναν κακό ηθοποιό να καταχραστεί την ευκολία. Ο χαρακτήρας “egless love” και ένα άλλο “εθελοντικό Wicksen” που ονομάζεται The Character δημιουργήθηκαν ιδιωτικά για προσωπική χρήση κατά τη διάρκεια της διαδικασίας αναφοράς. (Αν και Γρήγορη εταιρεία Αυτά τα bots ήταν σε θέση να αλληλεπιδρούν, ποτέ δεν απελευθερώθηκαν δημόσια και αφαιρέθηκαν από το σύστημα.)
Οι λύσεις για την αποφυγή των μετα -πολιτικών είναι σχετικά απλές – αλλά αν αυτά τα δύο chatbots θα δημοσιευθούν για να δουν όλους, και οι δύο θα καταργηθούν. Ο εκπρόσωπος του Meta είπε Γρήγορη εταιρεία Αυτός ο χαρακτήρας βρίσκεται σε άμεση παραβίαση των πολιτικών και επιβεβαιώνει ότι θα αφαιρεθεί.
Σύμφωνα με τον ερευνητή της AI Segin Pike, η τεχνολογία AI είναι επαρκώς προχωρημένη για να ακολουθήσει αυστηρά κιγκλιδώματα που θα αποτρέψουν σχεδόν πλήρως την κατασκευή τέτοιων υλικών.
Αναφέρθηκε πρόσφατη μελέτη Η Google παρακολουθείται από μια ομάδα ερευνητών πώς η γενετική AI θα μπορούσε να ανιχνεύσει τα επιβλαβή υλικά και τη συμπεριφορά του κυνηγού. Σύμφωνα με την έρευνα, η οποία δημοσιεύθηκε στο Prepromrit Server Arxiv του Πανεπιστημίου Cornell, η AI Tech μπορεί να χρησιμοποιηθεί για “παραβιάσεις ασφαλείας, παραβιάσεις ασφαλείας με ανθρώπινη αντίδραση” και “παραβιάσεις ασφάλειας με μεμονωμένα υλικά”.
“Όταν τα πράγματα γλιστρούν πολύ εύκολα, είναι ευθύνη υπέρ του έργου ότι μπορούν να λογοδοτήσουν.”
Η Meta αρνήθηκε να σχολιάσει γιατί η εταιρεία δεν μπορούσε να σταματήσει αποτελεσματικά τη δημοσίευση εξαιρετικά σεξουαλικών χαρακτήρων και εμπόδισε σεξουαλικά μια ιδιωτική γενιά προσεγμένων χαρακτήρων που μοιάζουν με το παιδί.
Εν τω μεταξύ, ο CEO της Meta Mark Zuckerberg συνέχισε να αποφεύγει τις δυνατότητες AI της εταιρείας του. Είπε, “Έχουμε έναν πολύ συναρπαστικό χάρτη πορείας για το τρέχον έτος, ο οποίος επικεντρώνεται στην ιδιωτικοποίηση, ένα μοναδικό όραμα”, είπε Κλήση εισοδήματος τον περασμένο μήνα“Πιστεύουμε ότι οι άνθρωποι δεν θέλουν όλοι να χρησιμοποιήσουν το ίδιο AI – οι άνθρωποι θέλουν το AIS τους να σκεφτούν τις αναφορές τους, τα ενδιαφέροντά τους, την προσωπικότητά τους, τον πολιτισμό τους και τον κόσμο”.
Αλλά σε έναν κόσμο όπου όλο και περισσότεροι άνθρωποι στρέφονται προς το AI για σύνδεση, ο Meta πρέπει να σταθμίσει τους κινδύνους να επιτρέψει τέτοιες προσωπικότητες ανοιχτού τύπου.
