Μια ομάδα επιχειρήσεων του Διαδικτύου, συμπεριλαμβανομένων των Roblox, Google, OpenAI και Dissord, κάλεσε έναν μη κερδοσκοπικό οργανισμό ανοικτά Open Online Tools Safety Tools (ROOS).
Ο νέος οργανισμός θα χρηματοδοτήσει δωρεάν εργαλείο ανοιχτού κώδικα για τις ηλεκτρονικές επιχειρήσεις για την προώθηση της διαδικτυακής ασφάλειας, της Naren Konaru, αντιπρόεδρος της Robox of Engineering, Trust and Safety. Αυτό το βήμα ακολουθεί τα χρόνια των προσπαθειών για τον περιορισμό του ακατάλληλου μηνύματος από τον Roblox στην πλατφόρμα του, το οποίο χρησιμοποιείται ευρέως από τα παιδιά και μερικές φορές έρχεται σε φωτιά για να μην αρκετά για την καταπολέμηση των σεξουαλικών υλικών πολλές φορές που έχουν περισσότερα Κυνηγοί σεξουαλικών ενηλίκων,
Και ενώ οι ανθρώπινοι διαμεσολαβητές αποτελούν μέρος αυτής της εξίσωσης, 85 εκατομμύρια ημερήσιες ενεργές χρήστες AI και πλατφόρμες αυτοματισμού έχουν γίνει σημαντικές για να διαταράξουν τα ανεπιθύμητα μηνύματα που καλούν το Konu.
“Αυτές οι αποφάσεις πρέπει να βρίσκονται εντός του milcedon”, λένε.
Έχει αναπτυχθεί ένας από τους εξοπλισμούς που έχει αναπτυχθεί το roblox είναι Ένα μοντέλο AI ανοιχτού κώδικα Αναλύει το κλιπ ήχου για την ανίχνευση της βεβήλωσης, του ρατσισμού, του εκφοβισμού, του sexting και άλλων απορριφθέντων υλικών. Το μοντέλο κυκλοφόρησε στο κοινό τον περασμένο Ιούλιο, το οποίο είναι διαθέσιμο σε πλατφόρμες GitHub και AI Όγκος στο λαιμόΚαι έχει μεταφορτωθεί περισσότερες από 20.000 φορές. Η εταιρεία έχει αναπτύξει από τότε μια νέα έκδοση του μοντέλου, η οποία έχει υποστήριξη για πρόσθετες γλώσσες, όπως ισπανικά, γαλλικά, γερμανικά και ιαπωνικά, καθώς και πρόσθετες υποδομές για την επίλυση του μοντέλου για ειδικές απαιτήσεις. Αυτό πιθανότατα θα είναι ανοιχτό μέχρι το τέλος του πρώτου τριμήνου του 2025 και η εταιρεία εκτιμά ότι θα αποκαλύψει άλλα εργαλεία ανοιχτού πηγών για την ταξινόμηση του υλικού αργότερα μέσα στο έτος.
Συνεισφέροντας στο ROOST (και να ενεργήσετε ως συμπρόεδρος μιας τεχνικής συμβουλευτικής επιτροπής), η Roblox θα είναι επίσης σε θέση να υποστηρίξει τέτοιες προσπάθειες ανοιχτού κώδικα, οι οποίες στοχεύουν στη δημιουργία μοντέλων AI, τα οποία χρησιμοποιούν όλα τα μεγέθη για μέτρια υλικά από οργανισμούς, ειδικά Μπορεί να είναι γύρω, ειδικά σε όλο, προστασία από τα μαλλιά.
“Ενώ οι μεγάλες εταιρείες σαν εμάς μπορούν να επενδύσουν σε τέτοια συστήματα”, λέει ο Conu, “αν είστε ένας μικρός προγραμματιστής παιχνιδιών και θέλετε να δημιουργήσετε όλα αυτά τα συστήματα ασφαλείας, τότε είναι αδύνατο να το διορθώσετε σήμερα είναι δίπλα”.
Ορισμένα συστήματα AI μπορούν επίσης να φιλοξενηθούν από το Roast, το οποίο επιτρέπει στις εξωτερικές εταιρείες να τις ενσωματώσουν εύκολα μέσω κλήσεων API αντί να χειρίζονται πολύπλοκη υποδομή, καλώντας το Konu.
“Δεν μπορούν πραγματικά να μην κάνουν μόνο τα μοντέλα ανοιχτού κώδικα, αλλά πιθανότατα θα εκτελέσουν αυτές τις υπηρεσίες υποδοχής, όπου μπορείτε απλά να καλέσετε ένα API, ακόμη και όλες αυτές τις λεπτομέρειες που δεν θα ανησυχείτε, πώς τρέχετε αυτό το μοντέλο Ένας σούπερ εξειδικευμένος τρόπος », λέει.
Το ROOST μπορεί επίσης να απελευθερώσει υποδομή ανοικτού κώδικα σε ετικέτες δεδομένων δείγματος, όπως παραδείγματα επιτρεπόμενων και ενωμένων υλικών, και να διαχειριστεί τον τρόπο με τον οποίο χρησιμοποιείται για να εκπαιδεύσει και να βελτιώσει το σύστημα AI. Αυτό περιλαμβάνει την τεχνολογία για την αποτελεσματική διαχείριση των προσπαθειών ανθρώπινης μετριοπάθειας και τη διασφάλιση της σταθερότητας στις αποφάσεις γύρω από τους κανόνες (για να διασφαλιστεί ότι τα μοντέλα AI εκπαιδεύονται σε αξιόπιστα δείγματα).
Εκτός από τις εταιρείες κερδοφορίας, η ROOST υποστηρίζεται από διάφορους τύπους φιλανθρωπικών οργανώσεων, συμπεριλαμβανομένων των ηλεκτρονικών εμπιστοσύνης και του Ταμείου Ασφαλείας, του Νυχτερινού Ιδρύματος, του AI Associate και του McGawn Foundation. Έχει αυξηθεί κατά περισσότερο από 27 εκατομμύρια δολάρια για την υποστήριξη της πρώτης τεσσάρων ετών.
