Hive: Η εταιρεία των $2 δισ. βάζει STOP στις εικόνες σεξουαλικής κακοποίησης παιδιών από την AI

Στην προσπάθεια να μπει ένα τέλος στην παραγωγή εικόνων σεξουαλικής κακοποίησης παιδιών από την AI, έχει επιδοθεί το τελευταίο διάστημα ο Kevin Guo και η εταιρεία του, Hive.

Ο Guo συνίδρυσε την Hive το 2014 ως μια εφαρμογή για καταναλωτές και αργότερα άλλαξε ρότα στην επιχείρηση για να πουλήσει το εσωτερικό λογισμικό μετριασμού περιεχομένου τεχνητής νοημοσύνης.

Με έδρα το Σαν Φρανσίσκο έχει αντλήσει 120 εκατομμύρια δολάρια σε επιχειρηματικά κεφάλαια από εταιρείες όπως η General Catalyst και η αξία της αποτιμήθηκε στα 2 δισ. δολάρια το 2021.

Το περιεχόμενο που δημιουργείται από τεχνητή νοημοσύνη, από παράνομες εικόνες υλικού σεξουαλικής κακοποίησης παιδιών έως παραπλανητικά πολιτικά deepfakes, μολύνει το διαδίκτυο και ο CEO της Hive, πιστεύει ότι τα συστήματα συγκράτησης περιεχομένου της εταιρείας του είναι ένα «σύγχρονο antivirus».

Τα συστήματα της Hive, τα οποία χρησιμοποιούνται από πλατφόρμες κοινωνικής δικτύωσης όπως το Reddit και το Bluesky, χρησιμοποιούν μοντέλα μηχανικής μάθησης για να επισημαίνουν επιβλαβές περιεχόμενο.

Τώρα η startup είναι καλύτερα εξοπλισμένη για τον εντοπισμό και την αφαίρεση υλικού σεξουαλικής κακοποίησης παιδιών από τους ιστότοπους των πελατών της, χάρη σε μια νέα συνεργασία με το Ίδρυμα Internet Watch Foundation (IWF), έναν μη κερδοσκοπικό οργανισμό για την ασφάλεια των παιδιών με έδρα το Ηνωμένο Βασίλειο, ανακοίνωσε η Hive την Πέμπτη.

Η Hive θα ενσωματώσει στα μοντέλα της τα σύνολα δεδομένων του οργανισμού, τα οποία περιλαμβάνουν έναν τακτικά ενημερωμένο κατάλογο περίπου 8.000 ιστότοπων που φιλοξενούν επιβεβαιωμένες εικόνες τόσο πραγματικών όσο και τεχνητής νοημοσύνης παραγόμενων CSAM.

Το σύνολο δεδομένων περιλαμβάνει επίσης έναν κατάλογο με μοναδικές φράσεις και κρυπτικές λέξεις-κλειδιά που χρησιμοποιούνται από τους παραβάτες για να αποκρύψουν το CSAM και να παρακάμψουν τη μετριοπάθεια.

Στο πλαίσιο της συμφωνίας, οι πελάτες της Hive μπορούν να αποκτήσουν πρόσβαση στα «hashes» της IWF – ψηφιακά αποτυπώματα εκατομμυρίων γνωστών εικόνων και βίντεο CSAM.

Η σύμπραξη βασίζεται στη συνεργασία της Hive το 2024 με την Thorn, μια εθνική μη κερδοσκοπική εταιρεία που κατασκευάζει τεχνολογία ανίχνευσης CSAM, για να επεκτείνει την εμβέλειά της και να καθαρίσει περισσότερο παραβατικό περιεχόμενο από τις πλατφόρμες των πελατών της.

Η νέα σύμπραξη αποσκοπεί στην αναχαίτιση του κατακλυσμού των εικόνων σεξουαλικής κακοποίησης παιδιών που δημιουργούνται από τεχνητή νοημοσύνη, από τις οποίες οι δράστες δημιούργησαν δεκάδες χιλιάδες το 2024.Τα εργαλεία δημιουργικής τεχνητής νοημοσύνης έχουν καταστήσει ευκολότερη την παραγωγή παράνομων εικόνων- το 2023, η IWF επισήμανε στις αρχές επιβολής του νόμου πάνω από 275.000 ιστοσελίδες που περιείχαν CSAM, αριθμός ρεκόρ για την οργάνωση.

«Το CSAM ήταν προηγουμένως αρκετά δύσκολο να αποκτηθεί. Το περιεχόμενο δεν ήταν τόσο κοινό», δήλωσε ο Guo στο Forbes.«Αυτές οι μηχανές παραγωγής AI, τόσο για εικόνες όσο και για βίντεο, ξεκλειδώνουν έναν πολύ διαφορετικό κόσμο εδώ με την έκρηξη του περιεχομένου».