Jump to content



  • astrolabos

    Από astrolabos

    astrolabos

    Από astrolabos •

    Η Apple σχεδιάζει να σαρώσει τα iPhone για εικόνες κακοποίησης παιδιών

    Η Apple σκοπεύει να εγκαταστήσει λογισμικό στα iPhone που βρίσκονται εντός της επικράτειας των ΗΠΑ, με σκοπό να γίνει σάρωση για εύρεση εικόνων κακοποίησης παιδιών, αναφέρουν οι Financial Times (paywall), επικαλούμενοι άτομα που ενημερώθηκαν για τα σχέδια, βαρόντας το καμπανάκι στους ερευνητές ασφαλείας ανά τον κόσμο, οι οποίοι προειδοποιούν ότι θα μπορούσε να αποτελέσει το έναυσμα στην παρακολούθηση προσωπικών συσκευών εκατομμυρίων ανθρώπων. 
    Η έκθεση μεταξύ άλλων αναφέρει, ότι η Apple παρουσίασε το προτεινόμενο σύστημα - γνωστό ως "neuralMatch" - σε ορισμένους ακαδημαϊκούς καθηγητές των ΗΠΑ νωρίτερα αυτή την εβδομάδα. Το αυτοματοποιημένο σύστημα θα προειδοποιεί μια επιτροπή ελεγκτών εάν θεωρεί ότι βρήκε παράνομες εικόνες κακοποίησης παιδιών. Η επιτροπή με τη σειρά της, θα επαληθεύσει το επίμαχο υλικό και θα επικοινωνεί με την αστυνομία. Το neuralMatch αρχικά θα τρέξει μόνο στις ΗΠΑ.
    Ο Matthew Green, καθηγητής ασφάλειας στο Πανεπιστήμιο John Hopkins, πιστεύει ότι αυτό το πρόγραμμα θα αποτελέσει το δούρειο ίππο για τις κυβερνήσεις για να απαιτήσουν την εφαρμογή του προγράμματος για παρακολουθήσεις πολιτών, ενώ ο Alec Muffett, ερευνητής ασφάλειας και ακτιβιστής προστασίας της ιδιωτικής ζωής, ο οποίος παλαιότερα εργαζόταν στο Facebook και το Deliveroo, είπε ότι η κίνηση της Apple ήταν "κατακλυσμική" και αποτελεί "ένα τεράστιο και οπισθοδρομικό βήμα για την ατομική προστασία της ιδιωτικής ζωής" τονίζοντας ότι οι ενέργειες αυτές μας φέρνουν πιο κοντά στο "1984"

    Πηγή
    • Like 2
    • Haha 1
     Κοινοποίηση

    Ακολουθήστε μας στο Google News για να λαμβάνετε πρώτοι όλες τις τεχνολογικές μας ειδήσεις καθώς και τις τελευταίες μας κριτικές προϊόντων.
    Go to ειδήσεις

    User Feedback

    Recommended Comments

    sdim

    Λογικά θα χρησιμοποιεί κάποιον αλγόριθμο τεχνητής νοημοσύνης που θα αναγνωρίζει τις σχετικές φωτογραφίες και θα στέλνει στην apple κάποιο σκορ, π.χ. από το 0 έως το 100 (0-> απίθανο κάποια από τις φωτογραφίες να περιλαμβάνει κακοποιημένα παιδιά, 100-> σίγουρα κάποια από τις φωτογραφίες περιλαμβάνει κακοποιημένα παιδιά).

     

    Από εκεί και πέρα οι αρχές θα ελέγχουν τους υποψήφιους με τα υψηλότερα σκορ. Δεν νομίζω η apple να οικειοποιηθεί φωτογραφίες των χρηστών.

    • Like 1
    Link to comment
    Share on other sites
    Cyber_Cookie
    πριν 4 ώρες, το μέλος sdim έγραψε:

    Λογικά θα χρησιμοποιεί κάποιον αλγόριθμο τεχνητής νοημοσύνης που θα αναγνωρίζει τις σχετικές φωτογραφίες και θα στέλνει στην apple κάποιο σκορ, π.χ. από το 0 έως το 100 (0-> απίθανο κάποια από τις φωτογραφίες να περιλαμβάνει κακοποιημένα παιδιά, 100-> σίγουρα κάποια από τις φωτογραφίες περιλαμβάνει κακοποιημένα παιδιά).

     

    Από εκεί και πέρα οι αρχές θα ελέγχουν τους υποψήφιους με τα υψηλότερα σκορ. Δεν νομίζω η apple να οικειοποιηθεί φωτογραφίες των χρηστών.

     

     

    Nα δω πως θα δικαιολογήσεις τις φωτογραφίες απ τα βαφτίσια. Και στην AI και στο FBI.

    • Haha 4
    Link to comment
    Share on other sites
    sdim

    Υπάρχουν ήδη αλγόριθμοι ΑΙ που αναγνωρίζουν συναισθήματα. 

    Επίσης υπάρχουν αλγόριθμοι ΑΙ που αναγνωρίζουν μώλωπες, γυμνό, κλπ.

     

    Με αναγνώριση ενός συνδυασμού χαρακτηριστικών όπως την διάθεση και σημάδια σωματικής βίας μπορεί κάποιος να έχει μια αρχική εκτίμηση.

    Link to comment
    Share on other sites
    Cyber_Cookie
    πριν 41 λεπτά, το μέλος sdim έγραψε:

    Υπάρχουν ήδη αλγόριθμοι ΑΙ που αναγνωρίζουν συναισθήματα. 

    Επίσης υπάρχουν αλγόριθμοι ΑΙ που αναγνωρίζουν μώλωπες, γυμνό, κλπ.

     

    Με αναγνώριση ενός συνδυασμού χαρακτηριστικών όπως την διάθεση και σημάδια σωματικής βίας μπορεί κάποιος να έχει μια αρχική εκτίμηση.

     

    Υπάρχουν αλλά αλλά το θέμα είναι πως κανείς δεν έχει πρόσβαση σε ένα τόσο τεράστιο dataset όσο οι εικόνες απ όλα τα iphones στις ΗΠΑ.

    Kαι οι μάγκες της apple θα έχουν νομικό πάτημα να κάνουν train πάνω σε  αυτό το τεράστιο dataset. Προφανώς κανείς δεν νοιάζεται για τα παιδάκια.

     

    Σε πιο γενικό πλαίσιο, όλο αυτό είναι απλά είναι ένας δούρειος ίππος για εφαρμογή legally backed παρακολούθησης και εκμεταλλευσης όλων των δεδομένων της συσκευής χωρίς opt-out.

     

     

    Spoiler

    Pranay Pathole on Twitter: "People with no idea about AI, telling me my AI will destroy the world Vs Me wondering why my Machine learning algorithm is classifying a cat as a

     

    • Haha 1
    Link to comment
    Share on other sites
    sdim

    Για να αναγνωρίσουν τα συναισθήματα υπάρχουν ήδη έτοιμα μοντέλα τεχνητής νοημοσύνης.

    Λογικά για το dataset για την σωματική βία θα πρέπει να πάρουν φωτογραφίες από βιβλία ιατρικής, εγκληματολογίας, υπηρεσίες ασφαλείας (αστυνομία, CIA, FBI, NSA), κλπ.

     

    Αφού εκπαιδεύσουν το μοντέλο απλά θα τρέξουν την αναγνώριση τοπικά στο κινητό κάθε χρήστη. Τα iPhone από το Χ και μετά έχουν ενσωματωμένο επιταχυντή για AI (Core ML).

    Link to comment
    Share on other sites
    acct
    On 8/10/2021 at 12:27 PM, sdim said:

    Λογικά θα χρησιμοποιεί κάποιον αλγόριθμο τεχνητής νοημοσύνης που θα αναγνωρίζει τις σχετικές φωτογραφίες και θα στέλνει στην apple κάποιο σκορ, π.χ. από το 0 έως το 100 (0-> απίθανο κάποια από τις φωτογραφίες να περιλαμβάνει κακοποιημένα παιδιά, 100-> σίγουρα κάποια από τις φωτογραφίες περιλαμβάνει κακοποιημένα παιδιά).

     

    On 8/10/2021 at 5:12 PM, Rusty_Cookie said:

    Nα δω πως θα δικαιολογήσεις τις φωτογραφίες απ τα βαφτίσια. Και στην AI και στο FBI.

     

    Συγχωρήστε με, αλλά ήδη έχουν κυκλοφορήει τόσες πληροφορίες γύρω από αυτό το θέμα, που οι εικασίες δεν βοηθούν.

     

    Αν και είναι εξαιρετικά επικίνδυνη η κίνηση της Apple (και προσδοκώ ότι η νομική αμφισβήτηση θα είναι εν μέρει επιτυχημένη), το μέτρο που εξαγγέλθηκε αφορά μόνο στη σύγκριση γνωστών hashes από κατασχεμένο υλικό παιδικής πορνογραφίας με τα αντίστοιχα hashes εικόνων που είναι αποθηκευμένες στα τηλέφωνα των χρηστών.

     

    Δεν πρόκειται (τουλάχιστον για την ώρα) να ανιχνεύει οπτικά κάθε φωτογραφία για να να εντοπίσει νέο υλικό, κάτι το οποίο θα ήταν νομικά εξαιρετικά επικίνδυνο και για την εταιρεία.

     

    Όμως, ακόμη κι αυτή η πιο ήπια πρακτική είναι επισφαλής και επιρρεπής σε ψευδώς θετικά ίχνη, ενώ δυνητικά μπορεί εύκολα να γίνει κατάχρησή της από μέρη που έχουν πρόσβαση στα hashes, ακόμη και χωρίς το επίμαχο υλικό.

    Έγινε επεξεργασία από acct
    a word
    • Like 2
    Link to comment
    Share on other sites
    astrolabos
    πριν 7 λεπτά, το μέλος Shaman έγραψε:

    Ανησυχητική εξέλιξη για μία εταιρεία που ξεχώριζε (σε σχέση με τον ανταγωνισμό) στο κομμάτι αυτό.

    Ας δούμε τι λένε και οι ειδικοί:

     

     

     

    41KEr2UIj8L._AC_SX425_.jpg

    Link to comment
    Share on other sites


    Create an account or sign in to comment

    You need to be a member in order to leave a comment

    Create an account

    Sign up for a new account in our community. It's easy!

    Register a new account

    Sign in

    Already have an account? Sign in here.

    Sign In Now

×
×
  • Δημιουργία...

Important Information

Ο ιστότοπος theLab.gr χρησιμοποιεί cookies για να διασφαλίσει την καλύτερη εμπειρία σας κατά την περιήγηση. Μπορείτε να προσαρμόσετε τις ρυθμίσεις των cookies σας , διαφορετικά θα υποθέσουμε ότι είστε εντάξει για να συνεχίσετε.