Facebook ha annunciato che sta ampliando gli sforzi per prevenire suicidi tra i propri utenti. Questo avverrà con l’utilizzo di uno strumento di rilevamento proattivo basato sull’intelligenza artificiale (AI) che scansionerà post sulla piattaforma. L’obiettivo di questo approccio è quello di aiutare in modo proattivo le persone ritenute a rischio di suicidio inviando loro utili risorse in tema di salute mentale o cercando aiuto ai primi soccorritori locali. A lungo termine, Facebook mira a identificare post suicidi prima delle segnalazioni degli utenti. Il sistema di rilevamento proattivo è ora disponibile per l’ecosistema di Facebook e Facebook Live al di fuori degli Stati Uniti anche se non sono stati menzionati paesi specifici e difficilmente lo vedremo nell’Unione Europea a causa di problemi legali.
Il metodo sfrutta il riconoscimento di pattern per rilevare i pensieri suicidi nei post di Facebook e nei video in streaming. La tecnologia è un work in progress in quanto il gigante dei social media cerca di assicurarsi che il sistema AI sia preciso nel riconoscere i modelli suicidi nei post prima che il team di revisori di Facebook inizi ad analizzarli, un team composto da migliaia di revisori di tutto il mondo che lavorano per valutare i report sui vari contenuti.
Guy Rosen, vice presidente della gestione prodotti di Facebook, ha riferito in un post pubblicato lunedì che la società ha collaborato con i primi soccorritori a ottobre per sviluppare più di 100 controlli di benessere utilizzando i dati raccolti attraverso lo strumento di rilevamento proattivo di Facebook in cima ai report raccolti dalla comunità di Facebook.