Lo sviluppo della tecnologia e la conseguente diffusione dei social network ha notevolmente influenzato la nostra società. Tutti ormai hanno un proprio account sui vari social dove condividere foto, notizie, parlare con amici ecc. Purtroppo c’è anche un lato negativo, ovvero la nascita del cyber-bullismo, ovvero casi di persone attaccate sui propri profili e vittime di odio ed insulti spesso immotivati.
Proprio per questo, recentemente l’azienda di Facebook afferma di aver addestrato un sistema di intelligenza artificiale per rilevare didascalie offensive sul social network Instagram. L’idea è di dare agli utenti “la possibilità di mettere in pausa e riconsiderare le loro parole”.
L’IA su Instagram per rilevare post offensivi
Il social ha annunciato la funzionalità basata sull’IA in un blog lunedì scorso, affermando che sarebbe stata implementata immediatamente in alcuni paesi. Lo strumento è progettato per aiutare a combattere il bullismo online, che è diventato un grosso problema per piattaforme molte utilizzate come la stessa Instagram, YouTube e Facebook. Anzi, proprio Instagram è la peggiore nel campo del cyber-bullismo, secondo una ricerca del 2017.
Se un utente sul social digita una didascalia offensiva su Instagram, riceverà un messaggio che lo informa che è simile ad altri post segnalati per bullismo. Agli utenti verrà quindi data la possibilità di modificare la propria didascalia prima che venga pubblicata.
“Oltre a limitare la portata del bullismo, questo avviso aiuta a educare le persone su ciò che non consentiamo su Instagram e quando un account potrebbe essere a rischio di infrangere le nostre regole”, ha scritto l’azienda nel post.
All’inizio di quest’anno, Instagram ha lanciato una funzione simile che avvisava le persone quando i loro commenti sui post di altre persone potevano essere considerati offensivi. “I risultati sono stati promettenti e abbiamo scoperto che questi tipi di spintoni possono incoraggiare le persone a riconsiderare le loro parole quando ne hanno la possibilità”, ha scritto l’azienda.