Intelligenza artificiale usata per combattere il cyberbullismo

Coordinato dalla Fondazione Kessler di Trento, il progetto CREEP riesce ad individuare conversazioni indice di molestie sui social network: così l’AI affronta il cyberbullismo.


Per contrastare un fenomeno in costante crescita è possibile avvalersi di strumenti avanzati e tecnologici: il progetto CREEP è in grado di sfruttare l’intelligenza artificiale per individuare situazioni di cyberbullismo e aiutare le vittime a porvi rimedio.

intelligenza artificiale cyberbullismo

Secondo le statistiche dell’ISTAT, tra i ragazzi di età compresa tra 11 e 17 anni è ben il 5.9% ad essere vittima di molestie e persecuzioni una o più volte al mese; con la diffusione delle moderne tecnologie tra i più giovani, smartphone e social network potrebbero – purtroppo – essere facili canali per dare libero sfogo ad offese e prepotenze.

Per questo motivo, l’EIT Digital, organizzazione dedita allo sviluppo digitale in Europa, ha finanziato e sostenuto il progetto CREEP, avviato in Italia e attualmente in sperimentazione nel Trentino.

L’obiettivo di CREEP

Si tratta di un progetto unico ed innovativo che si prefigge l’obiettivo di individuare in maniera precoce episodi di cyberbullismo, e di evitarne quindi le conseguenze negative sulle vittime.
Finanziato da EIT Digital, il progetto CREEP viene condotto dalla Fondazione Bruno Kessler di Trento, rivolgendosi a giovani, genitori, insegnanti ed autorità educative locali e nazionali per mettere un freno al cyberbullismo sullo stesso terreno in cui affonda le sue radici: la rete internet.

Per cyberbullismo, infatti, si intende l’insieme di molestie e atti di bullismo che non avvengono più soltanto nella maniera tradizionale, ma anche attraverso un contatto elettronico, ossia attraverso un computer o uno smartphone, durante il quale hanno luogo offese, persecuzioni o derisioni della vittima.
Per far fronte a questa piaga, però, vi sono strade ancora inesplorate che potrebbero dare man forte nella lotta al cyberbullismo, come ad esempio quella intrapresa da CREEP, che riesce a stanare episodi di molestie in due fasi:

  1. L’analisi semantica da parte di un software che monitora i social network;
  2. Il supporto alla presunta vittima attraverso un assistente virtuale.

Il monitoraggio delle conversazioni

Attraverso una sapiente applicazione dell’intelligenza artificiale, quindi, è possibile monitorare le conversazioni sui social network ed individuare situazioni a rischio.
L’AI utilizzata per lo scopo, infatti, setaccia le conversazioni che avvengono online alla ricerca di frasi, parole o interazioni che potrebbero essere riconducibili a possibili violenze. Al momento attuale, gli ideatori del progetto si sono focalizzati maggiormente su Instagram, poiché risulta essere il social network più apprezzato e frequentato dai ragazzi tra i 13 e i 16 anni, al contrario di Facebook che, per la stessa fascia di età, perde appeal.
In futuro, comunque, sarà possibile estendere l’azione dell’intelligenza artificiale a tutti i social network.

La profilazione e il supporto dell’assistente virtuale

Una volta trovata una situazione di potenziale pericolo, è il momento di entrare in azione con un chatbot che si occuperà di rivolgere alcune domande alla probabile vittima, al fine di delinearne un profilo. Successivamente, l’assistente virtuale potrà fornire supporto proponendo consigli che aiutino ad affrontare la situazione, e ad adottare le reazioni più idonee, suggerendo infine le modalità per chiedere aiuto.


Intelligenza artificiale usata per combattere il cyberbullismo - Ultima modifica: 2018-03-14T06:15:35+00:00 da Maria Grazia Tecchia

Giornalista, blogger e content editor. Ha realizzato il sogno di coniugare le sue due più grandi passioni: la scrittura e la tecnologia. Esperta di comunicazione online, da anni realizza articoli per il web occupandosi della tecnologia a più livelli.

e-book guida ecm

Non rimanere indietro, iscriviti ora

Ricevi in tempo reale le notizie del digitale

Iscrizione alla Newsletter

controlla la tua inbox per confermare l'iscrizione

Privacy Policy

Grazie! Ora fai parte di Digitalic!