Politiche di moderazione nei social network

1.0 Indice1.0 La necessità della moderazione

Il dualismo della libertà di espressione

Considerazioni legali

Fenomenologia dei comportamenti devianti

2.0 Teoria e pratica della moderazione Web

Tipologie di moderazione

La Moderazione Supervisionata dei contenuti

Esempi di moderazione applicata

3.0 La moderazione come tutela dell’azienda

La relazione con il cliente e la tutela della reputazione

Social media security

I servizi esterni per la moderazione

.

https://darkpsychology.co/troll/

wanderingcritic.wordpress.com

Cause psicologiche del flaming.1.3

- Studi di sociologia e psicologia dei nuovi media.

Un esempio: lo studio sul tono delle mail.

- Studi di sociologia e psicologia dei gruppi.

Epley, Kruger, «Egocentrism Over E-Mail: Can We Communicate as Well as We Think?”

La necessità della moderazione.

Quali rischi comportano i fenomeni considerati?

1.3

Per l’utente: bullismo online, diffamazione, immagini e contenuti offensivi,

profanita’, linguaggio aggressivo, problemi mentali, rischi legati ai minori, exposure di informazioni provate, comportamenti predatorii.

Per la reputazione: diffamazione, pubbliche relazioni, critiche ai servizi,

leaking di info, commenti inappropriati dei dipendenti, attacchi degli oppositori, astroturfing.

Per la legge : diffamazione, discriminazione, harrassment, oltraggio alla

corte, copyright.

Strategie di moderazione.

• Identificare potenziali punti deboli- criticità

• Identificare valori che si intende tutelare

• Pubblicare un regolamento chiaro

• Essere consci di chi accede ai contenuti

pubblicati – richiedere registrazione per

consentire l’intervento

• Scelta della tipologia di moderazione più

consona, integrando eventualmente modelli

differenti.

2.0

Tipologie di moderazione.• Pre-moderazione:

– Compito demandato a una ditta di Outsourcing o a un algoritmo

– Intervento non direttamente percepibile da parte dell’utenza

– Non facilita l’interazione

– Scelta abitualmente per la gestione dei contenuti di siti con un vasto bacino di

utenza,che trattano argomenti “delicati”.

– Richiede investimenti ingenti

– Scelta di filtri applicabili: Parole proibite e parole “suscettibili a intervento di

moderazione”

• Supervisionata (Diretta):

– Presenza di un team di moderatori

– Contatto con l’utenza

– Personaggi di riferimento, intervento percepibile

– Tipica di siti o piattaforme di dimensioni ridotte

2.0

• Distribuita:

– Compito demandato agli utenti stessi di un sito.

– Rischio di potenziale persistenza di contenuti inappropriati

– User regulated se basata su regole precise che ne stabiliscono gli effetti

Spontanea se lasciata completamente a discrezione dell’utenza, tendenza

all’ordine spontaneo.

• Trust Based

– Sistema basato su input reputazionali forniti dagli utenti. (Karma based)

– La moderazione avviene attraverso il confronto tra le metriche di reputazione

degli utenti che riportano un contenuto e l’autore del contenuto stesso.

– Se il confronto è negativo il contenuto viene nascosto o eliminato.

– Algoritmo brevettato da Ori Zaltzman e Quy Dinh Le ed implementato nel 2007 da

Yahoo! Per il servizio Answers

2.0 Tipologie di moderazione II

La Moderazione

Supervisionata

dei contenuti

Il ruolo del moderatore nella

tipologia diretta.

Chi è?

Dal latino: Moderatus,

da modes-rari

(di rari costumi)

Colto, che tiene nella

giusta misura, colui

che tempera, colui che

mette ordine.

2.1

Competenze del moderatore:

• Conoscenza dei mass media

• Conoscenza estesa del sito o della piattaforma su cui

opera

• Capacità comunicative

• Sensibilità alle dinamiche e alla logica della

comunicazione online

• Capacità di rappresentare un modello per gli altri

utenti

• Capacità di essere un valido punto di riferimento

2.1

Il codice di condotta per i

moderatori.

Lo scopo?

Proteggere la pagina o il sito da elementi di disturbo

Come?

• Comportamento neutrale e conciliante

• Consapevolezza dell’irreversibilità delle proprie

decisioni

• Rispetto per gli utenti

2.1

DO’S

•Evitare citazioni

•Preferire comunicazione diretta-verbale con gli interessati

•Menzionare motivazioni fondate

•Stabilire regole chiare

•Essere reperibili il più possibile

•Comunicare per tempo modifiche importanti

•Cancellare contenuti come estrema ratio

•Consentire critica e divergenza di opinione

•Demandare ad altri i propri compiti se non si è in grado

di garantire neutralità

2.1

DONT’S

•Non modificare contenuti senza autorizzazione del content

manager (su un sito) o dell’autore di tali contenuti (in un

forum o blog).

•Non cancellare mai nulla a meno che non ne esistano serie

ragioni

•Non tenere condotte differenti con utenti differenti.

•Non imporre la propria opinione

•Non agire su impulso emotivo

•Non pubblicare contenuti irrilevanti

•Non utilizzare linguaggio inappropriato

2.1

Tipologie di moderatore.

• Legislativo:

Controlla che la netiquette e il regolamento del forum/del

sito vengano rispettati e capiti dagli utenti.

Si dedica maggiormente alle questioni tecniche.

• Comunicatore

Si occupa della gestione di alterchi tra utenti, Incarna la

figura di guida, aiuto e supporto.

• Moderatore Propositivo

Si dedica alla promozione di iniziative per lo sviluppo e la

crescita del sito/del forum/della piattaforma per cui opera.

2.1

Moderazione severa VS liberale.

+ Qualità nei contenuti = - Utenti

Nei forum e blog privati la scelta del livello di

controllo è a totale discrezione di chi gestisce i

contenuti:

Moderazione meno severa = partecipazione

più democratica ma anche maggiori disordini

2.1

4 passi della moderazione diretta.

• Comunicazione

• Ricerca di compromesso

• Misure sanzionatorie:

– Demotion

– Probatory period

• Misure punitive estreme:

– Strumento di Ban, temporaneo o permanente. Legato al nome utente o all’IP

2.1

La moderazione dei

contenuti nei SOCIAL

Barriera all’accesso: registrazione necessaria

Esenzione di responsabilità: termini di utilizzo

Community Standards

Sistema integrato: Pre-moderazione/Moderazione distribuita

Controllo reciproco degli utenti sui contenuti

Politiche differenziate geograficamente

Tutela minori

Strumenti per denunciare abusi

Strumenti generali.2.2

2.2

Protegge:

•Proprietà intellettuale

•Privacy

•Sicurezza personale

•Problema Fanpage/Spam: “spammatori” professionisti.

Obbligo di registrazione con dati reali

•Problema della Censura:

• Gestione da parte di un team di moderatori (ditta di

Outsourcing) delle segnalazioni fatte dagli utenti stessi.

• Prese di posizioni su questioni sensibili demandate a piani

più alti della gestione contenuti.

• Scelte condizionate dall’area geografica.

FacebookCensura:

•Nudo - Violenza

•Incitamenti all’odio o all’autolesionismo

•Minacce

•Sostegno a organizzazioni terroristiche

Lo “spam” Belen Rodriguez3.3

2.2

Principale sostenitore di una politica social atta a tutelare la libertà

di espressione, ma con alcune problematiche:

•Problema relativo all’anonimato e alla proliferazione di troll

Algoritmo che premia i contenuti di maggior interesse per

provare a combattere il fenomeno

•Problema relativo al proliferare di fenomeni di harassment

Strumento di segnalazione abusi/ Blocco utente: policy anti

minacce.

•Problema “censura politica”

Nascita del modello twitter dal dicembre 2014

Twitter

2.2

Censura di video contenenti:

•Contenuti che contravvengono alle norme in difesa dei copyright.

•Contenuti che mostrano atti di eccessiva violenza.

•Contenuti di carattere sessualmente provocante.

•Contenuti che incitano a comportamenti autolesionisti o lesivi.

•Spam o frodi.

Modalità di protezione da contenuti “forti”

Filtro Minori e sistema di segnalazione abusi

Ogni utente è moderatore all’interno del proprio canale

https://www.youtube.com/watch?v=zv4f3Kgg6GI

Youtube

2.2

•Strumento cancellazione commenti- denuncia abusi

•No spam

•No minacce o contenuti discriminatori.

•No contenuti di nudo, totale o parziale

•No contenuti crudi o che incitino alla violenza

•Moderazione Distribuita spontanea.

Instagram

2.2

Lo scopo del sito è quello di scrivere domande sul profilo degli

altri membri.

Il servizio è basato principalmente sull'anonimato:

è possibile scrivere le domande in forma anonima sulla bacheca

degli altri utenti e seguire i propri amici senza che loro lo

sappiano. Per rispondere alle domande è necessario

registrarsi al sito.

Il sito, nelle «condizioni di utilizzo», stabilisce che gli utenti

di Ask.fm devono avere almeno 13 anni

Altri esempi di

moderazione dei

contenuti

Blog e aggregatore di notizie Statunitense. Tra i più

autorevoli e visitati.

•Adotta una politica severa di pre-moderazione

•Sistema di ranking dei contributi, selezione commentatori

affidabili.

•Garanzia dato dall’obbligo di registrazione con dati personali

reali.

2.3

Sito Internet di social news e intrattenimento

Sistema di upvoting/downvoting - Organizzazione del sito in aree

di interesse

Pochi vincoli alla pubblicazione di contenuti:

•No informazioni non relative a personaggi pubblici

(Caso Fappening)

•No spam (?)

•Vincoli anti pedopornografia introdotti solo dal 2012 (Fenomeno

Jailbait).

2.3

Sito Imageboard caratterizzato dalla presenza bacheche

tematiche, ognuna di esse dotata di una specifica

regolamentazione dei contenuti pubblicabili. Gli utenti postano

nel totale anonimato.

La bacheca /b/ detta Random è conosciuta per l’estrema scarsità

di restrizioni relative ai contenuti ivi pubblicabili. La quasi totalità

dei meme che circolano su internet è nata qui.

Fenomeni critici: Diffusione materiale pedopornografico-

Fappening – allarmismo.

2.3

2.3

Sito web informativo su argomenti di carattere tecnologico

organizzato secondo come un weblog

Sistema di moderazione Trust Based:

• Valutazione di un contenuto influenzata dal rating di chi lo

pubblica. (Karma)

• Sistema di meta-moderazione

Critiche sulla faziosità dei contenuti.

Relazionarsi con gli utenti:

L’importanza per le aziende

“Spesso dimentichiamo che l’utente che entra in contatto con noi, con la pagina Facebook, il profilo Twitter e così via, è un essere umano, non solo un follower o un fan, e non bisogno trattarlo come se fosse un numero da mostrare con orgoglio, in una versione social del ’vediamo chi la fa più lontano’”.

Francesco Ambrosino, blogger di Ninja Marketing (primo blog di marketing in Italia, fonte Wikio)

3.0

1) Umanizzare il brand

Un’azienda non può più proporsi ai potenziali

clienti come un mero fornitore di prodotti o

servizi, ma deve diventare un punto di

riferimento capace di risolvere quel problema

specifico che gli viene presentato;

3.0 Perchè è importante?

2) Fidelizzare il cliente

Chi acquista un prodotto o paga un servizio vuole sentirsi

coccolato, seguito, assistito, non solo durante la

transazione commerciale, ma anche nella fase di fruizione

e utilizzo;

3.0 Perchè è importante?

3) Veicolare un messaggio

L’interazione aumenta la diffusione del

messaggio, perché i clienti fanno da cassa di

risonanza, mostrandolo a persone che

l’azienda non aveva ancora raggiunto;

3.0 Perchè è importante?

4) Far crescere il brand

I contenuti diffusi

attraverso i social devo

avere come obiettivo

principale non la vendita

del prodotto/servizio, ma

la crescita del brand, che

deve acquisire

autorevolezza in rete;

3.0 Perchè è importante?

Ma…

La creazione di una FanPage implica però

la gestione di un’appendice dell’azienda

che deve essere protetta in quanto sua

immagine estesa perchè si può incorrere a

messaggi di SPAM, pubblicità di altri

organi, linguaggio scorretto e ingiurioso,

che finiscono per ledere la reputazione

proprio nel “cuore” del social facendo

percepire il brand come poco attento alle

esigenze del cliente.

3.1

Cosa può succedere ai profili “non

moderati”.3.1

Social Media Security

Applicare le tecniche di base della sicurezza anche alla gestione

dei contenuti generati dagli utenti ed alle properties

dell’azienda, controllando che nulla possa andare storto.

3.1

Social Media Security: come?

Di solito, i più importanti blog e siti

Internet hanno una sezione apposita

dove viene enunciata la “Policy”

dell’azienda riguardo la moderazione dei

commenti.

Policy = una policy è un repertorio di limiti che sono stabiliti attraverso un processo decisionale collettivo

3.1

Esempio: “Il Post.it”3.1

Moderazione: esempi negativi…3.1

…ed esempi positivi: il fenomeno

Morandi.3.1

COME comportarsi sui social.3.1

Il fenomeno Morandi

I punti di forza del fenomeno Morandi possono essere trasformati in consigli per rafforzare la presenza in rete di un brand, attraverso il miglioramento del rapporto con il pubblico:

1) Sii autentico

2) Sii positivo

3) Emoziona

4) Sii costante

3.1

I servizi esterni per la moderazione

dei contenuti.

Molte volte i responsabili della moderazione

dei suddetti siti hanno impiegato ore per a

“pulire” le pagine di Facebook dagli insulti,

dovendo talvolta chiuderle per tutta la

durata della gestione della problematica.

Operazione che, se non dotati di strumenti

adeguati, può risultare in un impegno e

problema quasi insormontabile.

Per questo nascono aziende dedicate come…

3.2

L’azienda italiana: “The Fool”

Leader nel settore con clienti importanti:

3.2

The Fool: i servizi3.2

The Fool: Conversation Flow

The Fool eroga un servizio di moderazione tramite la

piattaforma proprietaria «Conversation Flow».

3.2

The Fool: Moderazione 24h su 243.2

The Fool: gli strumenti per moderare3.2

The Fool: gli strumenti per moderare3.2

The Fool: gli strumenti per moderare3.2

L’azienda inglese: “Tempero”3.2

Tempero: gli obiettivi 3.2

Diversi tipi di moderazione

In base al contenuto (immagini o video) e al rischio dell’azienda

(basso e alto), Tempero suggerisce uno specifico programma di

moderazione.

3.2

Pre-ModerationI contenuti vengono

revisionati e approvati prima di essere pubblicati

VantaggiAlta protezione,

soprattutto per bambini e persone vulnerabili.

Consigliata per le nuove communities

SvantaggiNon sempre possibile,

maggiori costi ed esperienza interattiva

molto ridotta

Post-ModerationI contenuti vengono pubblicati

retroattivamente, cioè i moderatori possono

modificare o rimuoverli se non conformi alla “guidelines”

VantaggiBuon livello di

protezione, ottimo livello di interazione

SvantaggiMaggior tempo speso

per la moderazione che non può essere gestita solamente dal software

Reactive ModerationQuando sono gli utenti

stessi a segnalare commenti non idonei.

VantaggiGarantisce un

adeguato livello di protezione, aiuta le nuove communities

SvantaggiNon rimuove tutti i

contenuti non idonei, modifiche e risposte

non professionali

3.2 Tempero: tipi di moderazione.

Tempero: il processo inverso I

Nel caso in cui l’azienda non conosca il tipo di moderazione adeguato, può scoprirlo attraverso un questionario a cui rispondere sul sito stesso.

3.2

3.2 Tempero: il processo inverso II

3.2 Tempero: il processo inverso III

Tempero: calciatori discriminati sui

social3.2

Il moderatore: un lavoro “discusso”

“Moderating discussion forums is about more than being an internet policeman. There are dark times, but plenty of laughs too”

Dawn Kitchener, moderatrice di eModeration

3.3

Vita di un moderatore.

“Non sappiamo molto di come si sentono le persone che per lavoro controllano e sorvegliano Internet. Diamo per scontato che loro provino a difenderci dai peggiori contenuti, ma raramente ci chiediamo come si sentano quando lo fanno e come il farlo possa avere effetti sulla loro serenità e sulla loro salute mentale.Il loro ruolo nel controllare Internet è largamente sottovalutato. I moderatori non sono che una piccola forza nell’inerzia che guida il web, e le infrastrutture che abbiamo costruito per rendere le comunità online più sicure sono, nella migliore delle ipotesi, una promettente improvvisazione: nella peggiore sono inefficaci in modo quasi imbarazzante.”

Alex Chrum, ex moderatrice di Debate.org

3.3

• http://www.wired.it/internet/web/2015/02/02/i-cms-aiutano-diffondere-liberta-parola-nel-web/

• http://www.slideshare.net/stubbornella/dont-feed-the-trolls• http://www.sitepoint.com/spam-roi-profit-on-1-in-125m-response-rate/• http://www.theemailadmin.com/2010/09/6-different-types-of-spam-and-

how-to-avoid-them/• http://www.trendmicro.com/us/security-intelligence/current-threat-

activity/global-spam-map/• http://uk.businessinsider.com/statistics-on-twitter-abuse-rape-death-threats-

and-trolls-2015-4?r=US• https://darkpsychology.co/troll/• https://today.yougov.com/news/2014/10/20/over-quarter-americans-admit-

malicious-online-comm/• http://nobullying.com/what-is-flaming/• https://wanderingcritic.wordpress.com/2008/09/14/examples-of-flaming-

insults/• https://www.giustizia.it/giustizia/it/mg_2_5_12.wp• http://www.urbandictionary.com/

Bibliografia/SitografiaParte 1

-

• http://www.slideshare.net/anporto/xing-training-sullamoderazioneonline

• http://www.slideshare.net/twentyfirst/community-moderation-best-practice?related=1

• http://www.slideshare.net/AlisonMichalk/governance-engagement-in-online-communities?related=1

• http://www.slideshare.net/newmarketinglabs/webinar-11182010-moderation

• http://resources.mediatrust.org/moderating-social-media/

• https://www.facebook.com/communitystandards

• http://gawker.com/5885714/inside-facebooks-outsourced-anti-porn-and-gore-brigade-where-camel-toes-are-more-offensive-than-crushed-heads

• https://blog.twitter.com/2014/building-a-safer-twitter

• https://blog.twitter.com/2015/policy-and-product-updates-aimed-at-combating-abuse

• http://www.zdnet.com/article/how-twitter-is-fighting-trolls-while-balancing-free-speech/)

• http://www.youtube.com/yt/policyandsafety/it/communityguidelines.html

• https://www.youtube.com/static?template=terms

• http://www.huffingtonpost.it/p/moderazione-dei-commenti.html

• http://it.wikipedia.org/wiki/4chan

• http://www.4chan.org/rules

• http://www.theverge.com/2015/5/14/8606923/reddit-anti-harassment-policy

• https://instagram.com/about/legal/terms/

• http://it.wikipedia.org/wiki/Ask.fm

Bibliografia/SitografiaParte 2-

Bibliografia/SitografiaParte 3

• http://www.socialmediacoso.it/2014/10/30/limportanza-delle-interazioni-sui-social-network/

• http://thefool.it/social-media-security-limportanza-di-moderare-facebook-e-la-propria-fanpage-per-lazienda/

• https://www.facebook.com/events/1382764255387514/• http://www.csoonline.com/category/social-networking-security• http://www.ilpost.it/moderazione-commenti/• http://www.lastampa.it/2015/04/25/multimedia/tecnologia/a-lezione-da-

gianni-le-regole-social-di-morandi-YQGfrU5m81nNqNfe60Vy8L/pagina.html• http://music.fanpage.it/gianni-morandi-fenomeno-facebook-da-un-milione-

di-fan/• http://thefool.it/• http://tempero.co.uk/homepage/italian• http://www.theguardian.com/money/2012/feb/03/a-working-life-website-

moderator• http://www.wired.com/2014/10/content-moderation/

-