Computer ETHIcs - unimi.ithomes.di.unimi.it/sassi/EticaInformatica_Lezione1_2011.pdf · Introduzione [Jonas] La tecnica moderna ha trasformato la natura dell‟agire umano le sue

COMPUTER ETHICS

“It is not enough that you should understand about applied

science in order that your work may increase man‟s blessings.

Concern for man himself and his fate must always form the

chief interest of all technical endeavors.”

Albert Einstein

Roberto Sassi A.A. 2010/2011

Introduzione

[Jonas] La tecnica moderna ha trasformato la

natura dell‟agire umano

le sue azioni non lasciano più immodificata la natura

Non è più “piccolo se commisurato agli elementi”

La “responsabilità” ha nuove dimensioni

Nuovi portatori di diritti, ad es. la natura

Responsabilità nell‟epoca della tecnica

forme della responsabilità nell‟ambito dell‟informatica

Introduzione

Le seconde due letture erano prese da: Theodore Kaczynski, “Industrial Society and Its Future” (“Unabomber

Manifesto”)

Kaczynski è un assassino, colpevole di 3 ominicidi e 16 attentati tramite mail-bomb. È un moderno “luddista”

Hans Moravec, “Robot: Mere Machine to Transcendent Mind”

Moravec è un professore di robotica alla Carnegie Mellon University

Similmente alcuni credono nella cosiddetta “singolarità” “Within thirty years, we will have the technological means to create superhuman

intelligence. Shortly after, the human era will be ended. ” Vernor Vinge, 1993 (prof. di Matematica e Informatica, S. Diego State Univ.)

“The singularity is supposed to begin shortly after engineers build the first computer with greater-than-human intelligence. That achievement will trigger a series of cycles in which superintelligent machines beget even smarter machine progeny, going from generation to generation in weeks or days rather than decades or years. The availability of all that cheap, mass-produced brilliance will spark explosive economic growth, an unending, hypersonic, technoindustrialrampage that by comparison will make the Industrial Revolution look like a bingo game.” Glenn Zorpette, IEEE Spectrum, 6/2008

Introduzione

Ma ci sono anche posizioni scettiche:

[Video] “The Singularity: Neither Heaven nor Hell”, Rodney Brooks, MIT [© IEEE Spectrum]

Alfred Nordmann, “Singular Simplicity”, IEEE Spectrum6/2008

This is part of IEEE Spectrum's SPECIAL REPORT: THE SINGULARITY

Take the idea of exponential

Introduzione

Alcune delle posizioni che abbiamo visto sono

Inaccettabili (come essere d‟accordo con un assassino?)

Improbabili? (materiale per un film di fantascienza?)

Ma:

L‟uomo ha effettivamente distrutto altre specie

La trasformazione delle realtà da parte dell‟ ICT è sotto inostri occhi

Vale la pena confrontarsi con queste tematiche per averne una visione critica!

Riferimento: Bill Joy, “Why the Future Doesn't Need Us”

Un‟etica per l‟informatica?

Ma serve davvero?

Prima di tentare una definizione di computer ethics

partiamo da alcuni esempi per valutarne la

rilevanza e necessità (la lista NON è esaustiva!)

Crimini informatici

Riservatezza delle informazioni

Proprietà intellettuale

Responsabilità professionale

Globalizzazione

Computer e lavoro

Riferimento: “Computers and Information Ethics”, Stanford Enciclopedia of Philosophy

Crimini informatici

Accesso non autorizzato a risorse informative

Hacker

Cracker

Virus / Worms / Trojans / …

Distruzione di informazioni

Modifica non autorizzata di informazioni

Pubblicazione di informazioni private

Truffe informatiche

Clonazione di carte / Phishing / Phreaking / …

Riservatezza delle informazioni (1/2)

Semplicità e efficienza a memorizzare, trasferire, incrociare enormi quantità di informazioni

un rischio per tutte quelle informazioni che si vogliono mantenere riservate (es. dati medici)

Negli anni „60 il governo US cominciò ad utilizzare grandi database e ciascun cittadino ha un ID

dati anagrafici, tasse, servizio militare, etc

Sindrome “grande fratello”: anni „70 prime leggi a protezione della privacy

Profiling degli utenti web, etc

Riservatezza delle informazioni (2/2)

Privacy?

(mantenere il) “controllo delle informazioni personali”

“accesso riservato alle informazioni personali”

Anonimato

utile può mantenere la privacy

(ma) può essere sfruttato per operazioni illecite

Proprietà intellettuale (1/2)

Proprietà intellettuale del software

R. Stallman (Free Software Foundation): inaccettabile, tutte le informazioni devono essere libere

(molti altri): le software house non investirebbero nellacreazione di nuovi programmi senza IP.

Copie personali?

Di che cosa si può essere proprietari:

codice sorgente?

algoritmo?

look and feel?

Proprietà intellettuale (2/2)

… ma un brevetto su di un algortimo impedisce a

chiunque altro di utilizzarlo

si rimuove parte della matematica dal pubblico dominio …

un “patent seach” oggi costa circa 40k euro: impossibile

pensare di verificarlo per ogni aspetto

Le grandi aziende si fronteggiano allestendo enormi portafogli di

brevetti che servono come deterrente

Poco pratico per le piccole aziende

I programmatori dipendenti “perdono” parte della loro

“invenzione” (la soluzione diventa dell‟azienda per cui lavorano e

che detiene l‟IP)

Responsabilità professionale

I professionisti informatici collaborano a progetti in un ampio spettro di contesti e hanno responsabilità dirette verso

Imprese di cui sono dipendenti

Impiegati che dirigono

Committenti

Altri professionisti con cui collaborano

La società in genere

Da alcuni decenni grosse organizzazioni professionali (ACM, IEEE) hanno istituito codici di condotta etici per i loro associati

Globalizzazione

Internet connette tutto il mondo

Se una cosa illecita nel paese A avviene tramite un

server nel paese B, A può intervenire?

Es: Yahoo France

Opportunità di educazione enormi

Digital divide può acuire le già rilevanti differenze

Nord-Sud del mondo

Computer e lavoro

Automatizzazione [cybernetics] industriale

Riduce i costi

Aumenta la standarizzazione dei prodotti

Elimina posti di lavoro

Modifica la tipologia del lavoro

Uomo non più faber ma controllore di una macchina

Minor soddisfazione, maggior alineazione

I possibili impatti dell‟informatica sono elevatissimi …

(abituati ai personal/net/palmtop computer) l‟informatica può sembrare “innocua”, ma …

Therac-25 [1985-1987]: macchina per la radio terapia. 6 incidenti di cui 3 mortali

“They determined that data entry speed during editing was the key factor in producing the error condition: If the prescription data was edited at a fast pace […] the overdose occured”. Nancy Laveson, Safeware: System Safety and Computers

Mars Climate Orbiter [NASA]. Un errore al software dinavigazione, navigava a 60 km invece di 140 km di orbita

HyperVM “Zero-Day Exploit” cha ha coinvolto circa 100000 siti web e ha forse portato l‟autore al suicidio

Computer ethics: il punto di vista di Norbert Wiener

La storia della CE si fa partire dal libro “The Human Use of Human Beings (1950, 1954)” di Norbert Wiener

Wiener è considerato il padre della “cibernetica”, la scienza interdisciplinare che studia i sistemi di regolazione retroazionati (anello chiuso)

Non utilizzò direttamente il termine CE

La strada seguita da Wiener:

La natura dell‟uomo evidenzia lo scopo della vita umana …

… ne conseguono dei “principi di giustizia” per la società intera …

… da cui derivare una strategia pratica per la soluzione di nuovi problemi etici

Riferimento: Terrell Ward Bynum, “Norbert Wiener‟s Foundation of Computer Ethics”

[https://www.southernct.edu/organizations/rccs/resources/research/introduction/bynum_wiener.html]

La teoria di Wiener (1/3)

La capacità di adattarsi ed apprendere è insito nella fisiologia umana:

“Cybernetics takes the view that the structure of the machine or of the organism is an index of the performance that may be expected from it. [] man‟s advantage over the rest of nature is that he has the physiological and hence the intellectual equipment to adapt himself to radical changes in his environment. The human species is strong only insofar as it takes advantage of the innate, adaptive, learning faculties that its physiological structure makes possible.”

L‟uomo è sostanzialmente un essere capace di processareinformazioni: questo è lo scopo della sue vita.

Lo scopo viene derivato dalla stessa fisiologia:

“I wish to show that the human individual, capable of vast learning and study, which may occupy almost half of his life, is physically equipped, as the ant is not, for this capacity. Variety and possibility are inherent in the human sensorium –and are indeed the key to man‟s most noble flights – because variety and possibility belong to the very structure of the human organism.”

La teoria di Wiener (2/3)

Una buona società è quindi tale se mette l‟uomo in grado di esprimere il suo potenziale di elaborare informazioni.

I principi etici fondamentali sono dunque:

Principio di libertà

per ciascun uomo di esprimere il suo potenziale

Principio di equità

ciò che è giusto rimane tale se A e B si scambiano i ruoli

Principio di compassione

buona volontà verso il prossimo

Principio di minima limitazione della libertà

le regole sociali devono limitare la libertà solo quando strettamente necessario

Procedura da seguire (3/3)

In pratica quando si presenta un nuovo problema eticoderivato dall‟introduzione dell‟ICT

1. Chiarire eventuali ambiguità

2. (Se possibile) contestualizzare il problema nella etica e pratica vigente

3. (Altrimenti) rivedere le vecchie norme estendendole o introducendo nuove norme

In sostanza, la teoria di Wiener

Etica “globale”

Non mediata da esperti (va applicata le dove le contraddizioni etiche sorgono)

Ha lo scopo di “to advance and facilitate the good consequences of ICT while preventing or minimizing the harmful ones”

E dopo?

Le tesi di Wiener erano troppo innovative

i primi computer elettronici furono sviluppati attorno al 1945!

Anni ‟60-‟70:

primi crimini informatici (rapine a banche)

invasione nella privacy dei cittadini US da parte dei centri di calcolo governativi

nascita dei primi codici di condotta etica ICT (ACM) e alle prime leggi sulla privacy (USA)

1976-1985

Ricominciano le riflessioni sul tema da parte di studiosi: Weizenbaum, Maner, Bynum

Si comincia a notare che alcuni problemi etici sono resi dalla presenza dell‟ICT più complessi o perlomeno trasformati

Riferimento: Terrell Ward Bynum, “A Very Short History of Computer Ethics”

[https://www.southernct.edu/organizations/rccs/resources/research/introduction/ bynum_shrt_hist.html]

1985, anno di maturità

Due eventi segnano la diffusione della CE

1985: Special issue del Journal of Metaphilosophy

1984: Primo libro di testo: “Computer Ethics” Deborah G. Johnson [ora è alla IV edizione del 2009]

D. Johnson:

Computers “pose new versions of standard moral problems and moral dilemmas, exacerbating the old problems, and forcing us to apply ordinary moral norms in uncharted realms”

In sostanza, l‟ICT non crea nuovi problemi etici ma costringe a ripensare in termini ampliati a temi tradizionali (proprietà, privacy, responsabilità, …)

Iniziano a diffondersi due filoni di pensiero:

L‟ICT crea nuovi problemi etici

L‟introduzione dell‟ICT evidenzia nuove sfaccettature in problemi etici tradizionali

CE: altre definizioni

Maner:

CE examines “ethical problems aggravated, transformed or created by computer technology.”

Bynum:

CE “identifies and analyzes the impacts of information technology on such social and human values as health, wealth, work, opportunity, freedom, democracy, knowledge, privacy, security, self-fulfillment, etc.”

Gotterbarn:

CE should be viewed as a branch of professional ethics, concerned primarily with standards of good practice and codes of conduct for computing professionals

Riferimento: Bynum & Rogerson (ed.), “Computer Ethics and Professional Responsibility”, Wiley-

Blackwell, 2003

J.H. Moor, “What is computer ethics?”, 1985

“… computer ethics is the analysis of the nature and social impact of computer technology and the corresponding formulation and justificationof policies for the ethical use of such technology.”

Scenario tipico:

Computers nuove capacità/possibilità nuove scelte! “vuoto normativo” (policy vacuum)

CE serve a creare nuove norme (singolo / società)

Il vuoto normativo è accompagnato da un “vuoto concettuale”

CE serve a proporre un contesto concettuale per nuovi problemi

nuove capacità/possibilità nuovi valori (es: valore del software)

CE serve a chiarire quali sono i nuovi valori

CE non è un insieme fisso di regole!

Riferimento: J. H. Moor, “What is computer ethics?”,

[https://www.southernct.edu/organizations/rccs/resources/research/introduction/ bynum_shrt_hist.html]


L‟informatica è una tecnologia rivoluzionaria?

Non per l‟abbondanza e l‟economicità [penne]

Non per le innovazioni ingegneristiche [molti altri elettrodomestici possono essere “piccoli, veloci, potenti e facili da usare”]

Piuttosto perché il computer è “logicamente malleabile”

[sintatticamente] varietà dei possibili stati e operazioni

[semanticamente] gli stati logici possono rappresentare qualunque cosa (non necessariamente oggetti numerici)

È uno strumento universale, una specie di “materia prima” che può essere utilizzata a piacere, quello che le macchina e vapore sono state per la rivoluzione industriale.

La definizione che scegliamo condizionerà il nostro approccio in termini di regole


Rivoluzione industriale, due stadi:

[introduzione], sec. XVIII: vengono sviluppate le invenzioni e i processi principali / l‟industrializzazione riguarda settori limitati

[permeazione], sec. XIX: il numero di fabbriche aumenta significativamente / inurbanizzazione / problemi sociali / cambiamentenelle attività umane e nelle istituzioni (sindacati, sistemi sanitari, etc.)

Secondo Moor anche la computer revolution seguirà la stessa dinamica

[introduzione] iniziata negli anni „40 sta tuttora proseguendo

Computers strumenti per fare delle operazioni

[permeazione] la tecnologia informatica diventerà parte integrante della società e delle sue istituzioni

Ridefinizione del concetto di lavoro

Ridefinizione del concetto di denaro

Ridefinizione del concetto di educazione


Perché i computer introducono problemi etici e altre

tecnologie no?

Sono logicamente malleabili

Le operazioni sono “invisibili”

Invisibilità:

Abusi invisibili [se il codice è conosciuto solo dal programmatore!]

I “valori della programmazione” sono invisibili [le scelte che fanno

i programmatori nello scrivere programmi sono simili a quelle di

un artigiano: sottointendono valori. Es: SABRE / Therac-25]

Calcoli invisibili [la capacità di calcolo è oltre le capacità di

controllo umane. Ci dobbiamo “fidare” dei computers? Es:

dimostrazione della mappa con 4 colori]

Invisibilità …

Fonte: http://www.tgcom.mediaset.it/cronaca/articoli/articolo452709.shtml

Dal 1985 ad oggi …

CE si è diffusa come disciplina autonoma

È al crocevia tra materie scientifiche ed umanistiche e affascina anche per la ricomposizione dei sapere necessari a trattarla

Che futuro?

Un unico destino: scomparire come etica applicata autonoma

Due teorie contrapposte:

[Górniak-Kocikowska] da branca dell‟etica applicata si espanderàad una teoria etica globale (anche geograficamente). È dunque unaMACROETICA

Come le teorie di Kant si sono sviluppate a seguito ai cambiamenti portati dall‟invenzione della stampa, la computer revolution porterà ad una nuova teoria etica. Ma l‟informatica oggi non ha frontiere e così sarà per l‟etica che ne deriverà: globale.

[Johnson] la CE si integrerà nei vari sistemi etici locali che sonosempre presupposti. È dunque una MICROETICA

Information ethics

Considerazioni:

Il contesto delle informazioni è percepito come non-reale (non umano / non fisico) le azioni sono spesso percepite come non-reali

La vastità del contesto fa si che le azioni vengano percepite come componenti microscopiche di un sistema ben più ampio mancanza di senso di responsabilità

Le competenze tecniche sono molto disparate le azioni non sono “simmetriche” (hacker può trovare moralmente giusto in senso utilitaristico sfruttare le suo competenze per il suo benessere).

Information Ethics: l‟approccio di Floridi

Se CE rimane action-oriented

problem solving

empirica e analogica

decision-making

non è altro che una microetica: un etica applicata, pratica, dipendente dal contesto, al più professionale.

Floridi tenta un approccio ben diverso

Definisce una Macroetica [Information Ethics] su cui fondare la Computer Ethics

La strada scelta non parte dalla pratica: è una teoria ontologica

Information Ethics: “philosophical foundation of CE”

Realizza indirettamente le previsioni della Górniak

Breve parentesi: sistemi etici classici

Etica delle Virtù

Data una certa azione A:

si elencano i vizi e le virtù collegate ad A

A è eticamente accettabile se massimizza le virtù e

minimizza i vizi del soggetto che la compie

L‟attenzione è sullo sviluppo morale del soggetto che

compie l‟azione

Schematizzando: è un etica orientata all‟agente (colui che

compie l‟azione), intra-soggettiva / antropocentrica /

individualistica


Consequenzialismo

Es: Utilitarismo edonistico, si agisce per massimizzare la “felicità / piacere” personale/collettivo e di ridurre la “sofferenza”


si individuano i soggetti che saranno coinvolti da A

per ogni soggetto, si ipotizza quanta “felicità” guadagnerà o perderà in seguito ad A

L‟azione A è moralmente buona se massimizza la felicità (aggregata)

La bontà di una azione si misura dal risultato (a posteriori)

L‟attenzione è sull‟interazione dell‟agente con chi gli sta intorno

Schematizzando: è un etica orientata all‟azione stessa, inter-soggettiva / antropocentrica


Deontologismo [etica del dovere morale]

Es: imperativo categorico Kantiano. Il concetto di “dovere” è prioritario rispetto ad altri.


si individuano il principio che sottende ad A

si generalizza il principio

L‟azione A è moralmente buona se il principio generalizzato può

essere assunto come universale

Una azione è morale in base ai principi che la motivano (a priori)

Come per il consequenzialismo, l‟attenzione è sull‟interazione dell‟agente con la società

Schematizzando: è un etica orientata all‟azione stessa, inter-soggettiva / antropocentrica

Sistemi etici non-classici

Etica Medica

Bioetica

Etica Ambientale

L‟attenzione non è più sull‟agente ma si sposta verso il “paziente” (colui che riceve l‟azione)

Ogni forma di vita ha in sé proprietà e valore morale che va rispettato

Data una certa azione A ne misuriamo il valore etico in funzione dell‟effetto sul “paziente”

Schematizzando il focus è:

Etiche classiche: il carnefice

Etiche non-classiche: la vittima

L‟ecosistema

Tutte le forme di vita

Tutti gli uomini

Tutti gli uomini “coscienti”

Schematizzando …

Elite

Infosfera: Tutto ciò che è

Tutto cio che contiene informazione

Information Ethics

infosfera [minuscolo] … is static and […] it roughly corresponds to “cyberspace”. [It] is the

totality of informational agents and objects, services, relations, processes as well as the space within which they interact. It is a wider concept than “cyberspace” but only because it includes offline and analogue domains as well, like the books in a library or the shopping list attached to the fridge in the kitchen; otherwise, it is not particularly innovative.

Infosfera [maiuscolo] … is synonymous with the whole reality. It is a way of referring to what

there is, by adopting an informational perspective. This means equating the Infosphere to what philosophers call Being (again, capital B meant). “Infosphere” is a very powerful concept. It means having a unified vocabulary to talk about DNA, computers, physical particles, avatars, social environments, humans, companies or webbots as agents, interactions as forms of communication, biosphere, ecosphere and cyberspace, and so forth.

Fonte: http://it.toolbox.com/blogs/infosphere/professor-luciano-floridi-on-the-philosophy-of-the-infosphere-23608

Information Ethics

IE tende alla minimizzazione dell‟Entropia:

“entropy […] indicates the decrease or decay of information leading to absence of form, pattern, differentiation or content in the infosphere.”

“as the infosphere becomes increasingly meaningful and rich in content, the amount of information increases and entropy decreases, or as entities wear out, entropy increases and the amount of information decreases.”

Leggi morali fondanti:

0. entropy ought not to be caused in the infosphere (null law)

1. entropy ought to be prevented in the infosphere

2. entropy ought to be removed from the infosphere

3. information welfare ought to be promoted by extending (information quantity), improving (information quality) and enriching (information variety) the infosphere.

Information Ethics

Data una certa azione A essa è buona se

Rispetta la legge 0

AND rispetta almeno una delle altre

L‟attenzione si sposta verso l‟oggetto dell‟azione

l‟essere portatore di informazione è il minimo comune

denominatore di ogni entità: questi è degno di attenzione

morale

ogni “Essere” è anche un “corpo di informazioni”: teoria

etica ontologica

Information Ethics

IE

non è puramente conservativa come altre etiche “green”. Assomiglia all‟etica delle Virtù perché spinge ad una progettualità costruttiva

Similmente alle etiche utilitariste, una azione buona migliora l‟ambito in cui avviene (ma la valutazione è a priori)

Esempi pratici:

Privacy: non più trattato come problema di proprietà di una informazione. L‟informazione è parte del soggetto: la privacy non è altro che la difesa della propria integrità “fisica”

Vandalismo: le cose hanno un valore in sè

Morte: anche un cadavere ha dignità morale (informazione)

Computer ETHIcs - unimi.ithomes.di.unimi.it/sassi/EticaInformatica_Lezione1_2011.pdf · Introduzione [Jonas] La tecnica moderna ha trasformato la natura dell‟agire umano le sue

Documents