HNI CNRS Paris Intelligence Artificielle et Robotique: Quelle éthique? Raja Chatila Institut des Systèmes Intelligents et de Robotique (ISIR) Sorbonne Université, Paris, France [email protected] Membre de la CERNA, Commission de réflexion sur l’éthique de la recherche en sciences et technologies du numérique Chair, The IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems 1 Colloque Humain et Numérique en Interaction CNRS, 1/02/2019
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
HNICNRSParis
Intelligence Artificielle et Robotique: Quelle éthique?
RajaChatilaInstitutdesSystèmesIntelligentsetdeRobotique(ISIR)
SorbonneUniversité,Paris,[email protected]
MembredelaCERNA,Commissionderéflexionsurl’éthiquedelarechercheensciencesettechnologiesdunumérique
Chair,TheIEEEGlobalInitiativeonEthicsofAutonomousandIntelligentSystems
�1
ColloqueHumainetNumériqueenInteractionCNRS,1/02/2019
HNICNRSParis
Applications de l’IA et de la robotique: production industrielle, milieux hostiles, santé, services, transport, agriculture, construction, loisirs, défense,…
•Remplacerleshumains(tâchesrépétitives,dangereuses)
•Assisterleshumains
•Réhabiliter/augmenterleshumains
�2
HNICNRSParis
Questions “Ethiques, Légales Sociétales”• Transformationdutravail• Vieprivéeetsurveillance• Donnéesetbiais
• Transparence,explicabilitédesalgorithmes• Décisionsautonomesetresponsabilité
• Autonomiehumaineetmanipulation• Liensaffectifs,attachement,isolement• Dignitéhumaine• Transformationdel’êtrehumain
• Statutdurobotdanslasociété
• Usagesetapplicationsproblématiques(robotssexuels,armesautonomes,…)
�3
HNICNRSParis
HLEG-AI: “Ethical Purpose”
• “Togiveanexampleoftherelationshipbetweenfundamentalrights,principles,andvaluesletusconsiderthefundamentalrightconceptualisedas‘respectforhumandignity’.Thisrightinvolvesrecognitionoftheinherentvalueofhumans(…).• Thisleadstotheethicalprincipleofautonomywhichprescribesthatindividualsarefreetomakechoicesabouttheirownlives,beitabouttheirphysical,emotionalormentalwellbeing(i.e.sincehumansarevaluable,theyshouldbefreetomakechoicesabouttheirownlives).”
�4
The European Commission’s
HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE
DRAFT
ETHICS GUIDELINES FOR TRUSTWORTHY AI
Working Document for stakeholders’ consultation
Brussels, 18 December 2018
HNICNRSParis
Thèse de Church-Turing, 1936
• Lesfonctionscalculablessontexactementlesfonctionsrécursives(c-à-dreprésentablesparunalgorithmequisetermine)• LaMachineUniverselledeTuringestunmodèle“mécanique”delacalculabilité
�5
AlonzoChurchAlanTuring
HNICNRSParis
Naissance de l’Intelligence Artificielle: Dartmouth College 1956
JohnMcCarthy NathanielRochester
ClaudeShannonMarvinMinsky�6
Thestudyistoproceedonthebasisoftheconjecturethateveryaspectoflearningoranyotherfeatureofintelligencecaninprinciplebesopreciselydescribedthatamachinecanbemadetosimulateit.Anattemptwillbemadetofindhowtomakemachinesuselanguage,formabstractionsandconcepts,solvekindsofproblemsnowreservedforhumans,andimprovethemselves.
HNICNRSParis
Le robot
•Machinematériellesituéedanslemonderéel.
•Unparadigmedel’IA“incarnée”ou“encorporée”
• L’intelligencevuecommel’interactionrationnelleaveclemonderéel
• Perception;actionetmouvement;décision.
• Communication,interaction.
•Apprentissage.• Capacitésdéveloppéesàdiversdegrésdecomplexité,permettantdesniveauxd’autonomiedifférentsdelamachine.
�7
HNICNRSParis
Une définition
• UnsystèmenumériqueintelligentestnécessairementunemachinedeTuringUniverselle• Ilestbasésurdesalgorithmesutilisantdesdonnéespourrésoudredesproblèmes[plusoumoins]complexesdansdessituations[plusoumoins]complexes.• Cesystèmepeutinclurelacapacitéd’améliorersesperformancesenclassantouencombinantdesdonnées(p.ex.,parapprentissage)ouenévaluantdesactionsantérieurespourensélectionnerdemeilleures(p.exparapprentissageparrenforcement).
�8
HNICNRSParis
Les machines peuvent-elles prendre des décisions éthiques?• L’autonomiehumaineestfondéesurl’agentivité-lacapacitédedélibéreretd’agirintentionnellementetenconscience.• Lesprocessuscomputationnels(algorithmes)sontconçusparleshumains;lesmachinesopèreàunniveausyntactique.• Lesmachinesn’ontpasunecompréhensiondesfondementsdeleursdécisionetdeleursactions.• Ladignitéhumainen’estpasexplicitementdécriteetnepeutêtreappriseàunemachinesyntactique.• Lesmachinesnepeuventpasdéterminerlesvaleurséthiques.
�9
HNICNRSParis
La question de confiance
• Lesmachinesnepeuventpasprendredesdécisionséthiques
• …maisellespeuventeffectuerdeschoixetdesactionsquiontdesconséquenceséthiques
• Confiance:lesmachinesdoiventrespecterlesvaleursdécritesparleshumains.
�10
HNICNRSParis
Principes éthiques (AI4People; HLEG-AI)
• Principedebienfaisance:“fairelebien”• Principedenon-malfaisance:“nepasfairelemal”• Principed’autonomie:“préserverl’agentivitéhumaine”• Principedejustice:“êtrejuste”• Principed’explicabilité:“agirdemanièretransparente”
�11
HNICNRSParis
Principes éthiques pour les systèmes Autonomes et Intelligents (IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems)
• Respectdesdroitshumains• Améliorationdubien-êtrehumain• Autonomiehumainedanslamaîtrisedesdonnéespersonnelles,del’identiténumérique• Aptitudeàl’objectif:lesystèmedoitêtreconçudemanièreàaccomplirlatâcheattendueetêtreprévisible• Transparence:Ildoittoujoursêtrepossibledeconnaîtrelestenantsdesdécisions• Responsabilité(Accountability):Laresponsabilitédemeurecelledeshumainsquisontderrièrelessystèmes• Anticiperetprévenirlesmes-usagesetconséquencesinattendues• Compétencehumainedanslacréationetl’utilisationdessystèmes
�12
�13
Attributes
Threats
Means
Dependability
AvailabilityReliability
Safety
Confidentiality
Integrity
Maintainability
FaultPrevention
FaultTolerance
FaultRemoval
FaultForecasting
Faults
Errors
Failures
Dependability:DeliveryofservicethatcanjustifiablybetrustedResilience:Thepersistenceofservicedeliverythatcanjustifiablybetrusted,whenfacingchanges.
Laprieetal.2000
HNICNRSParis
Résilience
�14
Apprentissage pour reconnaissance de visages
�15
Biais• Donnéesreprésentantlapopulations?• Choixdescaractéristiquesextraites?• Significationdesclasses?• …
Confiancedel’utilisateurdanslesrésultats• Transparence:qu’est-cequ’unvisage?
Architecture• Structureetparamètresduréseau?
HNICNRSParis
Les algorithmes ignorent le contexte
�16
Ningbo,Chine
(image:Weibo)
Implementation
• Ethiquepardesign:Méthodesdedéveloppementpourconcevoirdessystèmesrespectantlesprincipesetlesvaleursquiendécoulent.• Vérificationetvalidationadaptéesausystèmesapprenants• Définitiondestandardspourfaciliterledéveloppementdessystèmes• Certification:autoritésetorganismescapablesdefournirdesmoyensetméthodesdetestetdevalidationpourétablirlaconfiance.
�17
Related Documents
