Top Banner
ВИДЫ НЕЙРОННЫХ СЕТЕЙ И ИХ ПРИМЕНЕНИЕ Ефремова Наталия N-TechLab
59

Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Apr 16, 2017

Download

Engineering

Ontico
Welcome message from author
This document is posted to help you gain knowledge. Please leave a comment to let me know what you think about it! Share it to your friends and learn new things together.
Transcript
Page 1: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

ВИДЫНЕЙРОННЫХСЕТЕЙИИХПРИМЕНЕНИЕЕфремоваНаталия

N-TechLab

Page 2: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Введение

ОсновныеобластипримененияDeepLearning архитектур:

• обработкаизображенийивидео,• распознаваниеобразов,• распознаваниелиц,• распознаваниеэмоций,• робототехника,• игры,• распознаваниеобразоввмедицинскихприложенияхит.п.

Page 3: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Структурадоклада

• Чтотакоенейронныесети:• биологические• искусственные

• Какиеархитектурывкакихобластяхприменяются:• нейронныесети свёртки(CNN)• рекуррентныенейронныесети(RNN)• обучениесподкреплением

• Нестандартноеприменениенейронныхсетей

Page 4: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Нейронные сети:что это такое

Page 5: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

БиологическиеНС

«что?»UngerleiderandMishkin (1982)GoodaleandMilner(1992)

«где?»

Page 6: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

БиологическиеНС

PrimaryVisualCortex

InferotemporalCortex

PosteriorParietalCortex

LGN

Retina

SC

Pulv

LGN-lateralgeniculatenucleusPulv- pulvinarSC- superiorcolliculusGoodaleandHumphrey (1998)

Page 7: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

HubelandWiesel(1968)

стимул

отклик клетки приизменении ориентациистимула

активация

V1

Page 8: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Свойстварецептивныхполей

Kobatake,Tanaka(1995)

Page 9: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Обработкаизображений:биологическиеНС

IT V2-V4 V1

Page 10: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

простыепризнакиточки

ориентация,цвет

цвет,основные2Dи3Dформы,кривизна

сложныепризнакииобъекты

Свойствазрительныхзон

сложныефигурыиобъекты

Page 11: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

f

T

E

Перcептрон…простейшийаналогбиологическойНС

Page 12: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

входнойслой

слойскрытыхнейронов

выходнойслой

Page 13: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

входнойслойслоискрытыхнейронов

выходнойслой

Page 14: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)
Page 15: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Fischler and Elschlager, 1973

Page 16: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)
Page 17: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)
Page 18: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

FACE

Page 19: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

X W Y

Page 20: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

X”*”W=Y

Page 21: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

2”*”W=6

Page 22: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Error=2”*”W- 6

Page 23: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Error

Time

1 2 3 4 5 6 7

Error=|2*w– 6| =0,001

W=2.9999?

Page 24: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Перерисовать!7скрытыхслоев,650000нейронов,60000000параметровОбучаласьна2GPUнеделю

Page 25: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Распознавание образов до 2010 года:самые большие базы изображений

PASCALVOC(20категорий)

CALTECH101(101 категория)

Page 26: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

От20классовкмиллионам

14,197,122изображений22Ккатегорий

www.image-net.org

Page 27: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

От20классовкмиллионам

14,197,122изображений22Ккатегорий

www.image-net.org

Page 28: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

От20классовкмиллионам

2016competitionwinner:

269layerR-CNNnetwork

GatedBi-directionalCNNforObjectDetectionX.Zeng etal.,TheChineseUniversityofHongKong,Sensetime Group

Page 29: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Архитектура

Input Simplefeatures

Moreabstractfeatures

Mappingfrom

featuresOutput

(Goodfellow, 2016)

input to layer

a

a. convolution stage: affine transformb. detector stage: non-linearity (rectified linear)c. pooling

b c

next layerconvolutional layer

Page 30: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

convolution pooling convolution pooling

полносвязные слои

прогноз

Распознавание

входноеизображение

Page 31: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

convolution pooling convolution pooling

полносвязные слои

прогноз

Распознавание

входноеизображение

feedforward

M.Zieler,CVSS2015

Page 32: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

convolution pooling convolution pooling

полносвязные слои

прогноз

Распознавание

входноеизображение

H.Lee etal.,2011

Page 33: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Человеквсеравнораспознаетлучше?

Cadieu etal.,2014

ITcortex

V4

Zeiler&Fergus2013

Krizhevsky etal.2012

HMO

Acuracy

chance

Cadieu etal.,2014

Page 34: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Классическиезадачи

Page 35: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Стандартныезадачи,решаемыеCNN

• идентификацияобъектов(objectdetection)• семантическаясегментация(semanticsegmentation)• распознаваниелиц(facerecognition)• распознаваниечастейтелачеловека(humanbodypartsrecognition)• семантическоеопределениеграниц(semanticboundarydetection)• выделениеобъектоввнимания(saliencyestimation)• выделениенормалейкповерхности(surfacenormalestimation)

Page 36: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

(Kokkinos, 2016)

КлассическиезадачидляCNN

q low-q mid-q high-levelvisiontasks

Page 37: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

(Kokkinos, 2016)

КлассическиезадачидляCNN

Page 38: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Поискпобазеданных

БД

Имя/Профиль

Page 39: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)
Page 40: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Сценарии

идентификация

? ?

верификация

Page 41: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)
Page 42: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

NTechLab

q 95%- точностьидентификацииприпоискепо10K фотоq 99%- точность верификацииq устойчивостькизменениям

Точность

Page 43: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

NTechLab

q 95%- точностьидентификацииприпоискепо10K фотоq 99%- точность верификацииq устойчивостькизменениям

Точность

Page 44: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

NTechLab

q 0,5секнаобработку1млрдфотоq уникальныйиндексбыстрогопоискаq дескрипториспользует20Гбпамятидляхранения500млнфотоq работасизображенияминизкогокачества

q 95%- точностьидентификацииприпоискепо10K фотоq 99%- точность верификацииq устойчивостькизменениям

Производительность

Точность

Page 45: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

NTechLab

q 0,5секнаобработку1млрдфотоq уникальныйиндексбыстрогопоискаq дескрипториспользует20Гбпамятидляхранения500млнфотоq работасизображенияминизкогокачества

q 95%- точностьидентификацииприпоискепо10K фотоq 99%- точность верификацииq устойчивостькизменениям

q загрузка фоточерезweb-интерфейс,AndroidилиiOSq 250млнфото100млнпользователейq первоеместонаMefaFace

Производительность

Точность

MegaFaceFindFace.ru

Page 46: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Рекуррентныесети

q RNN: распознаваниеестественногоязыкаq Обработкавидеоq Новыйподход:распознаваниеизображений

Page 47: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Рекуррентныесети

Page 48: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Рекуррентныесетидляраспознаванияэмоцийнавидео

Kahouetal.,2015

input

Hiddenlayer

Output

Page 49: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Обучениесподкреплением

q Робототехникаq Atariq AlphaGo

AndrejKarpathyblog (2016)

V.Mnih 2015

Page 50: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

J.Leitner (2014)

Page 51: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Levineet.al(2016)

Page 52: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Нестандартныерешения

Page 53: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)
Page 54: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Прогнозированиеуровнябедности

M.Xieetal.,2016

Page 55: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Семантическаясегментация3D-изображений

(Kamnitsas etal.2016)

Page 56: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Семантическаясегментация3D-изображений

Page 57: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Спасибоза внимание!

www.ntechlab.ruwww.findface.prowww.findface.run.efremova@ntechlab.com

Page 58: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Ссылки:

www.theguardian.comwww.nvidia.com www.image-net.orgBlaise Agüera y Arcas:How computers are learning to be creative (TED talk)

Page 59: Нейронные сети: практическое применение / Наталия Ефремова (NTechLab)

Вопросы?