2017년 3월 17일 금요일

#19. 꼭 딥러닝을 써야하나요?

많은 분들이 딥러닝을 배우고 계시고 이것을 현업에 적용하고 싶어 하십니다. 그래서 모두 건너뛰고 딥러닝만 파고 계시는 분들도 많죠.

하지만 딥러닝이 꼭 다른 머신러닝들보다 좋은 성능을 내느냐 하면 그건 아닙니다. 머신러닝엔 "더 좋은" 알고리즘이란건 없고 본인의 문제에 "더 적합한" 머신러닝이 있을 뿐이니까요.

"머신러닝은 프로그래밍이 아니라 디버깅이다."

이 말의 의미를 한번 알아보시죠.



[비디오]



[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

#18. Accuracy, Precision, Recall


머신러닝에서 '어떤 머신러닝 방법을 적용하느냐'보다 더 중요한 것이 어쩌면 '어떤 distance function / metric을 사용했느냐'일텐데요, 오늘은 distance / metric에 대해서 알아봤습니다.

구체적으로는 L1, L2, L-infinite와 같은 Lp norm을 쉬운 예로 설명해봤고요, 머신러닝 문제에 있어 representation 설정에 따라 distance가 달라짐을 보였죠. 그럼 즐겁게 들어주세요~



[비디오]


[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.



2017년 3월 8일 수요일

GAN 그리고 Unsupervised Learning

이 글은 테크M에 기고한 글을 백업한 글입니다. 

머신러닝 분야 세계 최고 학회중 하나인 NIPS에서 중국 바이두의  인공지능연구소장, 앤드류 응은 최근 머신러닝 트렌드를 이렇게 진단했다.
“이미지 인식, 음성 인식 등 이제까지 구글 같은 거대기업에 돈을 벌어 준 딥러닝 기술은 컨볼루셔널 신경망(CNN)이나 재귀신경망(RNN) 같은 지도학습 기술이었습니다. 하지만 올해 나온 많은 논문들이 보여주는 것처럼, 미래의 딥러닝을 이끌 기술은 생성적 적대신경망(GAN)과 같은 비지도 학습이 그 주인공이 될 것입니다.”
이러한 견해를 보이는 것은 응 교수만이 아니다. 많은 딥러닝 연구자들이 꾸준히 제기하고 있는 이야기이기도 하다. 지도학습은 많은 데이터의 지원을 받는 환경에서는  좋은 성능을 내지만, 그것은 미래 인공지능이 다뤄야 할 ‘경험의 진정한 이해’와는 큰 차이가 있다는 것이다. 
“내가 다시 창조할 수 없는 것은 내가 이해한 것이 아니다.”      (물리학자 리처드 파인만) 
많은 인공지능 전문가들이 미래를 이끌 것으로 전망하는 비지도 학습은 생성 모델(generative model)과 긴밀히 연결돼 있다. 기존의 CNN과 RNN은 이미지를 구별하고 음성을 인식하지만 이미지나 음성을 만들지는 못했다.
하지만 미래의 생성 모델을 활용하면 직접 이미지와 음성을 만들어낼 수 있다. 단순히 알아보기만 하던 것에서 한 발 나아가 직접 그림을 그릴 수 있는 것으로의 진보, 그 중심에는 2014년 처음 발표된 GAN이 있다.
GAN의 개발자이자 오픈AI의 수석연구원인 이안 굿 펠로우. 그는 캐나다 몬트리올대학 벤지오 교수의 애제자이기도 하다.
GAN의 개발자이자 오픈AI의 수석연구원인 이안 굿 펠로우. 그는 캐나다 몬트리올대학 벤지오 교수의 애제자이기도 하다.

2017년 3월 6일 월요일

#17. 가깝다, 멀다 - Distance / Metric의 개념


머신러닝에서 '어떤 머신러닝 방법을 적용하느냐'보다 더 중요한 것이 어쩌면 '어떤 distance function / metric을 사용했느냐'일텐데요, 오늘은 distance / metric에 대해서 알아봤습니다.

구체적으로는 L1, L2, L-infinite와 같은 Lp norm을 쉬운 예로 설명해봤고요, 머신러닝 문제에 있어 representation 설정에 따라 distance가 달라짐을 보였죠. 그럼 즐겁게 들어주세요~



[비디오]


[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

2017년 2월 21일 화요일

#16. 딥러닝을 위한 하드웨어 구성하기


원래 모든 것들이 다 '장비빨(?)'이 서야 할 맛이 나는 법이죠. 딥러닝을 공부하려는 분들 중 아마도 '나 컴퓨터부터 다시 사야겠어'라고 생각하시는 분들 많을 것 같은데요, 그래서 오늘은 딥러닝을 위해 컴퓨터를 구성할 때 무엇들을 고려해야하는지 부품 가이드를 만들어봤습니다. 이제 돈만 준비하시면 됩니다 ㅎㅎ

* 테리의 딥러닝 머신 (2016년 11월 블프 때 싸게 구매함)

TV겸 모니터 : Samsung 4K TV KU6270 40인치 (52만)
CPU : Intel i5 6600k 3.90Hz 6M cache (27만)
CPU쿨러 : Cooler Master Hyper 212 Evo (4.5만)
GPU : MSI GeForce GTX1070 8GB (52만)
메인보드 : ASUS Z170-A (16만)
메모리 : G SKILL DDR4 16GB (10만) SSD : Crucial MX300 750GB (14만)
파워 : Corsair CX750 750W (8.5만)
케이스 : Deepcool V2 ATX (7.5만)
스피커 : Logitech Z506 5.1ch 150W (7.5만)
키보드 : Corsair Strafe Mechanical, 체리 청축 (8.5만)
마우스 : Logitech M705 (3.5만)
=========================
총 211만원!



[비디오]


[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

2017년 2월 20일 월요일

#15. SNS로 딥러닝 소식 팔로우 하는 법

머신러닝 관련 최신 뉴스나 논문들을 귀신같이 접하고 페이스북 등에 공유하는 분들을 보면 '저 사람은 저런 소식을 어떻게 알았을까' 궁금증이 드는 경우가 많은데요, 사실 머신러닝 뉴스/논문 팔로우하기 그렇게 어렵지 않습니다. 제가 SNS로 머신러닝 소식 쫓는 법을 알려드리지요 ^^

* 오늘 소개해드린 사이트들
https://scholar.google.co.kr/
https://arxiv.org/
http://www.arxiv-sanity.com/
https://www.reddit.com/r/MachineLearning/
https://twitter.com/TerryUm_ML/
https://www.facebook.com/terryum.io/
https://github.com/terryum/awesome-deep-learning-papers/
https://www.fb.com/groups/TensorFlowKR/
https://www.fb.com/groups/AIKoreaOpen/
https://www.fb.com/deeplearningtalk/




[비디오]



*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

2017년 2월 18일 토요일

#14. 딥러닝 논문리스트로 레딧 1위한 썰, 뒷이야기


이번에는 강의가 아니고요, 제가 얼마전 "2012년~2016년 가장 많이 인용된 딥러닝 논문 탑 100"을 깃허브에 발표해 화제가 되었던 썰을 풀려고 합니다. 이 레포로 연구자들의 주목도 많이받고, 쩌는 연구자들에게 메일/메시지들도 많이 받고 했었죠 ㅎㅎㅎ "테리의 딥러닝 강의"가 아닌 "딥러닝 토크"답게 이런 썰도 종종 풀어보겠습니다 >.<

[GitHub] "The Most Cited Deep Learning Papers" by Terry
[Reddit] https://www.reddit.com/r/MachineLearning/


[비디오]


[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

2017년 2월 10일 금요일

#13. 딥러닝은 피쳐러닝이다.


지난번엔 딥러닝과 머신러닝의 차이에 대해 설명을 드렸는데요, 그 설명이 조금 어려우셨을 수도 있을 것 같아 다시한번 쉽게 설명해 보았습니다. 딥러닝은 머신러닝의 과정에서 '피쳐 생성(선택)' 부분까지도 데이터 학습에 맡긴 것이라고 볼 수 있겠죠. 더 자세한 내용은 영상을 참고해주세요~


[비디오]


[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

2017년 1월 26일 목요일

#12. 딥러닝과 머신러닝의 관계


많은 사람들이 "머신러닝", "딥러닝"이란 단어를 사용하지만, 그 둘의 차이를 정확히 설명할 수 있는 일반인들은 그리 많지 않은 것 같습니다. 과연 둘의 관계는 무엇인지, 나는 머신러닝을 해야하는지 딥러닝을 해야하는지 한번 알아보도록 하겠습니다.


[비디오]


[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

2017년 1월 18일 수요일

#11. Domain-Adversarial Neural Network (2014)


테리의 딥러닝 토크 처음으로 논문 리뷰를 해보았습니다. 뉴럴넷을 가지고 domain adaptation을 구현하는 Domain-Adversarial Neural Network(2014)라는 논문인데요, 이 논문을 통해 domain adaptation이란 문제는 무엇이고, 이 논문에선 어떻게 해결하고 있는지 같이 알아보시죠.

-  Ajakan, H., Germain, P., Larochelle, H., Laviolette, F. and Marchand, M., 2014. Domain-adversarial neural networks. arXiv preprint arXiv:1412.4446.
[Link] http://arxiv.org/pdf/1412.4446

- Ganin, Y., Ustinova, E., Ajakan, H., Germain, P., Larochelle, H., Laviolette, F., Marchand, M. and Lempitsky, V., 2015. Domain-adversarial training of neural networks. arXiv preprint arXiv:1505.07818.
[Link] http://arxiv.org/pdf/1505.07818

- Ben-David, S., Blitzer, J., Crammer, K. and Pereira, F., 2007. Analysis of representations for domain adaptation. Advances in neural information processing systems, 19, p.137.
[Link] http://machinelearning.wustl.edu/mlpapers/paper_files/NIPS2006_838.pdf



[비디오]






[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

2017년 1월 13일 금요일

#8,9,10. 머신러닝의 종류


머신러닝은 따지고 보면 정말 다양한 문제들을 다루고 있습니다. 크게는 Supervised와 Unsupervised로 나뉘는데요, 각각에 대해서 알아보고, 그 아래에는 어떤 카테고리들이 있는지도 함께 알아보시죠.







[비디오]




[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

#7. Ng교수의 교훈: 데이터셋만 잘 나눠도...


머신러닝계의 셀럽이라고도 할 수 있는 스탠포드/바이두의 Andrew Ng 교수가 Bay Area Deep Learning School과 NIPS2016에서 렉쳐를 가졌는데요, 그곳에서 강조한 내용은 다름아닌 "데이터셋 나누기"였습니다. 이게 도대체 뭐길래 이렇게 강조를 한 것일까요



[비디오]


[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[rsshttp://t-robotics.blogspot.kr/feeds/posts/default

2016년 12월 27일 화요일

#6. 에러 해부학: Bias-Variance Trade-off


머신러닝을 하면 필연적으로 예측값과 참값 사이의 에러가 존재할 수 밖에 없는데요, 그렇다면 이 에러는 과연 어디로부터 오는 것일까요? 에러의 구성요소를 한번 분석해 보겠습니다. 머신러닝 이론적으로도 의미가 큰 Bias-Variance Trade-off에 대한 내용입니다.



[비디오]


[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.



2016년 12월 24일 토요일

#5. Training/Test/Validation Set : 오버피팅을 피하는 방법


오버피팅은 머신러닝에 있어서는 꼭 극복해야 할 산이죠. 그렇다면 이 문제는 어떻게 극복할 수 있을까요? 오버피팅을 다루기 위한 Training set / Test set / Validation set 이용방법을 알아보도록 하겠습니다.



[비디오]


[슬라이드]



*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.




#4. 오버피팅 (Overfitting): 누구나 처하게 될 문제


오버피팅(overfitting)은 머신러닝 100년 한 사람도 꾸준히 고민해야 하는 사항입니다. 머신러닝 연구자라면 누구나 처하게 되는 오버피팅 문제, 과연 오버피팅이란 무엇일까요?



[비디오]


[슬라이드]



*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.




2016년 12월 20일 화요일

#3. 머신러닝 / 딥러닝 강의 7가지 추천!


머신러닝 / 딥러닝 강의 7가지를 추천해드립니다.

1. Coursera machine learning 강좌 https://www.coursera.org/learn/machine-learning
2. Udacity deep learning 강좌 https://www.udacity.com/course/deep-learning--ud730
3. Mathematical monk 유투브 강좌 https://www.youtube.com/playlist?list=PLD0F06AA0D2E8FFBA
4. Stanford CNN 강좌 http://cs231n.stanford.edu/
5. Bay area 딥러닝 스쿨 https://www.youtube.com/channel/UCb7PaTJYueRh6Y5rQ7h3U3w
6. 딥러닝 서머스쿨 https://sites.google.com/site/deeplearningsummerschool2016/schedule
7. 테리의 기계학습 입문 https://youtu.be/j3za7nv7RfI



[비디오]

[슬라이드]


*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.



#2. 머신러닝, 그 느낌적인 느낌


대체 머신러닝은 어떤 일을 하는 걸까요?

대충 감이라도 잡으면서 머신러닝을 이용합시다~



[비디오]

[슬라이드]



*  테리의 딥러닝 토크
[youtube] https://www.youtube.com/playlist?list=PL0oFI08O71gKEXITQ7OG2SCCXkrtid7Fq 
[facebook] https://www.facebook.com/deeplearningtalk/

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.