쉽게 풀어쓴 딥러닝(Deep Learning)의 거의 모든 것

요즘 딥 러닝(Deep Learning)이 핫합니다. 몇 년전부터 기계학습(Machine Learning)이 일반인들에게 알려지기 시작하더니, 지금은 기계학습의 한 종류인 딥 러닝이 아예 기계학습이란 단어를 대체할 듯한 기세인 듯 합니다. 특히 구글이 딥 러닝 전문가 기업인 딥 마인드(Deep Mind)를 인수하고, 페이스북이 딥 러닝 대가인 뉴욕대학의 얀 러쿤(Yann LeCun) 교수를 인공지능 센터장으로 모셔갔으며, 중국의 구글이라 불리는 바이두에서도 기계학습 분야의 스타 학자 스탠포드 대학의 앤드류 응(Andrew Ng) 교수를 모셔가는 등, 지금은 바야흐로 딥러닝 인재전쟁에 가까운 모습입니다.

페이스북 인공지능 연구소 수장, 얀 러쿤(Yann LeCun) 교수 (사진출처)

그렇다면 딥 러닝이란 과연 무엇일까요? 오늘은 딥 러닝의 전반적인 개념에 대해 거칠게 한번 훑어보도록 하겠습니다.

(업데이트) 최근 딥러닝의 기초부터 하나씩 이야기로 풀어가는 테리의 딥러닝토크를 연재하고 있습니다. 유투브로 딥러닝을 배워보시죠 ^^ 

(업데이트) 이 글의 후속편인 Convolutional Neural Network에 대한 이해가 업데이트 되었습니다. 이 글을 읽으신 후 꼭 한번 읽어보세요!

[로봇 강좌 2-5] Euler angle 오일러 각 회전

산업계에서 물체의 자세를 나타낼 때 자주 쓰는 방법 중 하나가 오일러 각인데요, 회전행렬과 오일러 각의 관계에 대해 알아보겠습니다. 

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

[로봇 강좌 2-4] Rotation matrix 회전행렬 (3)

회전행렬 그 세번째 시간! 회전행렬을 정의하는 법을 알아봅시다. 

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

Terry Taewoong Um (C.V.)

Terry Taewoong Um

Ph. D. Student,  University of Waterloo
Dept. of Electrical and Computer Engineering
Adaptive Systems Laboratory

Email: terry.t.um [at] gmail.com
[Google Scholar] [LinkedIn]

RESEARCH INTERESTS 
Machine Learning for Human/Robot Models, Machine Learning for Athletic Activity, Deep Learning for Motion Analysis/Generation, Learning Control

EDUCATION
University of Waterloo, Ph. D. Student                     2014 - present
 • Major: Electrical and Computer Engineering
 • Supervisor: Dana Kulić, Ph.D. [Link]

Seoul National University, M.S.                               2010
 • Major: Mechanical & Aerospace Engineering
 • Dissertation: Tangent space RRT with lazy projection for constrained motion planning [Link]
 • Supervisor: Frank Chongwoo Park, Ph.D. [Link]

Seoul National University, B.S.                                2008
 • Major: Mechanical & Aerospace Engineering
 • Minor: Computer Science & Engineering

RESEARCH / TEACHING EXPERIENCE 
Research Scientist                                                 2012 - 2014
Robot Learning Laboratory,  Medical Robotics Laboratory
Korea Institute Science and Technology (KIST), Seoul, Korea
• Conduct a research on transfer learning method for robot models
• Develop a upper limb power assistant robot

Research Engineer                                                 2010 - 2012
Mechanical R&D Center,  LIG Nex1 Co., Ltd., Gyeonggi, Korea
• Design a lower extremity exoskeleton for soldiers power augmentation
• Design a upper extremity exoskeleton for industrial laborer assistance

Research Assistant                                                 2008 - 2010
Robotics Laboratory, Seoul National University
• Design planning and control frame work for a mobile manipulator, CIROS
• Conduct a research on novel planning algorithm for constrained motions

Teaching Assistant                                                 2008
Seoul National University
• Assisted “Introduction to Robotics” course

PUBLICATIONS 
International Journals 
B. Kim, T. T. Um, C. Suh, and F. C. Park, Tangent bundle-RRT: A randomized algorithm for constrained motion planning, Robotica, May 2014. [Link]

International Conferences 
T. T. Um, M. Park, and J. Park, “Independent Joint Learning: A novel task-to-task transfer learning scheme for robot models”, 2014 IEEE International Conference on Robotics and Automation (ICRA2014), June 2014. [Link]

C. Suh, T. T. Um, B. Kim, H. Noh, M. Kim, and F. C. Park, Tangent space RRT: A randomized planning algorithm on constraint manifolds, 2011 IEEE International Conference on Robotics and Automation (ICRA2011), Shanghai China, May 2011. [Link]

T. T. Um, C. Suh, B. Kim, and F. C. Park, Tangent space RRT with lazy projection: An efficient planning algorithm for constrained motions, 12th International Symposium on Advances in Robot Kinematics (ARK2010), Portorož Slovenia, June 2010. [Link]

Domestic Conferences
T. T. Um, J. Ryu, and J. Baek, Development of a lower extremity exoskeleton for soldiers power augmentation, 2012 Autumn Conference of the Korean Society of Precision Engineering, Gwangju Korea, Oct 2012.

T. T. Um, J. Ryu, and J. Baek, Kinematic compatibility evaluation of end-effector constrained exoskeleton by using manipulability ellipsoid, 2012 Korean Robotics Society Annual Conference, Gangreung Korea, June 2012.

TECHNICAL SKILLS
Programming Languages: C/C++ (MFC), Java, Python, Matlab, LabView
Design Tools:  Solidworks, CATIA, AutoCAD, ANSYS, RecurDyn, ADAMS
Electronics: DAQ card, Real-Time Controller, Motors, Sensors (F/T Sensor, Encoder, IMU, and etc.), EMG sensors, Oscilloscope, Stereo Vision, etc.

PARTICIPATION IN GRANT-FUNDED RESEARCH 
Human-centered Interaction for Coexistence, 2013 – 2014
• Developed learning scheme for human motion recognition
• Funded by Ministry of Education, Science and Technology, Korea

Activities of Daily Living (ADL) Support System for the Elderly and Disabled, 2012 – 2013
• Designed mechanical system of the upper-extremity exoskeleton
• Funded by Ministry of Education, Science and Technology, Korea

Development of Control Framework for Fast-Responding Locomotion of Exoskeletons, 2011 – 2012
• Designed mechanical and electrical system of the lower-extremity exoskeleton
• Funded by Agency for Defence Development, Korea

Development of Wearable Robot for Industrial Laborer Assistance, 2010 – 2012  
• Designed control framework of upper-extremity exoskeleton for industrial laborers by using various HRI sensors
• Designed mechanical system of the upper-extremity exoskeleton
• Funded by Ministry of Knowledge Economy, Korea

Motion Planning and Control for Mobile Manipulator and Humanoid, 2008 – 2010
• Designing planning and control framework of a mobile manipulator, CIROS, which has a 3D vision and compliant grasping system
• Funded by Ministry of Knowledge Economy, Korea

LSTM(딥러닝)의 창시자 Schmidhuber의 인터뷰 (상)

(원문) "Juergen Schmidhuber's answers from the Reddit AMA" by FastML 

딥러닝의 큰 축 중 하나는 바로 Time series data (또는 Sequence data)에 적합한 Deep Nerual Network인 Recurrent Neural Network (RNN)과 이것의 부흥을 일으킨 Long-term Short-term Memory (LSTM) 입니다. 세상에는 정적인 데이터도 많지만 사실 시간에 따라 변하는 동적인 데이터도 많습니다. 예를 들어 음성인식의 경우 "안녕하(  )요"라는 말을 들으면 우린 ( ) 안의 말이 "세"일 것이란 예측을 할 수 있는데, 이는 앞뒤 "문맥"을 통해 추론에 가능하기 때문이지요. 이렇듯 동적 데이터는 단지 그 순간만 볼 것이 아니라 연속된 데이터 속의 관계를 보아야 하는데요, 이를 추론하는 구조의 네트워크가 바로 RNN 입니다.

매 순간의 데이터를 길게 늘어놓은 RNN은 vanishing gradient 문제 등으로 그동안 외면받아왔지만 10여년 전부터 LSTM이라는 관문 유닛(gate unit)을 도입하면서 부터 큰 부흥이 일기 시작했는데요, 이 LSTM의 창시자가 바로 오늘 소개해드릴 Schmidhuber 교수님입니다. 딥러닝에 대해 학자 다섯 명을 꼽으면 꼭 들어갈 분이지요.

스위스 인공지능 연구소의 Schmidhuber 교수. 외국 교수들은 심지어 잘생기기까지 했다..

[로봇 강좌 2-3] Rotation matrix 회전행렬 (2)

회전행렬 그 두번째 시간! 회전행렬은 forward kinematics에 왜 필요한 걸까요? 차근차근 알아가보도록 하죠

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

[로봇 강좌 2-2] Rotation matrix 회전행렬 (1)

로봇 기구학의 가장 기본을 이루는 rotation matrix에 대해 알아봅시다. 근데 determinant 얘기하다가 시간이 다 가버렸네요 ㅎㅎ

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

[로봇 강좌 2-1] 조인트의 종류 & 간단한 Kinematics

오늘은 드디어 챕터 2 "Kinematics (운동학)" 강좌의 시작입니다. 가장 간단한 로봇의 Kinematics로 한번 스타트를 끊어보죠

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

[로봇 강좌 1-5] Kinematic-level 제어

Kinematics는 왜 배우는 것일까요? Kinematics를 배우면 로봇을 원하는 궤적을 따라 움직이도록 할 수 있다는데요, 이러한 kinematic level에서의 제어에 대해 알아보도록 합시다.

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

[로봇 강좌 1-4] Kinematics 기구학이란

우리는 앞으로 로봇의 많은 분야 중 내부 모델, 그 중에서도 kinematic model에 대해 집중적으로 배울텐데요, 과연 kinematic model이란 무엇인지 한번 알아봅시다

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

[로봇 강좌 1-3] 로봇공학의 연구분야들

로봇운용에 대한 큰 그림을 그렸던 지난 시간에 이어, 이번엔 로봇의 각 단계들에 필요한 구체적 학문들에 대해 알아보도록 하겠습니다. 이것을 알고나면 우리가 어떠한 것을 공부해야 하는지 대충이나마 알 수 있겠죠?

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

[로봇 강좌 1-2] 로봇은 어떻게 운용되는가

로봇이 기계와 가장 다른 점은 아마도 로봇 스스로 환경을 인식하고 판단을 내려 움직인다는 점일 것입니다. 로봇은 어떠한 큰 그림 속에서 움직이는 것일까요? 로봇 운용의 빅 픽쳐를 그려봤습니다.

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

[로봇 강좌 1-1] 로봇을 공부한다는 것

'로봇을 공부하고 싶다'라는 말은 사실 매우 모호한 말입니다. 왜냐하면 로봇은 매우 넓은 영역의 분야를 커버하고 있기 때문이죠. 로봇을 공부한다는건 어떤 의미인지 한번 알아봅시다.

* T-Robotics의 글은 facebook과 rss reader로도 받아보실 수 있습니다.

[facebook] http://facebook.com/trobotics

[rss] http://t-robotics.blogspot.kr/feeds/posts/default

추천! 로봇공학 / 기계학습 무료 교재(pdf) 15가지

Ebook 무료 책 보물창고인 꿀 사이트를 하나 찾았습니다! 정말 없는 책 없이 다 있네요! 진짜 꿀 사이트입니다!

     http://www.e-booksdirectory.com/
     http://www.onlineprogrammingbooks.com/

10줄로 끝내는 Robot Kinematics (로봇 기구학)

안녕하세요 오랜만의 T-Robotics 글입니다! 그동안엔 기사로만 찾아뵈었었는데 이론에 대한 갈증을 느끼시는 분들도 계실 것 같아 이 글을 마련했습니다. 바로 "20줄로 끝내는 Kinematics (기구학)"입니다!

(Rotation matrix (회전행렬) / Transformation matrix (변환행렬) 를 모르시는 분은 지난 글들을 먼저 읽어주세요)

[Link] T-Robotics, "저랑 야바위 한판 하실래요? Rotation Matrix"

[Link] T-Robotics, "로봇의 움직임을 알려주는 Kinematics"

7자유도 open chain (serial manipulator)의 모습 (사진 출처)

2015년 로봇분야 전망 - 드론, 무인자동차, 노동로봇, 의료로봇, 감정로봇

이 글은 테크앤비욘드에 기고된 글을 백업한 글입니다. 

2014년 스위스에서 열린 세계 모터쇼에 전시된 도요타의 미래차 FV2

구글의 새 로봇 수장, 제임스 커프너는 누구인가

2013년 많은 기대를 받고 구글 로봇사업의 총 책임자에 올랐던 ‘안드로이드의 아버지’ 앤디 루빈(Andy Rubin)이 2014년 10월을 마지막으로 구글에서 떠났습니다. 사실 2013년 3월 루빈이 구글의 로봇사업을 맡는다는 소식이 전해졌을 때만 하더라도 로봇계는 큰 꿈에 부풀어 있었습니다. 왜냐하면, 그가 작은 스타트업의 기술에 불과했던 안드로이드를 10억 명이 사용하는 모바일 플랫폼으로 변화시켜 놓은 주인공이었기 때문이죠.

안드로이드의 아버지, 앤디 루빈 (왼쪽 사진 출처: Joi Ito, CC BY)

캐나다 IKEA 방문기 & 한국 IKEA의 전망

오는 12월 IKEA 광명점이 처음으로 오픈한다고 합니다. (미주에서는 '아이케아'라고 읽더군요.) IKEA는 오픈 초기부터 외국보다 비싼 가격으로 IKEA 호갱 논란을 불러일으키고 있는데요, 이 외에도 동해의 일본해 표기, 창업주의 나치 추종 등의 문제로 오픈 전부터 한국을 참 시끌벅적하게 만드는 것 같습니다. (이에 대해 각 나라별 IKEA 가구가격을 다룬 Quarts의 기사에서는 한국 IKEA가 비싼 편이 아니라고 발표되기도 하였습니다.)

저도 지난 9월 캐나다에 도착하자마자 처음 한 일 중 하나가 바로 차를 빌려 IKEA에 다녀오는 것이었는데요, 그만큼 IKEA는 저 같은 1인 가구가 저렴한 가구들을 마련하기엔 참으로 적격인 곳이었답니다. 그래서 오늘은 두 달 전 제가 IKEA를 방문했던 이야기를 들려 드리려 합니다.

캐나다 토론토 근처의 IKEA Etobicoke점

꿈꾸는 공대생 - 서울대 김종원교수님

(원문) "꿈꾸는 공대생" by 서울대 기계항공공학부 김종원교수님 

서울대 기계항공공학부에는 힘들기로 악명높은 수업들이 있다. 1학년의 "기계제도", 2학년의 "창의공학설계", 3학년의 "설계 제조 및 실습"이 바로 그들인데, 이들 수업에서는 학생들이 로봇을 직접 설계하고 제작함으로써 설계와 제조에 관한 실질적인 지식을 습득한다. 다만 학생들은 밤샘 노동 후의 치맥 맛을 더욱 진하게 배우지만 말이다.

2005년 "설계 제조 및 실습"의 마지막 수업 풍경은 마치 고된 하루를 끝낸 노동자들의 모습과도 같았다. 다들 치친 몸을 의자에 맡긴 채 드디어 끝냈다는 보람을 나누고 있었으며, 한 학기를 함께 고생했던 팀원들과는 진한 전우애마저 흐르기도 했다. 3년의 혹독한 과정을 통해 점점 엔지니어의 모습을 갖춰가는 우리를 위해 이 과목을 담당하셨던 김종원 교수님께서는 특별한 강의을 준비해주셨다. 바로 "꿈꾸는 공대생이다."

그 강의의 울림이 얼마나 컸었는지 10년이 지난 아직도 그 강의 후의 감동이 기억날 정도이다. 모두들 숙연해졌고 다들 머리 속엔 내가 서울대 공대에 들어온 이유에 대해 생각하고 있었다. 비록 그 강의는 교수님의 제자이자 후배인 서울대 공대 학생들을 위한 내용이었지만, 그 내용은 미래를 고민하고 있을 많은 청춘들(특히 공대생들)에게도 큰 울림을 주리라 믿기에 교수님께서 강의내용을 직접 옮기신 글을 이곳에 전달해 드린다.

서울대 기계항공공학부 김종원 교수님

위키트리, 허핑턴포스트, 그리고 인사이트를 끊다

어린 시절, 내가 기억하는 아버지의 아침은 항상 조간신문과 함께 하루를 시작하곤 하셨다.

교양인의 끼니, 종이신문과 9시 뉴스 

우리 집엔 종합신문, 경제신문, 영어신문을 포함해 매일 서너 개의 신문이 날라오곤 했는데, 아버지께선 이른 새벽마다 뒷산에 다녀오셔서는 조간신문을 보신 후 출근을 하시곤 하셨다. 어린 나이에 등교 전 5분의 꿀잠이 고팠던 나로서는 아버지의 행동을 도저히 이해할 수 없었지만, 아버지는 아침 꿀잠보다도 빼곡한 활자들이 더 좋으셨는지, 늘 그렇게 조간신문과 함께 하루를 시작하셨었다.

조간신문을 읽는다는 건 세상의 흐름에 뒤처지지 않고 산다는 뜻이었고, 인터넷이 없던 시절 조간신문과 9시 뉴스를 챙겨보는 일은 교양인에겐 삼시 세끼 만큼이나 빼놓을 수 없는 필수 일과였다. 하지만 인터넷 시대가 도래한 후 무엇인가 많이 달라져버렸다. 달라져도 너무 이상하게 달라져버렸다.

우리는 더는 ‘네이버 뉴스’에 많은 시간을 쏟는 이에게 ‘교양인’이니 ‘시간 잘 썼느니’란 말을 붙이지 않는다. 예전, 조간신문을 통해 “새소식”을 가장 먼저 접하던 이들은 사회를 이끌어 가는 첨병 역할을 하였으나, 네이버 뉴스를 ‘새로 고침’하여 새소식을 가장 먼저 접하는 이들은 그저 이 시대의 잉여인간과 다르지 않았다. 무엇이 달라진 걸까? 도대체 무엇이 이렇게 잘못되어 버린 걸까?