logo

Contact

If you want to contact us, please use following emails. Any enquiries will be welcomed. :)

Technical stuff


james@deepnumbers.com

Marketing stuff


jenny@deepnumbers.com

구글의 인공지능 칩셋 TPU 공개가 큰 사건인 이유

processor-578816_1280

구글의 인공지능 칩셋 TPU 공개가 큰 사건인 이유

5월안으로 끝내야 하는 프로젝트가 있음에도 불구하고 구글이 인공지능 칩셋 TPU를 공개했다고 하는 뉴스를 보고, 이 바쁜 와중에도 도저히 가만히 있을수 없어 생각나는 것들을 몇가지 적어본다.

인공지능 칩셋 TPU의 공개는 머신러닝의 역사에 큰 이정표를 남기는 중대한 사건으로 기록될 것이다.

왜냐하면 머신러닝을 활용하는데 있어서 두번째로 큰 걸림돌이 Training Time인데 칩셋을 이용하면 보다 저렴한 하드웨어에서, 훨씬 빠르게 머신러닝 모델들을 학습시킬 수 있기 때문이다. ( 물론 첫번째는 데이터!!!)

여러 머신러닝 알고리즘중에서도 계산량이 많기로 소문난, 즉 학습시간이 길기로 유명한 딥러닝을 생각하면 정말 일대의 사건이라고 할 수 있다.

더군다나 데이터가운데서 데이터가 큰 이미지를 다룬다고 하면 Training Time은 기하급수적으로 길어질 수 밖에 없다.

그리고 지금도 그렇지만, 앞으로는 더욱더 많은 데이터를 머신러닝에서 활용하게 될텐데, 이러한 상황에서 이를 빠른 시간내에 처리할 수 없게 된다면 머신러닝은 그림의 떡이 될 수도 있다. 마치 넷플릭스가 영화추천검색의 효율을 10%가량 높일 수 있는 알고리즘을 대회를 통해 얻었지만 쓰지 않는 것처럼…

딥러닝이 무덤에서 부활하게된 이유가 알고리즘의 개선도 있지만, 계산을 빨리 처리할 수 있는 하드웨어의 발전이라는 점도 큰 이유라는 것을 생각해보면 단순히 “구글이 재밌는 것을 많이하네”, 혹은 “구글이 인공지능에 신경을 많이 쓰네” 정도의 사건은 아니다.

(딥러닝은 알고리즘의 발전보다 하드웨어성능발전이 더 큰 역할을 했다에 500원 겁니다. ^^)

 

머신러닝은 인간의 기다림을 요구한다.

머신러닝은 인간의 기다림을 요구한다. 매우!!!

 

 

지금 내가 다루고 있는 금융데이터는 120MB, 10만건정도로 학습시키는데 대략 1주일정도의 시간이 걸린다.

1주일의 시간은 한번의 학습을 위해 필요한 시간이며, 쓸만한 모델을 얻기 위해서는 수십, 수백번, 재수없으면 수천번의 학습이 필요하다.

더욱이 1주일의 학습시간은 내가 하고 싶은 것을 다 하는 것이 아니고 학습시간단축을 위해 하고 싶은 몇가지 옵션은 생략한 상태이다.

학습 몇번시키면 계절이 바뀐다. 절대 농담이 아니다!!!

끝으로2015년 11월에 zdnet에 실린 Facebook CTO Mike Schroepfer의 이야기를 인용한다.

Learning time for AI is a big hurdle. Facebook’s research to improve speed and cut the learning time is a worthwhile effort. And if you had to pick one you’d go for any advancement that cuts the time to learn. Machines take time to ingest data as well as learn from it. In the enterprise context, you could implement a system and then hear “well the system is still learning” for months.

 

위 인용문의 핵심은 “for months”이다.!!!

 

기사 링크

http://www.zdnet.com/article/facebook-researchers-cut-artificial-intelligence-learning-time/

 

 

user-gravatar
안 명호

어느 날 알게 된 머신러닝에 흠뻑 빠져 그동안 애지중지하던 클라우드를 버리고 머신러닝으로 전향하였다. 이제 더는 다른 기술은 관심을 두지 않고 머신러닝 한길만으로 정했기에 머신러닝을 공부하며 어려운 수식들을 다시 보느라 고생하고 있지만, 하루하루 배워가는 지식에 행복해하며 지내고 있다.

No Comments

Post a Comment

Comment
Name
Email
Website