SW/컴퓨터비전

컴퓨터비전 : 뉴런과 인공신경망 : 개념, 역사, 종류

얇은생각 2020. 3. 28. 19:30
반응형

뉴런이란?

뉴런은 전기 및 화학적 신호에 의해 정보를 처리하고 전송하는 전기적, 화학적 세포를 뜻한다고 합니다.

 

 

 

생물학 뉴런에서 인공 뉴런으로

https://www.slipp.net/wiki/pages/viewpage.action?pageId=26641189

 

이러한 생물학적인 뉴런을 인공적인 뉴런으로 추상화하면 다음과 같이 표현할 수 있습니다.

 

 

 

인공 신경망

뇌와 같은 생물학적 신경계에서 영감을 얻은 정보 처리 패러다임을 뜻합니다.

 

 

 

인공신경망

하나의 퍼셉트론이 XOR 문제를 해결하지 못하였습니다. 하지만, 여러 퍼셉트론의 조합으로 해결할 수 있습니다. 다층 퍼셉트론으로 인공지능은 새로운 국면을 맞이합니다. 그러나 여러 한계때문에 이러한 인공 신경망에 대한 연구는 활발히 진행되지 않았고, 1970~80년대에는 인공신경망의 겨울이 찾아옵니다. 

공학 연구원이 1969년에 역전파를 개발했지만 신경망 연구원들은 이를 무시하였습니다. 이러한 원인은 바로 기술적인 것입니다. 이 당시에는 인공신경망을 모델링하고 실험할 강력한 머신이 없었기 때문입니다.

히든 레이어 퍼셉트론 네트워크는 10년 동안 큰 인기를 얻게됩니다. 진정한 인공신경망의 탄생이라고 할 수 있습니다. 이에 따라 많은 인공신경망의 변종이 개발되었습니다.

불행히도 인공신경망의 이론적 토대가 부족하였기 때문에, 사람들은 관심을 잃게 되고 전통 머신러닝인 SVM (Support Vector Machine)으로 전환했습니다. SVM은 통계 학습 이론이 뒷받침하는 이론적이고 견고한 분류기입니다. 이로써 인공신견망의 두번째 겨울이 찾아옵니다. 하지만 오늘날 딥 러닝의 붐이 찾아오게되었습니다.

 

 

 

NN의 기본 단위-뉴런 모델

https://www.slideshare.net/hitechpro/introduction-to-spiking-neural-networks-from-a-computational-neuroscience-perspective뉴런 모델

 

뉴런 모델 역시, 세대를 거치면서, 진화하고, 더욱 더 효과적인 합습 훈련이 가능하도록 설계되고 있습니다. 일명 스파이킹(?) 뉴런 모델입니다.

 

 

 

생물학적 대 스파이킹 신경망

BM의 Neuromorphic CMOS IC (2014)는 4096 개의 코어와 256 개의 뉴런을 갖춘 칩으로 설계의 많은 코어 프로세서 네트워크가 포함되어 있습니다. 칩당 1 백만 개의 인공 뉴런과 2 억 6,700 만 개의 시냅스가 있다고 합니다. 우리의 뇌는 천억개 정도의 뉴런이 있다고 합니다. 인간의 뇌만큼 많은 뉴런이 포함되어 있는 칩이 있다면, 사람의 성능을 낼 수 있는 로봇들이 나올 수도 있을 것 같습니다.

 

 

 

신경망 vs 딥러닝

https://stats.stackexchange.com/questions/182734/what-is-the-difference-between-a-neural-network-and-a-deep-neural-network-and-w

 

신경망과 딥러닝의 차이는 무엇일까요? 단순하게, 네트워크를 깊게 쌓은 것만 딥러닝에 해당되는 것으로 생각할 수 있습니다.

 

 

다양한 유형의 신경망

https://towardsdatascience.com/the-mostly-complete-chart-of-neural-networks-explained-3fb6f2367464?gi=d67a451c03bd

 

단순한 인공신경망을 변형시켜서, 다양한 신경망들이 구현되어 있고, 연구 개발에 활용되고 있다는 것을 위 그림을 통해 알 수 있었습니다.

반응형