컴퓨터비전 : 퍼셉트론 : 개념, 원리, 이해, 인사이트

패턴 분류기 (Pattern Classifer)

온도, 바람 속도, 습도 등을 통해, 패턴을 분석해 클래스를 결정합니다.

 

 

 

결정 경계선 (Decision Boundary)

클래스를 결정하는 경계선을 의미합니다. 새로운 측정치 위치에 따라 클래스를 결정할 수 있습니다.

 

 

class separability

2차원은 하나의 선으로 선형적으로 분류할 수 있습니다. 

더 높은 차원에서 데이터 세트가 단일 분리 초평면으로 분리되어 있다고 말할 수 있습니다.

 

 

AND 연산

AND 연산을 활용해, 데이터를 선형적으로 분리해낼 수 있습니다.

 

 

퍼센트론

퍼셉트론은 2종 분류기입니다. 

 

 

판별 함수

고정된 가중치 세트가 주어지면 퍼셉트론은 인풋에 대해 (x1, x2)를 포지티브 활성화를 생성하고 입력에 대해 0을 발생시켜 부정적인 활성화를 발생시킵니다. 따라서 입력은 두 개의 "클래스"로 분리됩니다. 판별 기능을 만족하는 입력은 0으로 활성화됩니다. 판별 함수 (s = 0)는 다음과 같이 쓸 수 있습니다.

판별 함수

 

 

OR and NOR 분류

OR 문제와 NOR 문제는 퍼셉트론으로도 분류가 가능합니다. 하지만, 비선형적인 문제의 경우 해결하지 못하는 한계가 있었습니다. 

https://www.yceffort.kr/2019/02/20/pytorch-04-deep-neural-network/

 

 

XOR은 선형 분리가 아니다

XOR은 기하학적으로 분리를 하기 위해서는 2개의 직선이 필요하였습니다. 하지만 단일 퍼셉트론은 XOR 문제를 해결할 수 없었습니다. 그래서 한개 이상의 퍼셉트론이 필요하였습니다.

두개의 뉴런은 두개의 초평면을 만들고 그것을 연결합니다. XOR 문제를 OR과 NAND를 AND로 연결하여 해결할 수 있었습니다. OR와 NAND를 AND로 조합한 퍼셉트론은 아래와 같이 나타낼 수 있습니다. 이것이 바로 다층 퍼셉트론이라 할 수 있습니다.

 

https://m.blog.naver.com/PostView.nhn?blogId=htk1019&logNo=220965227634&proxyReferer=https%3A%2F%2Fwww.google.com%2F

 

퍼셉트론이 선형적인 문제만 해결할 수 있었기 떄문에, 우리는 비선형적인 문제를 선형적인 문제로 바꾸어 풀 수 있다는 것을 의미합니다. 어떻게 이것이 가능해지는 것일까요? 첫번째로는 포인트를 줄이는 것입니다. 선형적으로 풀 수 있도록 퍼셉트론은 포인트를 줄여줍니다. 두번째로는 차원을 늘리는 것입니다. 비선형적인 문제도 고차원으로 만들어 하나의 직선으로 문제를 해결할 수 있습니다.

 

 

ADALINE

http://physics2.mju.ac.kr/juhapruwp/?p=1610

 

적응현 선형 신경망이라 할 수 있습니다. 선형 회귀 모델로 활용 가능합니다.