쵸코쿠키의 연습장

도전 과제딥 러닝을 위한 새로운 유스 케이스가 밝혀 짐에 따라 해결해야 할 과제도 있습니다. 많은 데이터 필요"알고리즘을 훈련시키는 데 실제로 얼마나 많은 데이터가 있습니까?" 이것은 딥 러닝 알고리즘을 사용하는 사람들이 가장 자주 묻는 질문입니다. 불행히도 정답은 없지만 원칙적으로 데이터 과학자는 원하는 강력한 추상화를 수행하면 더 많은 데이터가 필요하다고 말합니다. 신경 네트워크의 경우, 훈련에 필요한 데이터의 양은 다른 머신 러닝 알고리즘에 비해 훨씬 더 높습니다. 그 이유는 딥 러닝 알고리즘의 과정은 크게 2가지이기 때문입니다. 첫째, 도메인에 대해 알아야하며 문제를 해결해야합니다. 훈련이 시작되면 알고리즘이 처음부터 시작됩니다. 주어진 도메인에 대해 배우려면, 알고리즘은 튜닝하고 함께 수많은 매..

딥 러닝은 오늘날 AI의 사용 증가에 크게 책임이 있습니다. 이 기술은 컴퓨터에 특별한 힘을 주었습니다. 예를 들어, 사람과 거의 같은 정도로 말을 인식 할 수 있는 능력은, 손으로 코딩하기에는 너무 까다로운 기술입니다. 딥 러닝은 또한 컴퓨터 비전을 변형시키고 머신 러닝을 크게 향상 시켰습니다. 이제는 의학, 금융, 마케팅 및 그 밖의 모든 주요 프로세스를 안내하고 향상시키는 데 사용됩니다. 이번 포스팅에서는 딥 러닝에 대해 논의 할 것이며, 딥 러닝이 그 잠재력을 완전히 발휘하기 전에 해결해야 할 현재의 도전 과제뿐만 아니라 보편적 인 강점을 논의 할 것입니다. 먼저 강점에 대해 알아보고 다음 포스팅에서는 도전과제에 대해 알아보겠습니다. 강점먼저 딥 러닝을 사용하여 얻은 가장 유명한 이점에 대해 살펴..

딥러닝이 왜 그렇게 잘 수행되는지에 대한 생각 왜 Deep Learning은 다른 머신 러닝 방법보다 성능이 우수합니까? 세 가지 이유를 제공합니다 : 교육 과정에서의 특징 추출 통합, 매우 큰 데이터 세트의 수집, 기술 개발 다른 머신 러닝 방법론에 비해 딥러닝의 우월한 성능은 최근 여러 포럼과 잡지에서 논평되었습니다. 이 우월의 근거가 되는 세 가지 이유에 대해 알아보겠습니다. 이 문제에 대해 논평 한 최초의 사람은 아니며, 마지막이되지 않을 것이라고 확신합니다. 그러나 딥러닝의 성공 뒤에 있는 실제적인 이유를 고려하고자합니다. 그러므로 이론적인 배경을 찾고 있다면 딥 러닝 학문에서 찾는 것 좋을 것입니다. 실제적인 분류 문제와 응용을 다루기 위한 유용한 기술로 딥 러닝을 전환시키는 실용적인 측면에 ..

텍스트를 이미지로64x64 RGB 이미지로 "작은 새가 짧은 오렌지색 부리와 흰 배가 있습니다"와 같은 자연어 텍스트를 변환하는 흥미로운 논문에있는 실험 및 이론을 설명합니다. 소개자연 언어 텍스트 설명을 이미지로 변환하는 것은 딥러닝의 놀라운 데모입니다. 정서 분석과 같은 텍스트 분류 작업은 텍스트에서 차별적인 벡터 표현을 학습할 수있는 Deep Recurrent Neural Networks에서 성공했습니다. 다른 영역에서는 딥 컨볼 루션 GAN이 정상 분포에서 샘플링 한 랜덤 잡음 벡터로부터 침실 내부와 같은 이미지를 합성 할 수 있습니다. Conditional-GAN의 아이디어에서 영감을 얻은 DCGAN을 사용하여 Deep RNN 텍스트 삽입 및 이미지 합성의 발전을 이루러낸 것입니다. Condit..

딥 러닝에서의 이미지 캡션이미지 캡션은 이미지의 텍스트 설명을 생성하는 과정입니다. 그것은 캡션을 생성하기 위해 자연언어 처리와 컴퓨터 비전을 모두 사용합니다. 데이터 세트는 [이미지 → 캡션] 형태로 이루어질 것입니다. 데이터 세트는 입력 이미지와 해당 출력 캡션으로 구성됩니다. 네트워크 토폴로지 인코더Convolutional Neural Network(CNN)는 인코더로 생각할 수 있습니다. 입력 이미지는 특징을 추출하기 위해 CNN에 주어집니다. CNN의 마지막 은닉 상태는 디코더와 연결되어 있습니다. 디코더디코더는 단어 레벨까지 언어를 모델링하는 반복 신경망입니다. 첫 번째 단계는 인코더와 벡터로부터 인코딩된 출력을 수신합니다. 훈련훈련 중 디코더가 전에 실수를 했더라도 매 시간마다 디코더에 정확..

Long Short-Term Memory (LSTM) Long Short-Term Memory(LSTM) 단위 또는 블록은 반복적인 신경 네트워크 구조의 일부입니다. 반복 신경망은 이러한 인공지능 프로그램이 인간의 생각을 보다 효과적으로 모방할 수 있도록 도와줄 수 있는 특정 유형의 인공 기억 과정을 활용하도록 만들어졌습니다. 반복 신경 네트워크는 프로그램이 입력을 수신하고 출력을 생성하는 방식에 대한 컨텍스트를 제공하기 위해 Long Short-Term Memory (LSTM) 블록을 사용합니다. Long Short-Term Memory (LSTM) 블록은 가중 입력, 활성화 기능, 이전 블록의 입력 및 최종 출력 등 다양한 구성 요소를 갖춘 복잡한 단위입니다. 프로그램은 단기 메모리 프로세스에 기반한..

RBMT(Rule-Based Machine Translation) 기술RBMT는 수 많은 내장된 언어 규칙과 각 언어 쌍에 대해 수백만 개의 2개 사전을 사용합니다. RBMT 시스템은 텍스트를 구문 분석하여 대상 언어의 텍스트가 생성되는 과도 표현을 생성합니다. 이 프로세스에는 형태학, 통사 및 의미 정보가 포함된 광범위한 어휘소와 대규모 규칙 집합이 필요합니다. 소프트웨어는 이러한 복잡한 규칙 집합을 사용한 다음 소스 언어의 문법 구조를 대상 언어로 전송합니다. 규칙 기반 기계 번역 시스템은 거대한 사전과 정교한 언어 규칙을 기반으로 합니다. 사용자는 시스템의 기본 설정을 재정의하는 사용자 정의 사전을 생성하여 변환 프로세스에 용어를 추가하여 변환 품질을 개선할 수 있습니다. 대부분의 경우, 두 가지 ..

기계 번역이란기계 번역(MT)은 옥스포드 영어 사전에 정의된 대로 자동 번역 또는 "컴퓨터에 의해 수행되는 번역"입니다. 이 프로세스는 2개 국어로 된 데이터 세트와 다른 언어 자산을 사용하여 텍스트를 번역하는 데 사용되는 언어와 구 모델을 만드는 과정입니다. 컴퓨터 활동이 점점 더 주류를 이루고 인터넷이 더 넓은 다국어 및 글로벌 커뮤니티를 개방함에 따라 기계 번역의 연구와 발전이 빠른 속도로 증가하고 있습니다. 오늘날 시장에서는 SMT(Statistical Machine Translation), RBMT(Rule-Based Machine Translation)를 결합한 하이브리드 시스템이 가장 널리 사용되고 있습니다. 인간 VS 기계 변역 사람이든 자동화된 번역이든 원래 언어로 된 텍스트의 의미는 대..

Vanishing Gradient Problem오늘은 RNN과 함께 존재하는 거대한 문제에 뛰어들겠습니다. 우선 수학 용어에 대해 너무 깊이 파고들지 않고 명확하게 설명될 것입니다. 그리고 더 중요한 것은 이 문제에 대한 해결책을 심층 학습 시리즈의 다음 기사에서 논의할 것입니다. 그렇다면, Vanishing Gradient Problem라고 하는 것은 무엇일까요? RNN 뒤에 있는 사람들Vanishing Gradient Problem는 1991년 처음 발견되었습니다. 천재 과학자이자 창립자 중 한 사람으로, 오늘날 RNN과 LSTM을 사용하는 방식에 큰 기여를 했습니다. 몬트리올 대학의 요수아 벵기오 교수입니다. 그는 또한 Vanishing Gradient Problem를 발견했지만 1994년에 썼습니..

이 글에서는 CNN(Convolutional Neural Networks)을 탐구하고, 높은 수준에서 그것들이 어떻게 두뇌의 구조에서 영감을 얻는지 살펴보기로 하겠습니다. The Brain우리는 끊임없이 주변의 세계를 분석합니다. 의식적인 노력 없이, 우리는 우리가 보는 모든 것에 대해 예측을 하고, 그것에 따라 행동합니다. 우리가 어떤 것을 볼 때, 과거에 배운 것을 바탕으로 모든 대상에 라벨을 붙입니다. 여러분은 아마 "저 아이는 의자 위에 서 있는 행복한 소년이다."라고 생각할 수 있습니다. 아니면 비명을 지른다고 생각할 수 있습니다. 또는 케이크를 망치려는 것으로 볼 수 있습니다. 이것이 우리가 하루 종일 아낌없이 하는 것입니다. 우리는 패턴을 보고, 라벨을 붙이고, 예측하고, 인지합니다. 하지만..

자연어를 이해하는 방법을 기계에게 가르치는 방법 소개인간은 매초마다 생각을 처음부터 시작하는 것이 아닙니다. 이 에세이를 읽으면서, 여러분은 이전의 단어들에 대한 이해를 바탕으로 각각의 단어를 이해하게 됩니다. 모든 것을 버리고 처음부터 다시 생각하기 시작하는 것은 아닙니다. 당신의 생각은 끈기가 있어요. 전통적인 신경망은 이것을 할 수 없습니다. 그리고 이것은 주요한 단점처럼 보입니다. 예를 들어, 영화의 모든 지점에서 어떤 종류의 이벤트가 발생하는지 분류하고 싶다고 상상해 보세요. 전통적인 신경 네트워크가 어떻게 이 영화의 이전 사건에 대한 추론을 나중에 그 사실을 알리기 위해 사용할 수 있을지는 분명하지 않습니다. 반복 신경망(RNN)이 이 문제를 해결합니다. 이것은 정보가 지속되도록 해주는 루프가..

갑자기 모든 사람들이 이해하든 말든 간에 인공지능에 대해 이야기하고 있습니다. 인공지능의 최신 진보를 이해하는 것은 압도적으로 보일 수 있지만, 이것은 정말로 매우 인기 있는 두 가지 개념인 기계학습과 딥러닝으로 요약되고 있습니다. 최근 딥러닝은 엄청난 양의 데이터로 훈련했을 때 정확도 면에서 우월하다는 점에서 많은 인기를 얻고 있습니다. Deep Learning이 어떤 관심을 받고 있는지 알 수 있는 키워드에 대한 Google 동향은 아래와 같습니다. 소프트웨어 산업은 오늘날 머신 지능으로 발전하고 있습니다. 머신 러닝은 기계를 지능적으로 만드는 한 방법으로 모든 분야에서 필요하게 되었습니다. 더 간단한 방법으로, 머신러닝은 데이터를 구문 분석하고, 그것들로부터 배운 것을 적용하여 지능적인 결정을 내리..

신경망의 작동 원리이제 신경망의 기본 구조가 어떻게 생겼는지 아이디어를 얻었으니, 어떻게 작동하는지 설명하겠습니다. 그렇게 위해서, 네트워크에 포함할 수 있는 다양한 종류의 뉴런을 설명할 필요가 있습니다. 뉴런의 첫번째 유형은 Perceptron입니다. 비록 오늘날 쇠퇴했지만, 어떻게 작동하는지 이해하는 것은 더 현대적인 뉴런들이 어떻게 기능하는지에 대한 좋은 단서를 줄 것입니다. Perceptron은 이항 변수의 벡터를 단일 이항 출력에 매핑하여 이항 분류기를 학습하는 기능을 사용하고 supervised 학습에도 사용할 수 있습니다. 이러한 맥락에서 Perceptron은 다음 단계를 따릅니다. 1. 모든 인풋에 weight를 곱하고, 해당 인풋이 아웃풋에 얼마나 중요한지 나타내는 실제 숫자를 곱합니다...

먼저 딥러닝 부분에 초점을 맞추는 것은 중요하고 흥미롭습니다. "핵심 아이디어"에 대한 질문으로 돌아가보겠습니다. 그 핵심 아이디어는 딥 러닝과 일반적인 머신 러닝의 차이점에 나온다고 생각합니다. "딥"이라는 단어가 의미하는 유일한 것은 많은 숨겨진 층으로 신경망을 훈련시킬 수 있다는 것입니다. 몇십 년 전에는 잘 작동하지 않았습니다. 신경망 훈련을 더 잘 구상하고 더 빠르게 할 수 있도록 다양한 새로운 아이디어들이 만들어졌지만, 근본적으로 "딥 러닝"과 오래된 신경망 훈련 사이에 차이는 많이 다르지 않습니다. 하지만, 이 딥 러닝의 성공으로 촉발된 부활은 이전에는 훈련할 수 없었던 새로운 신경망 구조들로 이어지고 있습니다. 그리고 인상적인 결과를 가져오고 있습니다. 딥러닝과 그 결과들은 다른 포스팅을 ..

CNN(Crovolutional neural network)은 영상 인식과 처리에 사용되는 인공 신경망의 일종으로, 픽셀 데이터를 처리하도록 특별히 고안되었습니다. CNN은 강력한 이미지 처리, 인공지능(AI)으로, generative와 descriptive의 두 가지 작업을 모두 수행하할 떄 딥 러닝을 사용하는데, 종종 추천 시스템 및 NLP(Natural Language Processing)와 함께 영상과 비디오 인식을 포함하는 머신바이저를 사용합니다. 신경망은 인간의 뇌에 있는 뉴런의 작동 후에 패턴화된 하드웨어 또는 소프트웨어의 시스템입니다. 기존의 신경 네트워크는 이미지 처리에 적합하지 않으며, 분해능이 낮은 조각으로 이미지를 공급해야 합니다. CNN은 인간과 다른 동물들의 시각적 자극을 처리하..

백프로포제이션이 필요한 이유는 무엇입니까?신경망을 설계하는 동안 처음에는 무작위 값이나 그 사실에 대한 변수를 사용하여 가중치를 초기화합니다. 명백하게, 우리는 초인적인 사람이 아닙니다. 따라서, 우리가 선택한 어떤 Weight 값이든 정확할 필요는 없습니다. 처음에는 몇 가지 Weight 값을 선택했지만, 모델 출력은 실제 생산량과 너무 달라집니다. 즉, 오류 값이 엄청 큽니다. 어떻게 오류를 줄일 수 있을까요? 기본적으로, 우리가 해야 할 일은 모형을 어떻게든 설명하여 파라미터를 변경해야 합니다(가중치). 다른 방법으로는, 우리의 모델을 훈련시킬 필요가 있습니다. 모델을 훈련시키는 한 가지 방법은 백프로파게이션이라고 불립니다. 아래 다이어그램을 고려합니다. 신경망을 교육 - 백프로파게이션위 단계를 요..

MLP(Multilayer Perceptron)다층 지각(MLP)은 일련의 입력에서 일련의 출력을 생성하는 피드포워드 인공 신경 네트워크입니다. MLP는 입력 계층과 출력 계층 사이에 지시된 그래프로 연결된 여러 입력 노드의 계층이 특징입니다. MLP는 백프로포지션을 사용하여 신경망을 훈련합니다. MLP는 딥 러닝 방법 중 하나입니다. 관련 설명다층 지각(MLP)은 지시된 그래프로 여러 층을 연결하는 신경망입니다. 즉, 노드를 통과하는 신호 경로가 한 방향으로만 이동한다는 의미입니다. 입력 노드와 별도로 각 노드에는 비선형 활성화 기능이 있습니다. MLP는 Supervised(감독된 학습 기법)으로 백프로파싱을 사용합니다. 뉴런의 층이 여러 개이기 때문에, MLP는 딥 러닝 기법인 것입니다. MLP는 컴..

Multilayer Neural Network(다중 계층 신경 네트워크)의 의미다층 신경망은 하나 이상의 인공 뉴런 또는 노드를 포함합니다. 이것들은 디자인 면에서 크게 다릅니다. 단층 신경망은 AI의 진화 초기에 유용했지만, 오늘날 사용되는 대부분의 네트워크는 다층 모델을 가지고 있다는 점을 유념해야 합니다. 다층 신경망은 여러 가지 방법으로 설정될 수 있습니다. 일반적으로 입력 계층은 일련의 숨겨진 계층으로 가중 입력을 전송하는 하나 이상의 입력 계층과 끝에 있는 출력 계층이 있습니다. 이러한 보다 정교한 설정은 또한 인공 뉴런의 발화 또는 활성화를 지시하는 Sigmoids와 다른 기능을 사용하는 비선형 구조와도 관련이 있습니다. 이러한 시스템 중 일부는 물리적인 물질로 구축될 수 있지만, 대부분은 ..

Deep Neural Network(깊은 신경망)은 일정 수준의 복잡성을 가진 신경망, 즉 두 개 이상의 층을 가진 신경망입니다. Deep Neural Network는 복잡한 방법으로 데이터를 처리하기 위해 정교한 수학 모델링을 사용합니다. Deep Neuural Network에 대해일반적으로 신경 네트워크는 인간의 뇌의 활동을 시뮬레이션하기 위해 만들어진 기술입니다. 특히 패턴 인식과 다양한 계층의 시뮬레이션된 신경 연결을 통한 입력 전달을 시뮬레이션하기 위해 만들어진 기술입니다. 많은 전문가들은 Deep Neural Network을 입력 계층, 출력 계층, 그리고 그 사이에 하나 이상의 숨겨진 계층이 있는 네트워크로 정의합니다. 각 계층은 일부에서 "기능 계층"이라고 부르는 프로세스에서 특정 유형의 ..

신경망?신경망은 인간의 뇌를 본따서 스스로 모델을 만드는 머신러닝의 한 종류입니다. 이것은 알고리즘을 통해 컴퓨터가 새로운 데이터를 통합함으로써 학습할 수 있는 인공 신경망을 만듭니다. 요즘 인공지능 알고리즘이 풍부하지만, 신경망은 이른바 '딥러닝'을 수행할 수 있습니다. 뇌의 기본 단위가 뉴런인 반면, 인공 신경망의 필수적인 구성 단위는 단순한 신호 처리를 수행하는 지각변동체이며, 그런 다음 이것들은 큰 메쉬 네트워크로 연결됩니다. 신경망이 있는 컴퓨터는 이전에 미리 라벨을 붙였던 훈련 예를 분석하게 하여, 과제를 하도록 가르칩니다. 딥러닝을 이용한 신경망의 업무의 일반적인 예는 객체 인식 작업인데, 여기서 신경 네트워크는 고양이, 거리 표지 등 특정 유형의 많은 물체를 제시하고, 컴퓨터는 제시된 영상..