일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | |
7 | 8 | 9 | 10 | 11 | 12 | 13 |
14 | 15 | 16 | 17 | 18 | 19 | 20 |
21 | 22 | 23 | 24 | 25 | 26 | 27 |
28 | 29 | 30 |
Tags
- SQL
- Numpy
- sort
- 프로그래머스
- algorithm
- select
- Sigmoid
- MySQL
- PPMI
- DeepLearning
- FullyConnectedLayer
- Programmers
- Heap
- 자연어처리
- stak
- hash
- 파이썬
- 딥러닝
- dl
- 신경망
- que
- kakao
- Stack
- skip-gram
- boj
- CBOW
- backward
- Word2vec
- affine
- Python
Archives
- Today
- Total
목록CBOW (1)
혜온의 이것저것
[Chapter 3 word2vec] 2 단순한 word2vec
3.2.1 CBOW 모델의 추론 처리 CBOW 모델은 맥락으로부터 target을 추축하는 용도의 신경망이다. 우리는 CBOW 모델이 가능한 한 정확하게 추론하도록 훈련시켜서 단어의 분산 표현을 얻어낼 것이다. CBOW 모델의 입력은 맥락이다. 가장 먼저, 이 맥락을 원핫 표현으로 변환하여 CBOW 모델이 처리할 수 있도록 준비한다. 입력층이 2개 있고, 은닉층을 거쳐 출력층에 도달한다. 두 입력층에서 은닉층으로의 변환은 똑같은 완전연결계층이 처리하고, 은닉층에서 출력층 뉴런으로의 변환은 다른 완전연결계층이 처리한다. 은닉층의 뉴련은 입력층의 완전연결계층에 의해 변환된 값이 출력되는데, 입력층이 여러 개이면 전체를 평균하면 된다. 출력층의 뉴런은 총 7개인데, 여기서 중요한 것은 이 뉴런 하나하나가 각각의..
Deep Learning/밑바닥부터 시작하는 딥러닝2
2022. 4. 7. 10:41