본문 바로가기

교육

(13)
Lec5) Language Models and RNNs 이전 강의: https://enjoythehobby.tistory.com/entry/Lec-4-Dependency-Parsing Lec 4) Dependency Parsing 이전 강의: https://enjoythehobby.tistory.com/entry/Lec3-Backprop-and-Neural-Networks Lec3) Backprop and Neural Networks 이전 강의: https://enjoythehobby.tistory.com/entry/Lec-2-Neural-Classifiers Le.. enjoythehobby.tistory.com 지난 강의에 이어 ○ Neural dependency parsing 에서 행동 결정 문제점 sparse vectors (one-hot encodi..
Lec 4) Dependency Parsing 이전 강의: https://enjoythehobby.tistory.com/entry/Lec3-Backprop-and-Neural-Networks Lec3) Backprop and Neural Networks 이전 강의: https://enjoythehobby.tistory.com/entry/Lec-2-Neural-Classifiers Lec2) Neural Classifiers 이전 강의: https://enjoythehobby.tistory.com/entry/Lec1-Word-Vectors Lec1) Word Vectors Denotati.. enjoythehobby.tistory.com 언어 구조를 보는 관점 이전까지 수업에서 우리는 언어학적 관점에서 단어의 의미를 공간에 embedding하고 NER..
Lec3) Backprop and Neural Networks 이전 강의: https://enjoythehobby.tistory.com/entry/Lec-2-Neural-Classifiers Lec2) Neural Classifiers 이전 강의: https://enjoythehobby.tistory.com/entry/Lec1-Word-Vectors Lec1) Word Vectors Denotational semantics(표시적 의미론) ○ 텍스트를 분석을 위해 단어의 뜻을 어떻게 표현(represent)할 것인가? si.. enjoythehobby.tistory.com NLP 대표 작업: 개체명 인식(Named entity recognition, NER) 글에서 단어를 찾아서 분류하는 작업 (사람, 장소, 날짜) Last night, Paris Hilton wo..
Lec2) Neural Classifiers 이전 강의: https://enjoythehobby.tistory.com/entry/Lec1-Word-Vectors Lec1) Word Vectors Denotational semantics(표시적 의미론) ○ 텍스트를 분석을 위해 단어의 뜻을 어떻게 표현(represent)할 것인가? signifier (symbol) ↔ signified (idea or thing) 표시론적 의미론에서 특정 기호(symbol)에 해.. enjoythehobby.tistory.com ○ Word2vec 복습 임의의 단어 벡터로 시작 주어진 중심단어에 대한 주변 단어 확률($P(o|c)$) 예측을 수행 전체 말뭉치(corpus)의 각 단어에 대해 반복수행 $P(o|c)=\frac{\texttt{exp}(u_{o}^{T}v..
Lec1) Word Vectors Denotational semantics(표시적 의미론) ○ 텍스트를 분석을 위해 단어의 뜻을 어떻게 표현(represent)할 것인가? signifier (symbol) ↔ signified (idea or thing) 표시론적 의미론에서 특정 기호(symbol)에 해당하는 개념이나 물건의 집합을 뜻(meaning)이라 할 수 있다. 위 개념을 토대로 가장 간단하게 적용한 것이 "동의어 집합(synonym set)" 과 "상위어(hypernyms)"를 이용하는 것이다. [대표 동의어사전(시소러스, thesaurus), WordNet] ○ WordNet과 같은 자원의 문제 늬앙스의 부재 예) "proficient"와 "good"은 동의어로 되어있지만 일부 문맥에서만 맞는말이다 단어의 새로운 뜻의 부재 예..