'deep learuning' 태그의 글 목록

: NLP 플젝 진행 -> data 전처리에서 분석, 논문으로 넘어갔다. 분석 모델 정리해서 모르는 거 여쭤봐야겠다. 1. chr 1) 전이학습 모델 unlabeled data -> Language Model learning -> 문서 분류, 질의응답, 번역 -> 신경망 추가 2) 사전 학습 모델 상대적으로 적은 자원 -> nlp 수행 2. structure 1) input representation - 세 가지 임베딩 값의 합으로 구성됨 (1) Token Embeddings - Word piece 임베딩 방식 - 가장 긴 길이의 sub-word을 하나의 단위로 만듬 -> rare word -> 더 작은 sub-word로 쪼개어짐. => OOV(Out-of-vocabulary)로 처리 -> 모델링 성능 ..

AI 2022. 7. 12. 11:09

이전 1 다음