🐹's tory

캡스톤을 진행하다가 일반 추천 시스템 알고리즘을 사용해서 카테고리, 메뉴명에 대해서만 유사도 계산을 하다가 음식 설명에 대한 문장 유사도에 따라 추천을 하면 좋을 것 같아서 문장 유사도를 평가할 수 있는 NLP 모델을 찾아봤다 SBERT와 대해 내가 정리한 글들 !! 더보기 [SBERT] Sentence-BERT 일단 캡스톤에서 SBERT를 사용하여 문장 사이의 유사도를 평가하기로 해서 SBERT 논문을 읽고 정리해 보았다 Abstract BERT와 RoBERTa는 의미론적 텍스트 유사성(STS)과 같은 sentence-pair regression tasks에 대 hjkim5004.tistory.com [NLP | BERT & SBERT] Cross-Encoder와 Bi-Encoder BERT와 기존 B..

일단 캡스톤에서 SBERT를 사용하여 문장 사이의 유사도를 평가하기로 해서 SBERT 논문을 읽고 정리해 보았다 Abstract BERT와 RoBERTa는 의미론적 텍스트 유사성(STS)과 같은 sentence-pair regression tasks에 대한 새로운 최첨단 성능을 가지지만, 두 문장을 모두 네트워크에 입력해야 하므로 계산 오버헤드가 매우 큼 BERT의 구성은 클러스터링과 같은 감독되지 않은 작업뿐만 아니라 의미론적 유사성 검색에도 적합하지 않음 → 코사인 유사성을 사용하여 비교할 수 있는 의미론적으로 의미 있는 문장 임베딩을 도출하기 위해 siamese and triplet network structures를 사용하는 사전 훈련된 BERT 네트워크를 수정한 SBERT(Sentence-BER..