🐹's tory

기계 학습 개념 기계학습은 예측 문제를 해결 회귀 regression : 실숫값을 예측하는 문제 분류 classification : 부류를 예측하는 문제 기계 학습이란 가장 정확하게 예측할 수 있는 최적의 매개변숫값을 찾는 작업임 1. 학습 (성능을 개선하며 최적의 상태에 도달하는 작업 2. 학습된 모델을 사용해 예측 훈련집합으로 모델 학습 → 테스트집합으로 학습된 모델의 일반화 능력 측정 ⇒ 모델을 독립적으로 학습시킨 후 가장 좋은 모델을 선택 최종 목표는 훈련집합에 없는 새로운 샘플(테스트 집합)에 대한 오류를 최소화 + 높은 성능 보장하는 것 → 일반화 능력 특징 공간 변환과 표현 학습 기계 학습은 좋은 특징 공간을 찾아내는 작업 중요 ㄴ 표현 학습(representation learning) : ..

BERT와 기존 BERT 모델을 변형시켜 의미론적으로 의미 있는 문장 임베딩을 추출할 수 있도록 만든 SBERT 모델의 구조에 대해 알아보자 ! 우선 앞서 말한 것처럼 SBERT(sentence bert)는 BERT를 변형시켜 만든 모델로 코사인 유사도를 이용하여 의미 있는 문장 문장 임베딩을 추출하는 것을 목표로 만들어졌다. 또 BERT의 정확도를 유지하며 작업 속도를 줄일 수 있다. 여기서 문장 임베딩이란, 문장 정보를 벡터 공간의 위치로 표현한 값이며 문장을 벡터 공간에 배치하여 문장 간 비교, 클러스터링, 시각화 등 다양한 분석 기법 이용이 가능하게 한다. 기존 BERT의 경우, Sentence Embedding을 생성하는 방법이 존재했지만 과거 모델의 성능에 미치지 못했고 주로 두 개의 문장을 ..

일단 캡스톤에서 SBERT를 사용하여 문장 사이의 유사도를 평가하기로 해서 SBERT 논문을 읽고 정리해 보았다 Abstract BERT와 RoBERTa는 의미론적 텍스트 유사성(STS)과 같은 sentence-pair regression tasks에 대한 새로운 최첨단 성능을 가지지만, 두 문장을 모두 네트워크에 입력해야 하므로 계산 오버헤드가 매우 큼 BERT의 구성은 클러스터링과 같은 감독되지 않은 작업뿐만 아니라 의미론적 유사성 검색에도 적합하지 않음 → 코사인 유사성을 사용하여 비교할 수 있는 의미론적으로 의미 있는 문장 임베딩을 도출하기 위해 siamese and triplet network structures를 사용하는 사전 훈련된 BERT 네트워크를 수정한 SBERT(Sentence-BER..

3일 동안 열리는 전시였는데! (학교 수업 때문에) 첫날에만 참여했다 세종대 메타버스 자율트윈 연구센터와 무인항공 IT 융합 연구센터 'ITRC 인재양성대전 2023' 참여[여성소비자신문 이지은 기자] 세종대학교 ‘메타버스 자율트윈 연구센터’와 ‘무인항공 IT융합 연구센터’가 ‘ITRC 인재양성대전 2023’에 참여해 다양한 첨단 연구성과를 전시했다.‘ITRC 인m.wsobi.comㄴ 허걱…! 기사에도 실렸네 내가 한 건.. 메타버스가 뭔지 아시나요?? 디지털 트윈에 대해서 아시나요 ?? 라고 물어보고 설명해주고, 연구센터 설명해주고, 우리 연구 소개 + 설명해주기 .. ~ 뭐 물어보시면 아는 대로 바로바로 대답해드리기 막 엄청난 건 아니었지만 다녀온 김에 흔적 남기기용 ^.^= 엄청 대단한 분들을 많이..

카테고리를 어떻게 나눌까 고민을 하다가 랩실에서 하는 일이 [study] 나 [lab]에 다 나눠져 있긴 하지만,, 그래도 지금 내 하루에 큰 비중을 차지하고 있기 때문에 일단 카테고리는 만들어뒀다..! 아마 나중에 논문 읽고 공부하고 나서 정리한 거나.. 뭐 추가될지도 모르지만 현재에는 그냥.. 빈 카테고리로 두기로 ! (아님 대학원 입시 얘기가 될 수도..~)

캡스톤 중에 챗봇 API를 사용할 일이 생겨서 사용해보았다! 아래 사이트에서 회원가입을 해준다 OpenAI API An API for accessing new AI models developed by OpenAI platform.openai.com 오른쪽 상단 프로필에서 View API keys를 click ! create new secret key ! 이때 키는 발급받고 처음이자 마지막으로 확인 가능하기 때문에 어딘가에 잘 저장해두어야 한다 Usage에서 사용량 확인 가능합니다아 ~ 🍡 그리고 코드 작성 ! 매우 간단해요 ^ㅁ^ 아래는 전체 코드 import openai API_KEY = '발급받은 key 입력' def callChatGPT(prompt, API_KEY=API_KEY): messages..

학교 수업 중 진로 수업을 듣게 된 4학년..! 사실 1학점이라 들어도 듣지 않아도 크게 달라지는 건 없어서 들을지 말지 고민했는데 첫 강연부터 너무 재미있어서 좋은 경험이 될 것 같아 듣기로 결정했다! 첫 강연이 굉장히 인상깊었고 다른 강연들도 관심 있게 듣고 있었는데..! 뭔가 오늘의 강연이 가장 마음에 와닿기도 하고.. 너무 멋있으셨다... 나도 나중에 저렇게 멋진 어른이 되고 싶었다.. (이미 어른이긴 하지만) 이번 강의자님께서는 다양한 주제에 대해 넓게 넓게 조언을 해주셨다 그런데 그 주제들이(?!?) 내가 평소에 한 번씩이라도 생각해 봤거나 고민 중인 내용들이라 정..~말 마음에 와닿았다 일단은! 전공이 정해진 대학교에 와서도 나의 진로에 대한 고민이 필요하다 ㄴ 이미 고민 중이었다 .. ^_..

저번 글 이후로 시간이 좀 흘렀다..! [추천 시스템] 메뉴 추천 시스템 (2)저번 글에서 이어집니다 ~ 저번에 어떤 건 같은 카테고리가 제대로 뽑히는데 어떤 건 안 돼서 열심히 서치해봤더니...! CountVectorizer가 자체적으로 한 글자인 경우에는 따로 카운트를 해주지 않는hjkim5004.tistory.com일단 데이터셋에 없는 메뉴명이 들어왔을 때 카테고리나 메뉴명에 따라 메뉴를 추천해주는 기능이 필요하다! (위 글에서는 데이터셋에 있는 메뉴와 유사한 메뉴들을 추천) NLP 사용하거나 챗봇 api를 사용해서 구현하려다가 제일 간단하게 규칙기반으로 구현하기로 결정했다 (사실 며칠 뒤에 바로 chatGPT API 사용하는 것으로 변경됐다 히히 / 근데 짱 쉬워) 그래서 일단 새롭게 입력된 메뉴..

저번 글에서 이어집니다 ~ 저번에 어떤 건 같은 카테고리가 제대로 뽑히는데 어떤 건 안 돼서 열심히 서치해봤더니...! CountVectorizer가 자체적으로 한 글자인 경우에는 따로 카운트를 해주지 않는다고 한다.. 아마 영어에서는 한 글자인 경우에는 중요한 의미가 없어서 그런 것 같다.. 그치만 내 데이터셋은 한글이고 떡, 국, 탕, 전, 찜, 면 등등 한 글자인 것들도 매우 많고.. ,나 공백, /가 포함된 텍스트도 인식해주지 않는다는 것을 확인해서 따로 데이터 값을 변경해주었다 import pandas as pd df = pd.read_csv('food_list.csv',encoding='cp949') data = df[['구분', '음식명']] # 필요한 데이터만 가져오기 for i in ra..

메뉴명을 받으면 카테고리 유사도에 따라 음식을 추천해 주고, 사용자의 평가를 받아 추천에 반영하는 컨텐츠기반 추천 시스템을 만드는 것이 목표이다 !! 우선은 공공 데이터 중 한국국제교류재단_한국음식정보_영문 데이터셋을 사용했다 AI hub에 있는 데이터셋들은 음식 이미지 데이터셋이라 이미지명에서 카테고리와 음식명을 뽑아와야 해서 텍스트로 제공해 주는 데이터셋을 선택했다 한국국제교류재단_한국음식정보_영문_20230228 해당 데이터는 재료(면, 떡, 채소류, 젓갈 등) 및 조리법(찜, 구이, 조림, 등) 별로 분류한 약 700여가지의 한국음식에 대한 정보를 영문으로 제공합니다. www.data.go.kr 아래는 노션에 정리해 둔 데이터셋 후보들 💤 더보기 데이터셋 음식 이미지 및 영양정보 텍스트 + 카테고..