빅프로젝트 1주차부터 아주 바빴다. 주제를 선정하는 것도 기획의 능력이 들어간다.다행히도 필자는 기획을 어느정도 독학했기에 그나마 수월하게 진행했지만 그럼에도 불구하고 수익성 측면은 정말 어려운 것 같다. 원래 서비스 기획에서의 9단계 요소는 다음과 같다. 고객에게 제공하고 이익을 얻는 부분 5단계 1. 고객의 범위(누가 이용할 것인가?)2. 상품의 가치3. 어디로 유통할 것인가?4. 고객간의 관계5. 수익원 그 다음에는 구체적으로 고객에게 서비스를 제공할 때 어떠한 기반을 가질 것인지를 따진다. 6. 해당 프로젝트를 만드는 데 핵심적인 자원7. 해당 프로젝트를 진행하는데 있어 필수적으로 해야 하는 요소8. 핵심적인 파트너쉽9. 비용에 대한 고려 결국에는 이걸 조금 줄여서 보면, 6단계로 나눠질 수 있..
[FE & BE] 버그 수정 경험 정리 및 git 경험 정리
7차 미프에서 사소한 거 같지만 직접 수정한 것들 정리 FrontEndjs를 이용해서 overlay창을 띄우는 것z-index로 버튼을 이미지보다 높게 설정css에서의 position fixed로 스크롤 창이 굴러가도 해당 위치에 고정되게 하기header는 absolutejs를 이용해서 해당하는 작은 챗봇 띄우기카톡형 대화창 만들기 BEdjango에서 request 받아서 chatgpt api 연동django에서 모델 만들어서 view에서 저장하기로그인/로그아웃/회원가입 기능 만들기로그인 사용자마다 세션 관리chatgpt 로그 메모리 관리관리자 페이지에서 csv로 데이터 추가하기챗봇이 카카오톡 대화형식으로 흘러가도록 jsonresponse 사용정말 오랜만에 경험해보는 알록알록한 git 그래프였다. 7차 ..
명령을 통한 Kubernetes 로깅, 모니터링 마스터 노드에는 두 가지 명령 구조가 있다. 하나는 top이라는 명령,하나는 log라는 명령이다. log 명령어는 워커노드에서 컨테이너의 log 파일을 땡겨서 보여주는 명령이다. 워커 노드의 컨테이너들이 kublet이라는 팀장이 있는데, 거기에 log 파일을 전달하게 되고, kube-apiserver에 전달하게 되고, 사용자에게 전달한다. 그리고 top 명령어는 리눅스에서 Cpu나 메모리 사용량을 확인할 수 있다.metric server가 필요한데, 이건 명령어로 설치하고,이 사용량을 kubelet에 또 전달을 하고, 그로 인해서 사용량을 볼 수 있다. Kubernetes 대쉬보드도 설치했던 것처럼 기본적인 대쉬보드를 확인할 수 있다대쉬보드도 설치해야 한다..
7차 미니프로젝트의 첫번째 과목 아나콘다 가상 환경을 설정하고, 해당 가상 환경에서 실행한다.각 프로젝트에서 ipnyb 파일을 커널 선택하여 해당 가상 환경을 실행한다. OpenAI API 키를 환경 변수에 저장해서 사용한다.이래야 env에서 오기 때문에 키가 노출되지 않는다. OpenAI API손님이 점원에게 주문을 하면, 점원은 요리사에게 주문을 전달하고, 요리사는 요리를 만들어서 점원에게 전달해준다. 점원이 바로 API이다. API는 클라이언트에게 요청을 받아서 서버에서의 요청을 처리한 결과 데이터를 클라이언트로 전달해준다. Request = API 주소 + API Key / 형식은 해당하는 요청 양식Response : 결과에 대한 양식값 LangChainLangChain은 대규모 언어 모델 LLM..
[언어지능 딥러닝] 6차 미프 (4) - RAG based QA bot 만들기
BM25와 sentence Transformer를 이용해 QA 봇을 만든다.5개의 유사도가 가장 높은 샘플을 뽑고, 그를 이용해 그 안에서 Gemma가 답변하게 만든다.# chunk listchunk_list = []with open(CHUNK_FN, encoding="utf-8") as f: for line in f: row = json.loads(line) chunk_list.append(row['chunk'])len(chunk_list) SentenceTransformer 사용 및 embedding 만들기# SentenceTransformer 모델 생성tf_model = SentenceTransformer(MODEL_ID)# chunk embeddings 생성chunk..
단어를 chunk 단위로 분해한다.BM25, Sentence Transformer로 하나의 문장에 대해서 검색 기능을 실행. 후에 모든 chunk를 활용해서 해보고, 검색 성능을 향상시킨다. 라이브러리 다운로드 및 임포트!pip install -q -U transformers==4.38.2!pip install -q -U datasets==2.18.0!pip install -q -U bitsandbytes==0.42.0!pip install -q -U peft==0.9.0!pip install -q -U trl==0.7.11!pip install -q -U accelerate==0.27.2!pip install -q -U rank_bm25==0.2.2!pip install -q -U sentence-tr..