anonymous?

쿼리 입력query_text = input("Enter your query: ")쿼리를 입력받는다. 로컬에서 쿼리 임베딩# embed query locallydense_model = TextEmbedding('sentence-transformers/all-MiniLM-L6-v2')query_dense = list(dense_model.embed([query_text]))[0].tolist()sparse_model = SparseTextEmbedding('Qdrant/BM25')query_sparse_raw = list(sparse_model.embed([query_text]))[0]query_sparse = SparseVector( indices=query_sparse_raw.indices.toli..

PROGRAMMING/AI 2026. 3. 31. 17:32

키워드 검색에 강한 Sparse 임베딩과 의미 검색에 강한 Dense 임베딩을 결합하여 Hybrid 검색을 구성하는 과정이다. Hybrid SearchDense 임베딩은 의미적 유사성 검색은 잘 하지만, 키워드 매칭이 약한 단점이 있으며, Sparse 임베딩은 정확한 키워드 매칭이 가능하지만 유의어나 동의어 검색에 약하다.Hybrid 검색은 Sparse와 Dense 임베딩의 단점을 보완하기 위한 검색 방법이다. QdrantRust로 개발된 벡터 데이터베이스로, 도커 이미지를 제공한다.Hybrid Search를 지원하기 때문에 Qdrant에서 제공하는 라이브러리를 이용하여 Hybrid Search를 테스트해보았다.기존에 사용하던 qdrant cloud가 있으므로, 해당 QDRANT_IP, PORT, API..

PROGRAMMING/AI 2026. 3. 31. 16:43

학습 위한 장치 얻기GPU 또는 MPS 같은 하드웨어 가속기에서 모델 학습`torch.cuda` 또는 `torch.backends.mps` 사용 가능한지 확인하고, 그렇지 않으면 CPU 사용if torch.cuda.is_available(): DEVICE = torch.device('cuda') elif torch.backends.mps.is_available(): DEVICE = torch.device('mps') else: DEVICE = torch.device('cpu') print('PyTorch version: ', torch.__version__, ', Device: ', DEVICE)transform = transforms.Compose( [transforms.ToTensor(), trans..

PROGRAMMING/AI 2023. 8. 7. 11:17

import torch from torch.utils.data import Dataset from torchvision import datasets from torchvision.transforms import ToTensor import matplotlib.pyplot as plt 장치 얻기 # Check Device if torch.cuda.is_available(): DEVICE = torch.device('cuda') # use GPU else: DEVICE = torch.device('cpu') # use CPU print('Using PyTorch Version: ', torch.__version__, ', Device: ', DEVICE) GPU 또는 MPS 같은 하드웨어 가속기에서 모델 학..

PROGRAMMING/AI 2023. 8. 6. 16:42

Markov Chain Markov 성질을 갖는 이산 확률 과정 Markov 성질: 특정 상태의 확률($t-1$)은 현재 상태($t$)에만 의존한다. 이산 확률 과정: 이산적 시간(0초, 1초, …) 속 확률적 현상 Diffusion model 분류: 생성 모델 학습된 모델의 패턴을 생성 패턴 생성 과정 학습 위해 고의로 패턴을 무너뜨리고(noising)(diffusion process), 이를 다시 복원하는 조건부 PDF를 학습(denoising)(reverse process) 학습 목표: reverse process $p_{\Theta}(X_{t-1} | X_t)$를 $q(X_{t-1} | X_t)$로 approximate하도록 학습하는 것 1. forward process (diffusion pro..

PROGRAMMING/AI 2023. 7. 28. 17:04

텐서(TENSOR) 배열(array)이나 행렬(matrix)과 유사한 특수한 자료구조 PyTorch에서는 텐서를 사용해서 모델의 입력(input)과 출력(output), 모델 매개변수들을 부호화(encode)함 GPU나 다른 하드웨어 가속기에서 실행 가능 텐서와 Numpy 배열은 동일한 내부(underly) 메모리를 공유할 수 있어 데이터를 복사할 필요없음 자동 미분(automatic differentiation)에 최적화됨 Dependency 추가 import torch import numpy as np 텐서(tensor) 초기화 1. 데이터로부터 직접(directly) 생성하기 data = [[1,2], [3,4]] x_data = torch.tensor(data) print(x_data) tenso..

PROGRAMMING/AI 2023. 7. 10. 23:24