(ktds) 24.08.05 ~ 3

langchain, openai 활용하여 응답 생성하기 (두번의 invoke, history를 이용하여 대화의 흐름 유지)

chat_router.pyfrom domain.ai.service import chatclass Message(BaseModel):    role: Union[str, None] = None    content : str    session_id : str@router.post("lang-chain")def chat_request_by_lang_chain(message: Message):    return chat.chat_completion_by_lang_chain(session_id = message.session_id, message=message.content) chat.pyfrom langchain_core.prompts import ChatPromptTemplate, MessagesPlaceh..

노드, 클러스터, 쿠버네티스, 로드밸런싱 관련 설명

node, cluster, k8s .. 한마디로 정의하자면!클러스터는 노드의 집합이며, 쿠버네티스는 이러한 클러스터를 관리하고 운영하는 도구라고 할 수 있다. 클러스터 (Cluster)- 여러 서버나 노드를 그룹화하여 하나의 시스템처럼 작동하도록 구성한 것- 클러스터를 통해 애플리케이션의 가용성과 확장성을 높일 수 있음.- 일반적으로 클러스터는 로드밸런싱, 내결함성, 장애조치 등 기능을 제공한다.- 클러스터 내의 모든 노드는 협력하여 작업을 수행하고, 문제가 발생할 경우 다른 노드가 이를 이어받아 작업을 계속 함 노드 (Node)- 클러스터 내의 개별 컴퓨터나 서버를 의미함.- 각 노드는 자원을 제공하며, 일반적으로 cpu, 메모리, 저장소와 같은 컴퓨팅 자원을 포함한다.- 워커노드(worker node..

(ktds) 24.08.05 ~ 2025.01.03

[생성형AI] conflunence 데이터를 바탕으로 chatgpt 직접 구현해보기 (1편)

confluence 데이터를 바탕으로 chat gpt 직접 구현해보려고 한다. [구성]1편 : confluence API 를 활용하여 데이터 저장하기 ( store )2편 : 벡터db에 저장해놓은 데이터 업데이트하기 ( update )  개발환경 : vscode, python, fastapi, vectorDB domain > ai > router > knowledge_router.py from fastapi import APIRouterrouter = APIRouter(    prefix = "api/knowledge")@router.post("/kms/store")def store_kmsdata_vectordb(collection_name: str, space_name:str, limit_number:..