본문 바로가기

Develop

(66)
vLLM 3편 - 확장 아키텍처: UniProcExecutor에서 MultiProcExecutor까지 보호되어 있는 글입니다.
vLLM 2편 - 고급 기능 완벽 정리: Chunked Prefill부터 Speculative Decoding까지 보호되어 있는 글입니다.
VLLM 1편 : Inside vLLM: 고성능 LLM 추론 시스템의 구조 해부 보호되어 있는 글입니다.
Mac zip 분할 압축 / 풀기 https://modelinspring.tistory.com/48terminal 에서 기본 제공하는 zip 명령어로 (분할)압축 하기1. 터미널 실행2. 압축하고자 하는 폴더(또는 파일)이 위치한 경로로 이동3. 명령어 실행zip -r -s 5m z example-dir/ 4. z.z01, z.z02 ... z.zn, z.zip 파일 생성 * 설명z 위치에는 새로 생성하고자 하는 zip 파일명 입력 (.zip 이 알아서 붙음)example-dir/  위치에는 압축하고자 하는 폴더나 파일명 입력-r는 subdirs를 위해서 사용하고, 생략 가능함-s는 분할을 위해서 사용하고, 생략 가능함. 사용할 때는 뒤에 숫자와 단위 사용하는데 m이 기본값. 위 명령어에서는 5MB씩 분할 #참고zip -h2.........
Vue.js 공부하기 vue.js 처음 따라하기 소스https://developer.mozilla.org/en-US/docs/Learn/Tools_and_testing/Client-side_JavaScript_frameworks/Vue_getting_started Vue.js version 3 가이드 & 튜토리얼https://ko.vuejs.org/guide/introduction.html Vue.jsVue.js - The Progressive JavaScript Frameworkvuejs.org
Postgres Docker 로 서비스 띄우기 https://diary-developer.tistory.com/20 [Docker] PostgreSQL 도커로 실행하기Docker를 사용해서 최신버전의 PostgreSQL을 실행하여 데이터베이스 및 계정을 생성하고 데이터베이스 접근 권한과 계정에게 권한 설정하는 방법 등 아주 기본적인 설정에 대해 알아보려고 한다. 1.diary-developer.tistory.com  Docker를 사용해서 최신버전의 PostgreSQL을 실행하여 데이터베이스 및 계정을 생성하고 데이터베이스 접근 권한과 계정에게 권한 설정하는 방법 등 아주 기본적인 설정에 대해 알아보려고 한다.1. PostgreSQL 버전 선택가장 먼저 해야 할 일은 사용할 PostgreSQL의 버전을 선택해야 한다. 현재 15 버전까지 나와 있는 ..
PINN 이해하기 (Physics-Informed Neural Network) 출처 https://velog.io/@changwoo7463/BINN-%EA%B0%95%EC%9D%98-%EC%9D%B4%ED%95%B4%ED%95%98%EA%B8%B0 📌PINN에 대해 이해하기 📕 딥러닝 단점 딥러닝 데이터기반접근의 이점이있다. 데이터가 꽤 많으면 적당한 모델에 적당한 성능가능 더 ~ 좋은성능? 은 데이터만으로 한계가있다. 블랙박스단점 1. interpretability X = 해석 불가 2. generalizability X = 일반화 불가 내삽은되는데 외삽은..? 위를 극복하기위해서는? 데이터 품질개선 알고리즘 개선 주제 : Physics 를 적용하자! 📕 딥러닝과 Physics의 조합 왜 데이터기반의 블랙박스 방법이 실패할까? 아마 추론값은 물리적 정합성이 떨어질것이다. 그럴듯하..
Vector DB 종류 출처 : https://revf.tistory.com/281 벡터 데이터베이스 1. Pinecone - 관리형 벡터 데이터베이스 - 빠르고 확장 가능하며 프로덕션에 신속하게 배포 가능 - 하이브리드 검색 지원 - 네이티브 SPLADE 스파스 벡터 지원 2. Weaviate - 오픈 소스 벡터 검색 엔진 - revf.tistory.com 1. Pinecone - 관리형 벡터 데이터베이스 - 빠르고 확장 가능하며 프로덕션에 신속하게 배포 가능 - 하이브리드 검색 지원 - 네이티브 SPLADE 스파스 벡터 지원 2. Weaviate - 오픈 소스 벡터 검색 엔진 - 수십억 개의 데이터 개체로 확장 - 즉시 사용 가능한 하이브리드 검색 - 자체 호스팅 또는 관리형 배포 옵션 3. Zilliz - 관리형 클라우드..