vLLM 3편 - 확장 아키텍처: UniProcExecutor에서 MultiProcExecutor까지 보호되어 있는 글입니다. vLLM 2편 - 고급 기능 완벽 정리: Chunked Prefill부터 Speculative Decoding까지 보호되어 있는 글입니다. VLLM 1편 : Inside vLLM: 고성능 LLM 추론 시스템의 구조 해부 보호되어 있는 글입니다. Mac zip 분할 압축 / 풀기 https://modelinspring.tistory.com/48terminal 에서 기본 제공하는 zip 명령어로 (분할)압축 하기1. 터미널 실행2. 압축하고자 하는 폴더(또는 파일)이 위치한 경로로 이동3. 명령어 실행zip -r -s 5m z example-dir/ 4. z.z01, z.z02 ... z.zn, z.zip 파일 생성 * 설명z 위치에는 새로 생성하고자 하는 zip 파일명 입력 (.zip 이 알아서 붙음)example-dir/ 위치에는 압축하고자 하는 폴더나 파일명 입력-r는 subdirs를 위해서 사용하고, 생략 가능함-s는 분할을 위해서 사용하고, 생략 가능함. 사용할 때는 뒤에 숫자와 단위 사용하는데 m이 기본값. 위 명령어에서는 5MB씩 분할 #참고zip -h2......... TCP/IP Socket vs RESTful API vs gRPC vs WebSocket https://mumomu.tistory.com/173 TCP/IP Socket vs RESTful API vs gRPC vs WebSocket들어가면서 서버에서 클라이언트 혹은 다른 서버와 통신하는 방법으로 여러가지가 있지만 그 중에서 TCP 상에서 IPC를 위해 자주 사용되는 TCP/IP Socket, RESTful API, gRPC, WebSocket의 차이를 공부하고자mumomu.tistory.com 서버에서 클라이언트 혹은 다른 서버와 통신하는 방법으로 여러가지가 있지만 그 중에서 TCP 상에서 IPC를 위해 자주 사용되는TCP/IP Socket, RESTful API, gRPC, WebSocket의 차이를 공부하고자 한다 프로세스는 기본적으로 상호독립적으로 가동되기 때문에 서로 메모리를 공유하.. Vue.js 공부하기 vue.js 처음 따라하기 소스https://developer.mozilla.org/en-US/docs/Learn/Tools_and_testing/Client-side_JavaScript_frameworks/Vue_getting_started Vue.js version 3 가이드 & 튜토리얼https://ko.vuejs.org/guide/introduction.html Vue.jsVue.js - The Progressive JavaScript Frameworkvuejs.org Mac 에서 Vim 명령어모드 한글 처리 vscode 포함 MacVIM : 여러 방법이 있지만 .vimrc 에 set noimd 적용으로 쉽게 처리 vscode : brew tap daipeihust/tap && brew install im-selectwhich im-select/usr/local/bin/im-select 에 설치된다. vscode vim 의 설정(Extended Setting) 이미지 대로 셋팅하면 명령어모드로 전환시 자동으로 영문으로 변경되고다시 입력모드로 들어가면 이전 모드(한글/영문) 로 바뀐다. https://mycodings.fly.dev/blog/2022-08-07-vs-code-with-korean-input-auto-change VS Code Vim에서 한글 세팅 제대로 하기VS Code Vim에서 한글 입력 후 ESC키를 눌.. Postgres Docker 로 서비스 띄우기 https://diary-developer.tistory.com/20 [Docker] PostgreSQL 도커로 실행하기Docker를 사용해서 최신버전의 PostgreSQL을 실행하여 데이터베이스 및 계정을 생성하고 데이터베이스 접근 권한과 계정에게 권한 설정하는 방법 등 아주 기본적인 설정에 대해 알아보려고 한다. 1.diary-developer.tistory.com Docker를 사용해서 최신버전의 PostgreSQL을 실행하여 데이터베이스 및 계정을 생성하고 데이터베이스 접근 권한과 계정에게 권한 설정하는 방법 등 아주 기본적인 설정에 대해 알아보려고 한다.1. PostgreSQL 버전 선택가장 먼저 해야 할 일은 사용할 PostgreSQL의 버전을 선택해야 한다. 현재 15 버전까지 나와 있는 .. 이전 1 2 3 4 ··· 12 다음