본문 바로가기
Kubernetes - kubectl 명령어 정리 https://velog.io/@hanblueblue/kubernates-kubectl-%EB%AA%85%EB%A0%B9%EC%96%B4-%EC%A0%95%EB%A6%AC [kubernetes] kubectl 명령어 정리 kubectl version --short 버전 정보 kubectl api-resources 쿠버네티스에서 사용가능한 오브젝트 리스트 kubectl apply -f ${yamlfilename} yaml 파일을 이용해 리소스 생성 kubectl get ${objec velog.io hanblueblue·2021년 2월 20일 kubernetes 0 kubectl version --short 버전 정보 kubectl version --short Client Version: v1.16.6-b..
NVIDIA Triton Inference Server를 쿠버네티스에 배포하고 GPU 병렬 사용을 테스트 한 후기 (Kubernetes Kubeflow KFServing) https://mokpolar.github.io/nvidia_triton_server_1/ NVIDIA Triton Inference Server를 쿠버네티스에 배포하고 GPU 병렬 사용을 테스트 한 후기 (Kubernetes Kubeflow NVIDIA Triton Inference Server를 쿠버네티스에 배포하고 GPU 병렬 사용을 테스트 한 후기 (Kubernetes Kubeflow KFServing) mokpolar.github.io 두 번째 블로그 글을 쓴다. 블로그를 만들면서, 공부하고 일한 내용을 정리하는 차원에서 2주에 한 번씩은 글을 쓰자고 다짐했었다. 그런데 글을 그냥 막 쓸 수 있는게 아니라 잘 정리해서 써야하니 2주에 글 하나 쓰기도 보통 만만한 일이 아니었다… 배경 GPU 1개..
Kubeflow를 이용해서 쿠버네티스에서 머신러닝 모델 서빙해보기 (Kubernetes KFServing InferenceService) https://mokpolar.github.io/kfserving_custum_inference/ Kubeflow를 이용해서 쿠버네티스에서 머신러닝 모델 서빙해보기 (Kubernetes KFServing InferenceService) Kubeflow를 이용해서 쿠버네티스에서 머신러닝 모델 서빙해보기 (Kubernetes KFServing InferenceService) mokpolar.github.io KFServing은 Kubernetes 위에서 머신러닝 모델을 서빙할 수 있도록 해준다. KFServing Github 문서를 읽어보면 Tensorflow, PyTorch, ScikitLearn, XGBoost, ONNX 등의 프레임워크를 지원한다고 되어있다. KFServing은 이를 위해서 Kubere..
Docker 도커 주요 명령어 1. docker ps 도커 컨테이너 목록을 볼 수 있다. 2. docker ps -a docker ps 시에 -a 옵션을 붙이면 현재 내려가 있는 컨테이너 목록도 볼 수 있다. 3. docker run [컨테이너명] 도커 컨테이너를 실행한다. 그런데 포그라운드로 실행된다. 따라서 컨트롤-C 누르면 컨테이너가 중지된다. 4. docker run -d [컨테이너명] 도커 컨테이너를 실행하는데 백그라운드(데몬) 모드로 실행한다. docker ps로 확인 가능하다. 5. 도커 컨테이너 이름 추출 docker ps --format "{{.Names}}" 6. 호스트 파일을 컨테이너로 복사 docker cp [파일명] [컨테이너명]:/[파일명] docker cp filename.txt mycontainer:/fi..
Docker Image 생성(run), 확인(ps), 삭제(rm) - 도커 이미지 1. 개요 Docker 이미지 관련 작업을 해보자. 아래 내용은 root 계정 상에서 진행했다. 2. 이미지 생성 및 실행 Nginx 컨테이너를 띄우려고 한다. # docker run -d -p 80:80 --name nginx nginx 750077b640be4ae71349b49048d03cde9f45d5edf6efa0aafb8a5fd6b071d2ca 생성되었다. 만약 이미지를 가지고 있다면 아래와 같은 문구가 나오면서 이미지를 풀링할 것이다. Unable to find image 'nginx:latest' locally latest: Pulling from library/nginx 2a72cbf407d6: Pull complete fefa2faca81f: Pull complete 080aeede811..
Kubernetes 기초 1. 소개 Kubernetes란 무엇인지 알아보자. 쿠버네티스라고 부른다. 혹은 큐브(Kube)라고 부르기도 한다. 그리스어로 조타수, 항해사라는 뜻을 가지고 있다. 2. 의미 마이크로 서비스 아키텍처는 비즈니스 민첩성(Agility), 유연한 확장성(Scalability), 강한 복원력(Resiliency) 등을 제공한다. 하지만 단지 응용 프로그램을 마이크로 단위로 구현한다고 해서 이러한 이점을 얻을 수 있는 것은 아니다. 각 마이크로 서비스를 위한 독립된 실행 환경 확보 및 자동화된 배포(CI/CD) 환경이 뒷받침되어야 한다. 우선 각 마이크로 서비스들을 실행할 수 있는 독립된 환경이 필요하다. 또 마이크로 서비스 단위로 부하에 따라 빠르고 유연하게 확장/축소할 수 있어야 한다. 하지만 물리 서버 ..
Docker Container 개념 1. container 와 vm 비교 * VM 방식 VM 방식은하이퍼바이저라는 논리적 OS 플랫폼 위에 새로운 os를 설치합니다. 따라서 어플리케이션 실행 시 이미지+OS 와 통신해야 하는 구조라서 성능문제 발생할 수 있습니다. (이미지: 소스코드 + 컴파일된실행파일) * Container 그림으로 보면 이해가 쉬울 것 같습니다. container 는 guestOS 가 없는 리눅스입니다. 컨테이너 방식에서는 guest OS 없이 host OS의 자원을 다같이 공유합니다. 따라서, 프로세스가 격리되어 가볍고 속도가 빠르며 CPU, 메모리는 프로세스가 필요한 만큼만 사용하기 때문에 성능 손실 없음. * 도커 도커는 container로 실행하기 때문에 속도가 빠릅니다. 초기에는 리눅스container 로 개발..
Docker 의 이해 Docker는 컨테이너 기반의 오픈소스 가상화 플랫폼입니다. 1. Docker의 사전적 의미 Docker의 사전적 의미는 항만 노동자를 뜻합니다. 항구에서 컨테이너를 나르는 것을 상상하시면 됩니다. 위 그림을 보시면 쉽게 이해할 수 있을 것 같습니다. IT에서 말하는 Docker 와 무슨 상관일까 생각할 수 있지만, 컨테이너를 다루는 Docker의 기능과 같은 맥락에서 해석 할 수 있습니다. Docker가 유명해진 가장 큰 이유 역시 컨테이너라는 점 때문입니다. 컨테이너에 대한 자세한 설명은 다음 게시글에서 설명하도록 하겠습니다. 2. Docker 의 특징 Docker가 왜 많은 기업에서 쓰이고 있는지, 주목받는 솔루션인지에 대해서는 특징을 보면 쉽게 이해할 수 있습니다. - 하이퍼바이저(Hypervis..

티스토리툴바