SlideShare a Scribd company logo
Produced by Tae Young Lee
2014 2015 20172016
AutoML&
AutoDraw
딥러닝을 위한
TensorFlow
Sequence Model
and the RNN API
Open Stack으로
바라보는
클라우드 플랫폼
Machine Learning
In SPAM
Python Network
Programming
Neural Network의
변천사를 통해
바라본 R에서
Deep Neural
Net활용
Change the world
in IOT (Falinux)
Game based on
the IOT (KGC)
가상화 개념 잡기
Open stack의 vm개념을 통한 docker의 활용
(On-Premise)
Storage
Servers
Networking
O/S
Middleware
Virtualization
Data
Applications
Runtime
Managedby
vendor
Infrastructure
(as a Service)
Storage
Servers
Networking
O/S
Middleware
Virtualization
Data
Applications
Runtime
You
manage
You
manage
Platform
(as a Service)
Managedby
vendor
Storage
Servers
Networking
O/S
Middleware
Virtualization
Applications
Runtime
Data
Managedby
vendor
Software
(as a Service)
Storage
Servers
Networking
O/S
Middleware
Virtualization
Applications
Runtime
Data
You
manage
● 서버통합
○ 데이터센터 전력 에너지와 공간 절약
● 서비스 분리
○ 서비스 분리를 위한 애플리케이션을 가상서버를 통해 분리 가능
● 빠른 서버 배포
○ 이미지 와 스냅샷을 통한 시스템 배포 및 복제 가능
● 재해복구
○ 스냅샷을 통한 가상서버 복원, VM 마이그레션으로 데이터센터 이동 가능
● 동적 로드밸런싱
○ 작업 부하에 따라 자원 사용량 조절 가능
● 빠른 개발을 위한 테스트 환경제공
○ 가상서버를 통한 빠른 테스트 환경 제공으로 개발 시간 단축
가상화의 장점
● 시스템 보안 과 신뢰성 향상
○ 가상서버와 물리적 하드웨어 사이 추상화 레이어를 통한 보안 강화
● OS 독립 , 하드웨어 벤더 락-인(lock-in) 축소
○ 하드웨어 추상화를 통해 가상 하드웨어는 벤더 락-인이 제거됨
가상화의 장점
● 동일한 물리적 호스트가 서로다른 작업을 가능하게 함
○ 작업은 동일한 운영체제에서 독립적으로 작동
● 컨테이너 가상화
○ 물리적 서버에 다중의 격리된 운영체제 인스턴스(컨테이너)를 실행
● 컨테이너 가상화 종류
○ Solaris 컨테이너, FreeBSD jails, Parallels OpenVZ
● 단일 시스템에서 실행
○ 프로세스 격리 와 자원 관리는 커널이 담당
○ 컨테이너는 자신의 파일시스템, 프로세스, 메모리, 디바이스가 할당됨
● 멀티 OS 실행 제한
○ 윈도우, 리눅스, 유닉스등 다중 운영체제가 실행되는 가상화가 아님
○ 단일 OS 실행으로 성능과 효율성이 뛰어남
운영체제 가상화/파티셔닝
● 링 : 컴퓨터 시스템의 리소스 접근시 데이터 와 보안을 위한 장치
○ 링 0 : 커널모드 / 슈퍼 관리자 모드
○ 링 3 : 사용자 모드 / 애플리케이션 실행 모드
링 보호 (Protection Ring)
● Guest OS 는 링 1 에서 실행
○ OS 권한 제약 사항을 극복하기 위해 자원이 에뮬이션 기능 사용
● 가상서버 모니터(VMM) 은 링 0 에서 실행
● 전 가상화는 x86 아키넥처에서 처음 실행됨
● 가상화 되지 않는 명령은 바이너리 변환 기술을 이용
전 가상화 (Full Virtualization)
● 권한이 필요한 명령은 VMM 에 전달되어 바이너리 변환
● 바이너리 변환방식은 큰 성능 저하를 발생
● OS 의 커널 수정없이 사용 가능함
● VMM 은 CPU 를 관리하고 에뮬레이션 기능을 제공
전 가상화 (Full Virtualization)
● Guest OS 링 0 에 접근 하기 위해 운영체제가 수정되어야 함
● Guest OS는 하이퍼바이저/VMM 사이에 하이퍼콜(Hypercall) 호출 실행
● 하이퍼바이저는 API를 제공
● 권한이 필요한 명령은 API 를 통해 실행 되어 링 0 에서 실행됨
반 가상화 (Para Virtualization)
● Guest OS는 자신의 VM 이 가상화 되었음을 인지하고 있음
● 권한이 필요한 명령은 VMM 에 전달되기 위해 하이퍼콜 호출
● Guest OS 커널은 하이퍼콜을 통해 VMM 과 직접 통신 가능
● 바이너리 변환이 필요한 전가상화와 비교해 큰 성능 향상
● 반가상화 인지 가능한 특수한 Guest OS 커널이 필요
반 가상화 (Para Virtualization)
전가상화 vs 반가상화
http://bongbonge.tistory.com/entry/서버-가상화
● Intel 과 AMD 는 가상화가 x86 아키텍처의 중요 과제로 인식
● 프로세스 확장을 통한 독립적인 가상화 지원 기능 개발
○ Intel : Intel VT-x
○ AMD : AMD-V
○ Itanium : VT-i
● IA-32 명령어를 확장
○ Intel : VT(Virtualization Techonology)
○ AMD : SVM(Secure Virutal Machine)
● 하이퍼바이저와 VMM 이 Guest OS를 Ring 0 에서 실행 가능하도록 지원
● VM 을 링 0 에서 실행 가능 할 수 있도록, 하이퍼바이저 와 VMM 을 링 - 1
에서 실행함
● 기존 전가상화 기술보다 성능이 향상됨
하드웨어 가상화 지원기능
● 하드웨어가 가상화를 인식
● 가상화 솔루션 개발시 복잡함을 줄여줌
● KVM 은 하드웨어 가상화 지원 기능을 사용
하드웨어 가상화 지원기능
● 하이퍼 바이저/가상서버 모니터(VMM)
○ VM , Guest OS 를 관리하는 소프트 웨어
● 가상화 작업 관리
○ 가상 하드웨어 제공
○ VM 생명주기, 실시간 리소스 할당, 가상머신 정책관리
● 가상서버 모니터 (VMM)
○ Guest OS 의 자원 할당 요청을 담당
○ 프로세스, 메모리등 시스템 하드웨어 환경 설정에 의해 자원 할당됨
하이퍼바이저/가상서버 모니터(VMM)
● 하이퍼바이저는 존재 위치에 따라 그 분류가 달라진다.
○ Type1 : 하드웨어 위에서 직접 실행
○ Type2 : 운영체제가 있고, 하이퍼바이저가 분리된 층에 실행
● Type1 하이퍼 바이저
○ 시스템 하드웨어와 직접 상호작용
○ 운영체제가 필요하지 않음
○ 베어메탈, 임베디드, 네이티브 하이퍼바이저라고 함
● Type2 하이퍼바이저
○ 운영체제 위에 존재
○ 다양한 변경이 가능하다
○ Hosted 하이퍼바이저
Type1 , Type2 하이퍼바이저
Type1 , Type2 하이퍼바이저
● 설치와 설정이 쉽다
● 사이즈가 작고 자원사용 최적화
● 부하가 작고 설치 애플리케이션이 작다
● 별도의 프로그램 및 드라이버 설치가
불가능
Type1 Type2
● 호스트 운영체제에 종속적이다.
● 광범위한 하드웨어 지원이 가능하다
오픈소스 가상화 프로젝트
Project Virtualization Type Project URL
KVM (Kernel-based Virtual
Machine)
Full virtualization http://www.linux-kvm.org/
VirtualBox Full virtualization https://www.virtualbox.org/
Xen Full and paravirtualization http://www.xenproject.org/
Lguest Paravirtualization http://lguest.ozlabs.org/
UML (User Mode Linux)
http://user-mode-linux.
sourceforge.net/
Linux-VServer
http://www.linux-vserver.org/
Welcome_to_Linux-VServer.org
XEN KVM
● 케임브리지 대학 연구 프로젝트로 시작, 2003년 공개
● 2013년 4월 Linux Foundation 공동 프로젝트 로 이전
Xen
● 반가상화, 전가상화, 하드웨어지원 모드 사용 가능
● Guest VM 을 도메인 이라고 부른다.
● Xen 에는 두 종류의 도메인이 존재
○ Dom 0 : 특권이 있는 도메인, 기능이 확장된 특수 Guest VM
○ Dom U : 권한이 없는 도메인, 일반 Guest VM
● Dom 0
○ VM을 만들고, 삭제하고, 관리 및 설정가능
○ 일반 Guest 시스템이 가상화 드라이버를 통해 하드웨어에 직접 접근 가능하도록 지원
○ API 인터페이스를 통한 시스템 관리기능 제공
○ 시스템에서 첫번째로 시작되는 도메인
○ Xen 프로젝트 하이퍼바이저를 위한 필수 도메인
Xen
● KVM (Kernel-based Virtual Machine)
● 하드웨어 가상화 지원기능 (VT-x, AMD-V) 를 활용한 최신 하이퍼바이저
● KVM은 KVM 커널모듈 설치로 하이퍼바이저로 변환가능
○ 리눅스 표준 커널에 KVM 커널 모듈을 추가
○ 표준 커널의 메모리 지원, 스케줄러 등을 사용가능한 장점이 있음
○ 리눅스 컴포넌트 최적화는 하이퍼바이저와 리눅스 Guest OS 둘다 이점을 갖음
● I/O 에뮬레이션을 위해 QEMU 를 사용
○ QEMU는 하드웨어 에뮬레이션을 지원하는 사용자 영역 프로그램
○ 프로세스, 디스크, 네트워크, VGA, PCI, USB, Serial/Parallel 포트 에뮬레이션
KVM
리눅스는 클라우드 기반의 솔루션 개발을 위해 첫번째로 선택되어 왔다
● 아마존 EC2 클라우드는 Xen 가상화를 사용
● 디지탈오션 KVM 사용
리눅스 가상화를 사용한 오픈소스 IaaS 클라우드 소프트웨어
● 오픈스택
○ Openstack Foundation 에 의해 관리되는 오픈소스 IaaS 클라우드 솔루션
○ 몇개의 오픈소스 프로젝트 컴포넌트로 구성
○ KVM 을 기본 하이퍼바이저로 사용
● 클라우드스택
○ Apache Software Foundation 에 의해 관리되는 IaaS 클라우드 솔루션
○ 아마존 EC2/S3 API 와 호환성
○ Xen 을 기본 하이퍼바이저로 사용
● 유칼립투스
○ AWS 와 호환성을 가진 프라이빗 클라우드 소프트웨어
○ Xen, KVM 모두 지원
클라우드에서 리눅스 가상화가 제공하는것
OpenStack VM
Open stack의 vm개념을 통한 docker의 활용
오픈스택의 기본 하이퍼바이저
KVM(Kernel Based Virtual Machine)
TYPE1(native or bare-metal)에 해당하는 하이퍼바이저
메모리 관리자는 파일 시스템 등과 같은 커널의 서브
모듈로 취급되며, KVM을 사용하기 위해서는 CPU에서
HVM(Hardware Virtual Machine) 기능을 제공해야 합니다.
HVM을 제공하는 CPU로는 x86 아키텍처의 Intel VT-x와
AMD의 AMD-v가 있습니다.
가상머신과 Docker
가상머신
전가상화(Full Virtualization)의 느린 속도를 개선하기 위해 반가상화(Paravirtualization)
방식이 개발되었고, 현재 널리 쓰이고 있습니다.
가상머신의 한계
가상 머신 자체는 완전한 컴퓨터라 항상 게스트 OS를 설치해야 합니다.
그래서 이미지 안에 OS가 포함되기 때문에 이미지 용량이 커집니다.
네트워크와 인터넷 속도가 빨라졌다 하더라도 가상화 이미지를
주고받는 것은 꽤 부담스럽습니다. 특히 오픈 소스 가상화 소프트웨어는
OS를 가상화하는 것에만 초점이 맞춰져 있습니다. 그래서 이미지를
생성하고 실행하는 기능만 있을 뿐 배포와 관리 기능이 부족
Docker란?
Docker는 반가상화보다 좀더 경량화된 방식입니다. 그림 1-6와 같이 게스트
OS를 설치하지 않습니다. Docker 이미지에 서버 운영을 위한 프로그램과
라이브러리만 격리해서 설치할 수 있고, OS 자원(시스템 콜)은 호스트와
공유합니다. 이렇게 되면서 이미지 용량이 크게 줄어들었습니다.
Docker는 하드웨어를 가상화하는 계층이 없기 때문에 메모리 접근,
파일시스템, 네트워크 속도가 가상 머신에 비해 월등히 빠릅니다.
Docker는 가상 머신과는 달리 이미지 생성과 배포에 특화된 기능을 제공합니다.
Git에서 소스를 관리하는 것처럼 이미지 버전 관리 기능을 제공합니다.
또한, 중앙 관리를 위해 저장소에 이미지를 올리고, 받을 수있습니다(Push/Pull).
그리고 GitHub처럼 Docker 이미지를 공유할 수 있는 Docker Hub도 제공
합니다(GitHub처럼 유료 개인 저장소도 제공합니다).
다양한 API를 제공하기 때문에 원하는 만큼 자동화를 할 수 있어 개발과 서버
운영에 매우 유용합니다.
Docker의 장점
Open stack의 vm개념을 통한 docker의 활용
docker hub 사용
1> https://github.com/tylee33/brat-docker
2> https://github.com/TensorMSA/tensormsa_syntax_docker
docker의 활용
Change your Perspective
Open stack의 vm개념을 통한 docker의 활용
엔비디아의 차량용 슈퍼컴퓨터 ‘드라이브 PX2’는 자율주행차용으로 개발한
‘파커(Parker)’ 프로세서와 ‘파스칼’ 아키텍처 기반 GPU가 각각 2개씩 들어간
단일 SoC(시스템 온 칩)를 탑재해 약 8TFlops의 연산능력을 갖췄다.
이를 통해 ▲차량 위치 파악 ▲안전한 운행궤도 측정 ▲360도 주변 상황 인식
등을 수행하면서 초당 약 24조 회의 딥러닝 작업 속도를 구현한다.
여기에 주변 환경을 보다 폭넓게 이해하기 위해 12개의 비디오카메라를
비롯해 레이더, 초음파 센서 등 다양한 경로에서 수집되는 정보들을 결합하는
‘센서 융합’ 기술도 활용한다.
최신 테슬라 모델S(Tesla Model S)가 전시됐습니다. 이 모델은 DRIVE PX 2가 장착 된 최초의
시리즈 차량으로, DRIVE PX 2는 향후 소프트웨어 업데이트를 통해 완전한 자율성을
제공할 오토파일럿(AutoPilot) 시스템의 기반을 제공
Automation Car
Automation Car
Open stack의 vm개념을 통한 docker의 활용
Open stack의 vm개념을 통한 docker의 활용
Open stack의 vm개념을 통한 docker의 활용
Open stack의 vm개념을 통한 docker의 활용
1> Mastering KVM Virtualization
2> https://github.com/tylee33/brat-docker
3> https://github.com/TensorMSA/tensormsa_syntax_docker
참고문헌

More Related Content

What's hot (20)

PDF
도커 학습과 Boot2Docker
pyrasis
 
PDF
가장 빨리 만나는 Docker 출간 후기
pyrasis
 
PDF
XECon2015 :: [1-5] 김훈민 - 서버 운영자가 꼭 알아야 할 Docker
XpressEngine
 
PDF
Tech planet 2015 Docker 클라우드 구축 프로젝트 - d4
Sangcheol Hwang
 
PPTX
[NDC17] Kubernetes로 개발서버 간단히 찍어내기
SeungYong Oh
 
PDF
Confd, systemd, fleet을 이용한 어플리케이션 배포 in CoreOS
충섭 김
 
PDF
docker-based remote desktop
Hyeong-Kyu Lee
 
PDF
Docker at Deview 2013
Jude Kim
 
PDF
[H3 2012] 내컴에선 잘되던데? - vagrant로 서버와 동일한 개발환경 꾸미기
KTH, 케이티하이텔
 
PDF
도커(Docker) 메트릭스 & 로그 수집
Daegwon Kim
 
PDF
[Nomad connection]docker seminar 15.10.08
Nomad Connection, Inc.
 
PPTX
랩탑으로 tensorflow 도전하기 - tensorflow 설치
Lee Seungeun
 
PDF
도커 무작정 따라하기: 도커가 처음인 사람도 60분이면 웹 서버를 올릴 수 있습니다!
pyrasis
 
PDF
Docker (Compose) 활용 - 개발 환경 구성하기
raccoony
 
PDF
Dockerfile과 Bash
pyrasis
 
PPT
Backend Master | 3.4.5 Deploy - Docker Principal
Kyunghun Jeon
 
PDF
[오픈소스컨설팅]쿠버네티스를 활용한 개발환경 구축
Ji-Woong Choi
 
PPTX
Docker 로 Linux 없이 Linux 환경에서 개발하기
iFunFactory Inc.
 
PDF
CoreOS를 이용한 Docker 관리툴 소개
충섭 김
 
PDF
AWS + Docker in Vingle
D C
 
도커 학습과 Boot2Docker
pyrasis
 
가장 빨리 만나는 Docker 출간 후기
pyrasis
 
XECon2015 :: [1-5] 김훈민 - 서버 운영자가 꼭 알아야 할 Docker
XpressEngine
 
Tech planet 2015 Docker 클라우드 구축 프로젝트 - d4
Sangcheol Hwang
 
[NDC17] Kubernetes로 개발서버 간단히 찍어내기
SeungYong Oh
 
Confd, systemd, fleet을 이용한 어플리케이션 배포 in CoreOS
충섭 김
 
docker-based remote desktop
Hyeong-Kyu Lee
 
Docker at Deview 2013
Jude Kim
 
[H3 2012] 내컴에선 잘되던데? - vagrant로 서버와 동일한 개발환경 꾸미기
KTH, 케이티하이텔
 
도커(Docker) 메트릭스 & 로그 수집
Daegwon Kim
 
[Nomad connection]docker seminar 15.10.08
Nomad Connection, Inc.
 
랩탑으로 tensorflow 도전하기 - tensorflow 설치
Lee Seungeun
 
도커 무작정 따라하기: 도커가 처음인 사람도 60분이면 웹 서버를 올릴 수 있습니다!
pyrasis
 
Docker (Compose) 활용 - 개발 환경 구성하기
raccoony
 
Dockerfile과 Bash
pyrasis
 
Backend Master | 3.4.5 Deploy - Docker Principal
Kyunghun Jeon
 
[오픈소스컨설팅]쿠버네티스를 활용한 개발환경 구축
Ji-Woong Choi
 
Docker 로 Linux 없이 Linux 환경에서 개발하기
iFunFactory Inc.
 
CoreOS를 이용한 Docker 관리툴 소개
충섭 김
 
AWS + Docker in Vingle
D C
 

Similar to Open stack의 vm개념을 통한 docker의 활용 (20)

PDF
클라우드 컴퓨팅 기반 기술과 오픈스택(Kvm) 기반 Provisioning
Ji-Woong Choi
 
PDF
Red Hat Enterprise Virtualization
hipark
 
PPTX
Virtualization technology for security
hanbeom Park
 
PPTX
프로젝트용 PC 환경구성 이찬희
찬희 이
 
PDF
[오픈소스컨설팅]Virtualization kvm-rhev
Ji-Woong Choi
 
PPTX
2.[d2 오픈세미나]네이버클라우드 시스템 아키텍처 및 활용 방안
NAVER D2
 
PPTX
OpenStack으로 바로보는 상용 클라우드 플랫폼
Tae Young Lee
 
PDF
AWS CLOUD 2017 - AWS 가상 컴퓨팅 분야 혁신 서비스 (박철수 솔루션즈 아키텍트)
Amazon Web Services Korea
 
PDF
Hyper-v
정호 최
 
PDF
가상화
Joon-S Lee
 
PDF
AWS와 Open Source - 윤석찬 (OSS개발자 그룹)
Amazon Web Services Korea
 
PDF
[오픈테크넷서밋2022] 국내 PaaS(Kubernetes) Best Practice 및 DevOps 환경 구축 사례.pdf
Open Source Consulting
 
PPTX
KVM & OpenStack
WooKyun Jeon
 
PDF
oVirt introduction
Rogan Kyuseok Lee
 
PDF
Build the OpenStack Cloud with Neutron Networing, IceHouse
jieun kim
 
PPTX
가상화와 컨테이너의 이해_20230117.pptx
Byungho Lee
 
PDF
AWS Builders Online Series | EC2와 Lambda로 AWS 시작하기 - 조용진, AWS 솔루션즈 아키텍트
Amazon Web Services Korea
 
PPTX
[SW 아키텍처 컨퍼런스] 클라우드 아키텍처 개론
Alex Hahn
 
PDF
[웨비나 발표자료] VMware 정책 변화 대응 - 왜 오픈소스 기반 클라우드 네이티브 인프라로 가야하는가?
Open Source Consulting
 
PDF
[AWS Migration Workshop] VMware Cloud on AWS - 하이브리드 환경의 운영
Amazon Web Services Korea
 
클라우드 컴퓨팅 기반 기술과 오픈스택(Kvm) 기반 Provisioning
Ji-Woong Choi
 
Red Hat Enterprise Virtualization
hipark
 
Virtualization technology for security
hanbeom Park
 
프로젝트용 PC 환경구성 이찬희
찬희 이
 
[오픈소스컨설팅]Virtualization kvm-rhev
Ji-Woong Choi
 
2.[d2 오픈세미나]네이버클라우드 시스템 아키텍처 및 활용 방안
NAVER D2
 
OpenStack으로 바로보는 상용 클라우드 플랫폼
Tae Young Lee
 
AWS CLOUD 2017 - AWS 가상 컴퓨팅 분야 혁신 서비스 (박철수 솔루션즈 아키텍트)
Amazon Web Services Korea
 
Hyper-v
정호 최
 
가상화
Joon-S Lee
 
AWS와 Open Source - 윤석찬 (OSS개발자 그룹)
Amazon Web Services Korea
 
[오픈테크넷서밋2022] 국내 PaaS(Kubernetes) Best Practice 및 DevOps 환경 구축 사례.pdf
Open Source Consulting
 
KVM & OpenStack
WooKyun Jeon
 
oVirt introduction
Rogan Kyuseok Lee
 
Build the OpenStack Cloud with Neutron Networing, IceHouse
jieun kim
 
가상화와 컨테이너의 이해_20230117.pptx
Byungho Lee
 
AWS Builders Online Series | EC2와 Lambda로 AWS 시작하기 - 조용진, AWS 솔루션즈 아키텍트
Amazon Web Services Korea
 
[SW 아키텍처 컨퍼런스] 클라우드 아키텍처 개론
Alex Hahn
 
[웨비나 발표자료] VMware 정책 변화 대응 - 왜 오픈소스 기반 클라우드 네이티브 인프라로 가야하는가?
Open Source Consulting
 
[AWS Migration Workshop] VMware Cloud on AWS - 하이브리드 환경의 운영
Amazon Web Services Korea
 
Ad

More from Tae Young Lee (20)

PDF
DeepSeek를 통해 본 Trend (Faculty Tae Young Lee)
Tae Young Lee
 
PDF
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Tae Young Lee
 
PDF
Facebook Meta's technical direction in Large Language Models (LLMs)
Tae Young Lee
 
PDF
MultiModal Embedding integrates various data types, like images, text, and au...
Tae Young Lee
 
PDF
Review of the Paper on Capabilities of Gemini Models in Medicine
Tae Young Lee
 
PDF
A future that integrates LLMs and LAMs (Symposium)
Tae Young Lee
 
PDF
LLMs Service that provides what users want to know
Tae Young Lee
 
PDF
Exploring Deep Learning Acceleration Technology Embedded in LLMs
Tae Young Lee
 
PDF
LLM 모델 기반 서비스 실전 가이드
Tae Young Lee
 
PDF
Recommendation System History
Tae Young Lee
 
PDF
검색엔진에 적용된 ChatGPT
Tae Young Lee
 
PDF
검색엔진에 적용된 딥러닝 모델 방법론
Tae Young Lee
 
PDF
PaLM Paper Review
Tae Young Lee
 
PDF
The Deep Learning Compiler
Tae Young Lee
 
PDF
History of Vision AI
Tae Young Lee
 
PDF
Aws architecture
Tae Young Lee
 
PDF
Enhanced ai platform
Tae Young Lee
 
PDF
Nvidia architecture
Tae Young Lee
 
PDF
Ai based on gpu
Tae Young Lee
 
PDF
Real estate trust solution
Tae Young Lee
 
DeepSeek를 통해 본 Trend (Faculty Tae Young Lee)
Tae Young Lee
 
Transitioning from the Era of Big Data to LLMs_Deriving Insights
Tae Young Lee
 
Facebook Meta's technical direction in Large Language Models (LLMs)
Tae Young Lee
 
MultiModal Embedding integrates various data types, like images, text, and au...
Tae Young Lee
 
Review of the Paper on Capabilities of Gemini Models in Medicine
Tae Young Lee
 
A future that integrates LLMs and LAMs (Symposium)
Tae Young Lee
 
LLMs Service that provides what users want to know
Tae Young Lee
 
Exploring Deep Learning Acceleration Technology Embedded in LLMs
Tae Young Lee
 
LLM 모델 기반 서비스 실전 가이드
Tae Young Lee
 
Recommendation System History
Tae Young Lee
 
검색엔진에 적용된 ChatGPT
Tae Young Lee
 
검색엔진에 적용된 딥러닝 모델 방법론
Tae Young Lee
 
PaLM Paper Review
Tae Young Lee
 
The Deep Learning Compiler
Tae Young Lee
 
History of Vision AI
Tae Young Lee
 
Aws architecture
Tae Young Lee
 
Enhanced ai platform
Tae Young Lee
 
Nvidia architecture
Tae Young Lee
 
Ai based on gpu
Tae Young Lee
 
Real estate trust solution
Tae Young Lee
 
Ad

Open stack의 vm개념을 통한 docker의 활용

  • 1. Produced by Tae Young Lee
  • 2. 2014 2015 20172016 AutoML& AutoDraw 딥러닝을 위한 TensorFlow Sequence Model and the RNN API Open Stack으로 바라보는 클라우드 플랫폼 Machine Learning In SPAM Python Network Programming Neural Network의 변천사를 통해 바라본 R에서 Deep Neural Net활용 Change the world in IOT (Falinux) Game based on the IOT (KGC)
  • 5. (On-Premise) Storage Servers Networking O/S Middleware Virtualization Data Applications Runtime Managedby vendor Infrastructure (as a Service) Storage Servers Networking O/S Middleware Virtualization Data Applications Runtime You manage You manage Platform (as a Service) Managedby vendor Storage Servers Networking O/S Middleware Virtualization Applications Runtime Data Managedby vendor Software (as a Service) Storage Servers Networking O/S Middleware Virtualization Applications Runtime Data You manage
  • 6. ● 서버통합 ○ 데이터센터 전력 에너지와 공간 절약 ● 서비스 분리 ○ 서비스 분리를 위한 애플리케이션을 가상서버를 통해 분리 가능 ● 빠른 서버 배포 ○ 이미지 와 스냅샷을 통한 시스템 배포 및 복제 가능 ● 재해복구 ○ 스냅샷을 통한 가상서버 복원, VM 마이그레션으로 데이터센터 이동 가능 ● 동적 로드밸런싱 ○ 작업 부하에 따라 자원 사용량 조절 가능 ● 빠른 개발을 위한 테스트 환경제공 ○ 가상서버를 통한 빠른 테스트 환경 제공으로 개발 시간 단축 가상화의 장점
  • 7. ● 시스템 보안 과 신뢰성 향상 ○ 가상서버와 물리적 하드웨어 사이 추상화 레이어를 통한 보안 강화 ● OS 독립 , 하드웨어 벤더 락-인(lock-in) 축소 ○ 하드웨어 추상화를 통해 가상 하드웨어는 벤더 락-인이 제거됨 가상화의 장점
  • 8. ● 동일한 물리적 호스트가 서로다른 작업을 가능하게 함 ○ 작업은 동일한 운영체제에서 독립적으로 작동 ● 컨테이너 가상화 ○ 물리적 서버에 다중의 격리된 운영체제 인스턴스(컨테이너)를 실행 ● 컨테이너 가상화 종류 ○ Solaris 컨테이너, FreeBSD jails, Parallels OpenVZ ● 단일 시스템에서 실행 ○ 프로세스 격리 와 자원 관리는 커널이 담당 ○ 컨테이너는 자신의 파일시스템, 프로세스, 메모리, 디바이스가 할당됨 ● 멀티 OS 실행 제한 ○ 윈도우, 리눅스, 유닉스등 다중 운영체제가 실행되는 가상화가 아님 ○ 단일 OS 실행으로 성능과 효율성이 뛰어남 운영체제 가상화/파티셔닝
  • 9. ● 링 : 컴퓨터 시스템의 리소스 접근시 데이터 와 보안을 위한 장치 ○ 링 0 : 커널모드 / 슈퍼 관리자 모드 ○ 링 3 : 사용자 모드 / 애플리케이션 실행 모드 링 보호 (Protection Ring)
  • 10. ● Guest OS 는 링 1 에서 실행 ○ OS 권한 제약 사항을 극복하기 위해 자원이 에뮬이션 기능 사용 ● 가상서버 모니터(VMM) 은 링 0 에서 실행 ● 전 가상화는 x86 아키넥처에서 처음 실행됨 ● 가상화 되지 않는 명령은 바이너리 변환 기술을 이용 전 가상화 (Full Virtualization)
  • 11. ● 권한이 필요한 명령은 VMM 에 전달되어 바이너리 변환 ● 바이너리 변환방식은 큰 성능 저하를 발생 ● OS 의 커널 수정없이 사용 가능함 ● VMM 은 CPU 를 관리하고 에뮬레이션 기능을 제공 전 가상화 (Full Virtualization)
  • 12. ● Guest OS 링 0 에 접근 하기 위해 운영체제가 수정되어야 함 ● Guest OS는 하이퍼바이저/VMM 사이에 하이퍼콜(Hypercall) 호출 실행 ● 하이퍼바이저는 API를 제공 ● 권한이 필요한 명령은 API 를 통해 실행 되어 링 0 에서 실행됨 반 가상화 (Para Virtualization)
  • 13. ● Guest OS는 자신의 VM 이 가상화 되었음을 인지하고 있음 ● 권한이 필요한 명령은 VMM 에 전달되기 위해 하이퍼콜 호출 ● Guest OS 커널은 하이퍼콜을 통해 VMM 과 직접 통신 가능 ● 바이너리 변환이 필요한 전가상화와 비교해 큰 성능 향상 ● 반가상화 인지 가능한 특수한 Guest OS 커널이 필요 반 가상화 (Para Virtualization)
  • 15. ● Intel 과 AMD 는 가상화가 x86 아키텍처의 중요 과제로 인식 ● 프로세스 확장을 통한 독립적인 가상화 지원 기능 개발 ○ Intel : Intel VT-x ○ AMD : AMD-V ○ Itanium : VT-i ● IA-32 명령어를 확장 ○ Intel : VT(Virtualization Techonology) ○ AMD : SVM(Secure Virutal Machine) ● 하이퍼바이저와 VMM 이 Guest OS를 Ring 0 에서 실행 가능하도록 지원 ● VM 을 링 0 에서 실행 가능 할 수 있도록, 하이퍼바이저 와 VMM 을 링 - 1 에서 실행함 ● 기존 전가상화 기술보다 성능이 향상됨 하드웨어 가상화 지원기능
  • 16. ● 하드웨어가 가상화를 인식 ● 가상화 솔루션 개발시 복잡함을 줄여줌 ● KVM 은 하드웨어 가상화 지원 기능을 사용 하드웨어 가상화 지원기능
  • 17. ● 하이퍼 바이저/가상서버 모니터(VMM) ○ VM , Guest OS 를 관리하는 소프트 웨어 ● 가상화 작업 관리 ○ 가상 하드웨어 제공 ○ VM 생명주기, 실시간 리소스 할당, 가상머신 정책관리 ● 가상서버 모니터 (VMM) ○ Guest OS 의 자원 할당 요청을 담당 ○ 프로세스, 메모리등 시스템 하드웨어 환경 설정에 의해 자원 할당됨 하이퍼바이저/가상서버 모니터(VMM)
  • 18. ● 하이퍼바이저는 존재 위치에 따라 그 분류가 달라진다. ○ Type1 : 하드웨어 위에서 직접 실행 ○ Type2 : 운영체제가 있고, 하이퍼바이저가 분리된 층에 실행 ● Type1 하이퍼 바이저 ○ 시스템 하드웨어와 직접 상호작용 ○ 운영체제가 필요하지 않음 ○ 베어메탈, 임베디드, 네이티브 하이퍼바이저라고 함 ● Type2 하이퍼바이저 ○ 운영체제 위에 존재 ○ 다양한 변경이 가능하다 ○ Hosted 하이퍼바이저 Type1 , Type2 하이퍼바이저
  • 19. Type1 , Type2 하이퍼바이저 ● 설치와 설정이 쉽다 ● 사이즈가 작고 자원사용 최적화 ● 부하가 작고 설치 애플리케이션이 작다 ● 별도의 프로그램 및 드라이버 설치가 불가능 Type1 Type2 ● 호스트 운영체제에 종속적이다. ● 광범위한 하드웨어 지원이 가능하다
  • 20. 오픈소스 가상화 프로젝트 Project Virtualization Type Project URL KVM (Kernel-based Virtual Machine) Full virtualization http://www.linux-kvm.org/ VirtualBox Full virtualization https://www.virtualbox.org/ Xen Full and paravirtualization http://www.xenproject.org/ Lguest Paravirtualization http://lguest.ozlabs.org/ UML (User Mode Linux) http://user-mode-linux. sourceforge.net/ Linux-VServer http://www.linux-vserver.org/ Welcome_to_Linux-VServer.org
  • 22. ● 케임브리지 대학 연구 프로젝트로 시작, 2003년 공개 ● 2013년 4월 Linux Foundation 공동 프로젝트 로 이전 Xen
  • 23. ● 반가상화, 전가상화, 하드웨어지원 모드 사용 가능 ● Guest VM 을 도메인 이라고 부른다. ● Xen 에는 두 종류의 도메인이 존재 ○ Dom 0 : 특권이 있는 도메인, 기능이 확장된 특수 Guest VM ○ Dom U : 권한이 없는 도메인, 일반 Guest VM ● Dom 0 ○ VM을 만들고, 삭제하고, 관리 및 설정가능 ○ 일반 Guest 시스템이 가상화 드라이버를 통해 하드웨어에 직접 접근 가능하도록 지원 ○ API 인터페이스를 통한 시스템 관리기능 제공 ○ 시스템에서 첫번째로 시작되는 도메인 ○ Xen 프로젝트 하이퍼바이저를 위한 필수 도메인 Xen
  • 24. ● KVM (Kernel-based Virtual Machine) ● 하드웨어 가상화 지원기능 (VT-x, AMD-V) 를 활용한 최신 하이퍼바이저 ● KVM은 KVM 커널모듈 설치로 하이퍼바이저로 변환가능 ○ 리눅스 표준 커널에 KVM 커널 모듈을 추가 ○ 표준 커널의 메모리 지원, 스케줄러 등을 사용가능한 장점이 있음 ○ 리눅스 컴포넌트 최적화는 하이퍼바이저와 리눅스 Guest OS 둘다 이점을 갖음 ● I/O 에뮬레이션을 위해 QEMU 를 사용 ○ QEMU는 하드웨어 에뮬레이션을 지원하는 사용자 영역 프로그램 ○ 프로세스, 디스크, 네트워크, VGA, PCI, USB, Serial/Parallel 포트 에뮬레이션 KVM
  • 25. 리눅스는 클라우드 기반의 솔루션 개발을 위해 첫번째로 선택되어 왔다 ● 아마존 EC2 클라우드는 Xen 가상화를 사용 ● 디지탈오션 KVM 사용 리눅스 가상화를 사용한 오픈소스 IaaS 클라우드 소프트웨어 ● 오픈스택 ○ Openstack Foundation 에 의해 관리되는 오픈소스 IaaS 클라우드 솔루션 ○ 몇개의 오픈소스 프로젝트 컴포넌트로 구성 ○ KVM 을 기본 하이퍼바이저로 사용 ● 클라우드스택 ○ Apache Software Foundation 에 의해 관리되는 IaaS 클라우드 솔루션 ○ 아마존 EC2/S3 API 와 호환성 ○ Xen 을 기본 하이퍼바이저로 사용 ● 유칼립투스 ○ AWS 와 호환성을 가진 프라이빗 클라우드 소프트웨어 ○ Xen, KVM 모두 지원 클라우드에서 리눅스 가상화가 제공하는것
  • 28. 오픈스택의 기본 하이퍼바이저 KVM(Kernel Based Virtual Machine) TYPE1(native or bare-metal)에 해당하는 하이퍼바이저 메모리 관리자는 파일 시스템 등과 같은 커널의 서브 모듈로 취급되며, KVM을 사용하기 위해서는 CPU에서 HVM(Hardware Virtual Machine) 기능을 제공해야 합니다. HVM을 제공하는 CPU로는 x86 아키텍처의 Intel VT-x와 AMD의 AMD-v가 있습니다.
  • 30. 가상머신 전가상화(Full Virtualization)의 느린 속도를 개선하기 위해 반가상화(Paravirtualization) 방식이 개발되었고, 현재 널리 쓰이고 있습니다.
  • 31. 가상머신의 한계 가상 머신 자체는 완전한 컴퓨터라 항상 게스트 OS를 설치해야 합니다. 그래서 이미지 안에 OS가 포함되기 때문에 이미지 용량이 커집니다. 네트워크와 인터넷 속도가 빨라졌다 하더라도 가상화 이미지를 주고받는 것은 꽤 부담스럽습니다. 특히 오픈 소스 가상화 소프트웨어는 OS를 가상화하는 것에만 초점이 맞춰져 있습니다. 그래서 이미지를 생성하고 실행하는 기능만 있을 뿐 배포와 관리 기능이 부족
  • 32. Docker란? Docker는 반가상화보다 좀더 경량화된 방식입니다. 그림 1-6와 같이 게스트 OS를 설치하지 않습니다. Docker 이미지에 서버 운영을 위한 프로그램과 라이브러리만 격리해서 설치할 수 있고, OS 자원(시스템 콜)은 호스트와 공유합니다. 이렇게 되면서 이미지 용량이 크게 줄어들었습니다. Docker는 하드웨어를 가상화하는 계층이 없기 때문에 메모리 접근, 파일시스템, 네트워크 속도가 가상 머신에 비해 월등히 빠릅니다.
  • 33. Docker는 가상 머신과는 달리 이미지 생성과 배포에 특화된 기능을 제공합니다. Git에서 소스를 관리하는 것처럼 이미지 버전 관리 기능을 제공합니다. 또한, 중앙 관리를 위해 저장소에 이미지를 올리고, 받을 수있습니다(Push/Pull). 그리고 GitHub처럼 Docker 이미지를 공유할 수 있는 Docker Hub도 제공 합니다(GitHub처럼 유료 개인 저장소도 제공합니다). 다양한 API를 제공하기 때문에 원하는 만큼 자동화를 할 수 있어 개발과 서버 운영에 매우 유용합니다. Docker의 장점
  • 39. 엔비디아의 차량용 슈퍼컴퓨터 ‘드라이브 PX2’는 자율주행차용으로 개발한 ‘파커(Parker)’ 프로세서와 ‘파스칼’ 아키텍처 기반 GPU가 각각 2개씩 들어간 단일 SoC(시스템 온 칩)를 탑재해 약 8TFlops의 연산능력을 갖췄다. 이를 통해 ▲차량 위치 파악 ▲안전한 운행궤도 측정 ▲360도 주변 상황 인식 등을 수행하면서 초당 약 24조 회의 딥러닝 작업 속도를 구현한다. 여기에 주변 환경을 보다 폭넓게 이해하기 위해 12개의 비디오카메라를 비롯해 레이더, 초음파 센서 등 다양한 경로에서 수집되는 정보들을 결합하는 ‘센서 융합’ 기술도 활용한다. 최신 테슬라 모델S(Tesla Model S)가 전시됐습니다. 이 모델은 DRIVE PX 2가 장착 된 최초의 시리즈 차량으로, DRIVE PX 2는 향후 소프트웨어 업데이트를 통해 완전한 자율성을 제공할 오토파일럿(AutoPilot) 시스템의 기반을 제공 Automation Car
  • 45. 1> Mastering KVM Virtualization 2> https://github.com/tylee33/brat-docker 3> https://github.com/TensorMSA/tensormsa_syntax_docker 참고문헌