No Image

PyTorch용 오픈 소스 모델 서버 TorchServe 출시

2020-04-25 KENNETH 0

PyTorch용 오픈 소스 모델 서버 TorchServe 출시 PyTorch는 딥 러닝을 위한 가장 인기 있는 오픈 소스 라이브러리 중 하나입니다. 개발자와 연구자들은 모델 개발 및 학습에서 특히 PyTorch가 제공하는 유연성을 즐깁니다. 하지만, 프로덕션 환경에서 모델의 배포 및 관리는 맞춤형 예측 API를 개발하고 이를 확장하며 보안을 제공하는 것과 같은 기계 학습 프로세스의 가장 까다로운 부분이기도 합니다. 모델 배포 프로세스를 간소화하기 위한 한 가지 방법은 프로덕션에서 기계 학습 예측을 처리하도록 특별하게 설계된 모델 서버(예: 상용 웹 애플리케이션)를 사용하는 것입니다. 모델 서버를 사용하면 한 개 이상의 모델을 손쉽게 로드하여 확장 가능한 웹 서버가 지원하는 예측 API를 자동으로 생성할 수 있습니다. 또한, 예측 요청에서 선처리 및 후처리 코드를 실행하는 것도 가능합니다. 마지막으로 모델 서버는 로깅, 모니터링 및 보안과 같이 프로덕션에 매우 중요한 기능도 제공합니다. 인기 있는 모델 서버로는 TensorFlow Serving과 Multi Model Server 등이 있습니다. 사용자 지정 코드를 작성할 필요 없이 학습된 PyTorch 모델을 대규모로 [ more… ]

No Image

[동영상] 스타트업을 위한 AWS 비용 최적화 – 6가지 방법

2020-04-22 KENNETH 0

[동영상] 스타트업을 위한 AWS 비용 최적화 – 6가지 방법 많은 스타트업 고객들이 AWS 클라우드를 기반으로 다양한 애플리케이션을 구축하여, 민첩하게 대규모 사용자 확장에 대비하여 서비스를 만들고 있습니다. 혹시 아직 사용자가 많지 않은데도 불구하고 현재 클라우드 자원 사용량이 많거나 비용이 높다고 생각하신다면, 클라우드 비용을 최적화하기 위해 여러분이 꼭 해야 하는 사항들이 있습니다. 이 글에서는 여러분의 애플리케이션 패턴과 워크로드에 따라 스타트업이 고려해야 하는 6가지 빠른 비용 최적화 방법을 소개합니다. 15분만 투자하시면 여러분의 사업에 큰 영향을 줄 수 있는 도구와 접근 방식을 알려 드리겠습니다. Amazon S3 Intelligent Tiering 활성화 AWS Instance Scheduler를 통한 미사용 인스턴스 비용 절감  (토스랩 활용 사례) Amazon EC2 Spot 인스턴스 옵션 선택 AWS Saving Plan 활용 AWS 예약 인스턴스 활용 AWS Trunsted Adviser를 통한 활용도 낮은 네트워크 리소스 정리 FAQ Q: 비용 절감에 대한 어디로 연락하면 좋을까요? 모든 AWS 고객은 담당 어카운트 매니저가 있습니다. 해당 직원을 알고 계시다면, 추가 지원을 [ more… ]

Amazon FSx 파일 서비스, 서울 리전 출시

2020-04-21 KENNETH 0

Amazon FSx 파일 서비스, 서울 리전 출시 Amazon FSx는 인기 있는 파일 시스템 구성을 위한 하드웨어 프로비저닝, 소프트웨어 구성, 패치 및 백업과 같은 시간 소모적인 관리 작업을 피하면서, 널리 사용되는 오픈 소스 및 상용 라이센스 파일 시스템의 풍부한 기능과 빠른 성능을 활용할 수 있습니다. 오늘 부터 서울 리전에서 사용 가능합니다! Amazon FSx는 현재 Windows File Server 및 고성능 워크로드 용 Luster 중에서 선택할 수 있습니다. 이제 부터 비용 효율적인 용량과 높은 수준의 안정성을 제공하며 다른 AWS 서비스와 통합되어 클라우드 네이티브 방식으로 파일 시스템을 관리하고 사용할 수 있습니다. 윈도용 Amazon FSx 파일 서버는 업계 표준 SMB (Service Message Block) 프로토콜을 통해 액세스 할 수있는 완전 관리되고 안정적인 파일 스토리지를 제공합니다. Luster 용 Amazon FSx는 기계 학습, 고성능 컴퓨팅 (HPC), 비디오 처리, 재무 모델링 및 EDA (Electronic Design Automation)와 같은 워크로드의 빠른 처리에 최적화 된 고성능 파일 시스템을 제공합니다. 두 파일 시스템에 [ more… ]

Amazon EC2 Auto Scaling 스팟 인스턴스 활용 방법 및 고객 사례

2020-04-21 KENNETH 0

Amazon EC2 Auto Scaling 스팟 인스턴스 활용 방법 및 고객 사례 Amazon EC2 스팟 인스턴스는 오래 전인 2009년에 출시되었습니다. 이 인스턴스는 온디맨드 요금과 비교하여 최대 90% 할인된 금액으로 제공되는 예비 EC2 컴퓨팅 용량입니다. 스팟 인스턴스는 EC2로 인해 중단될 수 있다는 점(2분 사전 공지)을 제외하고 온디맨드 인스턴스와 동일합니다. Amazon EC2 Auto Scaling을 사용하면 단일 EC2 Auto Scaling 그룹 내에서 스팟 인스턴스, 온디맨드 인스턴스 및 Savings Plan에 속하는 인스턴스 크기를 원활하게 조정할 수 있습니다. 수년에 걸쳐 Simplified Price Model, 용량 최적화 조정 전략(잠시 후 자세히 설명), EC2 RunInstance API 외에도 훨씬 많은 강력한 스팟 기능을 추가했습니다. EC2 Auto Scaling을 통해 스팟 인스턴스에서 두 가지 할당 전략을 사용할 수 있습니다. 최저가 – 처리 시 최저가의 스팟 인스턴스 풀에서 인스턴스를 할당합니다. 스팟 요금은 장기적인 수요와 공급 트렌드에 따라 시간이 지나면서 서서히 바뀌지만, 용량은 실시간으로 변동합니다. 최저가 전략은 스팟 인스턴스를 배포할 때 풀 용량 깊이를 [ more… ]

AWS 주간 소식 모음 – 2020년 4월 20일

2020-04-20 KENNETH 0

AWS 주간 소식 모음 – 2020년 4월 20일 안녕하세요! 여러분~ 매주 월요일 마다 지난 주 업데이트된 국내 AWS관련 콘텐츠를 정리해 드리는 AWS 주간 소식 모음입니다. AWS 클라우드에 대한 새로운 소식을 확인하시는데 많은 도움 되시길 바랍니다. 혹시 빠지거나 추가할 내용이 있으시면, 저에게 메일 주시면 다음 중에 추가 공유해 드리겠습니다. AWS코리아 블로그 AWS Snowball Edge 업데이트 – 하드웨어, 보안 및 속도 개선 (2020-04-18) 신규 – AWS Launch Wizard 기반 빠른 SAP 배포 기능 출시 (서울 리전 포함) (2020-04-15) AWS 비용을 줄일 수 있는 10가지 기법 (2020-04-14) Amazon EMR Notebooks를 사용한 Python 라이브러리 설치 방법 (2020-04-13) Amazon EMR 재구성을 통한 신속한 클러스터 수정 (2020-04-13) AWS 추천 콘텐츠 Slack Slash Command를 통해 AWS 서버 스케줄링하기 – 1. Intro (2020-04-18) Slack으로 CICD 승인체계 구성하기 – 1. Intro (2020-04-18) 네오위즈가 AWS ‘올인’을 선언한 이유 (2020-04-16) Aurora MySQL 스냅샷을 Parquet 로 S3 에 Export (2020-04-15) AWS 신규 [ more… ]