Articles by KENNETH

Amazon EC2 P5 인스턴스 정식 출시 – NVIDIA H100 Tensor Core GPU 기반 생성형 AI 및 HPC 애플리케이션 가속화 2023년 3월, AWS와 NVIDIA는 갈수록 복잡해지는 대규모 언어 모델(LLM)을 훈련하고 생성형 AI 애플리케이션을 개발하는 데 최적화되고 최고의 확장성을 갖춘 온디맨드 인공 지능(AI) 인프라를 구축하는 것을 목표로, 다자간 협업을 진행한다고 발표했습니다. AWS는 NVIDIA H100 Tensor Core GPU와 최신 AWS 서비스의 네트워킹 및 확장성을 기반으로 구동되는 Amazon Elastic Compute Cloud(Amazon EC2) P5 인스턴스를 사전 발표했습니다. 이 인스턴스는 최대 규모의 기계 학습(ML) 모델을 구축하고 훈련하는 데 사용할 수 있는 최대 20엑사플롭스의 컴퓨팅 성능을 제공합니다. 이번 발표는 클러스터 GPU(cg1) 인스턴스(2010), G2(2013), P2(2016), P3(2017), G3(2017), P3dn(2018), G4(2019), P4(2020), G5(2021), P4de 인스턴스(2022) 등을 거치며 비주얼 컴퓨팅, AI 및 고성능 컴퓨팅(HPC) 클러스터를 제공해온 지난 10여 년의 AWS와 NVIDIA 간 협업의 산물입니다. ML 모델 크기가 이제 파라미터 수조 개에 이르게 되었다는 점이 무엇보다 주목할 만합니다. 하지만 이러한 복잡성으로 인해 [ more… ]

AWS Entity Resolution 정식 출시 – 앱 및 데이터 스토어 관련 레코드 매칭 워크플로 서비스 기업이 성장하면 고객, 비즈니스 또는 제품에 대한 정보가 포함된 레코드는 애플리케이션, 채널 및 데이터 스토어 전반에서 갈수록 세분화되고 사일로화되는 경향이 있습니다. 정보는 다양한 방식으로 수집되기 때문에 도로명 주소(‘5번가’ 및 ‘5가’)와 같이 서로 다르지만 의미상 동일한 데이터가 발생하는 문제도 있습니다. 따라서 관련 레코드를 서로 연결하여 통합된 보기를 만들고 더 나은 인사이트를 도출하기가 쉽지 않습니다. 예를 들어, 기업은 광고 캠페인을 운영하여 개인화된 메시징을 통해 여러 애플리케이션 및 채널에서 소비자에게 다가가고자 합니다. 기업은 불완전하거나 서로 상충되는 정보가 포함된 여러 이질적인 데이터 레코드를 처리해야 하는 경우가 많기 때문에 매칭 프로세스가 어려워집니다. 소매 업계에서 기업은 공급망과 매장 전반에서 재고 관리 단위(SKU), 범용 제품 코드(UPC), 전용 코드 등 이질적인 여러 제품 코드를 사용하는 제품을 매칭해야 합니다. 따라서 정보를 종합적으로 신속하게 분석할 수 없습니다. 이 문제를 해결하는 방법 하나는 여러 데이터베이스와 상호 [ more… ]

Amazon Bedrock용 에이전트 미리보기 출시 – 다양한 파운데이션 모델 작업에 대한 지원 제공 올해 4월 AWS의 데이터 및 기계 학습 (M) 부사장인 Swami Sivasubramanian은 AWS 기반 생성형 AI를 사용하여 솔루션을 구축하기 위한 새로운 도구의 일부로 Amazon Bedrock 및 Amazon Titan 모델을 발표했습니다. 현재 제한된 미리보기로 제공되는 Amazon Bedrock은 AI21 Labs, Anthropic, Cohere, Stability AI 등 주요 AI 스타트업과 Amazon의 파운데이션 모델(FM)을 API를 통해 사용할 수 있게 해주는 완전관리형 서비스입니다. 이제개발자가 클릭 몇 번으로 완전관리형 에이전트를 생성할 수 있는 새로운 기능인 Amazon Bedrock용 에이전트 미리보기를 발표하게 되었습니다. Amazon Bedrock용 에이전트는 회사 시스템에 대한 API 직접 호출을 통해 작업을 관리하고 수행할 수 있는 생성형 AI 애플리케이션의 제공을 가속화합니다. 에이전트는 FM을 확장하여 사용자 요청을 이해하고, 복잡한 작업을 여러 단계로 나누고, 대화를 통해 추가 정보를 수집하며, 요청을 이행하기 위한 조치를 취합니다. Amazon Bedrock용 에이전트를 사용하면 소매 주문 관리, 보험금 청구 처리 등 내부 또는 [ more… ]