정리
| 서비스명 | 정의 | 핵심 특징 |
|---|---|---|
| Amazon Bedrock | 다양한 고성능 파운데이션 모델(FM)을 API를 통해 단일하게 제공하는 완전관리형 서버리스 생성형 AI 서비스 | - 멀티 모델 제공: 여러 AI 모델을 인프라 관리 없이 즉시 호출 - 서버리스: 인프라 프로비저닝 없이 API 호출 및 사용량 기반 과금 - 보안 및 커스터마이징: 데이터 유출 방지를 위한 강력한 가드레일 및 보안 환경 제공 |
| AWS Lambda | 특정 이벤트에 반응하여 코드를 실행할 수 있게 해주는 서버리스 FaaS 컴퓨팅 서비스 | - 이벤트 기반 실행: S3, API Gateway 등의 이벤트 트리거 발생 시 코드 자동 실행 - 자동 스케일링: 요청량에 맞춰 인프라 자동 확장(Scale-out) 및 축소 - 합리적인 비용: 실제 실행 시간(밀리초)과 호출 횟수에 대해서만 과금 |
| Amazon Q | 비즈니스 업무와 소프트웨어 개발 프로세스 혁신을 고안된 생성형 AI 기반 업무용 지능형 어시스턴트 | - 업무 특화 제품군: Q Developer(코드 추천 및 변환 가이드), Q Business(사내 지식 검색 및 보고서 생성) - 엔터프라이즈 보안: 기존 AWS IAM 역할 및 권한 체계 엄격히 반영 |
| Amazon Bedrock Knowledge Bases | Bedrock 내에서 RAG 아키텍처를 손쉽게 구현할 수 있도록 돕는 완전관리형 지식 정보 연동 기능 | - 자동화된 RAG 파이프라인: 비정형 문서의 텍스트 분할, 벡터 임베딩, 데이터베이스 저장 과정 자동화 - 할루시네이션 완화: 문서 데이터 선검색(Retrieve) 및 그라운딩으로 거짓 정보 지어냄 최소화 - 재학습 불필요: 문서 업데이트만으로 파인튜닝 없이 최신 지식 반영 가능 |
| AWS CodeCatalyst (deprecated) | 애플리케이션 기획, 코딩, 테스트, 배포 과정을 통합 관리하는 완전관리형 협업 및 DevOps 서비스 | - 통합 DevOps 환경: 리포지토리 관리, 태스크 관리, CI/CD 파이프라인을 단일 환경에서 제공 - 프로젝트 블루프린트: 프레임워크/언어별 표준 템플릿으로 프로젝트 환경 자동 세팅 - 클라우드 개발 환경: 로컬 PC 사양 한계 없이 IDE와 연동되는 가상 개발 서버 즉각 생성 |
Amazon Bedrock
| 구분 | 서비스명 | 핵심 제공 모델 및 특징 |
|---|---|---|
| 경쟁 클라우드사 (직접적인 라이벌) | Amazon Bedrock | 자체 모델(Titan) 및 파트너 모델을 단일 API를 통해 제공 |
| Google Cloud Vertex AI | 자체 모델(Gemini) 및 Model Garden (파트너 및 오픈소스 모델) 제공 | |
| Microsoft Azure AI Studio | OpenAI 모델 및 Model Catalog (파트너 및 오픈소스 모델) 제공, 업계 표준인 Enterprise GPT (OpenAI) 독점 서빙 | |
| 인프라 독립형 MaaS (오픈소스/호스팅 전문) | Hugging Face Enterprise Hub / Serverless Inference | 기업용 환경 및 오픈소스 모델 제공 |
| Anyscale / Together AI / DeepInfra | 오픈소스 모델 제공 |
- 일명 “Enterprise Model-as-a-Service (MaaS)” 또는 “AI Model Registry & Gateway” 플랫폼
본질적으로는 프로바이더 API 를 경유해서 모델 사용하는 것과 동일함
Bedrock 을 거쳐서 얻을 수 있는 실익은, 엔터프라이즈급 서비스 운영에서 마주하는 인프라, 보안, 비용, 비즈니스 연속성 문제들을 대규모로 해결해 준다는 점
개인 토이 프로젝트/프로토타입 개발이면 API 직접 호출이 간단하지만, 거버넌스 레벨까지 올라가면 Bedrock 의 추상화 레이어와 보안환경의 매력이 커짐
- 강력한 프라이빗 보안 및 거버넌스 (Data Privacy)
- 내 데이터의 모델 학습 제외가 보장됨
- 데이터가 기업 고유의 폐쇄망인 AWS VPC 내에서 사설망 인터페이스(VPC Endpoint)를 통해 전달되므로, 네트워크 보안 취약점이 없음
- AWS IAM 을 그대로 사용하므로 권한 관리가 편함
- Amazon Bedrock Guardrails 로 안전장치 일원화
- 각 프로바이더별로 필터링 코드를 수동으로 구현할 필요가 없음, 무슨 모델은 쓰든 관계없이 일관된 안전 가이드라인 및 개인정보(PII) 마스킹 필터를 모델 앞단에 단일 프록시 레이어로 일괄 적용 가능, 개발 공수 대폭 감소
- 서비스 성격에 맞지 않는 악성 질문 (탈옥, 욕설, 혐오 표현) 필터링
- 개인정보(주민번호, 이메일 등) 노출을 막는 등
- 멀티 모델 유연성
- 단일한 AWS SDK 및 API 규격을 통해 여러 모델을 호출 가능
- 단일 통합 인터페이스로 Vendor Lock-in 을 방지하고, 모델별로 코드를 재작성할 필요가 없음
- 단순히 모델 파라미터(Model ID)만 변경하여 쉽게 다른 최신 모델로 마이그레이션하거나 비교 테스트 가능
- Seamless Integration
- AWS 의 다른 인프라 서비스와의 연동능력이 높음 (사내 클라우드 인프라와의 결합도)
- S3 / Amazon Aurora / OpenSearch Serverless 등과 연동하여 RAG 시스템을 구축할 때 별도의 데이터 유출 프로세스 없이 안전하고 빠르게 동기화 (Bedrock Knowledge Bases 활용)
- AWS Lambda나 Step Functions와 연동하여 AI 기반 에이전트(Bedrock Agents)를 구동하거나 워크플로 자동화가 간편
- 모델 파인튜닝 준비까지의 리소스 감소
- 맞춤형 모델 작성을 위해 오픈소스 모델을 파인튜닝(미세조정)할 경우, 인프라 프로비저닝 (자체 GPU 인프라 구매/관리/세팅) 은 엄청난 리소스를 소모함
- Bedrock을 통해 ‘S3의 학습 데이터 지정 → 서버리스 파인튜닝 / 지속적인 사전 학습 → Bedrock API를 통해 튜닝된 커스텀 모델 서빙’ 으로 리소스를 실제로 온프레미스로 올리지 않고 파이프라인을 구축할 수 있음
- 비용 및 한도 관리의 용이성
- 프로바이더별로 파편화하여 결제할 필요 없이, 기존 기업의 AWS 에 합산되어 일괄 청구
- 기업 고객의 경우 기존 AWS 약정 할인(EDP) 범위 내에 포함하여 비용 효율성이 상승
- 프로비저닝된 처리량(Provisioned Throughput) 옵션을 통해, 보장된 처리 속도(TPS)를 확보 가능