[re:Invent23] Vector search for Amazon MemoryDB for Redis
AWS 환경에서 LangChain과 Redis를 활용한 LLM Caching layer 제공하기 LLM 기반의 앱에서 Caching layer를 적용한다면, API 호출 수를 줄여 비용을 절약하고 언어 모델의 추론 시간 대신 캐시를 활용해 빠른 응답 속도를 제공할 수 있습니다. 이번 포스팅에서는 얼마 전 re:Invent에서 Preview로 출시한 vector search for Amazon MemoryDB for Redis를 포함하여, AWS에서 제공하는 Redis 들을 Caching Layer로 사용할 수 있을지...
AWS 업데이트 읽어주기 19년-8월
여기서 다루는 내용 · 그간 히스토리 · 공식 출시된것 · 기타 업데이트 · 마치며 그간 히스토리 안녕하십니까. GS네오텍 최준승입니다. 전에 썼던 개인블로그를 포함하면. 어느덧 AWS 업데이트 요약글을 주기적으로 작성한지 4년이 되어갑니다. 이런 요약글이 과연 효용이 있는지. 어떤 형식으로 전달하는 것이 효과적인지는 저에게 항상 고민이었습니다. 그 결과. 중간중간 와꾸도 몇번 바꿨고. 최근에는 요약에 필요한 공수에 비해 결과물이 너무 떨어지는게 아닌가....
AWS 주간 업데이트 19년-6월-첫번째
안녕하십니까. GS네오텍 최준승입니다. 오늘은 working day 기준으로 6월의 마지막 날입니다. 요새는 야근도 여의치 않은 환경이라 빨리 작업을 마무리해야 합니다. 그래야 또 집에 가서 애도 보고요. 따라서 가타부타 떠들 시간이 없네요. 바로 시작합니다. 주요 업데이트 Network Load Balancer Now Supports UDP Protocol Network LB에서 UDP 프로토콜 지원 ※ UDP 프로토콜로 통신하는 (백엔드) 클러스터 구성에서 앞단에 기존 EC2 기반의 Proxy가 아닌...
S3 객체의 배치 작업을 원큐에 – S3 batch operation 소개
여기서 다루는 내용 · 들어가며 · 기능 개요 · STEP1: Choose Region and manifest · STEP2: Choose operation · STEP3: Choose additional options · 결과 확인 · 마치며 들어가며 안녕하십니까. GS네오텍 최준승입니다. 아침에 머리에 샴푸를 문지르며 문득 이런 생각이 들었습니다. 수많은 AWS 서비스 중에서 다른 AWS 서비스와 연결고리가 가장 많고. 장애가 났을때 파급효과가 큰 서비스가 뭘까? 저는 단연 S3라고...
RAID로 묶인 복수의 EBS 볼륨을 간편하게 백업하기
여기서 다루는 내용 · 들어가며 · 스냅샷 생성: As-Is · 스냅샷 생성: To-Be · 스냅샷 복원 · 마치며 들어가며 안녕하십니까. GS네오텍 최준승입니다. 오늘은 AWS에서 새로 나온 API 하나를 소개해 드리려고 합니다. Amazon EBS adds ability to take point-in-time, crash-consistent snapshot across multiple EBS volumes 복수의 EBS 볼륨을 대상으로 “crash-consistent”한 스냅샷을 취득할 수 있는 API인데요. 하나의 인스턴스에 RAID로 묶여 있는...
[주의] S3 API의 Signature 2 버전 폐지 및 Path Style 경로 제한 안내
여기서 다루는 내용 · 시작 · Signature V2 폐지건 안내 · Path Style 경로 제한건 안내 · 마치며 도입 안녕하십니까. GS네오텍 최준승입니다. 오늘은 S3 관련 2가지 중요 업데이트 소식을 전해드리려고 합니다. 관련 내용은 블로그에도 있고 AWS 포럼에도 있고 여러곳에 있지만. 포럼 기준의 링크는 다음과 같습니다. AWS Signature Version 4 to replace AWS Signature Version 2 for signing S3 API...
최신 댓글