[re:Invent23] Agents for Amazon Bedrock
테크니컬 라이팅을 위한 AI 어시스턴트 구축하기 (Feat. ReAct, Agents for Amazon Bedrock) LLM이 발달해오면서 어떻게 LLM을 효율적으로 쓸 수 있을지에 대한 논의가 활발하게 이루어졌고, Prompt Engineering, RAG, Fine-Tuning 등 다양한 기법이 도입돼 왔습니다. 여러 기법 중에서도 가장 접근이 쉬우며, 구현을 위한 별다른 비용이 들지 않는 Prompt Engineering을 통해 많은 개발자와 연구자들은 복잡한 작업에 대한 LLM의 추론 능력을 향상시켜 왔습니다....
[re:Invent23] Vector search for Amazon MemoryDB for Redis
AWS 환경에서 LangChain과 Redis를 활용한 LLM Caching layer 제공하기 LLM 기반의 앱에서 Caching layer를 적용한다면, API 호출 수를 줄여 비용을 절약하고 언어 모델의 추론 시간 대신 캐시를 활용해 빠른 응답 속도를 제공할 수 있습니다. 이번 포스팅에서는 얼마 전 re:Invent에서 Preview로 출시한 vector search for Amazon MemoryDB for Redis를 포함하여, AWS에서 제공하는 Redis 들을 Caching Layer로 사용할 수 있을지...
[공지] – AWS Public IPv4 주소 요금 변경
지난 7월 28일 AWS에서는, 2024년 2월 1일부터 서비스 연결 여부에 관계없이 모든 퍼블릭 IPv4 주소에 대해 시간당 IP 당 $0.005의 요금이 부과한다는 계획을 발표했습니다. AWS에 따르면, IPv4 주소를 하나 취득하는데 드는 비용이 지난 5년간 300% 이상 증가해 새로운 요금 변경 사항을 통해 Public IPv4(이하, Public IP) 주소 사용을 줄이고 IPv6 채택을 가속화하는 것을 고려하도록 권장하기 위해 변경된 요금 체계를 시행한다고...
Amazon Connect 기반 컨택센터 통계 대시보드 구현 및 SSO 연동
Amazon Connect는 사용하기 쉬운 옴니 채널 기반의 클라우드 컨택센터 서비스이며, 큰 규모의 비즈니스로 쉽게 확장 가능합니다. 고객 데이터 및 상담사(에이전트)의 고객 상담 데이터의 수집과 활용이 손쉬워 시스템 운영 및 상담 업무 운영 두 가지 측면에서 동시에 이점을 가져갈 수 있는 서비스입니다. 이번 포스팅에서는 Amazon Connect와 연계하여 컨택센터의 통계 대시보드를 구현하고, AWS IAM Identity Center를 통해 싱글 사인온으로 Amazon Connect...
Amazon GuardDuty 위협 IP 목록 업데이트 자동화
Amazon GuardDuty는 AWS 계정, 워크로드, 인스턴스 등에서 잠재적인 위협 요소와 악의적 활동을 모니터링하며, 보안 위협에 대한 가시성을 제공하는 서비스입니다. Amazon GuardDuty에서는 주로 IP 기반으로 위협을 탐지합니다. 이때 모든 IP를 대상으로 탐지하기에는 오탐지 등 오버헤드가 너무 많이 발생하게 됩니다. Amazon GuardDuty에서는 이 범위를 특정할 수 있도록 Threat IP list(위협 IP 목록) 기능을 제공하고 있습니다. FireHOL은 오픈소스 방화벽 프로그램으로, 방화벽을...
[Re2021] AWS WAF 로그를 CloudWatch Logs나 S3로 바로 설정할 수 있습니다
안녕하십니까. GS네오텍 박제호입니다. 이번 글에서는 AWS WAF 서비스 로깅과 관련하여, 리인벤트 전후로 발표된 변경 사항에 대해서 소개해드리도록 하겠습니다. 기존의 WAF 로깅은 샘플데이터 기반으로 보여주도록 되어 있어서, 의미있는 값(Full Log)을 확인하기 위해서는 Amazon Kinesis Data Firehose를 추가로 연계하여 별도로 로깅을 설정해야 했습니다. 이것이 이번 업데이트로 Kinesis를 거치지 않고도 CloudWatch Logs와 S3에 대해 직접 로그 설정이 가능해졌습니다. 아래의 데모를 통해 내용을 확인해보도록 하겠습니다. (시간이 없으신...
최신 댓글