Bedrock으로 외부 모델 가져오기
[가져온 모델] 알아보기 2024년 10월 21일, 가져온 모델(Amazon Bedrock Custom Model Import) 기능이 GA 되었습니다. 이 기능을 통해 Bedrock은 내부 모델 튜닝을 통한 사용자 지정 모델 사용뿐만 아니라, Hugging Face와 같은 외부 저장소에 공개된 모델 혹은 직접 로컬에서 학습한 모델을 직접 가져와 사용할 수 있는 기능을 제공합니다. 이를 통해 사용자는 Bedrock 내의 모델에 한정되지 않고 더욱 다양한 모델에 접근할...
![[re:Invent23] Knowledge bases for Amazon Bedrock](https://media.blog.wisen.co.kr/wp-content/uploads/2024/01/14103814/bedrock_0614-1-240x240.png)
[re:Invent23] Knowledge bases for Amazon Bedrock
쉽고 경제적인 RAG 구축을 위한 Knowledge Bases for Amazon Bedrock 안내서 LLM이 질문에 대한 답변을 생성하는 과정에서 사실과는 다른 환각 현상이 발생할 수 있습니다. 환각을 최소화하기 위해 RAG(Retrieval Augmented Generation)라는 방법이 Meta에 의해 도입되었는데요. LLM이 입력을 받으면 특정 소스에서 관련한 문서를 찾아 context에 추가하고, 해당 정보를 토대로 최종 출력을 반환하게 되는 구조입니다. RAG를 통해서 Fine-Tuning을 하지 않고도 제한적인...
[re:Invent23] Agents for Amazon Bedrock
테크니컬 라이팅을 위한 AI 어시스턴트 구축하기 (Feat. ReAct, Agents for Amazon Bedrock) LLM이 발달해오면서 어떻게 LLM을 효율적으로 쓸 수 있을지에 대한 논의가 활발하게 이루어졌고, Prompt Engineering, RAG, Fine-Tuning 등 다양한 기법이 도입돼 왔습니다. 여러 기법 중에서도 가장 접근이 쉬우며, 구현을 위한 별다른 비용이 들지 않는 Prompt Engineering을 통해 많은 개발자와 연구자들은 복잡한 작업에 대한 LLM의 추론 능력을 향상시켜 왔습니다....
![[re:Invent23] Vector search for Amazon MemoryDB for Redis](https://media.blog.wisen.co.kr/wp-content/uploads/2023/12/14103654/redis_0614-240x240.png)
[re:Invent23] Vector search for Amazon MemoryDB for Redis
AWS 환경에서 LangChain과 Redis를 활용한 LLM Caching layer 제공하기 LLM 기반의 앱에서 Caching layer를 적용한다면, API 호출 수를 줄여 비용을 절약하고 언어 모델의 추론 시간 대신 캐시를 활용해 빠른 응답 속도를 제공할 수 있습니다. 이번 포스팅에서는 얼마 전 re:Invent에서 Preview로 출시한 vector search for Amazon MemoryDB for Redis를 포함하여, AWS에서 제공하는 Redis 들을 Caching Layer로 사용할 수 있을지...
![[공지] – AWS Public IPv4 주소 요금 변경](https://media.blog.wisen.co.kr/wp-content/uploads/2023/08/14113254/elastic-ip_0614.png)
[공지] – AWS Public IPv4 주소 요금 변경
지난 7월 28일 AWS에서는, 2024년 2월 1일부터 서비스 연결 여부에 관계없이 모든 퍼블릭 IPv4 주소에 대해 시간당 IP 당 $0.005의 요금이 부과한다는 계획을 발표했습니다. AWS에 따르면, IPv4 주소를 하나 취득하는데 드는 비용이 지난 5년간 300% 이상 증가해 새로운 요금 변경 사항을 통해 Public IPv4(이하, Public IP) 주소 사용을 줄이고 IPv6 채택을 가속화하는 것을 고려하도록 권장하기 위해 변경된 요금 체계를 시행한다고...
Amazon Connect 기반 컨택센터 통계 대시보드 구현 및 SSO 연동
Amazon Connect는 사용하기 쉬운 옴니 채널 기반의 클라우드 컨택센터 서비스이며, 큰 규모의 비즈니스로 쉽게 확장 가능합니다. 고객 데이터 및 상담사(에이전트)의 고객 상담 데이터의 수집과 활용이 손쉬워 시스템 운영 및 상담 업무 운영 두 가지 측면에서 동시에 이점을 가져갈 수 있는 서비스입니다. 이번 포스팅에서는 Amazon Connect와 연계하여 컨택센터의 통계 대시보드를 구현하고, AWS IAM Identity Center를 통해 싱글 사인온으로 Amazon Connect...
최신 댓글