AWS BedrockとLambdaを駆使!自作LLMアプリの構築法

2023.12.14

WorkWonders

AWS Bedrock最新版を用いたLLM(大規模言語モデル)APIの構築について、短く分かりやすいチュートリアルをご紹介します。
AWSコンソールからBedrockページにアクセスし、モデルへのアクセスをリクエストすることから始めます。AWS Lambdaによる新しい環境を用意し、必要なコードを記述することが次のステップです。しかし、気を付けて欲しいのが、標準のboto3ライブラリではBedrockの機能を呼び出せない点です。
この問題を解決するには、Lambdaレイヤーを通じて依存関係を追加します。このワークアラウンドを詳しく説明した動画も参考になるでしょう。
最後に、LambdaをAPI Gatewayにリンクすることで、Bedrock LLMや他のモデルにどこからでもアクセスできるAPIが完成します。実際に私が使ったPythonのコード例も参考にしてみてください。

出典 : https://medium.com/@jamesryebread/building-your-own-llm-api-with-aws-bedrock-and-lambda-dd495cae43e2

【このニュース記事は生成AIを利用し、世界のAI関連ニュースをキュレーションしています】

【お知らせ】
弊社ワークワンダース社主催ウェビナーのご案内です。


<2025年1月21日実施セミナー>

生産性を爆上げする、「生成AI導入」と「AI人材育成」のコツ


【内容】
1. 生産性を爆上げするAI活用術(安達裕哉:ワークワンダース株式会社 代表取締役CEO)
2. 成功事例の紹介:他業種からAI人材への転身(梅田悟司:ワークワンダース株式会社CPO)
3. 生成AI導入推進・人材育成プログラム「Q&Ai」の全貌(元田宇亮:生成AI研修プログラム「Q&Ai」事業責任者)
4. 質疑応答



日時:
2025/1/21(火) 16:00-17:30

参加費:無料  
Zoomビデオ会議(ログイン不要)を介してストリーミング配信となります。



お申込み・詳細 こちらウェビナーお申込みページをご覧ください

(2024/12/11更新)