新時代のAI技術、特に大言語モデル(LLM)を利用したアプリケーションの開発は、ただ技術的な面白さだけではなく、実運用を考慮した上でのエンジニアリングのベストプラクティスが求められます。ですから、特に「幻覚（誤った情報の生成）」などのリスクを緩和するための工夫も不可欠です。この記事では、LLMを効果的に実用化するために必要な安全性、プロンプトエンジニアリング、情報の基盤付け、評価などのキーエリアを紹介し、これらを実装したデモAIアシスタントの開発過程を概説します。
実際の人道災害に関する質問に答えるために、ReliefWebプラットフォーム上の報告から情報を取り出すデモは、開発者にとって有益な例を提供してくれます。具体的には、本文で紹介されるPrompt FlowというMicrosoftが開発したツールを用いることで、LLMベースのアプリケーションの開発からデプロイメントまでの流れを効率化できること、また、AIアプリケーションを安全かつ正確に運用するための原則の適用が容易になることが述べられています。
このようなLLMの運用プロセスは、多くの組織が現在取り組んでおり、新しいジェネレーティブAIを使いこなす方法を模索しています。高リスクな状況下での適用では、偏見や誤情報、情報の欠落が深刻な結果を招く可能性があるため、しっかりとしたフレームワークをもってモニタリングや評価を行う必要があります。
AIアプリケーションの安全性やコスト効率、正確性を確保するために、AWS BedrockやAzure Machine Learning、Azure AI Studio（プレビュー版）などの製品やオープンソースのツールが開発段階をサポートしてくれます。実際にビジネスやプロジェクトにおいて、LLMを使いこなし、運用あるいは商品化まで持っていくためには、こうしたツールやサービスを効果的に活用する知識が不可欠です。
出典 : https://towardsdatascience.com/a-humanitarian-crises-situation-report-ai-assistant-exploring-llmops-with-prompt-flow-32968b7a878b