Botiumで始めるAIボットの品質改善|試験データと運用の育て方
AIボットの品質は、公開前に一度試せば終わりではありません。問い合わせ内容や業務資料が変わるたびに、確認すべき条件も変化します。Botiumを活用した試験を続けるために、データ・指標・役割分担をどう育てるかを説明します。
AIボットの品質は、公開前に一度試せば終わりではありません。問い合わせ内容や業務資料が変わるたびに、確認すべき条件も変化します。Botiumを活用した試験を続けるために、データ・指標・役割分担をどう育てるかを説明します。
生成AIの回答は、読みやすくても根拠が正しいとは限りません。社内資料を検索して答えるRAGでも、必要な資料が見つからない場合や、資料にない条件を補ってしまう場合があります。誤回答を見つけるための試験設計を紹介します。
「届く日を変えたい」と「配送予定を変更したい」は、同じ用件でも表現が異なります。一方で、似た言葉でも違う業務を指すことがあります。言い換え・意図の取り違え・聞き返しを分けて、ボットの理解を確認する方法を説明します。
ボットのテストは、質問文を大量に並べるだけでは十分ではありません。「誰が、どの状態で、何を求め、何が起これば合格か」をそろえる必要があります。Botiumでの試験を始める前に使える、テストケースの作り方を紹介します。
Velocityの導入効果を得るには、テストを実行する機能だけでなく、対象範囲とデータ、判定、保守担当を準備する必要があります。導入前に整理したい項目を、試行から継続運用までの順番でまとめます。