ハルシネーション
LLM が根拠のない情報を自信を持って生成する現象。要約サービスでは特に警戒すべき品質リスク。
SumTube は「動画字幕に書かれていない内容は出力しない」という指示をシステムプロンプトに明記し、さらに出力の XML 構造を厳格にバリデーションすることでハルシネーションを抑制しています。チャプター境界は動画の実時刻に紐付くため、根拠のない時刻は出ません。
LLM が根拠のない情報を自信を持って生成する現象。要約サービスでは特に警戒すべき品質リスク。
SumTube は「動画字幕に書かれていない内容は出力しない」という指示をシステムプロンプトに明記し、さらに出力の XML 構造を厳格にバリデーションすることでハルシネーションを抑制しています。チャプター境界は動画の実時刻に紐付くため、根拠のない時刻は出ません。