スライドテキスト内容
問題 HooksのイベントデータにはツールのI/Oが含まれるが、LLMが生成したテキスト自体は含まれない → GenerationなしではLangfuseのトレースでトークン数・コスト・応答内容がすべて空欄に だから Stopイベント時にJSONLトランスクリプトを解析して アシスタントメッセージを抽出し、Generationとして記録する HooksからはLLM出力が見えない(ライフサイクルイベントのフックなんだから、当たり前といえば当たり前なんですが…)
問題 HooksのイベントデータにはツールのI/Oが含まれるが、LLMが生成したテキスト自体は含まれない → GenerationなしではLangfuseのトレースでトークン数・コスト・応答内容がすべて空欄に だから Stopイベント時にJSONLトランスクリプトを解析して アシスタントメッセージを抽出し、Generationとして記録する HooksからはLLM出力が見えない(ライフサイクルイベントのフックなんだから、当たり前といえば当たり前なんですが…)