Kotlin開源函式庫Tracy強化AI應用可觀測性，支援追蹤LLM呼叫與工具執行

Kotlin開源函式庫Tracy，著重強化AI應用的可觀測性，能追蹤LLM呼叫、工具執行與應用程式流程。該函式庫建立在OpenTelemetry之上，協助開發者除錯失敗情況、量測執行時間，並掌握模型呼叫、工具呼叫與自訂應用程式邏輯的運作情形。

Tracy支援常見的Kotlin與LLM整合堆疊，包括OkHttp與Ktor用戶端，也可搭配OpenAI、Anthropic與Gemini相關用戶端使用。其設計重點在於，不要求開發者一定得透過特定AI框架的API發出呼叫，才能留下追蹤資料，而是可透過API用戶端或HTTP用戶端層級的追蹤機制收集遙測資料，再配合函式或程式區塊層級的追蹤，整理AI元件與AI代理程式內部狀態之間的時間順序與因果關係。

與Spring AI、Koog等具備內建可觀測性能力的AI框架相比，官方指出，這類框架通常要求LLM呼叫必須透過框架本身的API發出，才會留下追蹤資料，也較難涵蓋框架外部的應用程式流程。Tracy提供3種較高階的追蹤方式，包括以withSpan包住特定程式區塊、直接替LLM用戶端啟用追蹤，以及透過@Trace註解追蹤函式或介面方法。以工具呼叫為例，開發者只要在介面方法加上@Trace，所有實作類別都可採用相同設定，減少逐一補寫追蹤程式碼的工作。

在資料內容方面，Tracy預設追蹤的是中繼資料，例如呼叫的API、模型與參數，不會直接記錄輸入與輸出內容。若開發者在開發階段需要保留LLM輸入與輸出以利除錯，也可額外以程式方式啟用，或透過環境變數開啟。

Tracy收集到的追蹤資料可匯出到各類相容OpenTelemetry的後端，包括Jaeger、Zipkin與Grafana，也可直接整合Langfuse與W&B Weave等LLM工程平臺，官方並提到，儲存庫已提供多個範例，包含將文章中的聊天應用範例接上追蹤與遙測匯出的實作方式。