米New Relicは、AIアプリケーション向けの業界初となるAPMソリューション「New Relic AI Monitoring（AIM）」の提供を、11月14日（現地時間）に開始した。
AIMは、AIアプリケーションのパフォーマンスや品質、コスト、AIの使用に関するトラブルシュートや最適化を容易にするだけでなく、大規模言語モデル（LLM）応答のトレースやモデル比較といった50を超えるインテグレーションと機能を備えており、エンジニアチームによるLLMベースのアプリケーション構築をより確実に実行できるよう支援する。
AI駆動型のアプリケーションに、エンドツーエンドのオブザーバビリティを提供することによって、LLMやベクトルデータベースといったAIコンポーネントがエンジニアにとってブラックボックスとなり、不正確で偏った結果の提供やセキュリティ上の問題の発生、大量に生成されるテレメトリーデータの追跡と分析などの課題が発生してしまうという問題を解決することが可能になる。
単一ビューにアクセスして、パフォーマンス、コスト、セキュリティ、品質問題（幻覚症状、バイアス、有害性、公平性など）に関するさまざまなLLMプロンプトとレスポンスのトラブルシューティング、比較、最適化ができる。さらに、サービスやインフラストラクチャ、AIスタックの全コンポーネントを完全に把握することが可能になり、AIの使用と将来予想されるAI関連規制に準拠していることを証明するために必要な、データの取得にも対応している。
おもな機能としては、自動計装、フルスタックAIの可視化、すべてのLLM応答の詳細なトレースに関する洞察、パフォーマンスとコストの比較、責任あるAIへの対応、AIエコシステムの監視などを搭載する。
この記事は参考になりましたか？
- この記事の著者
-
CodeZine編集部（コードジンヘンシュウブ）
CodeZineは、株式会社翔泳社が運営するソフトウェア開発者向けのWebメディアです。「デベロッパーの成長と課題解決に貢献するメディア」をコンセプトに、現場で役立つ最新情報を日々お届けします。
※プロフィールは、執筆時点、または直近の記事の寄稿時点での内容です
