Aguru Safeguardについて
Aguru Safeguardは、オンプレミスのソフトウェアで、LLMの行動とパフォーマンスのあらゆる重要な側面に対する実用的なインサイトを提供します。潜在的な異常が検出されるとすぐにアクション可能なアラートを受け取ることができ、すべてのアラートはsyslogにログとして記録され、SplunkやDataDogなどのお好みのアラートシステムに転送できます。また、Playgroundを使って特定のプロンプトを実験し、システムがどのように異常を検出するかを観察できます。これらのインサイトを使って、AIアプリケーションの機能を改善できます。
使い方
Aguru Safeguardパッケージをダウンロードします。ソフトウェアはローカルにインストールされ、データのプライバシーとセキュリティが確保されます。早期アダプターには無料アクセスが提供されています。ダウンロードパッケージに含まれるREADME.mdファイルのステップバイステップの指示に従って、AIアプリケーションに統合します。インフラストラクチャを設定して、LLMトラフィックをリバースプロキシを通じてルーティングします。アプリケーションコードの修正は不要で、完全にリスクフリーな設定が可能です。インフラストラクチャの設定が完了したら、 SafeguardはすぐにLLMトラフィックの監視と異常の検出を開始します。
