LM Studioについて
LM Studioは、ユーザーが自分のコンピュータ上でローカルLLMを実行できる便利なツールです。このツールを使用すると、以下のような利点があります。
オフラインでのLLM実行:ノートパソコンで完全にオフラインでLLMを実行できます。
ローカルドキュメントとのチャット:0.3バージョンで新たに追加された機能で、ローカルドキュメントとのチャットが可能です。
モデルの使用:アプリ内のチャットUIまたはOpenAI互換のローカルサーバーを通じてモデルを使用できます。
モデルファイルのダウンロード:Hugging Faceのリポジトリから任意の互換性のあるモデルファイルをダウンロードできます。
新しいLLMの発見:アプリのDiscoverページで新しく注目すべきLLMを発見できます。
LM Studioは、Hugging Face上のGGUF Llama、Mistral、Phi、Gemma、StarCoderなどのモデルをサポートしています。最小要件は、M1/M2/M3/M4 Mac、またはAVX2をサポートするプロセッサを搭載したWindows / Linux PCです。このツールはllama.cppプロジェクトのおかげで実現しています。