おそらく Unsloth Studioのllama.cppはGGML CUDA NO PEER COPY=OFFでビルドされてる Ollamaのllama.cppはこの設定をONでビルドしている あとUnslothStudioの中のROCmなんだけど7.14らしいから 自身で入れているROCmがそれより古いとドライバーとRCCLの不整合でおかしな挙動するかも
Introducing Unsloth Desktop 🦥 The first desktop app to run and train models locally.
• Open-source. Runs on Mac, Windows and Linux • Supports MLX, diffusion image/video, audio, GGUF • Connect Claude Code and Codex to local LLMs • 50% more accurate, self-healing tool calls +… pic.twitter.com/vjTFB1e5IQ
Intel N100 という CPU をご存知ですか?Intel は第 12 世代の CPU から、電力効率を重視した Eコア、性能を重視した P コアと特性が異なる二種類のコアを組み合わせています。その E コアだけの CPU が N100 です。
低電力のため低性能ですが、数世代前の CPU に相当する性能と言われ、低電力を目的としてパソコンでは注目されます。しかしながら、そのコアだけの単体販売は、私が知る限りないです。国内は主に、いわゆる中華メーカー、マニア向けパソコンを販売する一部の会社から、ノートパソコンやミニパソコンとして販売しています。
他の販売形態としては、Intel N100をオンボード搭載したマザーボードが一部会社から販売されています。これなら自由にパーツを組み合わせて、目的に応じて設計できる。ただし、国内で販売されているそれらは Mini-ITX であり、PCIe の拡張性に乏しいです。この N100 を使って重い処理をするわけではないですが、グラボなどを挿したくなったときに困ります。また、AC アダプターからの給電のため、一般的な PC ケースで組みずらいです。
購入した後に気づきましたが、このケースフロントの Type-C はまさかの USB 2.0 でした。そこで、フロントパネル向けの USB 3.1 Gen2 Type-C to Type-E 変換アダプターを購入しました。フロントパネルに装着できるのか?と不安でしたが、純正品か?というぐらいぴったりでした。