実験メモ
同じモデルでもollamaで動かすより激遅い。
違いはmemory機能があるかないかだけ。
GPU使ってると思うんだが、ちゃんと動いてないのか？
追伸：
最新のパッチを当てたら、正常動作した・・・
0 件のコメント:
コメントを投稿