簡単に言うと完全に制御すると頭いい、デフォが超バカになった。
デフォでいい感じに動くのがwindsurfの売りだったのに・・・
cursorかclineかどっちか忘れたが、毎回急ハンドル切るモードになってる・・・
これトークンを無駄遣いするからイヤなんだよね。
一回スイッチが入ると、毎回これ言ってくる。
多分これ書かないと、まともにならないかも。
https://codeium.com/windsurf/directory
これじゃあほとんどcursorと変わらんのでは?
俺みたいに同時にいろんな言語を扱う奴にとって、これは致命的だ。
全ての環境で制御しないといけないなんて・・・
定期的にゴミが入る仕様で、この処理はtransformer系だと辛い・・・
この仕様、拡散系のモデルだと問題が起きにくいような気がするが
https://chat.inceptionlabs.ai/
一応聞いてみた。
結論
条件 | トランスフォーマー系 | 拡散モデル |
---|---|---|
ゴミがランダムな場合 | 自己注意で無視しやすい | ノイズ除去で無視しやすい |
ゴミが定期的な場合 | 学習時に影響を受けやすい | ある程度は無視できるが、解釈される可能性あり |
出力の精度 | 文脈を維持しやすいが、ゴミが多いと影響を受ける | 文脈の再構築能力が高いが、特定のキーワードとして扱われる可能性 |
どちらが適切か?
- ゴミの影響をできるだけ無視したい場合 → 拡散モデルの方が適している
- 本来のデータ分布を学習し、ノイズを除去する仕組みなので、「定期的なゴミ」があっても無視できる可能性が高い。
- 言語処理(自然言語のプロンプト)なら → トランスフォーマーの方が意味を保持しやすい
- ただし、定期的なゴミを意識してしまう場合があるので、事前にクリーンなプロンプトを作る工夫が必要。
つまり、ゴミのパターンが予測できるなら、前処理を行えばトランスフォーマーも問題なく扱えるが、前処理なしで頑丈な処理を求めるなら、拡散モデルの方が適している可能性が高い。