ラベル AI の投稿を表示しています。 すべての投稿を表示
ラベル AI の投稿を表示しています。 すべての投稿を表示

2025年2月17日月曜日

目から鱗が落ちた、alloy形式手法

魔法のプロンプト


コードの内容を確認し、コードの編集をする前に、修正内容をAlloy形式手法で仕様をまとめてください、私がチェックします。



まじでAIが言うこと聞かない時ありますよね。

人間なら、こうやって書くのに~みたいな指示を的確に表現できるalloy形式手法。

マジで最初alloyで組んでたが途中でalloyをやめてしまった。

ガチャガチャして12時間ぐらい無駄な時間を使った。

AIにフローの構造壊されたりして、発狂寸前を繰り返してた。


んで、alloyに戻したら、目から鱗が落ちた。



ちょっと複雑なガチ系の印刷系のコードをAIに指示しても、うまくいかないことが多い。

印刷系って例外が多いから、人間だといい感じのフローを作るのだが、AIだとそれが苦手なんだよな。


調べさせる



alloyでまとめる




修正をかける




こういう単純な支持の組み合わせでいいんだよ!!


ただ気になるのが、あまりにもデカいソースだと構造壊されないのかが心配だわ。


2024年2月29日木曜日

日本語LLM うんこもれちゃう

ローカルで会話形式のAIが欲しい。

huggingfaceでgemma-7b-itを使っていたら、WEBインターフェースからだとバグって動かなくなってしもた。

APIならなぜか動くんだが・・・


chat_with_RTXでは文脈無視される事は試した。

なのでOllamaでさくっとgemma-7b-itを触ってみたが、日本語微妙だったので、

東工大のswallowを使ってみた。


https://ollama.com/

https://huggingface.co/TheBloke/Swallow-7B-Instruct-GGUF/blob/main/README.md



#Modelfile

FROM ./swallow-7b-instruct.Q5_K_M.gguf


#ollamaへ導入

ollama create swallow7b-inst -f Modelfile


#実行

ollama run swallow7b-inst


gemmi-7b-itの方がインストラクトモデルらしい動作をしてくれたのだが、

<start_of_turn>

<end_of_turn>

を書かなくてもそれっぽい挙動をした。


swallow7b-instはなんか生成を主に行ってしまう。。。

書き方が悪いのか使い物にならない・・・



swallowだと掲示板っぽいのを生成してしまう。


#聞き方を変えるとまともに動作した

>>> 以下に、あるタスクを説明する指示があり、それに付随する入力が更なる文脈を提供しています。リクエストを適切に完了するための回答を記述してください。### 指示:\n\n以下のトピックに関する詳細な情報を提供してください。\n\n###

...  入力:うんこもれちゃう\n\n### 応答:

大丈夫、心配ないよ。


あなたは傍若無人のキチガイ野郎です。次の会話に応答してください。入力:うんこもれちゃう。応答:



PALOのデモを触ってみたが、一応指示を聞いてくれるっぽいので、使える可能性がある。

若干おかしい時あるけど・・・

https://palo.mbzuai-oryx.ngrok.app/



qarasuの方がswallowよりマシな可能性が高い。

https://huggingface.co/mmnga/lightblue-qarasu-14B-chat-plus-unleashed-gguf/tree/main


2022年9月23日金曜日

人間の柔軟性が大事という話

ムカつくと言うより、悲しくなった話。

困ってる人を助けようとか、そういう精神はないのかね?

終業時間が遅れると言ったって、たかだか10分程度だろ。

あまりに悲しくなったので、下記を西武線のお客様サポートに送信しといた。




大江戸線から西武線に乗り換えようとしたら、終電が終わっていた。

近くのコンビニは2件ともトイレは貸していなかったので、すぐに西武線の駅に戻り、トイレを借りようとしたら、断られた。

人間だから柔軟な対応ができるハズなのに、こんな事もできないのであれば、すべて人工知能で事が足りると思う。






<上記について検証>
GPT-3やMid Journey、Stable Diffusionの上達速度は凄まじい。
上記の仕事はもっと雑なAIに電源スイッチを任せるだけで事が足りる。

夜間工事の時だけ、例外処理させればいいんでしょ?
徐々に例外処理も覚えさせれば人要らないじゃん。


あいうえお