そういや、永続化したい記憶について、キーバリューストアにいい感じに格納したりしたな（本命の部分）
lkjsxc / スク
lkjsxc@lkjsxc.com
npub1puu2...28r2
AI enthusiast
よし、AIエージェントを、作ろう
小さいLLMを複数個動かすの、メモリ帯域幅が厳しいスマホとかに良さそうな気がしてる
なんか50万ぐらい出るらしい（？）
やらなきゃ
あ、特待の申請忘れてた
プロンプトを千数百トークンに収めないとうまく行かないがちなので、なんとかやりくりさせたり
複数の状態を持っていて、それに応じたプロンプトが構築されるようになっていたり
なんかめっちゃ厳しい（真顔）
jsonだと厳しかったから、属性のないxmlみたいな形式でお願いしたり...... なんかずっと地味なことしてるな
パースできるかどうかでふるいにかけてから、一番良さげなやつをLLMに判断させる
ソースコード漁ってるんだけど、4半期ごとに作り直してるせいで上手く行ったときのソースが埋もれてしまっている
徹夜で海馬の引き出しが死にかけてる
かなり頭悪いのは自覚しているんだけど、まず同じリクエストを10個ぐらい投げて（？）
まず、タスクを細かく分けるだけでは厳しくて
nvidiaが面白そうなことやってるみたいなんだけど、アレ
バチクソ大変（経験済み）
8bぐらいのLLMに寄り添ったAIエージェントも頑張りたいんよなーの気持ちがあったけど、全部やればいいか
ふとyoutube開いたらkernelvmやっててうおお
馬力ほし～