起きた
lkjsxc / スク
lkjsxc@lkjsxc.com
npub1puu2...28r2
Computer enthusiast
ずっと仕様を吐き出してる
如何に大きな情報を扱うか、これがどうにも難しくて無理だった
永続ストレージに寄り添った言語処理系とか作りたかったけどLLMが使いこなせなくてだめだった気がする
そういや、永続化したい記憶について、キーバリューストアにいい感じに格納したりしたな（本命の部分）
よし、AIエージェントを、作ろう
小さいLLMを複数個動かすの、メモリ帯域幅が厳しいスマホとかに良さそうな気がしてる
なんか50万ぐらい出るらしい（？）
やらなきゃ
あ、特待の申請忘れてた
プロンプトを千数百トークンに収めないとうまく行かないがちなので、なんとかやりくりさせたり
複数の状態を持っていて、それに応じたプロンプトが構築されるようになっていたり
なんかめっちゃ厳しい（真顔）
jsonだと厳しかったから、属性のないxmlみたいな形式でお願いしたり...... なんかずっと地味なことしてるな
パースできるかどうかでふるいにかけてから、一番良さげなやつをLLMに判断させる
ソースコード漁ってるんだけど、4半期ごとに作り直してるせいで上手く行ったときのソースが埋もれてしまっている
徹夜で海馬の引き出しが死にかけてる
かなり頭悪いのは自覚しているんだけど、まず同じリクエストを10個ぐらい投げて（？）
まず、タスクを細かく分けるだけでは厳しくて
nvidiaが面白そうなことやってるみたいなんだけど、アレ