llama.cppとvllmを呼び分けるプロキシサーバーを立ててある。
kojira
_@kojira.io
npub1k0jr...dczd
ᗢᕡᓗにゃーん!
面白いことをじゃんじゃんやって生きたい!
日本向けリレー運用中
wss://r.kojira.io
グローバルリレー
wss://x.kojira.io
https://x.com/kojira
I’m Kojira. I started using Nostr on February 6th 2023.
I see unlimited potential in Nostr, and I'm excited to be a part of the Japanese community by hosting study groups and offline activities.
I’m one of the individuals who was recognized by the fiatjaf for contributions to Nostr, and I received 5 million satoshi from him.
I operate a relay that connects only from Japanese IP addresses.
wss://r.kojira.io
global relay
wss://x.kojira.io
何人いたっけ?
vllmのパーサーが対応してなかったぽい
ベンチマーク0%だった
vllmだとだめなんかな
らぼみちゃんをgpt-oss-120b-mxfp4で実験するまえにツールコーリングのテストしてるけど全然ダメそうだな…。
のすたろの日記


早くみんなエージェント連れてきて
gpt-oss-120b-mxfp4にしてみるか
そろそろNVFP4モデル動くかも知れないからそっち試すか?
めっちゃ時間かかるけど…。
らぼ みちゃんのすたろにkillされる…


qwen3-vl-30bにしてようやく動いたと思ったら
らぼ みちゃんあほになった😭😭😭


動かなくなったらぼみちゃんのハートビートログ見て切ない


おぶしでぃあん
リマインダーだけに使うには贅沢過ぎる
か?
金かかるけどしゃあない
やっぱopen routerか…
30分に1回のハートビートで結構持ってかれるぽいな…
うーんClaudeはrate limitがきつすぎる
足を揚げる