Es ist eigentlich ganz einfach.
Ich hab per Oculink die externe 3090 in einem Docker angebunden, mithilfe der 48GB RAM und dem 5 GBITS LAN kann ich jetzt per vLLM und API Zugriff meinem Clawdbot die LLM's durchreichen, auch per tailscale von unterwegs.
GM!
In Folge 59 treffe ich @Maik , @Calso und JJ zum digitalen Stammtisch. Dabei
- sprechen wir nicht (nur) über den Dip
- wägen wir zwischen Firefish und Kreislaufwirtschaft ab
- fragen uns ob Bitcoin vor Cladbots schützen kann
Viel Spaß!
Auf allen gängigen Streamingplattformen, inkl #Value4Value natürlich!
Value4Value: