RTX 5060 Ti 16GBでローカルLLM(Qwen3.8 27B)にもう一度挑んだ話

RTX 5060 Ti 16GBを手に入れたので、ローカルLLMをもう一度試してみた話。

今まで我が家(我が研究所)で使ってたのは GTX 1060(6GB)と RTX 2060(6GB)。優秀な2枚だけど、さすがに昨今のAI用途だと力不足を感じていた。

そこで今回、SO101と一緒にフィジカルAIやACT、強化学習用途でRTX 5060 Ti 16GBも買った。10万円程度。この辺りが自分の限界で、その上となると3090や4090、5090になり30万〜90万円くらいするので、もう手が出ない。中古市場には過去のサーバー・エンタープライズ向けの古いGPU(NVIDIA V100の32G...