Artykuły według tagu: llm-inferenc

Lokalny AI na RTX 3090: miningowy zestaw

Zestaw na H510 Pro BTC+ i 3 RTX 3090 dla gpt-oss-120b: 110 t/s inferencji, optymalizacja ładowania. Testy, schematy, koszty dla deweloperów LLM.