Stručně: kupujte podle velikosti paměti (VRAM), ne podle herního výkonu. Rozumné minimum je 12 GB, nejlepší poměr ceny a možností mají karty s 16 GB. Na velké modely a video potřebujete 24 až 32 GB. Pro začátečníka je jednodušší Nvidia, protože s ní počítá skoro každý návod.
Proč tolik záleží na paměti
Jazykový model i generátor obrázků se při práci celý nahraje do paměti grafické karty. Když se nevejde, program ho rozdělí mezi grafiku a operační paměť počítače a výpočet se zpomalí třeba desetkrát. Proto karta s víc pamětí a nižším výkonem bývá pro AI lepší než rychlejší karta s menší pamětí.
Kolik paměti potřebuje který úkol
| Co chcete dělat | VRAM | Poznámka |
|---|---|---|
| Chat s malým modelem (do 8 miliard parametrů) | 6 až 8 GB | Rychlé odpovědi, slabší čeština |
| Chat se středním modelem (12 až 14 miliard) | 10 až 12 GB | Použitelná čeština |
| Chat s velkým modelem (27 až 35 miliard) | 20 až 24 GB | Nejlepší, co se doma rozumně spustí |
| Model kolem 70 miliard parametrů | 40 GB a víc | Dvě karty nebo Mac s velkou pamětí |
| Generování obrázků, starší modely (Stable Diffusion 1.5, SDXL) | 6 až 8 GB | SDXL na 8 GB s úsporným nastavením |
| Generování obrázků, novější velké modely (například Flux) | 12 až 24 GB | Se zmenšenými verzemi modelu i na 12 GB |
| Generování videa | 16 až 32 GB | Krátké klipy, výpočet trvá minuty |
| Doladění (fine-tuning) malého modelu | 16 až 24 GB | Metodou LoRA, plné doladění potřebuje víc |
Hodnoty jsou orientační pro modely zmenšené na 4 bity (jazykové modely) a běžné rozlišení (obrázky). Výpočet pro jazykové modely najdete v článku AI na vlastním počítači.
Mezi čím vybírat
Konkrétní ceny se mění každý týden, proto tu uvádíme jen paměť a k čemu karta stačí. Než koupíte, ověřte si, že konkrétní model karty má uvedenou paměť. Výrobci občas prodávají stejný čip s různou velikostí VRAM.
8 GB: jen na zkoušku
Karty jako GeForce RTX 5060 nebo starší RTX 4060 s 8 GB. Malé modely a generování obrázků SDXL zvládnou, pro vážnější práci jim ale paměť rychle dojde. Pokud kartu kupujete i kvůli AI, vyplatí se připlatit za verzi s 16 GB.
12 až 16 GB: nejlepší začátek
Sem patří GeForce RTX 5060 Ti ve verzi s 16 GB, RTX 5070 (12 GB), RTX 5070 Ti a RTX 5080 (obě 16 GB), z AMD Radeon RX 9070 a RX 9070 XT (16 GB) a z Intelu Arc B580 (12 GB). Pro AI dává nejvíc smyslu RTX 5060 Ti 16 GB: má stejně paměti jako mnohem dražší RTX 5080 a výkon pro chat a obrázky stačí.
24 až 32 GB: velké modely a video
GeForce RTX 5090 má 32 GB a je nejvýkonnější spotřebitelská karta, cenou ale odpovídá spíš celému počítači. Levnější cestou k 24 GB je ojetá RTX 3090 nebo RTX 4090. Starší RTX 3090 je pomalejší, ale paměť má stejnou, a to je pro AI často důležitější.
Za doporučeními nestojí naše vlastní měření, vycházíme z parametrů výrobců a z požadavků programů na paměť.
Nvidia, AMD, Intel a Mac
Nvidia má výhodu softwaru. Platforma CUDA je standard, na který jsou napsané skoro všechny nástroje, od Ollamy po ComfyUI. Když narazíte na problém, řešení najdete na internetu nejrychleji.
AMD dává za stejné peníze často víc paměti. Ollama a LM Studio s ním fungují, u generování obrázků a videa počítejte s víc laděním, hlavně na Windows.
Intel Arc je levná cesta k 12 GB paměti. Podpora AI programů se zlepšuje, ale pořád je nejslabší ze tří.
Mac s čipem Apple M nemá samostatnou grafiku, ale sdílí jednu velkou paměť. Mac mini nebo MacBook s 32 až 64 GB spustí velké jazykové modely, které by na PC potřebovaly dvě drahé karty. Při generování obrázků je ale znatelně pomalejší než Nvidia.
Na co myslet kromě karty
- Zdroj. Výkonné karty mají spotřebu 300 až 575 W. Ověřte, že váš zdroj kartu utáhne a má správné napájecí konektory.
- Operační paměť. Mějte aspoň tolik RAM, kolik má karta VRAM, ideálně dvakrát víc. Model se před nahráním do karty načítá přes ni.
- Disk. Jeden velký model má desítky gigabajtů. Počítejte s SSD o velikosti aspoň 1 TB, jestli chcete zkoušet víc modelů.
- Pronájem místo nákupu. Na občasné větší úlohy se vyplatí pronajmout GPU v cloudu na hodiny. Srovnání najdete na sesterském webu v článku GPU server.