Abu lustai telpa pajėgų DI kompiuterį į kompaktišką dėžutę, todėl dokumentai niekada nepalieka biuro. Tačiau jie tinka skirtingoms užduotims: vienas sukurtas aplink didelį greitosios atminties kiekį dideliems kalbos modeliams, kitas — aplink mažesnį energijos suvartojimą mažesniems modeliams ir kasdieniam biuro DI. Štai kaip pasirinkti — ir ką patvirtinti su gamykla prieš mokant.

Trumpas atsakymas
Rinkitės mini PC su AMD Ryzen AI Max+ 395 ir 128 GB, jei reikia didelių modelių — didelių mixture-of-experts modelių arba tankių 30–70 milijardų parametrų modelių, kai lėtesni atsakymai priimtini — mažai komandai ar ilgiems dokumentams. Rinkitės mini PC su Intel Core Ultra (Series 3) procesoriumi ir 32–64 GB, jei keliems naudotojams pakanka 8–14 milijardų parametrų modelių, o svarbesnis mažas energijos suvartojimas ir tylus veikimas.
→ DI mini kompiuteris: Ryzen AI Max+ 395, 128 GB · DI mini kompiuteris su Intel Core Ultra (3 serija)
Atmintis: koks modelis telpa
Kalbos modeliui, suspaustam iki 4 bitų, reikia šiek tiek daugiau nei pusės gigabaito atminties vienam milijardui parametrų, be vietos pokalbiui. Orientacinė taisyklė, esant trumpam kontekstui: apie 6 GB 8 milijardų modeliui, apie 20 GB 32 milijardams ir apie 40–45 GB 70 milijardų. Ilgiems dokumentams reikia daugiau.
Abiejose platformose procesorius ir grafika naudoja bendrą atminties telkinį. Ryzen AI Max+ 395 palaiko iki 128 GB, o AMD nustatymas Variable Graphics Memory gali iš jo grafikai skirti iki 96 GB; tuomet ši atmintis procesoriui nebepasiekiama. Core Ultra X9 388H palaiko iki 96 GB. Pagal numatytuosius nustatymus jo grafika gali naudoti iki 57 % sistemos atminties — apie 55 GB esant įdiegtiems 96 GB — o Intel Graphics Software nustatymas Shared GPU Memory Override šią ribą padidina; didžiausias dydis priklauso nuo to, kiek atminties įdiegta.
Prie plokštės prilituotos atminties vėliau pridėti nebeįmanoma, todėl dydį pasirinkite užsakydami. Intel Series 3 platforma taip pat palaiko keičiamus LPCAMM2 atminties modulius; paklauskite gamyklos, koks atminties tipas yra mini PC.
→ Vietinis DI biure: kaip pasirinkti kompiuterį kalbos modeliams
Greitis: atminties pralaidumas svarbesnis nei TOPS
Kai modelis rašo atsakymą, kiekvienam naujam tokenui jis nuskaito savo svorius iš atminties, todėl su dideliais modeliais atsakymo greitis daugiausia priklauso nuo atminties pralaidumo, o ne nuo brošiūroje nurodyto TOPS skaičiaus. Ryzen AI Max+ 395 turi 256 bitų atminties magistralę su LPDDR5X-8000, o AMD savo mini PC Ryzen AI Halo nurodo 256 GB/s. Core Ultra X9 388H turi du atminties kanalus ir palaiko LPDDR5X-9600, tačiau Intel pralaidumo duomenų neskelbia. Jei magistralė 128 bitų pločio, teorinė viršutinė riba yra apie 154 GB/s (9 600 MT/s × 16 baitų); konkrečiame mini PC atmintis gali veikti ir lėčiau, todėl paklauskite gamyklos tikrojo greičio. Su tuo pačiu dideliu modeliu AMD įrenginys paprastai generuos tekstą greičiau.
Todėl tankus 70 milijardų modelis abiejose platformose lėtas: esant 4 bitams, kiekvienam tokenui nuskaitoma apie 40 GB, todėl net ir 256 GB/s leidžia daugiausia apie šešis tokenus per sekundę. Mixture-of-experts modeliai yra daug greitesni, nes kiekvienam tokenui naudoja tik dalį savo parametrų. OpenAI atvirųjų svorių modelis gpt-oss-120b turi apie 117 milijardų parametrų, iš kurių vienam tokenui aktyvūs apie 5,1 milijardo. AMD teigia, kad jo svoriams reikia maždaug 61 GB ir kad jis veikia iki 30 tokenų per sekundę nešiojamajame kompiuteryje su Ryzen AI Max+ 395 ir 128 GB atminties, iš kurių 96 GB skirta grafikai (AMD bandymas, 2025 m. rugpjūtis). Rezultatai mini PC gali skirtis.
Grafika, NPU ir programinė įranga
Ryzen AI Max+ 395 turi Radeon 8060S grafiką su 40 grafikos branduolių ir iki 50 TOPS NPU; AMD visam lustui nurodo iki 126 TOPS. Core Ultra X9 388H turi Intel Arc B390 grafiką su 12 Xe branduolių (iki 122 TOPS) ir iki 50 TOPS NPU; atrinktiems Core Ultra Series 3 H serijos procesoriams Intel nurodo iki 180 TOPS platformai — procesoriui, grafikai ir NPU kartu. Kalbos modeliams šie skaičiai mažai ką pasako: svarbesnis atminties pralaidumas.
Kalbos modeliams didžiąją darbo dalį atlieka grafika. LM Studio palaiko Ryzen AI Max (Strix Halo) įrenginius per savo llama.cpp vykdymo aplinką, o AMD savo ROCm programinę įrangą šiam lustui palaiko Linux sistemoje; Windows sistemoje palaikomi tik kai kurie ROCm komponentai. Intel atveju OpenVINO įrankis palaiko Core Ultra Series 3 procesorius, Intel Arc grafiką ir Intel NPU. Kai kuriose LM Studio versijose integruota grafika Vulkan posistemėje pagal numatytuosius nustatymus išjungta ir ją reikia įjungti. Palaikymas keičiasi su kiekviena versija, todėl paprašykite gamyklos raštu patvirtinti, kad jūsų programinė įranga veikia būtent šiame modelyje.
Galia, triukšmas ir dydis
AMD procesoriui Ryzen AI Max+ 395 pagal numatytuosius nustatymus nurodo 55 W, reguliuojama nuo 45 iki 120 W; nustatymą pasirenka mini PC gamintojas. Intel procesoriui Core Ultra X9 388H nurodo 25 W bazinę galią ir iki 80 W maksimalią turbo galią. Aukštesnis nustatymas duoda daugiau greičio, tačiau reikia didesnio aušintuvo ir maitinimo šaltinio, o ventiliatorius esant apkrovai garsesnis.
Stalui tyliame biure paprašykite gamyklos galios nustatymo, triukšmo lygio esant pilnai apkrovai ir maitinimo adapterio nominalios vertės. Jei įrenginys aptarnauja visą biurą, numatykite jam UPS.
→ Nuolatinio veikimo UPS su LiFePO4 akumuliatoriumi, 1–3 kVA · UPS serverinei arba vietiniam DI skirtam kompiuteriui: kokį tipą, akumuliatorių ir galią pasirinkti
Kuris kuriam biurui
Maža advokatų kontora, klinika ar buhalterijos biuras, norintis asmeninio asistento savo dokumentams su 8–14 milijardų modeliu: Core Ultra mini PC su 32–64 GB.
Komanda, kuriai reikia 30–70 milijardų modelių, ilgų sutarčių, kelių naudotojų vienu metu arba kuri kuria ir testuoja DI programas: Ryzen AI Max+ 395 su 128 GB.
Dešimtys vienu metu dirbančių naudotojų arba savo modelių mokymas: nei vienas, nei kitas — tam reikalingas serveris su profesionaliomis vaizdo plokštėmis, o tai kitas biudžetas.
Ko paklausti gamyklos prieš užsakant
Pareikalaukite raštu: tikslų procesorių ir atminties dydį — Intel atveju bent 16 GB dvikanalės atminties, kurios Intel reikalauja Arc grafikai; ar atmintis prilituota, ar keičiamas modulis; galios nustatymą ir triukšmo lygį esant pilnai apkrovai; grafikos atminties nustatymą, iš anksto nustatytą prieš siuntimą, jei jo norite; operacinę sistemą ir licenciją arba jūsų pačių sistemos atvaizdą, įdiegtą prieš siuntimą; patvirtinimą, kad jūsų programinė įranga veikia šiame modelyje; garantiją ir remonto tvarką; maitinimo kištuką jūsų šaliai; ir Wi-Fi bei Bluetooth radijo bandymų ataskaitas, kurių kai kurios šalys reikalauja importuojant.
Pirmiausia užsakykite pavyzdį ir patikrinkite jį pagal specifikaciją prieš partiją.
→ Kaip užsisakyti pavyzdžius iš Kinijos: ką patikrinti prieš mokant
Kaip padedame
Pasakykite, kuriuos modelius norite paleisti ir kiek žmonių juos naudos. Siūlome konfigūraciją, prašome gamyklos raštu patvirtinti suderinamumą ir nustatymus, galime prieš siuntimą įdiegti jūsų sistemos atvaizdą ir paruošti eksporto dokumentus. Dirbame su užsakymais nuo US$3 000.
Aukščiau pateiktos specifikacijos buvo patikrintos AMD, Intel, OpenAI ir programinės įrangos kūrėjų svetainėse 2026 m. lapkritį; lustai ir programinė įranga greitai keičiasi, todėl prieš užsakydami patvirtinkite juos konkrečiam modeliui.