Bench of Us

Reports

新しいものが上です。全 46 件。

日付タイトル作成者コンピュータ / マザーボードGPUモデルベンチ元 Markdown
2026-10-21 Tesla T4 4 枚で Ternary Bonsai 2 27B（三値 2bit）を 256k コンテキストまで計測 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 不明 llama-split-bench GitHub
2026-10-20 Tesla T4 4 枚で Tess-4.5-27B Q8_0 を MTP 付きで 256k まで計測 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 Tess-4.5-27B-Q8_0.gguf（28,595,763,424 バイト、arch qwen35、64 ブロック、262,144 ctx、Gated DeltaNet llama-split-bench GitHub
2026-10-18 Tesla T4 4 枚で Qwen3.8 27B Uncensored の 256k/512k と 1M の可否を検証 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 Qwen3.8-27B-Uncensored-Q5_K_M.gguf llama-split-bench GitHub
2026-10-18 Tesla T4 4 枚で Ornith 1.5 35B A3B の MTP ヘッド交換と 512k/1M コンテキストを検証 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 ornith-ai/Ornith-1.5-35B-A3B-GGUF の Ornith-1.5-35B-Q4_K_M.gguf llama-split-bench GitHub
2026-10-17 Tesla T4 4 枚で Qwen3.8-Flash-Next の AD-3.84bpw-IQ4_XS-M64 を 32k コンテキストで計測 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 AtomicChat/Qwen3.8-Flash-Next-GGUF の AD-3.84bpw-IQ4_XS-M64 。177B、qwen4exp、48 ブロック、エキスパート 512 / 使用 10、GGUF 上のコンテキスト長 262,144。モデルカードによると 51B パラメータ分は n-gram ルックアップテーブル llama-split-bench GitHub
2026-10-17 Tesla T4 4 枚で Nemotron 3.5 Super VL 120B-A12B の UD-IQ2_XXS と UD-IQ2_M を 64k コンテキストまで計測 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 unsloth/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-GGUF の UD-IQ2_XXS と UD-IQ2_M 。総 120B / アクティブ 12B の MoE llama-split-bench GitHub
2026-10-11 Apple M1 Max 64GB で Qwen3.8 27B UD-Q4_K_M の MTP 投機的デコードを 64k まで比較 Kenya Nara (@penta2himajin) Apple MacBook Pro 18,4(型番 MacBookPro18,4、2021 年モデル) Apple M1 Max × 1 Qwen3.8-27B-UD-Q4_K_M.gguf llama-split-bench GitHub
2026-10-08 Tesla V100-PCIE-32GB 1 枚で Qwen3.8 27B UD-Q4_K_M を 262k コンテキストまで計測 sh1ma Supermicro SYS-1019GP-TT(マザーボード X11SPG-TF) Tesla V100-PCIE-32GB × 1 Qwen3.8-27B-UD-Q4_K_M.gguf llama-split-bench GitHub
2026-10-07 V100 2枚で Qwen3.8 27B の Layer・Tensor分割と MTP・DFlash2 を比較 pakutoma ASRock B550M Pro RS Tesla V100-SXM2-16GB × 2 unsloth Qwen3.8-27B UD-Q4_K_M llama-split-bench GitHub
2026-10-05 Tesla V100 16GB ×2・NVLink・各150W制限でQwen3.8 27Bのsplit-modeを比較 KotaroFurukawa Supermicro X11SPi-TF Tesla V100-SXM2-16GB × 2 Qwen3.8-27B-Q4_K_M.gguf、16,810,714,336byte llama-split-bench、7af72d4085aa5073677d41389144112dd94fcb74 GitHub
2026-10-04 TB250-BTC PRO で新旧混成 GPU の分割ベンチ (Vulkan + Kepler 復活 CUDA) eightman999 BIOSTAR TB250-BTC PRO（マイニングボード） R × 6400 Qwen3-1.7B Q4_K_M 不明 GitHub
2026-10-03 Tesla V100-PCIE-32GB と PG500-216 で Qwen3.8 Flash Next を 192k / 256k で計測 warabii MSI MPG X570 GAMING EDGE WIFI Tesla V100-PCIE-32GB + Tesla PG500-216 Qwen3.8 Flash Next IQ3E-Q8D-MTP llama-split-bench GitHub
2026-10-01 RTX 3090 4 枚で Qwen3.8 27B の split-mode を比較（Ubuntu・NCCL） 錦幸佳 ASUS ROG CROSSHAIR VIII DARK HERO NVIDIA GeForce RT × 3090 Qwen3.8-27B UD-Q4_K_XL 。Windows測定と同一ファイル llama-split-bench GitHub
2026-09-30 Tesla T4 4 枚で Nemotron 3 Nano Omni 33B を 128k コンテキストまで計測 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 NVIDIA-Nemotron-3-Nano-Omni-30B-A3B-Reasoning-UD-Q4_K_M.gguf llama-split-bench GitHub
2026-09-30 Tesla T4 4 枚で Nemotron 3.5 Lightning 30B A3B を 262k コンテキストまで計測 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 NVIDIA-Nemotron-3.5-Lightning-30B-A3B-UD-Q4_K_M.gguf llama-split-bench GitHub
2026-09-30 Tesla T4 4 枚で Ornith 1.5 35B A3B の split-mode を比較 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 Ornith-1.5-35B-A3B-Q4_K_M.gguf llama-split-bench GitHub
2026-09-30 Tesla T4 4 枚で Gemma 4 26B A4B QAT の split-mode を比較 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 gemma-4-26B-A4B-it-qat-UD-Q4_K_XL.gguf 25 層、エキスパート 128） llama-split-bench GitHub
2026-09-30 Tesla T4 4 枚で Gemma 4 31B QAT の split-mode を比較 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 gemma-4-31B-it-qat-UD-Q4_K_XL.gguf llama-split-bench GitHub
2026-09-29 TITAN V 2枚でSwift版Qwen3.8 27B IQ4_XSを160Kコンテキストまで測定 tomo_9180 MSI MPG Z490M GAMING EDGE WIFI (MS-7C76) NVIDIA TITAN V 12 GiB × 2 ukisai/Swift-Qwen3.8-27B-GGUF:IQ4_XS、Swift-Qwen3.8-27B-IQ4_XS.gguf、15,688,288,352 bytes llama-split-bench GitHub
2026-09-29 TITAN V 2枚でQwen3.8 27B IQ4_XSのsplit-modeを64Kまで比較 tomo_9180 MSI MPG Z490M GAMING EDGE WIFI (MS-7C76) NVIDIA TITAN V 12 GiB × 2 Qwen3.8-27B-UD-IQ4_XS.gguf、14,252,845,984 bytes llama-split-bench GitHub
2026-09-28 RTX 5060 TiでGemma 4 26B A4B QAT-MTPを131Kコンテキストまで計測 RockinWool ASRock B650 PG Lightning NVIDIA GeForce RT × 5060 Gemma4-26B-A4B-QAT-Uncensored-HauhauCS-Balanced-Q4_K_M.gguf、16,780,192,888 bytes llama-split-bench（2026-09-28取得） GitHub
2026-09-28 RTX 5090 1 枚で Qwen3.8-Flash-Next NVFP4 を FreeToken で約 260k 入力まで計測 centra ASRock Z890 Pro RS WiFi NVIDIA GeForce RTX 5090 × 1 Qwen3.8-Flash-Next-Uncensored-NVFP4 FreeToken adapter (llama-split-bench protocol) GitHub
2026-09-28 Radeon AI PRO R9700でQwen3.8 27BのIQ4_XSとMXFP4を比較 jyohukuchan ASRock WRX80 Creator Radeon AI PRO R9700 × 1 Qwen3.8 27B UD-IQ4_XS / Quark AWQ MXFP4 llama-split-bench / vLLM replay client GitHub
2026-09-28 RX 7900 XT + RX 7800 XTでQwen3.8 27B IQ4 XSのsplit-modeを比較 ogawara ASUS ProArt X870E-CREATOR WIFI Radeon R × 7900 Huihui-Qwen3.8-27B-abliterated-UD-IQ4_XS.gguf、14,403,496,864 bytes llama-split-bench GitHub
2026-09-27 CMP 170HX 2 枚で Qwen3.8 Flash Next（W4A16・MoE）を vLLM TP=2 で 258k コンテキストまで計測 moriyasujapan GIGABYTE MZ32-AR0-00 NVIDIA CMP 170HX × 2 Qwen3.8-Flash-Next-heretic2-W4A16-densohax <br>base: Qwen/Qwen3.8-Flash-Next llama-split-bench GitHub
2026-09-27 RTX 3090 4 枚で Qwen3.8 27B の split-mode を比較（Windows・コア1395 MHz固定設定） 錦幸佳 ASUS ROG CROSSHAIR VIII DARK HERO NVIDIA GeForce RT × 3090 Qwen3.8-27B UD-Q4_K_XL llama-split-bench GitHub
2026-09-27 GTX 1660 SUPER 6GBで Qwen2.5-Coder 7B のGPU/CPUオフロードを計測 antarashi ASRock B450 Pro4（Windows CIMで再取得） NVIDIA GeForce GT × 1660 Qwen2.5-Coder-7B-Instruct、7.62B、GGUF v3、Q4_K_M、4,683,074,048 bytes llama-split-bench GitHub
2026-09-27 RTX 5090 1 枚で Qwen3.8 27B UD-Q5_K_XL を 262k コンテキストまで計測 unco3 ASRock Z790 Steel Legend WiFi（自作 PC） NVIDIA GeForce RT × 5090 Qwen3.8-27B-UD-Q5_K_XL.gguf llama-split-bench GitHub
2026-09-26 EPYC 7452 × 2 と RTX 5070 Ti × 2 で Qwen3.8-Flash-Next Uncensored（自前 NVFP4）を sglang＋KTransformers で動かす amane.yukishima HUANANZHI H12D-16D（デュアル SP3） GeForce RT × 5070 orcarouter/Qwen3.8-Flash-Next-Uncensored を元に、ルーティングされるエキスパートだけ ModelOpt で NVFP4 に量子化 。エキスパートは NVFP4 、それ以外は BF16。174 GB 。48 層（線形アテンション 36 自作スクリプト GitHub
2026-09-26 RTX 5090 で Qwen3.8 27B を 262k コンテキストで測定 completenovice-eng Micro-Star International Co., Ltd. PRO B650-S (MS-7E26) NVIDIA GeForce RT × 5090 Huihui-Qwen3.8-27B-abliterated-Q4_K.gguf llama-split-bench GitHub
2026-09-26 EVO-X2 128GBでQwen3.8-Flash-NextをHalogenで実行 A-Uta GMKtec NucBox EVO-X2 AMD Radeon 8060S Graphics × 1 Qwen3.8-Flash-Next W4B HGN Halogen GitHub
2026-09-26 RTX 5070 12GB 1枚で Qwen3.8 27B GSQ IQ2_S を計測（8K短縮プロファイル） fumimatsu GIGABYTE X870M AORUS ELITE WIFI7 ICE NVIDIA GeForce RT × 5070 Qwen3.8-27B-GSQ-RCO-IQ2_S llama-split-bench GitHub
2026-09-26 EPYC 7452 × 2 と RTX 5070 Ti × 2 で Qwen3.5-35B-A3B を BF16 のまま CPU/GPU 分担で動かす amane.yukishima HUANANZHI H12D-16D（デュアル SP3） GeForce RT × 5070 Qwen/Qwen3.5-35B-A3B 。BF16。67 GB。40 層、ルーティングされるエキスパート 256 個中 8 個がアクティブ 自作スクリプト GitHub
2026-09-26 EPYC 7452 × 2 と RTX 5070 Ti × 2 で GLM-5.3-Flash Uncensored を動かし、GPU での prefill と GPU 常駐エキスパートを比較 amane.yukishima HUANANZHI H12D-16D（デュアル SP3） GeForce RT × 5070 GLM-5.3-Flash の Uncensored 版。本体は orcarouter/GLM-5.3-Flash-Uncensored-FP8、CPU 側のエキスパートは orcarouter/GLM-5.3-Flash-Uncensored-NVFP4。本体 FP8 で 306 GB 。CPU 側のエキスパートは NVFP4 版 から読み込み。45 層、ルーティングされるエキスパート 288 個中 8 個がアクティブ 自作スクリプト GitHub
2026-09-26 EPYC 7452 × 2 と RTX 5070 Ti × 2 で DeepSeek V4.1-Flash（476 GB）をコンテキスト長 1M で動かす amane.yukishima HUANANZHI H12D-16D（デュアル SP3） GeForce RT × 5070 deepseek-ai/DeepSeek-V4.1-Flash 。本体は FP8 、エキスパートは FP4。engram テーブル込みで 476 GB。40 層、ルーティングされるエキスパート 384 個中 6 個がアクティブ 自作スクリプト GitHub
2026-09-26 EPYC 7452 × 2 と RTX 5070 Ti × 2 で DeepSeek V4-Flash-Vision-Exp（abliterated、MXFP4）を sglang＋KTransformers で動かす amane.yukishima HUANANZHI H12D-16D（デュアル SP3） GeForce RT × 5070 DeepSeek V4-Flash-Vision-Exp の abliterated 版。huihui-ai/Huihui-DeepSeek-V4-Flash-Vision-Exp-abliterated-GGUF を sglang で読める形式に自前で変換。エキスパートは GGUF の MXFP4 をそのまま使用、エキスパート以外の重みは FP8。147 GB。43 層、ルーティングされるエキスパート 256 個中 6 個がアクティブ 自作スクリプト GitHub
2026-09-26 Tesla T4 4 枚で Qwen3.8 27B の split-mode と量子化を比較 MG8853 HPE ProLiant DL380 Gen10 Tesla T4 × 4 Qwen3.8-27B の UD-Q4_K_XL / UD-Q6_K / Q8_0 llama-split-bench GitHub
2026-09-25 Tesla P40 4 枚で Qwen3.8 27B の split-mode を比較（単一 GPU ベースライン付き） 0kqnet Supermicro X10DRG-Q Tesla P40 × 4 Qwen3.8-27B-UD-Q4_K_XL llama-split-bench GitHub
2026-09-25 NVIDIA GB10（統合メモリ SoC）単体で Qwen3.8 Flash Next（MoE）を 262k コンテキストまで計測 0rangaxx Lenovo Thinkstation PGX（型番 30KLS01900）— NVIDIA GB10 (Grace Blackwell) SoC 搭載。/sys/class/dmi/id/product_name = 30KLS01900、board_name は INVALID NVIDIA GB10 。nvidia-smi の VRAM は [N/A] で、システム RAM と同一プールを共有する。離散 VRAM ではない Qwen3.8-Flash-Next-IQ3E-Q8D-MTP.gguf llama-split-bench GitHub
2026-09-24 Tesla V100-SXM2-32GB 2 枚で Qwen3.8 Flash Next（MoE）の layer 分割と単一 GPU を比較 pentacoxian Inspur NF5468M5（マザーボード YZMB-01130-107） Tesla V100-SXM2-32GB × 2 Qwen3.8-Flash-Next-IQ3E-Q8D-MTP.gguf llama-split-bench GitHub
2026-09-23 Tesla V100 2 枚で Qwen3.8 27B の split-mode を比較 miminashi ASRock X99 Taichi Tesla V100-SXM2-16GB × 2 Huihui-Qwen3.8-27B-abliterated-UD-Q4_K_XL llama-split-bench GitHub
2026-09-22 Tesla V100 2枚で Qwen3.8 27B の split-mode を比較（単一GPU ベースライン付き） kuraneko1 ASUS Z170-A Tesla V100-PCIE-32GB + Tesla PG500-216 。VRAM 32 GB × 2 Qwen3.8-27B UD-Q4_K_M llama-split-bench GitHub
2026-09-21 RTX 3060 + Tesla V100 で Qwen3.8 27B の tensor split を NCCL あり／なしで比較 eightman999 Thirdwave XA7C-R47T / ASRock B760 TW/D4 NVIDIA GeForce RT × 3060 Qwen3.8-27B Q4_K_M llama-split-bench GitHub
2026-09-21 RTX 3060 + Tesla V100 で Qwen3.8 27B の split-mode を比較 eightman999 Thirdwave XA7C-R47T / ASRock B760 TW/D4 NVIDIA GeForce RT × 3060 Qwen3.8-27B Q4_K_M llama-split-bench GitHub
2026-09-20 Tesla P100 7 枚で Qwen3.8 27B の split-mode を比較 miminashi Supermicro SYS-4028GR-TRT2（M/B X10DRG-OT+-CPU） Tesla P100-PCIE-16GB × 7 Qwen3.8-27B-UD-Q4_K_XL llama-split-bench GitHub
2026-09-20 Tesla P100 4 枚で Qwen3.8 27B の split-mode を比較 miminashi NEC Express5800/T120h Tesla P100-PCIE-16GB × 4 Qwen3.8-27B-UD-Q4_K_XL llama-split-bench GitHub