Spaces:
Running
Running
Llama.cpp 公开推理节点监测
- 更新时间: 2026-05-25 14:53:47
- 在线节点数: 70
| 访问地址 | 推理速度(token/s) | 模型参数(B) | 部署模型 | 可用性 | 原始地址 |
|---|---|---|---|---|---|
| http://210.99.32.60:8000/v1/chat/completions | 188.83 | 25.23 | google_gemma-4-26B-A4B-it-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 210.99.32.60:8000 |
| http://65.109.75.40:8001/v1/chat/completions | 169.86 | 20.91 | ggml-org/gpt-oss-20b-GGUF | 第1轮:成功 / 第2轮:失败 | 65.109.75.40:8001 |
| http://125.229.2.102:8081/v1/chat/completions | 164.72 | 25.23 | gemma-4-26B-A4B-it-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 125.229.2.102:8081 |
| http://59.125.122.66:8080/v1/chat/completions | 156.09 | 34.66 | Qwen3.6-35B-A3B-UD-Q3_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 59.125.122.66:8080 |
| http://122.166.121.35:8002/v1/chat/completions | 123.21 | 25.23 | torki | 第1轮:成功 / 第2轮:失败 | 122.166.121.35:8002 |
| http://124.174.31.191:8080/v1/chat/completions | 116.13 | 34.66 | local-v100 | 第1轮:成功 / 第2轮:失败 | 124.174.31.191:8080 |
| http://172.168.53.235:80/v1/chat/completions | 114.86 | 34.66 | Qwen3.5-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 172.168.53.235 |
| http://136.243.9.251:8080/v1/chat/completions | 113.83 | 30.53 | Qwen3-30B-A3B-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 136.243.9.251:8080 |
| http://61.144.189.162:8000/v1/chat/completions | 111.11 | 25.23 | gemma-4-26b-it-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 61.144.189.162:8000 |
| http://221.178.157.74:8000/v1/chat/completions | 108.18 | 34.66 | Qwen3.5-35B-A3B-UD-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 221.178.157.74:8000 |
| http://47.110.125.213:8080/v1/chat/completions | 105.84 | 34.66 | Qwen3.6-35B-A3B-UD-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 47.110.125.213:8080 |
| http://111.230.99.209:8032/v1/chat/completions | 101.65 | 34.66 | Qwen3.6-35B-A3B-UD-Q6_K.gguf | 第1轮:成功 / 第2轮:失败 | 111.230.99.209:8032 |
| http://77.169.248.209:8080/v1/chat/completions | 92.72 | 27.32 | unsloth/Qwen3.6-27B-MTP-GGUF:UD-Q4_K_XL | 第1轮:成功 / 第2轮:失败 | 77.169.248.209:8080 |
| http://119.207.110.44:9000/v1/chat/completions | 90.19 | 25.23 | gemma-4-26B-A4B-it-UD-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 119.207.110.44:9000 |
| http://92.100.38.81:11434/v1/chat/completions | 84.90 | 20.91 | gpt-oss-20b-Q4_K_S.gguf | 第1轮:成功 / 第2轮:失败 | 92.100.38.81:11434 |
| http://182.92.164.123:9999/v1/chat/completions | 84.87 | 25.23 | gemma-4-26B-A4B-it-UD-IQ4_XS.gguf | 第1轮:成功 / 第2轮:失败 | 182.92.164.123:9999 |
| http://185.233.189.222:80/v1/chat/completions | 84.66 | 25.23 | gemma-4-26b-a4b-mxfp4.gguf | 第1轮:成功 / 第2轮:失败 | 185.233.189.222 |
| http://210.22.163.109:8000/v1/chat/completions | 79.00 | 25.23 | google-gemma-4-26B-A4B-it-Q3_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 210.22.163.109:8000 |
| http://45.40.254.22:8080/v1/chat/completions | 75.54 | 26.90 | Qwen3.6-27B-Q5_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 45.40.254.22:8080 |
| http://72.189.68.83:8080/v1/chat/completions | 72.27 | 34.66 | unsloth/Qwen3.6-35B-A3B-GGUF:Q4_K_M | 第1轮:成功 / 第2轮:失败 | 72.189.68.83:8080 |
| http://107.136.214.41:8000/v1/chat/completions | 70.25 | 25.23 | gemma-4-26B-A4B-it-UD-Q6_K.gguf | 第1轮:成功 / 第2轮:失败 | 107.136.214.41:8000 |
| http://47.96.159.100:8080/v1/chat/completions | 62.08 | 25.23 | gemma-4-26B-A4B | 第1轮:成功 / 第2轮:失败 | 47.96.159.100:8080 |
| http://62.210.238.1:30001/v1/chat/completions | 61.43 | 30.70 | google_gemma-4-31B-it-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 62.210.238.1:30001 |
| http://14.50.247.153:8000/v1/chat/completions | 59.83 | 34.66 | Qwen3.6-35B-A3B-UD-Q6_K_XL.gguf | 第1轮:成功 / 第2轮:失败 | 14.50.247.153:8000 |
| http://88.205.27.61:8000/v1/chat/completions | 57.97 | 25.23 | gemma-4-26B-A4B-it-UD-Q5_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 88.205.27.61:8000 |
| http://111.228.58.15:8888/v1/chat/completions | 54.89 | 34.66 | qwen3-6-35b-a3b-q4_k_m.gguf | 第1轮:成功 / 第2轮:失败 | 111.228.58.15:8888 |
| http://46.53.152.233:8080/v1/chat/completions | 54.64 | 34.66 | Carnice-Qwen3.6 | 第1轮:成功 / 第2轮:失败 | 46.53.152.233:8080 |
| http://218.61.196.156:13666/v1/chat/completions | 50.76 | 34.66 | Qwen3.6-35B-A3B-Q8_0.gguf | 第1轮:成功 / 第2轮:失败 | 218.61.196.156:13666 |
| http://120.26.113.95:8999/v1/chat/completions | 50.18 | 25.23 | gemma-4-26B-A4B-it-Q8_0.gguf | 第1轮:成功 / 第2轮:失败 | 120.26.113.95:8999 |
| http://161.129.68.103:8000/v1/chat/completions | 49.84 | 25.23 | gemma-4-26B-A4B-it-uncensored-Q8_0.gguf | 第1轮:成功 / 第2轮:失败 | 161.129.68.103:8000 |
| http://195.9.195.13:88/v1/chat/completions | 48.13 | 79.67 | Qwen3-Coder-Next | 第1轮:成功 / 第2轮:失败 | 195.9.195.13:88 |
| http://195.9.195.13:8000/v1/chat/completions | 47.81 | 79.67 | Qwen3-Coder-Next | 第1轮:成功 / 第2轮:失败 | 195.9.195.13:8000 |
| http://39.96.156.59:8080/v1/chat/completions | 47.62 | 26.90 | Qwen3.6-27B-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 39.96.156.59:8080 |
| http://59.9.187.177:8080/v1/chat/completions | 46.01 | 25.23 | gemma-4-26B-A4B-it-UD-Q4_K_XL.gguf | 第1轮:成功 / 第2轮:失败 | 59.9.187.177:8080 |
| http://4.185.19.226:8083/v1/chat/completions | 45.45 | 26.90 | Qwen3.6-27B-UD-Q4_K_XL.gguf | 第1轮:成功 / 第2轮:失败 | 4.185.19.226:8083 |
| http://129.213.81.173:8080/v1/chat/completions | 45.25 | 34.66 | Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q6_K_P.gguf | 第1轮:成功 / 第2轮:失败 | 129.213.81.173:8080 |
| http://78.42.235.30:1234/v1/chat/completions | 44.72 | 26.90 | Qwen3.6-27B-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 78.42.235.30:1234 |
| http://178.60.172.113:8080/v1/chat/completions | 44.38 | 79.67 | unsloth/Qwen3-Coder-Next-GGUF:UD-IQ4_XS | 第1轮:成功 / 第2轮:失败 | 178.60.172.113:8080 |
| http://4.185.19.226:8081/v1/chat/completions | 42.98 | 30.70 | gemma-4-31B-it-UD-Q4_K_XL.gguf | 第1轮:成功 / 第2轮:失败 | 4.185.19.226:8081 |
| http://111.175.187.13:9090/v1/chat/completions | 41.45 | 30.70 | cdp-ai | 第1轮:成功 / 第2轮:失败 | 111.175.187.13:9090 |
| http://111.206.235.125:8080/v1/chat/completions | 40.61 | 1026.41 | Kimi-K2.6-UD-Q4_K_XL-00001-of-00014.gguf | 第1轮:成功 / 第2轮:失败 | 111.206.235.125:8080 |
| http://178.72.162.116:8083/v1/chat/completions | 39.86 | 26.90 | Qwen3.5-27B.Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 178.72.162.116:8083 |
| http://47.113.103.131:8080/v1/chat/completions | 39.57 | 34.66 | Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 47.113.103.131:8080 |
| http://221.163.86.136:7777/v1/chat/completions | 38.92 | 27.32 | Qwen3.6-27B-MTP-IQ4_XS.gguf | 第1轮:成功 / 第2轮:失败 | 221.163.86.136:7777 |
| http://65.109.75.40:8002/v1/chat/completions | 37.02 | 30.70 | unsloth/gemma-4-31B-it-GGUF:UD-Q3_K_XL | 第1轮:成功 / 第2轮:失败 | 65.109.75.40:8002 |
| http://119.29.241.182:18080/v1/chat/completions | 33.38 | 26.90 | qwen3.6-27b-coding | 第1轮:成功 / 第2轮:失败 | 119.29.241.182:18080 |
| http://222.95.13.192:18080/v1/chat/completions | 32.75 | 34.66 | 129-qwen | 第1轮:成功 / 第2轮:失败 | 222.95.13.192:18080 |
| http://109.248.46.164:8080/v1/chat/completions | 30.58 | 32.76 | T-pro-it-2.0-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 109.248.46.164:8080 |
| http://74.104.210.61:9999/v1/chat/completions | 28.04 | 79.67 | unsloth/Qwen3-Coder-Next | 第1轮:成功 / 第2轮:失败 | 74.104.210.61:9999 |
| http://211.170.25.192:6006/v1/chat/completions | 26.99 | 26.90 | Qwen3.6-27B-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 211.170.25.192:6006 |
| http://82.67.21.168:8080/v1/chat/completions | 25.48 | 34.66 | Qwen3.5-35B-A3B-UD-Q4_K_XL.gguf | 第1轮:成功 / 第2轮:失败 | 82.67.21.168:8080 |
| http://65.108.15.20:8088/v1/chat/completions | 23.20 | 30.53 | model.gguf | 第1轮:成功 / 第2轮:失败 | 65.108.15.20:8088 |
| http://211.218.17.10:8001/v1/chat/completions | 21.15 | 30.70 | Gemma-4-31B-it | 第1轮:成功 / 第2轮:失败 | 211.218.17.10:8001 |
| http://14.47.241.141:7071/v1/chat/completions | 20.81 | 35.51 | /home/mong/ollama/models/Qwen3.6-35B-A3B-UD-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 14.47.241.141:7071 |
| http://5.135.131.228:8081/v1/chat/completions | 19.83 | 25.23 | unsloth/gemma-4-26B-A4B-it-GGUF | 第1轮:成功 / 第2轮:失败 | 5.135.131.228:8081 |
| http://64.247.206.63:8081/v1/chat/completions | 19.19 | 34.66 | unsloth/Qwen3.5-35B-A3B-GGUF | 第1轮:成功 / 第2轮:失败 | 64.247.206.63:8081 |
| http://204.168.182.50:8081/v1/chat/completions | 18.35 | 25.23 | gemma-4-26B-A4B-it-UD-Q4_K_XL.gguf | 第1轮:成功 / 第2轮:失败 | 204.168.182.50:8081 |
| http://65.108.15.30:8088/v1/chat/completions | 17.90 | 30.53 | model.gguf | 第1轮:成功 / 第2轮:失败 | 65.108.15.30:8088 |
| http://220.149.235.64:8000/v1/chat/completions | 17.01 | 122.00 | Mistral-Small-3.2-24B-Instruct-2506-UD-Q4_K_XL, Qwen3-32B-Q4_K_M, Qwen3.5-122B-A10B-MXFP4-MOE, SuperGemma4-31b-abliterated.Q4_K_M, mistral-small-3.2 ... | 第1轮:成功 / 第2轮:失败 | 220.149.235.64:8000 |
| http://47.122.80.239:8000/v1/chat/completions | 16.38 | 122.11 | Qwen3.5-122B-A10B-Q4_K_M-00001-of-00003.gguf | 第1轮:成功 / 第2轮:失败 | 47.122.80.239:8000 |
| http://111.22.117.69:9090/v1/chat/completions | 15.90 | 70.55 | Llama-3.3-70B-Instruct-heretic.Q5_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 111.22.117.69:9090 |
| http://113.131.157.71:8003/v1/chat/completions | 15.50 | 35.51 | unsloth/Qwen3.6-35B-A3B-MTP-GGUF | 第1轮:成功 / 第2轮:失败 | 113.131.157.71:8003 |
| http://62.238.11.144:8090/v1/chat/completions | 14.85 | 30.53 | qwen3-coder:30b | 第1轮:成功 / 第2轮:失败 | 62.238.11.144:8090 |
| http://87.173.113.118:8001/v1/chat/completions | 14.58 | 35.51 | am17an/Qwen3.6-35BA3B-MTP-GGUF | 第1轮:成功 / 第2轮:失败 | 87.173.113.118:8001 |
| http://221.178.157.74:8880/v1/chat/completions | 13.66 | 26.90 | Qwen3.6-27B-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 221.178.157.74:8880 |
| http://46.4.102.73:8080/v1/chat/completions | 13.41 | 30.70 | gemma-4-31B-it-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 46.4.102.73:8080 |
| http://66.42.120.75:8080/v1/chat/completions | 12.77 | 34.66 | Huihui-Qwen3.5-35B-A3B-abliterated.i1-Q4_K_M.gguf | 第1轮:成功 / 第2轮:失败 | 66.42.120.75:8080 |
| http://122.116.68.236:8000/v1/chat/completions | 11.63 | 35.00 | Qwen3.6-35B-A3B-fp8 | 第1轮:成功 / 第2轮:失败 | 122.116.68.236:8000 |
| http://65.108.15.19:8088/v1/chat/completions | 11.14 | 30.53 | model.gguf | 第1轮:成功 / 第2轮:失败 | 65.108.15.19:8088 |
| http://82.149.225.162:8080/v1/chat/completions | 10.16 | 34.66 | unsloth/Qwen3.6-35B-A3B-GGUF:Q8_0 | 第1轮:成功 / 第2轮:失败 | 82.149.225.162:8080 |