开发者工具1 month ago
WatchMachineGo
实时可视化硬件在运行LLM推理时的性能指标
dev_dan_2 · HN
WatchMachineGo – A visualizer to show hardware performing LLM inference
完整作品展
技术栈
60 projects
实时可视化硬件在运行LLM推理时的性能指标
dev_dan_2 · HN
WatchMachineGo – A visualizer to show hardware performing LLM inference
估算LLM推理所需的显存、延迟、TTFT、TPOT与吞吐量。
popopanda · HN
LLM Inference Calculator – Estimate VRAM, Latency, and Throughput
提交 LLM 推理优化内核，在专用硬件上进行基准测试并竞争排名。
carsenk · HN
Frontier.fast – Help push the frontier of LLM speed forward
用NVIDIA TensorRT-LLM在消费级GPU上进行高性能大语言模型推理。
brianhabana123 · HN
TensorRT-LLM running natively on Windows (no WSL)
开源LLM和视频模型的OpenAI兼容API
bingus-bongo · HN
Use GLM-5.3 in Cursor today via tokengo API
追踪您的应用中使用的 AI 模型，并在其被弃用前获得警告。
taylorgt · HN
Find every AI model your code calls and warn before it's retired
LLM API支出分析仪表板，按模型和环境分类，含优化建议
ATsimbalistov · HN
Show HN: Tracking GenAI cost and endpoint fragility so app teams don't have to
用 LLM 评估 AI agent 对话质量，提供评分卡和成本分析。
@tech_maju · X
通过调整限流规则看AI提供商如何在需求激增时分配强模型。
eliotho · HN
I built a tool showing how AI providers (should) throttle their models
分析新闻文章，验证结论是否得到证据支持。
@BiaoBuilds · X
我做了一个帮助读者拆解新闻论证结构的工具：LedeLens。 它不做事实核查，也不判断政治倾向，只回答一个更小的问题：文章的结论，能否由它自己提供的证据支持？ 在线体验： 感兴趣可以看看~
多智能体LLM系统的可视化编辑器，支持本地推理。
sascha10000 · HN
Multi-agent LLM editor with local inference via WebSockets
Format-agnostic LLM hub. Bring your own provider keys and route across Anthropic, OpenAI, ChatGPT/Codex, Kimi, Alibaba DashScope, and AWS Bedrock — with unified observability and c
@0xxmemo · X