
BareMetalRT — Bare Metal AI
用NVIDIA TensorRT-LLM在消费级GPU上进行高性能大语言模型推理。
brianhabana123 · HN
TensorRT-LLM running natively on Windows (no WSL)
完整作品展
技术栈
22 projects

用NVIDIA TensorRT-LLM在消费级GPU上进行高性能大语言模型推理。
brianhabana123 · HN
TensorRT-LLM running natively on Windows (no WSL)

Runpod是无服务器GPU推理平台,冷启动低于200ms,按秒计费。
@svpino · X
You can check out Runpod here: Thanks to the Runpod team for partnering with me on this post.

用KataGo AI在云GPU上分析围棋游戏
malusama · V2EX
[分享创造] 给没有显卡的棋友:一个可直接接 KaTrain 的云端 KataGo 服务 电脑没显卡,或者笔记本跑不动全盘复盘,但想用 KaTrain 分析棋谱?我做了一个云端 KataGo 服务,KaTrain 里只需要填一个 WSS 地址。 ## 怎么接入 - 注册后拿到 Token: https://go.malu.moe - KaTrain v1.18+ 的设置里,Remote Engine 填:`wss://go.malu.moe/v1/katago/<你的 Token>` - 走的是标准 KataGo Analysis Engine JSON over WebSocket ,复盘、深度分析、Sweep 这些功能都兼容 - 不想用 GUI 的话也有 REST 接口:`POST /v1/analyze` ## 免费额度(注册即用,不用绑卡) - 单次分析最多 1,000 visits - 每月 1,000,000 visits ,按 KaTrain 默认 500 visits/手算,大约够 10 局全盘复盘 - 并发 1 ,最多 5 个 Token

在GPU模拟水物理的3D游戏中创造生物。
@rand_monsterlab · X
A monster walks into a GPU-simulated pond. Reactive SPH water in the browser with @threejs + WebGPU. Every movement sends ripples through Coming soon. Follow @rand_monsterlab: #ThreeJS #WebGPU #VibeCoding #IndieGame #Monster

实时可视化硬件在运行LLM推理时的性能指标
dev_dan_2 · HN
WatchMachineGo – A visualizer to show hardware performing LLM inference

查找与您硬件兼容的AI模型并查看性能和价格估计。
cdnsteve · HN
Tokenstead, find AI models for your hardware


在浏览器中从文本或图像生成4K视频,无需GPU。
Wan3Pro — AI 在线视频生成工具

从文本和多张图片生成具有角色一致性和多镜头的电影级短视频。
Seedance 2 Pro — 多模态 AI 视频生成平台。支持文本+多张图片+视频+音频参考同时输入,实现角色一致性、多镜头叙事、音频同步动作、精准镜头控制。几分钟生成商业级短视频,适合营销、电商、社交媒体、品牌故事、预可视化等高频内容创作需求。比传统文生视频更可控、更接近导演级表达

从产品URL快速生成UGC视频广告,包含趋势分析和AI脚本。
@z_duane · X

Speech to text dictation and multi-engine speed benchmarking. Compare OpenAI GPT-Transcribe, Deepgram Nova-3, NVIDIA Parakeet, and Fish Audio with local IndexedDB privacy.
@alvaisy · X
finished voice to text small web app for my own itch. it's opensource. use openrotuer key. and use it with 4 models.

为UI组件创建液态金属效果的实时WebGL着色器。
@MengTo · X
These will instantly make your vibe-coded projects look less generic. Free, open-source libraries from the same creator: • • •