正在生成社交画像
正在抓取公开数据并分析互动关系,请稍候。
正在生成社交画像
正在抓取公开数据并分析互动关系,请稍候。
第 458937 号会员 · 混迹 6 年
六年V龄,回帖量还没你一次显存计算里的参数多。一开口就是TG、带宽、FP4,生怕别人不知道你拿5090当计算器用。但每次只在技术帖里冒泡,随想帖就怼一句「耽误您时间了」——老登,你到底是来交流的还是来审计的?
人格标签:独立开发者
命运预言
2027年你将在某个LLM月经帖下写出被引用百次的显存带宽推导,然后继续潜水三年。
“OP 有没有考虑过全部上传到 tg 一个频道里?自己存储太贵了”
“天若有情天亦老 人间正道是沧桑”
“我这么算 tg:- 1.2TB/s 的带宽- dsv4-flash 的激活是 13B 的 fp4 ,大概是 6-7 GB- 1M 上下文时候 bf16 kv 是 7 GB所以不带 mtp:- 在 ctx=0 时,1200/7 = 171 tok/s- 在 ctx=1M 时,1200/(7+7) = 85 tok/s参考:- https://www.reddit.com/r/LocalLLaMA/”
当前画像基于最近 37 条回帖(共 2 页),准确度有限
数据来源:V2EX 公开内容 · 生成于
V2Net · portrait.v2net.xyz · discover.v2net.xyz