这破风扇吹得我脖子僵了，但刚刷到个帖子问“AI教育该买啥显卡”，实在忍不住了，手里的凉茶都喝完了，还是把这笔烂账算清楚吧。 你搜AI人工智能教育算力需求：不同场景下该吃什么显卡？会看到一堆评测，又是H100又是A100的，看得人头皮发麻。我当年就是这么被坑的，买了一堆用不上的卡，现在还在角落里吃灰。 （手机震了一下，我擦擦手，是外卖到了，先放门口，马上回来）

这个错误我犯了三次，每次损失都上万

第一次是19年，我帮一个大学实验室配服务器，他们说要做“深度学习教育”，我脑子一热上了两张V100。结果你猜怎么着？学生最多的操作是跑MNIST手写识别，tql，V100风扇都没转过。 不对，我刚才说错了，不是没转过，是转一下停一下，反而容易积灰。那次纯属我装逼过度。 第二次是帮一个高职做AI实训室，我选了四张2080Ti，想着性价比高。但后来30系出来了，学生都在问“老师我们怎么不用新卡”，领导天天找我。你的教育场景如果是招生宣传用的，那必须买数字大的，哪怕3060都比2080Ti好听。 （说到这个，我想起2019年那个夏天，我在深圳华强北蹲了一周淘二手卡，结果被一个自称“矿老板”的人骗了，买回来10张584，全是修过的。算了不说了，都是泪。）

小学编程课，别学我买Tesla

有个学员问我，给孩子开的AI兴趣班，要不要上专业计算卡。我说你醒醒，小学生连conda都装不明白，你要他们用命令行？老老实实买带显示输出的显卡，比如RTX 3060 12G，或者二手的2060 12G。为什么强调12G？因为跑Stable Diffusion或者小点的LLM，显存比算力重要多了。 对了，插播一个小技巧：买卡之前先去github搜你用的框架+显存需求，比如“tinyllama + 显存”，比看评测靠谱一万倍。好了拉回来。 当时那学员不听，硬买了块A10，结果没视频输出口，每台主机还得另配亮机卡，教室布线像蜘蛛网，最后全拆了换4060。这错误我也犯过，所以现在我给人配教育机器，第一句话：你这批机器除了跑模型，还干不干别的？比如写文档、看视频、上网课。只要干，就别买计算卡。

实训室和竞赛队，3070和4070s怎么选

再高级一点，比如职业院校的AI竞赛队，要训练真实的图像分类或NLP模型。这时候你别信什么“竞赛必须用A6000”，那是扯淡。我手底下三支省赛队伍，两块4070 Ti Super（16G）并联，够用了。 不对，我刚才说错了，不是并联，是每台机器一张，数据并行训练。并联要搞NVLink，教育场景没必要，多卡通信那套够你debug一周。 （孩子突然哭了，我去哄一下，马上…好了，继续） 痛点是什么？是“学生作业不能跑一晚上”。你要的是单次训练几小时内出结果，所以显存16G起步，算力别太弱。推荐排序：RTX 4070 Ti Super > RTX 3090二手（但注意矿） > RTX 4060 Ti 16G（那个便宜但慢）。千万别买3080 10G，显存太小，跑ViT-B直接out of memory，学生来敲你门。

微调大模型的教育用途，最少要24G

现在很多高校想搞“大模型通识课”，让学生微调7B或者13B的模型。我直说，你最少需要24G显存。 选项A：二手RTX 3090 or 3090 Ti。但是水很深，我去年帮兄弟院校买了五张，两张风扇异响，一张温度墙不对。除非你有信得过的渠道，否则别碰。 选项B：RTX 4090 24G。贵，但是省心。如果不准用消费卡（有些学校采购限制），那就RTX A5000或者A6000，但价格起飞了。 选项C：租云算力。这个我反而最推荐教育场景。你搜AI人工智能教育算力需求：不同场景下该吃什么显卡？会看到很多人说“教育必须本地部署”，那都是卖硬件的。我的经验是：让学生每个人开一个autodl或者揽睿星舟，每小时一两块钱，用完了就关。老师也不用管机房，yyds。

对了，还有个坑叫“显存够但算力拉胯”

有一次我帮一个艺术设计学院的AI绘画课配机器，买了四张4060 Ti 16G。显存够大，能跑SDXL。但学生一用，发现生成一张图要30秒，隔壁班用4070S只要8秒。院长问我为什么课都上不下去了，因为学生等得都在刷抖音。 所以我现在给个粗暴公式： - 小学/趣味体验：2060 12G 或 3060 12G（二手也行，但烤机两小时） - 中学/编程社团：4060 8G其实也够，但加钱上4060 Ti 16G更香 - 职校/本科实训：4070 Ti Super 16G - 大模型微调课：3090/4090 24G或直接租云 - 千万别买的：GTX 16系（没tensor core）、3080 10G（显存太小）、A100（用不上，除非你经费多到烧）

（手机又震了，是群里有人问“RX7900XTX行不行”，我懒得打字，就回三个字“别买A卡”。CUDA生态在AI教育里就是爸爸，你非要跟爸爸对着干，那作业都跑不通。）

好了，不想再说了，脖子疼。 你现在就可以做的1件小事：打开你的教学电脑，装一个nvidia-smi看显存，然后随便跑一个你之后要教的demo，看显存占用超过80%没有。如果超过了，那你这张卡就不够，趁早换或者降课程难度。

---

问答时间（两个蠢问题，但我认真回）

问：老师，我是不是直接买最贵的卡就一定行？ 答：你没看我说的小学案例吗？上V100结果连风扇都不转，钱白花了。先确定你的学生要跑多大的模型，再买刚刚好多一点的卡。多出来的算力在教室里等于噪音和电费。

问：那我可以先买一张便宜的，以后不够再加吗？ 答：你急死我了。我前面说了，教育机器往往没有多余的PCIe插槽，或者电源功率不够。我学员就是先买4060，不够再加，结果主板只有一条x16，第二条x4，加完反而更慢。要么一步到位，要么租云。别再问我“能不能升级”，问就是你得重新配一台。

尊重原创文章，转载请注明出处与链接:https://www.aixue365.com/school-128/document-id-9280.html，违者必究!