使用笔记本运行大模型,或许不是一个好的选择。因为会造成CPU、GPU温度很高。造成风扇呼呼的转,键盘区域非常热。下面是一个简单的记录。
平时状态
下图是我笔记本未加载大模型时的温度。大体在35℃~45℃之间。很正常。
运行大模型-1
运行期间的一个截图(qwen3:30b-a3b-q4_K_M)
可见,运行的时候CPU多个核心的温度已接近100℃,不过它很快就降下去了。
运行大模型-2
运行期间的一个截图(qwen3:8b)
这次运行GPU最高温度超过了90℃,可能是使用了参数量少模型,完全由GPU运行。
结论
使用笔记本,不要长时间的连续进行大模型推理,会让CPU或者是GPU持续处于高温状态下。看起来有机会,还是要买个台式机,散热好!