也许可以,也许就是吸引眼球,看看就行,哪位土豪看到了有兴趣可以试试。
两颗至强E2696 V3,再加512内存。显卡就不算在内了。
直接开始运行,不设置其他配置,直接调用本地的CPU和内存,你们说这样跑起来会怎样?可能跑617b会有问题,但是对于70b或者32b参数的大模型,那绝对是足够了,直接自己动手组装(DIY)。
也许可以,也许就是吸引眼球,看看就行,哪位土豪看到了有兴趣可以试试。
两颗至强E2696 V3,再加512内存。显卡就不算在内了。
直接开始运行,不设置其他配置,直接调用本地的CPU和内存,你们说这样跑起来会怎样?可能跑617b会有问题,但是对于70b或者32b参数的大模型,那绝对是足够了,直接自己动手组装(DIY)。
没有回复内容