chatGLM应该是开源的模型里面用起来最顺手的了,现在有了更进一步的chatGLM2-6B,比之前能力有更大提升https://github.com/THUDM/ChatGLM2-6B,硬件需求和之前差不多,3060跑起来还是很勉强。

不过chatGLM已经有了支持API调用的网络服务https://open.bigmodel.cn/,于是就可以和使用chatGPT一样用它了。注册无门槛,无须翻墙,能力我个人感觉比chatGPT差一些,但是用来上课演示什么的够用了,对中国教育者友好。

试了一下翻译英文:

chatGLM 130B

chatGPT 3.5

它的速度也很快,无论是网页上的playground还是调用API,同时也支持本地私有化部署。但是相比openAI的文档,bigmodel.cn的文档写的真的是语焉不详,我直接把它的示例代码扔给chatGPT给我重写了一个符合我要求的调用函数。