2023从千亿模型到ChatGPT的一点思考.pdf

2023从千亿模型到ChatGPT的一点思考.pdf 从千亿模型到ChatGPT的⼀点思考 唐杰 清华⼤学计算机系知识⼯程实验室（KEG） 开源ChatGLM：https://github.com/THUDM/ChatGLM-6B 开源千亿基座：https://github.com/THUDM/GLM-130B 1 预训练⼤模型 预训练大模型是新一代人工智能应用的基础设施 大模型通用能力强，可完成多场景任务，大模型从单模态向多模态发展，...