# ChatGLM3

**Repository Path**: Pauntech/chat-glm3

## Basic Information

- **Project Name**: ChatGLM3
- **Description**: 使用英特尔CPU或GPU进行ChatGLM3-6B的INT4量化和部署
- **Primary Language**: Unknown
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 5
- **Forks**: 1
- **Created**: 2023-12-26
- **Last Updated**: 2024-08-23

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

#### ChatGLM3 是智谱AI和清华大学 KEG 实验室联合发布的新一代对话预训练模型。ChatGLM3-6B 是 ChatGLM3 系列中的开源模型，在保留了前两代模型对话流畅、部署门槛低等众多优秀特性的基础上，ChatGLM3-6B 引入了如下特性：
##### -强大的基础模型：ChatGLM3-6B 的基础模型 ChatGLM3-6B-Base 采用了更多样的训练数据、更充分的训练步数和更合理的训练策略。在语义、数学、推理、代码、知识等不同角度的数据集上测评显示，ChatGLM3-6B-Base 具有在 10B 以下的基础模型中最强的性能。

##### -完整的功能支持：ChatGLM3-6B 采用了全新设计的 Prompt 格式，除正常的多轮对话外。同时原生支持工具调用（Function Call）、代码执行（Code Interpreter）和 Agent 任务等复杂场景。

##### -全面的开源序列：除了对话模型 ChatGLM3-6B 外，还开源了基础模型 ChatGLM3-6B-Base、长文本对话模型 ChatGLM3-6B-32K。以上所有权重对学术研究完全开放，在填写问卷进行登记后亦允许免费商业使用。

### [三步完成 ChatGLM3-6B 在 CPU 上的 INT4 量化和部署](https://mp.weixin.qq.com/s/Q5dRSPLBuazOtXrZ2i6wYA)
### [三步完成 ChatGLM3-6B 在英特尔独立显卡上的 INT4 量化和部署](https://mp.weixin.qq.com/s/uLQHPc9dhQaCaG1KXB8z5Q)