对量化模型的支持

[Arcmoon-Hu]

期待能添加更多使用文档和示例。
请问对量化模型的支持，比如gptq和awq模型是否能直接加载使用

[xinfeishi]

这两个量化模型，正在支持中。