Overview
Github
Action是持续集成/交付(CI/CD)的平台，允许开发者自动化构建、测试、部署项目。Github
Action不仅仅是DevOps，还允许在远程仓库发生其他事件时运行工作流程。Github
Action提供Ubuntu\Windows\MacOS虚拟机来运行工作流程，同时也允许开发者使用自己的数据中心服务器或云服务器来自托管运行器
量化和反量化-pytorch
在大模型推理中，我们通常可以降低模型权重和激活值的位宽来降低模型的存储空间、提高推理效率，而这样的操作也称为量化。通过量化将浮点模型(float32)转化为低比特的定点模型(int8)，使得模型运行的存储压力和计算复杂性都有所降低，从而使模型从GPU端移植到板载系统中运行成为可能
cuda编程
1. 常用CUDA关键字
函数修饰词
__global__：修饰的函数只能返回void类型，并且函数在CPU端调用，在GPU端执行__device__：在GPU端调用并执行__host__：在CPU端调用并执行