Skip to content

Commit

Permalink
Merge pull request #678 from jiangzhonglian/main
Browse files Browse the repository at this point in the history
修正错别字
  • Loading branch information
jiangzhonglian authored May 4, 2024
2 parents b35934d + f560210 commit 54f3709
Show file tree
Hide file tree
Showing 2 changed files with 3 additions and 3 deletions.
2 changes: 1 addition & 1 deletion docs/LatestChanges/PyTorch_V1.10.md
Original file line number Diff line number Diff line change
Expand Up @@ -37,7 +37,7 @@ FX提供了一个Python平台,用于转换和降低PyTorch程序。这是一

### (Stable)nn.Module 参数化

`nn.Module`parametrizaton是一个功能,允许用户在不修改`nn.Module`本身的情况下对`nn.Module`的任何参数或缓冲区进行参数化,在稳定中可用。此版本增加了重量归一化(`weight_norm`)、正交参数化(矩阵约束和部分修剪)以及在创建自己的参数化时更大的灵活性。
`nn.Module`parametrizaton是一个功能,允许用户在不修改`nn.Module`本身的情况下对`nn.Module`的任何参数或缓冲区进行参数化,在稳定中可用。此版本增加了权重归一化(`weight_norm`)、正交参数化(矩阵约束和部分修剪)以及在创建自己的参数化时更大的灵活性。

有关更多详细信息,请参阅本[教程](https://pytorch.org/tutorials/intermediate/parametrizations.html)和一般[文档](https://pytorch.org/docs/master/generated/torch.nn.utils.parametrizations.spectral_norm.html?highlight=parametrize)

Expand Down
4 changes: 2 additions & 2 deletions docs/LatestChanges/PyTorch_V2.3.md
Original file line number Diff line number Diff line change
Expand Up @@ -16,7 +16,7 @@

| **Beta** | **Prototype** | **Performance Improvements** |
| --- | --- | --- |
| torch.compile 中用户定义的 Triton内核 | torch.export 添加了新的API来指定 dynamic_shapes | 仅重量量化引入 inductor CPU后端 |
| torch.compile 中用户定义的 Triton内核 | torch.export 添加了新的API来指定 dynamic_shapes | 仅权重量化化引入 inductor CPU后端 |
| PyTorch分布式中的 Tensor 并行性 | 异步 checkpoint 生成 | |
| 支持半结构化稀疏性 | | |

Expand Down Expand Up @@ -64,7 +64,7 @@

## 性能改进

### [PROTOTYPE]在 inductor CPU后端引入仅重量量化
### [PROTOTYPE]在 inductor CPU后端引入仅权重量化

PyTorch 2.3增强了火炬电感CPU后端的LLM推理性能。该项目[gpt-fast](https://github.com/pytorch-labs/gpt-fast)为使用*torch.compile*的变压器文本生成提供了简单高效的PyTorch原生加速。在2.3之前,只支持CUDA设备,此功能通过为int4和int8权重仅量化线性提供高度优化的内核来支持CPU对应。

Expand Down

0 comments on commit 54f3709

Please sign in to comment.