可视化BERT 由于BERT 的复杂性，所以很难直观地了解其内部权重的含义。而且一般来说，深度学习模型也是饱受诟病的黑箱结构。所以大家开发了各种可视化工具来辅助理解。 可我却没有找到一个工具能够解释BERT 的注意力模式，来告诉我们它到底在学什么。幸运的是，Tensor2Tensor有一个很好的工具
一文读懂自注意力机制：8大步骤图解+代码 BERT, RoBERTa, ALBERT, SpanBERT, DistilBERT, SesameBERT, SemBERT, MobileBERT, TinyBERT, CamemBERT……它们有什么共同之处呢？答案不是“它们都是BERT”🤭。
Awesome Privacy Computing 1 Secure Multiparty Computation (SMPC) 1.1 Primitive 1.1.1 Oblivious Transfer (OT) Precomputing Oblivious Transfer
VFLAIR：面向科研的纵向联邦学习开源新框架 文章来源：ICLR2024 VFLAIR GitHub链接：
联邦学习(Federated Learning) I. 联邦学习简介 联邦学习（Federated Learning）是近年来兴起的一种加密的分布式机器学习新范式，可以让各参与方在数据不出本地的情况下进行AI协作，实现“知识共享而数据不共享”，提升各自的AI模型效果，是破解现阶段AI行业落地中的“数
Huggingface|Accelerate分布式训练加速 PyTorch 很灵活。 它允许您根据需要自定义它。 这意味着您还必须处理所有低级硬件自定义，而在 95% 的项目中您实际上并不关心这些。 PyTorch 的主要痛点之一是使代码适应各种硬件配置（CPU/GPU/TPU）。 您必须维护大量用
