小型语言模型(SLM)已经出现,成本效益和可持续发展的考虑将加速这一趋势。
然后,这些特征表示会被进一步转化为一系列离散的代码,每个代码都对应码本里的一个离散词向量。码本就像一个字典,里面有限个数的离散词向量。特征表示通过在码本中找到最匹配的那个离散词向量,来获得对应的离散代码。
DeWave训练流程
比如将岩石样本放置在金属框架内,将其中心切开以模拟断层,并将其置于围压下,让局部传感器测量样品变形时发生的情况。
论文网址:https://arxiv.org/abs/2401.00368