跳到正文
bioRxiv· ding, h.; Wu, N.; Qiu, T.·· 来源仅提供日期AI 评分44

CPDD:将自回归 DNA 语言模型改造为双向噬菌体基因组建模

CPDD: Adapting an autoregressive DNA language model for bidirectional phage genome modeling

AI 导读

CPDD 将 144.5M 参数的自回归噬菌体 DNA 语言模型 CreatiPhage 扩展为 147.5M 参数的双向离散扩散模型。在 522 个噬菌体 CDS 筛选中,其随机掩码恢复准确率高于同类扩散模型和密码子级参考。混合损坏测试中可恢复 42.4% 可见错误碱基,冻结表征还支持 infA 适应度预测与七类噬菌体病毒粒子蛋白亚型分类。

预印本 · biorxiv · 10.64898/2026.11.07.765118

本站摘要基于收录版本 v1(2026-11-10),原始摘要与 AI 导读固定保留。

来源最近更新: · 来源 v1

摘要 · AI 翻译

自回归 DNA 语言模型能够高效地从左到右生成序列,但许多基因组分析和序列编辑问题天然地以两侧序列作为条件。我们提出了 CreatiPhage,一个拥有 1.445 亿参数、面向噬菌体的自回归 DNA 语言模型,以及其扩散扩展 CreatiPhage Diffusion DNA-LM(CPDD)。CPDD 是一个拥有 1.475 亿参数的双向离散扩散模型,从训练六个 epoch 的 CreatiPhage 检查点初始化而来。CPDD 保留了预训练 Transformer、块注意力残差和 Engram 条件记忆,同时引入了非因果注意力、感知 MASK 的五进制 Engram、居中的深度卷积以及位置对齐的核苷酸读出。训练结合了掩码和 GIDD 式均匀替换的碱基,并在 10 kb、32 kb 和全源上下文课程上使用核苷酸级与氨基酸级损失。在经过筛选的 522 个噬菌体 CDS 面板上,CPDD 的随机掩码恢复准确率高于可比的扩散模型,并显著优于密码子级参考方法。在混合损坏测试中,它恢复了 42.4% 的可见错误碱基。冻结的 CPDD 表征同样支持 infA 适应度预测和七类噬菌体衣壳蛋白亚型分类。受控评估进一步刻画了恢复如何依赖于可见上下文,并指出了改进长程序列恢复的机会。这些结果共同支持以支架为条件的序列建模,作为迈向噬菌体基因组模块化设计的一步。

来源:bioRxiv · biorxiv.org