随机化对象如何影响低数据分子生成:语料规模、随机轴与表征的受控研究
What to randomize matters: a controlled study of volume, axis and representation in low-data molecular generation
一项受控研究用1000个种子分子训练自回归序列模型,比较SAFE与SMILES随机化在低数据分子生成中的表现。仅对SAFE做随机化就把新颖分子的真实产率提高逾450倍;原子序与片段序两种随机化共同作用,而非简单相加。在语料规模与计算量匹配时,随机化SAFE的真实产率是随机化SMILES的2.8倍。
预印本 · arxiv · 2610.38835
本站摘要基于收录版本 v1(2026-10-30),原始摘要与 AI 导读固定保留。
来源最近更新: · 来源 v1
化学语言模型在小数据集上训练时,生成新分子可能会遇到困难:模型可能只是复现训练样本,而不是学到有用的生成式分布。随机化 SMILES 增广会改变原子遍历顺序,而基于序列连接的片段嵌入(Sequential Attachment-based Fragment Embedding,SAFE)还允许片段块的顺序发生变化。这些不同的表征变化来源如何影响低数据量下的分子生成,此前尚未得到清晰的研究。本文使用 1,000 个种子分子训练自回归序列模型,在不断增大的语料规模下比较规范化 SAFE 与随机化 SAFE,分离出 SAFE 随机化的原子顺序与片段顺序两个变化维度,并在逐分子匹配的训练语料上比较完全随机化 SAFE 与随机化 SMILES。研究得出三点发现。第一,仅对 SAFE 进行随机化,就能使真正新颖分子的产率提升 450 倍以上,把一个只会复现训练集的模型变成实用的分子生成器。第二,两个随机化维度是协同而非叠加作用:仅改变原子顺序可达到两者同时变化时真实产率的十分之一,仅改变片段顺序可达七分之一,而两者之和仅为该产率的四分之一。第三,在语料规模与算力匹配的条件下,随机化 SAFE 的真实产率是随机化 SMILES 的 2.8 倍。Welch 检验配合 Games-Howell 事后比较,能够区分主要结果上的每一项差异。因此,在低数据量场景下,决定增广能否产生新分子(而非仅仅训练集的新写法)的,是随机化的内容,而不只是随机化的程度。
来源:arXiv · arxiv.org