瑞利分馏怎么用：三条曲线、适用前提，以及它与混合过程的区分
「瑞利分馏」几乎出现在每一篇同位素论文里，但它常被当成一个只需套公式的黑箱。 实际上它有三条必须满足的前提，有三条容易混淆的曲线， 还有一个常被忽略的问题——你看到的趋势究竟是分馏，还是几个来源在混合？这两者会给出完全相反的结论。 本文梳理方程本身、适用边界与判别方法，供研究设计与数据解读参考。
一、方程与符号：先把 f 和 R 说清楚
- R 是残余反应物的同位素比值，不是产物的。这一点最常被弄反。
- f 是残余反应物的摩尔分数——剩余摩尔数 ÷ 初始摩尔数，且轻重同位素合计。 它不是浓度比：只有当体积不变、且该反应是这个元素唯一的汇时，才能用浓度代替 f。
- α 为瞬时分馏因子；ε = α − 1（常以‰表示）。
二、三条曲线：残余反应物、瞬时产物、累积产物
同一个瑞利过程会同时产生三条互不相同的曲线，混用它们是常见错误。以下取 ε 为负值约定（见第六节）：
| 曲线 | 关系式 | 行为 |
|---|---|---|
| 残余反应物 | δ_R = δ₀ + ε·ln f（近似式，见下） | f → 0 时无界发散：反应物越消耗越极端 |
| 瞬时产物 | δ_P′ = δ_R + ε | 与残余反应物始终相差一个恒定的 ε，因此是与之平行的一条曲线 |
| 累积产物 | δ_P = δ₀ − [f/(1−f)]·ε·ln f | 反应完全进行时回到初始反应物的 δ₀——净分馏归零 |
最后一条是最有用的直觉：只要反应走到底，累积产物必然继承源的同位素组成，此时分馏因子对结果不再有影响。 反过来说，能观察到分馏信号，本身就意味着反应没有进行完全。
石油与天然气研究中有一个由此而来的著名误判：把瞬时产物的 ¹³C 富集读成了更高的热成熟度或更重的源岩， 而它其实只是反应进程本身的表现[7]。
三、近似式什么时候会失效（务必知悉）
文献中普遍使用的线性近似 δ_R ≈ δ₀ + ε·ln f 便于回归——把 δ_R 对 ln f 作图， 斜率即 ε、截距即 δ₀（δ₀ 无需独立测定，这是该式的主要价值）。但它有明确的失效边界：
- f < 0.4 时，该近似的系统误差已超过分析不确定度——也就是说，反应消耗过半之后就不该再用它[1]。 （该阈值依赖 ε 与 δ₀ 的具体取值，原文算例取 ε = −30‰、δ₀ = −8‰，属 ¹³C 的典型量级。）
- 氢同位素完全不能用这个近似式——其推导所依赖的小量假设在 H 上根本不成立[1]。
- 更稳妥的线性形式是以 ln f 为自变量、ln(δ_R + 1) 为因变量做回归（此处 δ 须取无量纲分数形式，不能代入 ‰ 数值），且必须拟合截距、不可强制过原点—— 专文比较各种形式后明确指出，强制过原点会使 95% 置信区间的覆盖率不足九成[8]。
四、瑞利、批平衡与开系稳态：三种模型给出三种解释
同一批数据套不同模型会得到不同结论，选错模型比算错数更危险。判别不能靠"开放还是封闭"这两个字 （下面会说明为什么这个说法靠不住），而要问两件事：一是产物生成之后还能不能与反应物继续交换—— 能，是批平衡；不能，则属瑞利／开系稳态一类。二是反应物是一次性给定、还是持续供应—— 封闭池一次性给定、消耗后不再补充的走瑞利；持续供应、部分消耗、残余以稳态输出的走开系稳态：
| 模型 | 物理图景 | 残余反应物 | 产物 |
|---|---|---|---|
| 瑞利 | 产物一经生成即移出，不再回头交换 | δ₀ + ε·ln f（ln f 的线性函数） | 瞬时产物平行于残余相；累积产物见上节 |
| 批平衡 | 反应物与产物始终保持接触、维持同位素平衡 | δ_Σ − (1 − f)·ε（f 的线性函数） | δ_Σ + f·ε；两端被 δ_Σ ± ε 夹住 |
| 开系稳态 | 反应物持续供应、部分消耗，残余以稳态速率输出 | δ_initial − ε(1 − f) | δ_initial + ε·f；完全消耗时产物 δ = 输入 δ |
表中瑞利与批平衡两行的 f 为残余反应物的摩尔分数（与第一节同义）；开系稳态一行的 f 口径不同——稳态下反应物池并不减少，该 f 是未被消耗的输入通量份额（通量比，非池内摩尔分数），两者不可混用。ε 一律取负值约定。 需注意原始文献的写法与此不同：Hayes (2004) 式 (28)(29) 以「产物所占份额」为自变量、且其 ε 定义为反应物减产物； Sigman 与 Casciotti (2001) 式 [6][7] 则采用 ε 恒为正的约定。跨文献套用这些公式前必须先换算符号与自变量方向， 否则会得到方向相反的结论——而质量守恒此时依然成立，错误不会自己暴露出来。
由此可见为什么只有瑞利会发散：批平衡与开系稳态都是 f 的线性函数，两端被 δ ± ε 夹死，无论如何走不到极端值 （这两者的 δ–f 关系式其实完全相同，靠曲线形状分不开，只能靠物理图景选）； 而瑞利是 ln f 的线性函数，f → 0 时 ln f → −∞，残余相 δ 因此无界增长。
⚠️ 术语陷阱：文献对"开系／闭系"的用法是互相矛盾的。Kendall 与 Caldwell 认为严格意义上「瑞利分馏」只应用于化学开放体系（产物逸出、不再与残余底物作用），但同一段随即承认该词在平衡闭系与动力分馏中同样通行， "因为这些情形在计算上可能是同一回事"[2]；而 Hayes 把同一组方程放在"不可逆反应、封闭体系"的标题之下，并专门提醒读者作者们常在此制造混乱[1]。 两种说法都能找到权威出处，因此判断时请直接看物理机制（产物还能不能回头交换），不要依赖"开／闭"这两个字。
五、核心问题：这是分馏，还是混合？
浓度下降伴随 δ 升高，既可能是分馏（反应消耗轻同位素），也可能是与另一个端元混合。 两者的解释截然相反，而它们在 δ–浓度图上都表现为弯曲的趋势线，肉眼无法区分。判别方法是换坐标：
| 作图方式 | 若呈直线，说明 | 数学根据 |
|---|---|---|
| δ 对 1/浓度 | 混合（二元） | 二元混合在 δ–浓度图上是双曲线，取浓度倒数后化为直线 |
| δ 对 ln(浓度) | 瑞利分馏 | 瑞利是指数过程，δ 与 ln f 呈线性 |
这两条判据出自同一段权威表述：混合服从双曲关系而分馏是指数过程，因此 δ 对 1/浓度呈直线指示混合， δ 对 ln(浓度) 呈直线则指示反硝化或同化一类的分馏过程[3]。
但这个判据有真实的失效场景，必须知道：
- 浓度跨度不足时会给出假阳性。当两端元浓度差异很大时，混合双曲线在某些浓度区间内的曲率极小—— 原文即以硝酸盐 100–200 μM 区间为例，指出三条曲线在该区间内几乎都是直线， "不谨慎的研究者可能会把它们统统当作混合线"，而其中两条实为反硝化造成的指数关系[3]。
- 反过来，混合会污染瑞利拟合。若采集的流体样品混合了不同水龄或不同反应进程的组分（这在多孔介质的常规采样中几乎无法避免）， 瑞利关系即被破坏，拟合得到的会是一个被压低的"表观"分馏因子，而非内在值[5]。
- f 往往测不到。实践中常直接用浓度代替 f，但这仅在该反应是唯一的汇时成立—— 稀释与弥散会改变浓度却不改变同位素比值。另一条路是用保守示踪剂做归一化 （例如深海热液羽流研究中以 CH₄/Mn 比值代替 f[6]），或改用累积产物形式回归。
六、ε 的符号约定是混乱的
同一个反硝化过程，有的文献写 ε = −40 ～ −5‰，有的写 ε = 20–30‰，两者可能指同一件事。 因为分子分母谁在上、以及重同位素还是轻同位素在上，并无统一约定—— Hayes 明确指出这一点，并建议读者必须回到方程本身去判断作者的取法[1]； IAEA 的教材也专门点名 Craig 与 Gordon 所定义的 ε 恒为正值[4]。跨文献比较 ε 之前，务必先确认各自的符号约定，不要只看数值大小。
七、α 恒定这条前提，在真实体系里常常不成立
瑞利方程成立需要三条前提：物质从一个混合良好的体系中被持续移出；移出瞬间的分馏由 α 描述； 且 α 在整个过程中保持不变[2]。第三条最脆弱：
- 温度依赖。水–水汽平衡的 ¹⁸ε 从 0 ℃ 的 −11.55‰ 变到 40 ℃ 的 −8.11‰，绝对值减小约 30%[4]。 而雨出过程恰恰是沿温度梯度进行的——α 必然一路在变。
- 传输限制会把表观 α 压扁。反硝化的内在 ε 约 20–30‰（正值约定）， 但当反应速率受硝酸盐供应（孔隙水扩散）限制、硝酸盐被完全消耗时，表观 ε 可趋近 0‰——与内在值相差一个数量级乃至更多[9]。
八、典型应用与实测值
| 体系 | 典型 ε / 参数 | 说明 |
|---|---|---|
| 水–水汽平衡分馏 | 25 ℃：¹⁸ε_v/l = −9.29‰、²ε_v/l = −73.5‰ | IAEA 汇编值；随温度显著变化 |
| 海水蒸发 | 不适用纯瑞利 | 蒸发含平衡分馏与扩散动力分馏两步（ε_tot = ε_V/L + ε_diff），并受相对湿度与环境水汽 δ 控制——这正是蒸发线斜率偏离 8 的原因 |
| 降水的雨出（凝结） | 近平衡瑞利 | 大气降水线在本质上即为瑞利线 |
| 反硝化 δ¹⁵N | −40 ～ −5‰（负值约定，野外表观值）；培养体系约 20–30‰（正值约定） | 跨度极大，须按体系分别取值 |
| 甲烷氧化 δ¹³C | 野外热液羽流约 4–12‰（多数站位约 5‰）；甲烷氧化菌分离株 18.8–27.9‰、菌群落 7.9–26.6‰ | 野外值显著偏低；培养值与群落值区间重叠，不宜简单对立 |
上表数据出处：水–水汽分馏因子与蒸发/雨出机理见 IAEA 汇编[4]；反硝化 ε 见 Kendall 等[3]与 Sigman 等[9]；甲烷氧化 ε 见 Kawagucci 等[6]。
关于反硝化的 δ¹⁸O:δ¹⁵N 斜率——这是个常被当作常数误用的判据。 淡水与地下水野外研究多落在 0.4–0.8（湖泊可显著更高，实测有 1.4 以上）；纯培养的呼吸型反硝化接近 1； 海洋水柱可达 1 甚至更高，但那是反硝化叠加亚硝酸盐再氧化的表观斜率、并非内禀效应[3][10]。 机理解释尚未定论——酶学差异（Nar 与 Nap）与亚硝酸盐再氧化覆写两说并存，且酶学规则本身也不干净。 因此"斜率约 0.5–1"只能作为跨环境的粗略概括，不能当成某个固定值去反推过程。
九、常见误用清单
- 体系其实开放或存在混合，却套用瑞利方程——得到偏小的"表观"ε[5]。
- f 用错了量：在该元素还有其他汇（稀释、弥散、其他反应）时以浓度比充当 f。
- α 随温度或反应速率变化，却被当作常数。
- 把瞬时产物当累积产物（或反之），据此高估成熟度或误判源[7]。
- 在浓度跨度不足的区间内用 δ–1/浓度 判据，得到"看起来是直线"的假阳性[3]。
- 用少数几个点拟合 ln f 直线；回归形式的选择本身会影响 ε 的精度与偏倚[8]。
- 跨文献比较 ε 时未先统一符号约定[1][4]。
以上均为同位素地球化学中的通用判读框架。具体到某一体系的模型选择、拟合方法与 ε 取值， 需结合研究区背景与实测端元综合判断，建议与您的科研团队共同确认。
十、检测平台
瑞利分馏的判读依赖于高精度、可比的 δ 值序列。核素科技以 EA IsoLink + Delta V Plus、GasBench II + MAT 253 Plus、 Picarro L2130-i 等平台提供 C、H、O、N、S 稳定同位素测定，并以 MC-ICP-MS 提供金属同位素测定； 所有数据以国际标尺（VPDB、VSMOW-SLAP、Air-N₂、VCDT 等）报告，配合双点标准化与标准物质监控。 需要沿反应进程做序列采样、或需要与浓度数据配套的项目，请在咨询时说明采样设计与目标指标。
参考文献
- Hayes J.M. (2004) An Introduction to Isotopic Calculations. Woods Hole Oceanographic Institution.（瑞利方程各形式、近似式的系统误差与 f < 0.4 阈值、批平衡方程、符号约定警告） https://darchive.mblwhoilibrary.org/handle/1912/27058
- Kendall C., Caldwell E.A. (1998) Fundamentals of Isotope Geochemistry, Ch.2, in: Kendall C. & McDonnell J.J. (eds.) Isotope Tracers in Catchment Hydrology, Elsevier.（瑞利过程三条前提的经典表述；"开放体系"用法） https://web.archive.org/web/2019/https://wwwrcamnl.wr.usgs.gov/isoig/isopubs/itchch2.html
- Kendall C., Elliott E.M., Wankel S.D. (2007) Tracing anthropogenic inputs of nitrogen to ecosystems, Ch.12, in: Michener R. & Lajtha K. (eds.) Stable Isotopes in Ecology and Environmental Science, 2nd ed., Blackwell.（δ–1/浓度 与 δ–ln 浓度 双判据的原始表述；混合被误判为反硝化的实例；反硝化 ε 与斜率区间） https://eelliottnew.weebly.com/uploads/1/1/5/3/11534391/kendallelliottwankel_2007.pdf
- Gat J.R., Mook W.G., Meijer H.A.J. (2001) Environmental Isotopes in the Hydrological Cycle, Vol. II: Atmospheric Water. IAEA/UNESCO.（水–水汽平衡分馏因子表；蒸发的两步分馏；ε 符号约定差异） https://gnssn.iaea.org/main/ncp/Tunisia/lrae/documents/tracers/Volume_II.pdf
- Druhan J.L., Maher K. (2017) The influence of mixing on stable isotope ratios in porous media: A revised Rayleigh model. Water Resour. Res. 53(2):1101–1124.（混合样品破坏瑞利关系，导致表观分馏因子偏小） https://doi.org/10.1002/2016WR019666
- Kawagucci S. 等 (2021) Hydrogen and carbon isotope fractionation factors of aerobic methane oxidation in deep-sea water. Biogeosciences 18:5351–5362.（以 CH₄/Mn 比值替代 f 的实操路径；甲烷氧化 ε_C 的野外与纯培养差异） https://bg.copernicus.org/articles/18/5351/2021/
- Nuzzo M., Gehlen M.（IGI Ltd）How the 'Rayleigh fractionation effect' is used to model the source and maturity of hydrocarbon gases: principles and potential problems. IGI Ltd 技术笔记.（瞬时产物被误读为更高成熟度／更重源岩的行业误用案例） https://igiltd.com/assets/Downloads/27.-Nuzzo-Isotopes-gas-geochemistry.pdf
- Scott K.M., Lu X., Cavanaugh C.M., Liu J.S. (2004) Optimal methods for estimating kinetic isotope effects from different forms of the Rayleigh distillation equation. Geochim. Cosmochim. Acta 68(3):433–442.（各回归形式的精度与偏倚比较；并指出强制过原点的比值形式会导致置信区间覆盖不足） https://doi.org/10.1016/S0016-7037(03)00459-9
- Sigman D.M., Casciotti K.L. (2001) Nitrogen Isotopes in the Ocean. Encyclopedia of Ocean Sciences.（瑞利与开系稳态模型方程并列；三条曲线表达式；沉积物反硝化表观 ε≈0‰） https://hahana.soest.hawaii.edu/cmoreserver/summercourse/2008/documents/NisotopesEOS.pdf
- Granger J., Wankel S.D. (2016) Isotopic overprinting of nitrification on denitrification as a ubiquitous and unifying feature of environmental nitrogen cycling. PNAS 113(42):E6391–E6400.（δ¹⁸O:δ¹⁵N 斜率在不同环境的取值与成因争议） https://pmc.ncbi.nlm.nih.gov/articles/PMC5081596/
常见问题
瑞利方程里的 f 到底是什么？能用浓度代替吗？
数据反映的是分馏还是混合？怎么区分？
残余反应物、瞬时产物、累积产物三条曲线有什么区别？为什么反应完全就没有净分馏？
相关内容
首次发布：2026-07-30