跳转到主内容
趣航编程网 - 趣学编程,启航技术之路!

Polars数据帧中根据条件替换NaN值:从另一列填充数据

本教程详细介绍了如何在polars数据帧中,根据某一列的nan值条件,从同一数据帧的另一列中获取数据来替换目标列中的nan值。文章通过对比pandas的实现方式,重点讲解了polars中`pl.when().then().otherwise()`表达式的高效用法,并提供了清晰的代码示例和使用注意事项,帮助用户掌握polars进行条件数据替换的专业技巧。 在 数据清洗 和预处理过程中,根据特定条件替换数据帧(DataFrame)中的缺失值(NaN或Null)是一项常见操作。尤其是在需要利用数据帧中其他列的信息来填充缺失值时,理解不同数据处理库的实现方式至关重要。本文将专注于如何在高性能的Polars库中实现这一功能,并与Pandas的常见做法进行对比。 问题场景 假设我们有一个数据帧,其中包含列col_x、col_y和col_z。我们的目标是:当col_x中的值为NaN时,将col_y中对应位置的值替换为col_z中对应位置的值。如果col_x中的值不是NaN,则col_y保持不变。 在Pandas中,这种操作通常可以通过df.loc结合布尔索引或使用np.where来实现。例如:
import pandas as pd import numpy as np # 创建示例Pandas DataFrame data_pd = { 'col_x': [1.0, np.nan, 3.0, np.nan, 5.0], 'col_y': [10, 20, 30, 40, 50], 'col_z': [100, 200, 300, 400, 500] } df_pd = pd.DataFrame(data_pd) print("原始Pandas DataFrame:") print(df_pd) # Pandas实现方式一:使用.loc # df_pd.loc[df_pd['col_x'].isna(), 'col_y'] = df_pd['col_z'] # Pandas实现方式二:使用np.where (推荐) df_pd["col_y"] = np.where(pd.isnull(df_pd['col_x']), df_pd['col_z'], df_pd['col_y']) print("\n替换后的Pandas DataFrame:") print(df_pd)
Polars实现方式 Polars作为一个高性能的DataFrame库,其操作通常基于表达式(expressions)构建。要实现上述条件替换逻辑,Polars提供了with_columns方法结合pl.when().then().otherwise()表达式。 Python 3.14.3 微软官方的 Python 扩展,是 VS Code 安装量最高的扩展(209M+)。集成 IntelliSense(通过 Pylance)、调试(通过 Python Debugger)、代码检查、格式化、重构和单元测试等功能。支持 Jupyter Notebook、虚拟环境管理和多 Python 版本切换。 下载 with_columns方法用于添加或替换数据帧中的列。pl.when().then().otherwise()则是一个非常强大的条件表达式,它允许我们根据一个条件(when)来选择一个值(then),否则选择另一个值(otherwise)。 下面是Polars的实现代码:
import polars as pl import numpy as np # 用于创建NaN值 # 创建示例Polars DataFrame data_pl = { 'col_x': [1.0, np.nan, 3.0, np.nan, 5.0], 'col_y': [10, 20, 30, 40, 50], 'col_z': [100, 200, 300, 400, 500] } df_pl = pl.DataFrame(data_pl) print("原始Polars DataFrame:") print(df_pl) # Polars实现:使用 with_columns 和 pl.when().then().otherwise() df_pl = ( df_pl .with_columns( pl.when(pl.col('col_x').is_nan()) # 当 col_x 中的值为NaN时 .then(pl.col('col_z')) # 则取 col_z 中对应的值 .otherwise(pl.col('col_y')) # 否则保持 col_y 中原有的值 .alias('col_y') # 将结果赋给 col_y 列 ) ) print("\n替换后的Polars DataFrame:") print(df_pl)
代码解析 df_pl.with_columns(...) : 这是Polars中修改或添加列的主要方式。它接受一个或多个表达式,每个表达式的结果将成为一个新列或替换现有列。 pl.when(pl.col('col_x').is_nan()) : pl.col('col_x'):选择col_x列。 .is_nan():这是一个布尔表达式,用于检查col_x中的每个值是否为浮点类型的NaN。如果col_x可能包含Python的None或Polars的null(对于非浮点类型),则应使用.is_null()。由于原始问题提及isna()和NaN,我们在此使用is_nan()。 pl.when(...):启动一个条件表达式,其参数是一个布尔Series或表达式,表示条件。 .then(pl.col('col_z')) : 如果when中的条件为真(即col_x为NaN),则执行then中的表达式。这里我们选择col_z列的值作为结果。 .otherwise(pl.col('col_y')) : 如果when中的条件为假(即col_x不是NaN),则执行otherwise中的表达式。这里我们选择col_y列中原有的值作为结果。 .alias('col_y') : 将整个条件表达式的结果命名为col_y。由于with_columns会替换同名列,这样就实现了对col_y的条件更新。 注意事项与最佳实践 NaN与Null的区别 :在Polars中,is_nan()专门用于检查浮点类型的NaN值。如果你的列可能包含其他类型的缺失值(例如整数列中的None或字符串列中的空字符串),或者你希望检查所有类型的缺失值,应使用is_null()。 表达式系统 :Polars的核心优势在于其强大的表达式系统。pl.when().then().otherwise()是这一系统的典型应用,它允许用户以声明式的方式表达复杂的逻辑,并由Polars的优化器高效执行。 性能 :与Pandas中可能涉及多次索引或创建中间Series的操作相比,Polars的表达式通常在内部进行优化,尤其是在处理大型数据集时,能够提供显著的性能优势。 链式操作 :Polars鼓励使用链式操作(method chaining),使得代码更具可读性和简洁性。 总结 通过df.with_columns(pl.when(...).then(...).otherwise(...).alias(...))这种模式,Polars提供了一种强大、灵活且高效的方式来根据条件替换数据帧中的列值。这种方法不仅适用于填充NaN值,还可以应用于各种复杂的条件数据转换场景,是Polars数据操作中一项非常重要的技能。掌握这一模式,将大大提升你在Polars中进行数据清洗和转换的效率和能力。

相关文章