我有以下以秒为单位记录的数据:http://pastebin.com/wBSJWYn2

我想每隔1分钟就捕获一次各种夏季统计数据,例如平均值,方差等。因此,我在sensor_data.rolling(window=1,freq="1MIN")上运行这些功能。在大多数情况下,它可以正常工作,但是对于某些类型的功能,我无法克服两种不规则性。具体而言,可以:


在不完整的分钟内没有输出-在没有全部60秒的分钟内没有输出。 mean(), quantile(), sum()就是这种情况
完全没有输出。对于某些功能,例如var(), std(), kurt(), skew(),我根本没有任何值。考虑到它能够计算平均值,我真的不明白为什么会这样。


其他功能似乎可以正常使用:max(), median(), min()

我真的很在乎第二个问题,但是对于第一个问题也可以得到解决...



sensor_data.head()

    x_acceleration  y_acceleration  z_acceleration  heart_rate  electrodermal_activity  temperature
index
2016-05-16 06:58:44 -33.25000   -43.03125   33.09375    NaN 0.297099    33.33
2016-05-16 06:58:45 -28.15625   -52.90625   24.12500    NaN 0.219612    33.33
2016-05-16 06:58:46 -25.87500   -55.96875   21.18750    NaN 0.222648    33.33
2016-05-16 06:58:47 -24.00000   -57.46875   19.40625    NaN 0.217335    33.33
2016-05-16 06:58:48 -22.84375   -56.25000   23.40625    NaN 0.214300    33.33


第一种情况的示例输出-不完整的分钟没有输出:

sensor_data.rolling(window=1,freq="1MIN").mean().head()
    x_acceleration  y_acceleration  z_acceleration  heart_rate  electrodermal_activity  temperature
index
2016-05-16 06:58:00 NaN NaN NaN NaN NaN NaN
2016-05-16 06:59:00 -24.84375   -59.46875   9.03125 68.57   0.208988    33.75
2016-05-16 07:00:00 6.31250 -62.78125   6.46875 79.40   0.224924    33.84
2016-05-16 07:01:00 -21.18750   -57.00000   22.50000    92.00   0.224165    34.13
2016-05-16 07:02:00 -17.46875   -58.87500   21.84375    81.10   0.224165    34.25


第二种情况的示例输出-无输出:

sensor_data.rolling(window=1,freq="1MIN").var().head()

    x_acceleration  y_acceleration  z_acceleration  heart_rate  electrodermal_activity  temperature
index
2016-05-16 06:58:00 NaN NaN NaN NaN NaN NaN
2016-05-16 06:59:00 NaN NaN NaN NaN NaN NaN
2016-05-16 07:00:00 NaN NaN NaN NaN NaN NaN
2016-05-16 07:01:00 NaN NaN NaN NaN NaN NaN
2016-05-16 07:02:00 NaN NaN NaN NaN NaN NaN

最佳答案

对于初学者,这将带您前进。

sensor_data.groupby(pd.Grouper(level=0, freq='Min')).describe()


您可以构建一个自定义函数:

def stats(df):
    kurt = pd.DataFrame(df.kurt(), columns=['kurt']).T
    skew = pd.DataFrame(df.skew(), columns=['skew']).T
    var = pd.DataFrame(df.var(), columns=['var']).T
    return pd.concat([df.describe(), var, skew, kurt])


然后:

sensor_data.groupby(pd.Grouper(level=0, freq='Min')).apply(stats)


python - Python: Pandas :滚动Windows-mean()有效,但是variant()不可行?-LMLPHP



编辑:

结合@Jeff的评论:

funcs = {
    'Count': 'count',
    'Var': np.var,
    'Std': np.std,
    'Mean': np.mean,
    'Min': np.min,
    '25%': lambda x: x.quantile(.25),
    '50%': np.median,
    '75%': lambda x: x.quantile(.75),
    'Max': np.max,
    'Skew': 'skew',
    'Kurt': lambda x: x.kurt(),
}

cols = sensor_data.columns


这是功能的完整列表。

sensor_data.groupby(pd.Grouper(level=0, freq='Min')).agg({c: funcs for c in cols}).stack()


看起来像:

python - Python: Pandas :滚动Windows-mean()有效,但是variant()不可行?-LMLPHP

定时

%%timeit
sensor_data.groupby(pd.Grouper(level=0, freq='Min')).agg({c: funcs for c in cols}).stack()

10 loops, best of 3: 121 ms per loop

%%timeit
sensor_data.groupby(pd.Grouper(level=0, freq='Min')).apply(stats).dropna()

1 loop, best of 3: 221 ms per loop


看来agg大约快一倍。

关于python - Python: Pandas :滚动Windows-mean()有效,但是variant()不可行?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/37848021/

10-12 17:11