Ponderato di deviazione standard di NumPy
-
19-09-2019 - |
Domanda
numpy.average()
ha un peso di opzione, ma numpy.std()
non.Qualcuno ha suggerimenti per risolvere il problema?
Soluzione
Come qui di seguito "calcolo manuale" corto?
def weighted_avg_and_std(values, weights):
"""
Return the weighted average and standard deviation.
values, weights -- Numpy ndarrays with the same shape.
"""
average = numpy.average(values, weights=weights)
# Fast and numerically precise:
variance = numpy.average((values-average)**2, weights=weights)
return (average, math.sqrt(variance))
Altri suggerimenti
C'è una classe in statsmodels
che è facile calcolare ponderato statistiche: statsmodels.stats.weightstats.DescrStatsW
.
Supponendo che questo insieme di dati e pesi:
import numpy as np
from statsmodels.stats.weightstats import DescrStatsW
array = np.array([1,2,1,2,1,2,1,3])
weights = np.ones_like(array)
weights[3] = 100
Si inizializza la classe (si noti che è necessario passare il fattore di correzione, il delta gradi di libertà a questo punto):
weighted_stats = DescrStatsW(array, weights=weights, ddof=0)
Quindi è possibile calcolare:
.mean
il media ponderata:>>> weighted_stats.mean 1.97196261682243
.std
il ponderato di deviazione standard:>>> weighted_stats.std 0.21434289609681711
.var
il ponderato varianza:>>> weighted_stats.var 0.045942877107170932
.std_mean
il errore standard della media ponderata:>>> weighted_stats.std_mean 0.020818822467555047
Solo nel caso in cui sei interessato al rapporto tra l'errore standard e la deviazione standard:L'errore standard è (per
ddof == 0
) ponderato calcolato come deviazione standard divisa per la radice quadrata della somma dei pesi di meno 1 (di origine corrispondente perstatsmodels
versione 0.9 su GitHub):standard_error = standard_deviation / sqrt(sum(weights) - 1)
Ci non sembra essere tale funzione in NumPy / SciPy ancora, ma c'è un biglietto proporre questa funzionalità aggiuntive. Incluso vi troverai Statistics.py che implementa standard di pesata deviazioni.
Ecco un'opzione più:
np.sqrt(np.cov(values, aweights=weights))
C'è un ottimo esempio proposto da gaborous :
import pandas as pd
import numpy as np
# X is the dataset, as a Pandas' DataFrame
mean = mean = np.ma.average(X, axis=0, weights=weights) # Computing the
weighted sample mean (fast, efficient and precise)
# Convert to a Pandas' Series (it's just aesthetic and more
# ergonomic; no difference in computed values)
mean = pd.Series(mean, index=list(X.keys()))
xm = X-mean # xm = X diff to mean
xm = xm.fillna(0) # fill NaN with 0 (because anyway a variance of 0 is
just void, but at least it keeps the other covariance's values computed
correctly))
sigma2 = 1./(w.sum()-1) * xm.mul(w, axis=0).T.dot(xm); # Compute the
unbiased weighted sample covariance
equazione corretta per ponderata covarianza campione imparziale, URL (versione: 2016/06/28)