在一个给定长度的数组中随机等概率抽取一个数据很容易,但如果面对的是长度未知的海量数据流呢?蓄水池采样(Reservoir Sampling)算法就是来解决这个问题的, 它在分析一些大数据集的时候非常有用。
基本概念
image
细看后,我们可以对其进行扩展,假如从未知或者很大样本空间随机地取k个数?
类比下即可得到答案,即先把前k个数放入蓄水池,对第k+1,我们以k/(k+1)概率决定是否要把它换入蓄水池,换入时随机的选取一个作为替换项,这样一直做下去,对于任意的样本空间n,对每个数的选取概率都为k/n。也就是说对每个数选取概率相等。
算法的正确证明
定理:该算法保证每个元素以 k / n 的概率被选入蓄水池数组。
证明:首先,对于任意的 i,第 i 个元素进入蓄水池的概率为 k / i;而在蓄水池内每个元素被替换的概率为 1 / k; 因此在第 i 轮第j个元素被替换的概率为 (k / i ) * (1 / k) = 1 / i。 接下来用数学归纳法来证明,当循环结束时每个元素进入蓄水池的概率为 k / n.
假设在 (i-1) 次迭代后,任意一个元素进入 蓄水池的概率为 k / (i-1)。有上面的结论,在第 i 次迭代时,该元素被替换的概率为 1 / i, 那么其不被替换的概率则为 1 - 1/i = (i-1)/i;在第i 此迭代后,该元素在蓄水池内的概率为 k / (i-1) * (i-1)/i = k / i. 归纳部分结束。
因此当循环结束时,每个元素进入蓄水池的概率为 k / n. 命题得证。
Java实现
import java.util.Arrays;
import java.util.Random;
public class ReservoirSamplingAlgorithm {
public static void main(String[] args) {
int k=10;
int n=1000;
int[] data=new int[n];
for(int i=0;i
data[i]=i;
}
int[] result=reservoirSampling(data,k);
System.out.println(Arrays.toString(result));
}
public static int[] reservoirSampling(int[] data,int k){
if(data==null){
return new int[0];
}
if(data.length
return new int[0];
}
int[] result=new int[k];
int n=data.length;
for(int i=0;i
if(i
result[i]=data[i];参考博客
}else{
int j=new Random().nextInt(i);
if(j
result[j]=data[i];
}
}
}
return result;
}
}
参考博客来源:参考博客