有放回抽样和无放回抽样的区别

在计算置信区间时,使用引导法(Bootstrap)可以采用不同的抽样方法。主要有两种方式:总体数据的有放回抽样无放回抽样。这两种方法在计算引导法置信区间时有不同的效果和适用场景。

有放回抽样

有放回抽样(通常称为 Bootstrap)是引导法中最常用的方法。其步骤如下:

  1. 从总体数据中有放回抽样:从原始数据中随机抽样,样本量与原始数据相同,每次抽样后放回数据集,意味着可以多次抽到相同的数据点。
  2. 计算统计量:对每次抽样得到的样本计算所需的统计量(例如均值、方差)。
    重复抽样:重复上述步骤多次(例如 1000 次),得到统计量的分布。
  3. 计算置信区间:根据统计量的分布计算置信区间(例如,通过分位数法)。

优点:

  • 保留了数据集的大小和分布特性。
  • 适用于任何未知分布的数据。

缺点:

  • 计算量大,尤其是对于大样本数据。

无放回抽样

无放回抽样是一种从总体数据中抽取较小子集的方法,步骤如下:

  1. 从总体数据中无放回抽样:从原始数据中随机抽取一个较小的子集,抽样时不放回,子集的大小通常小于原始数据集。
  2. 计算统计量:对每次抽样得到的子集计算所需的统计量。
  3. 重复抽样:重复上述步骤多次(例如 1000 次),得到统计量的分布。
  4. 计算置信区间:根据统计量的分布计算置信区间。

优点:

  • 计算量较小,适用于大数据集。
  • 可以减少抽样偏差,但可能引入子集大小选择的敏感性。

缺点:

  • 子集大小的选择需要慎重,太小的子集可能无法代表总体数据。
  • 由于每次抽样是无放回的,子集之间可能会有较大差异,导致估计不稳定。
具体实现示例

以下是使用 R 语言的示例,展示两种方法的实现和比较。
有放回抽样

bootstrap_sampling <- function(data, n_bootstrap) {
  n <- length(data)
  stats <- numeric(n_bootstrap)
  for (i in 1:n_bootstrap) {
    sample_data <- sample(data, n, replace = TRUE)
    stats[i] <- mean(sample_data)
  }
  return(stats)
}

# 示例数据
data <- c(0.80, 0.83, 1.89, 1.04, 1.45, 1.38, 1.91, 1.64, 0.73, 1.46)
n_bootstrap <- 1000

# 计算引导法统计量
set.seed(123)
bootstrap_stats <- bootstrap_sampling(data, n_bootstrap)

# 计算置信区间
ci <- quantile(bootstrap_stats, c(0.025, 0.975))
print(ci)

无放回抽样

subsampling <- function(data, subset_size, n_bootstrap) {
  n <- length(data)
  stats <- numeric(n_bootstrap)
  for (i in 1:n_bootstrap) {
    sample_data <- sample(data, subset_size, replace = FALSE)
    stats[i] <- mean(sample_data)
  }
  return(stats)
}

# 示例数据
data <- c(0.80, 0.83, 1.89, 1.04, 1.45, 1.38, 1.91, 1.64, 0.73, 1.46)
subset_size <- 7
n_bootstrap <- 1000

# 计算无放回抽样的统计量
set.seed(123)
subsampling_stats <- subsampling(data, subset_size, n_bootstrap)

# 计算置信区间
ci <- quantile(subsampling_stats, c(0.025, 0.975))
print(ci)

比较

  • 有放回抽样:每次抽样的样本大小等于原始数据集,保持了原始数据的分布特性,适合用于小数据集和未知分布的数据。
  • 无放回抽样:每次抽样的子集小于原始数据集,计算效率较高,但结果对子集大小敏感,适合大数据集。

两者的选择取决于具体的应用场景和数据集特性。对于大数据集,无放回抽样可以减少计算开销,但需要仔细选择子集大小以确保估计的稳定性和准确性。

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容