Bootstrap-Resampling in R
Implementieren Sie Bootstrap-Konfidenzintervalle mit sample() und Ziehen mit Zurücklegen
Bootstrap-Resampling in R ist eine kostenlose R Academy-Lektion auf CoddyKit. Dies ist Lektion 4 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des R Academy-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der R Academy-Kurs umfasst insgesamt 4 Lektionen.
Was ist Bootstrap?
Der Bootstrap ist eine Resampling-Methode, die die Stichprobenverteilung einer Statistik schätzt, indem sie aus den beobachteten Daten mit Zurücklegen neue Stichproben zieht. Sie benötigt keine Verteilungsannahmen – die Daten bilden die Verteilung.
set.seed(42)
# Original sample of 20 observations
original_data <- c(14, 18, 11, 13, 6, 8, 2, 17,
20, 10, 15, 12, 9, 16, 7, 3,
19, 5, 4, 1)
n <- length(original_data)
# One bootstrap resample: sample WITH replacement
bootstrap_sample1 <- sample(original_data, n, replace = TRUE)
print(bootstrap_sample1)
# Contains repeats! Some original values are missing.
mean(original_data) # original mean
mean(bootstrap_sample1) # bootstrap mean (different)Bootstrap-Verteilung des Mittelwerts
Erzeugen Sie viele Bootstrap-Stichproben, berechnen Sie für jede die Statistik und sammeln Sie die Ergebnisse. Diese Bootstrap-Verteilung approximiert die Stichprobenverteilung der Statistik.
set.seed(42)
x <- c(14, 18, 11, 13, 6, 8, 2, 17, 20, 10,
15, 12, 9, 16, 7, 3, 19, 5, 4, 1)
n <- length(x)
B <- 5000 # number of bootstrap replicates
# Bootstrap distribution of the mean
boot_means <- replicate(B, {
x_star <- sample(x, n, replace = TRUE)
mean(x_star)
})
cat('Original mean:', mean(x), '\n')
cat('Bootstrap mean:', mean(boot_means), '\n')
cat('Bootstrap SE:', sd(boot_means), '\n')
cat('Theoretical SE:', sd(x)/sqrt(n))Bootstrap für beliebige Statistiken
Der Bootstrap funktioniert für jede Statistik – Median, Korrelation, Regressionskoeffizienten oder getrimmtes Mittel. Ersetzen Sie in der replicate-Schleife einfach mean() durch die gewünschte Statistik.
set.seed(42)
x <- c(2, 4, 6, 8, 10, 12, 100, 1, 3, 5)
# Notice the outlier 100 - makes the mean unreliable
B <- 5000; n <- length(x)
# Bootstrap distribution of the median
boot_medians <- replicate(B, {
median(sample(x, n, replace = TRUE))
})
# Bootstrap distribution of the trimmed mean (10%)
boot_tmeans <- replicate(B, {
mean(sample(x, n, replace = TRUE), trim = 0.1)
})
cat('Sample median:', median(x), '\n')
cat('Bootstrap SE of median:', sd(boot_medians), '\n')
cat('Bootstrap SE of trimmed mean:', sd(boot_tmeans))Bootstrap-Konfidenzintervalle: Perzentilmethode
Das einfachste Bootstrap-KI: Verwenden Sie die Quantile der Bootstrap-Verteilung. Das 95-%-KI verwendet das 2,5. und 97,5. Perzentil. Diese Methode ist schnell und intuitiv, kann bei schiefen Statistiken jedoch Probleme mit der Überdeckungswahrscheinlichkeit haben.
set.seed(42)
x <- rnorm(30, mean = 5, sd = 2)
B <- 5000; n <- length(x)
# Bootstrap CI for the mean
boot_means <- replicate(B, mean(sample(x, n, replace = TRUE)))
# Percentile CI
ci_percentile <- quantile(boot_means, c(0.025, 0.975))
cat('Percentile CI:', round(ci_percentile, 3), '\n')
# For comparison: t-interval (parametric)
t_ci <- mean(x) + qt(c(0.025, 0.975), df = n-1) * sd(x)/sqrt(n)
cat('t-interval CI:', round(t_ci, 3), '\n')
cat('True mean: 5')Bootstrap-Standardfehler
Der Bootstrap-Standardfehler ist einfach sd(boot_statistics). Er schätzt, wie stark die Statistik bei wiederholten Stichproben aus der Grundgesamtheit schwanken würde – ohne Verteilungsannahmen zu treffen.
set.seed(42)
# Bootstrap SE for the ratio of two means
group_a <- rnorm(20, mean = 10, sd = 2)
group_b <- rnorm(20, mean = 8, sd = 2)
all_data <- data.frame(
value = c(group_a, group_b),
group = rep(c('A', 'B'), each = 20)
)
B <- 4000; n <- nrow(all_data)
boot_ratio <- replicate(B, {
idx <- sample(1:n, n, replace = TRUE)
d <- all_data[idx, ]
mean(d$value[d$group == 'A']) /
mean(d$value[d$group == 'B'])
})
cat('Observed ratio:', mean(group_a)/mean(group_b), '\n')
cat('Bootstrap SE:', round(sd(boot_ratio), 4), '\n')
cat('95% CI:', round(quantile(boot_ratio, c(.025,.975)), 3))BCa-Konfidenzintervall
Das BCa-KI (Bias-Corrected and Accelerated) ist genauer als das Perzentil-KI, insbesondere bei schiefen oder verzerrten Statistiken. Es korrigiert Verzerrung und Schiefe der Bootstrap-Verteilung.
# BCa CI implementation
bca_ci <- function(data, stat_fn, B = 2000, alpha = 0.05) {
n <- length(data)
theta_hat <- stat_fn(data)
# Bootstrap replicates
boot_vals <- replicate(B, stat_fn(sample(data, n, replace = TRUE)))
# Bias correction z0
z0 <- qnorm(mean(boot_vals < theta_hat))
# Acceleration a (jackknife)
jk <- sapply(seq_len(n), function(i) stat_fn(data[-i]))
num <- sum((mean(jk) - jk)^3)
den <- 6 * (sum((mean(jk) - jk)^2))^(3/2)
a <- num / den
# Adjusted quantiles
z_alpha <- qnorm(c(alpha/2, 1 - alpha/2))
p_adj <- pnorm(z0 + (z0 + z_alpha) / (1 - a * (z0 + z_alpha)))
quantile(boot_vals, p_adj)
}
set.seed(42)
x <- rexp(25, rate = 0.5) # skewed distribution
bca_ci(x, median)Bootstrap für Regression
Erzeugen Sie Bootstrap-KIs für Regressionen, indem Sie Zeilen des Dataframes erneut ziehen. Dadurch werden nicht normalverteilte Fehler berücksichtigt und gültige Schlussfolgerungen ohne Normalitätsannahmen ermöglicht.
set.seed(42)
n <- 40
x <- runif(n, 0, 10)
y <- 2 + 1.5 * x + rnorm(n, sd = 2)
df <- data.frame(x = x, y = y)
B <- 3000
# Bootstrap the slope coefficient
boot_slopes <- replicate(B, {
idx <- sample(1:n, n, replace = TRUE)
d_boot <- df[idx, ]
coef(lm(y ~ x, data = d_boot))[2]
})
cat('OLS slope:', round(coef(lm(y~x, data=df))[2], 3), '\n')
cat('Bootstrap SE of slope:', round(sd(boot_slopes), 4), '\n')
cat('Bootstrap 95% CI:', round(quantile(boot_slopes, c(.025,.975)), 3))Anzahl der Bootstrap-Replikationen
Wie viele Bootstrap-Replikationen B benötigen Sie? Für Standardfehler: B=200–500. Für Perzentil-KIs: B=1000–2000. Für BCa-KIs: B=2000–5000. Mehr ist grundsätzlich besser, bringt aber ab 10.000 nur noch abnehmenden Nutzen.
set.seed(42)
x <- rnorm(50, mean = 3, sd = 1)
B_values <- c(100, 500, 1000, 2000, 5000, 10000)
# See how CI width varies with B
results <- sapply(B_values, function(B) {
boot_m <- replicate(B, mean(sample(x, length(x), replace = TRUE)))
q <- quantile(boot_m, c(0.025, 0.975))
q[2] - q[1] # CI width
})
result_df <- data.frame(B = B_values, ci_width = round(results, 4))
print(result_df)
# CI width stabilizes as B increasesGepaarter Bootstrap
Bei Problemen mit zwei Stichproben ziehen Sie Paare (x, y) gemeinsam erneut – nicht x und y unabhängig voneinander. Dadurch bleibt die Abhängigkeitsstruktur innerhalb der Paare erhalten, was gültige KIs für Korrelationen und gepaarte Differenzen ermöglicht.
set.seed(42)
# Paired data: before/after treatment
before <- c(10, 12, 8, 15, 11, 9, 14, 13)
after <- c(12, 14, 9, 16, 11, 10, 15, 12)
n <- length(before)
B <- 4000
# Bootstrap paired mean difference
boot_diff <- replicate(B, {
idx <- sample(1:n, n, replace = TRUE)
mean(after[idx] - before[idx])
})
observed_diff <- mean(after - before)
cat('Observed mean diff:', observed_diff, '\n')
cat('Bootstrap SE:', round(sd(boot_diff), 4), '\n')
cat('95% CI:', round(quantile(boot_diff, c(0.025, 0.975)), 3))Bootstrap-Hypothesentest
Mit Bootstrap lassen sich auch Hypothesen testen. Um H₀: θ=θ₀ zu testen, erzeugen Sie die Nullverteilung, indem Sie Bootstrap-Stichproben verschieben bzw. umzentrieren. Berechnen Sie anschließend den p-Wert als Anteil der Werte, die die beobachtete Statistik überschreiten.
set.seed(42)
# Test H0: mean = 0 vs H1: mean != 0
x <- rnorm(30, mean = 0.5, sd = 2)
theta0 <- 0 # null hypothesis
observed_t <- (mean(x) - theta0) / (sd(x) / sqrt(length(x)))
B <- 5000; n <- length(x)
# Shift x to have mean = theta0 under H0
x_centered <- x - mean(x) + theta0
boot_t <- replicate(B, {
x_star <- sample(x_centered, n, replace = TRUE)
(mean(x_star) - theta0) / (sd(x_star) / sqrt(n))
})
p_value <- mean(abs(boot_t) >= abs(observed_t))
cat('Observed t:', round(observed_t, 3), '\n')
cat('Bootstrap p-value:', round(p_value, 4))Überblick über das Paket boot
Das Paket boot stellt boot(data, statistic, R) mit erweiterten Funktionen bereit: BCa-KIs über boot.ci(), parallele Berechnung und geschichtetes Sampling. Die Funktion statistic erhält die Daten und einen Indexvektor.
# library(boot) # uncomment to use
# The boot() statistic function signature:
# statistic(data, indices) -> scalar or vector
# Example (conceptual - requires boot package):
# mean_stat <- function(data, indices) {
# mean(data[indices])
# }
# results <- boot(data = x, statistic = mean_stat, R = 5000)
# boot.ci(results, type = c('perc', 'bca')) # CIs
# plot(results) # histogram of bootstrap distribution
# Manual equivalent:
set.seed(42)
x <- rnorm(30, mean = 5)
B <- 2000
boot_vals <- replicate(B, mean(sample(x, length(x), replace = TRUE)))
quantile(boot_vals, c(0.025, 0.975))Kurze Überprüfung
Testen Sie Ihr Verständnis des Bootstrap-Resamplings in R.
Zusammenfassung: Bootstrap-Resampling
Die wichtigsten Punkte: Der Bootstrap zieht mit sample(x, n, replace=TRUE) Stichproben mit Zurücklegen. Verwenden Sie replicate(B, ...), um B Bootstrap-Statistiken zu erzeugen. sd(boot_stats) liefert den Bootstrap-SE. Perzentil-KI: quantile(boot_stats, c(0.025, 0.975)). Verwenden Sie für KIs B≥2000. Das Paket boot ergänzt BCa-KIs und parallele Berechnung. Der Bootstrap funktioniert für jede Statistik ohne Verteilungsannahmen.
set.seed(42)
x <- c(3, 5, 7, 2, 9, 4, 6, 8, 1, 10)
n <- length(x); B <- 3000
# Generic bootstrap template:
boot_stat <- replicate(B, {
x_star <- sample(x, n, replace = TRUE)
median(x_star) # replace with any statistic
})
# Summary
cat('Original median:', median(x), '\n')
cat('Bootstrap SE:', round(sd(boot_stat), 3), '\n')
ci <- quantile(boot_stat, c(0.025, 0.975))
cat('95% Percentile CI: [', ci[1], ',', ci[2], ']')Häufig gestellte Fragen
Ist die Lektion „Bootstrap-Resampling in R“ kostenlos?
Ja — der vollständige Text von „Bootstrap-Resampling in R“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des R Academy-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der R Academy-Kurs umfasst insgesamt 4 Lektionen.
Was lerne ich in „Bootstrap-Resampling in R“?
Implementieren Sie Bootstrap-Konfidenzintervalle mit sample() und Ziehen mit Zurücklegen Du übst R Academy mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.
Brauche ich Erfahrung, um R Academy zu starten?
Keine Vorkenntnisse erforderlich. R Academy auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 4 von 4.
Wie lange dauert die Lektion „Bootstrap-Resampling in R“?
Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.
Kann ich in dieser R Academy-Lektion Code schreiben und ausführen?
Ja. Jede R Academy-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.
Alle Lektionen in diesem Kurs
- set.seed() und Reproduzierbarkeit
- Erzeugen von Zufallsverteilungen
- Grundlagen der Monte-Carlo-Simulation
- Bootstrap-Resampling in R