用語集
統計学習で使われる主要な用語とその解説です。
← 目次に戻る
.632+推定量
.632+ Estimator
.632推定量
.632 Estimator
AdaBoost
AdaBoost (Adaptive Boosting)
AIC(赤池情報量規準)
Akaike Information Criterion
ANOVA分解
ANOVA Decomposition
Aprioriアルゴリズム
Apriori Algorithm
Bag of Words
Bag of Words
BIC(ベイズ情報量規準)
Bayesian Information Criterion
Condensed Nearest Neighbor(CNN)
Condensed Nearest Neighbor
Condorcetの陪審定理
Condorcet's Jury Theorem
Confidence(確信度)
Confidence
Coxスコア統計量
Cox Score Statistic
Cp統計量
Mallows' Cp
Curds and Whey法
Curds and Whey
ELBO(変分下界)
Evidence Lower Bound (ELBO)
EMアルゴリズム
Expectation-Maximization Algorithm
EMアルゴリズム
Expectation-Maximization Algorithm
Fisher基準
Fisher Criterion
Fisher情報行列
Fisher Information Matrix
Forward Stagewise回帰
Forward Stagewise Regression
Forward Stepwise Selection
Forward Stepwise Selection
GCV(一般化交差検証)
Generalized Cross-Validation
Gini指標
Gini Index
Graphical Lasso
Graphical Lasso
hat行列
Hat Matrix
Huber損失
Huber Loss
ISLE
Importance Sampled Learning Ensemble
K-Fold CV
K-Fold Cross-Validation
K-meansクラスタリング
K-means Clustering
k-近傍法
k-Nearest Neighbors
kd-tree
k-dimensional tree
k近傍法
k-Nearest Neighbors
K平均法
K-means Clustering
L₂正則化
L2 Regularization / Ridge Penalty
Lasso
Least Absolute Shrinkage and Selection Operator
Lasso
Lasso (Least Absolute Shrinkage and Selection Operator)
Leave-One-Out CV
Leave-One-Out Cross-Validation (LOOCV)
Leave-One-Out交差検証
Leave-One-Out Cross-Validation (LOO-CV)
Lift(リフト)
Lift
LOOブートストラップ
Leave-One-Out Bootstrap
MAR
Missing At Random
MARS
Multivariate Adaptive Regression Splines
MCAR
Missing Completely At Random
MCMC
Markov Chain Monte Carlo
Metropolis-Hastingsアルゴリズム
Metropolis-Hastings Algorithm
Nadaraya-Watson推定量
Nadaraya-Watson Estimator
OOB誤差
Out-of-Bag Error
Optimal Scoring
Optimal Scoring
PageRank
PageRank
Pasting
Pasting
PRIM
Patient Rule Induction Method
Ridge回帰
Ridge Regression
SCADペナルティ
Smoothly Clipped Absolute Deviation (SCAD)
Support(支持度)
Support
SVDによる次元削減
SVD-Based Dimension Reduction
VC次元
VC Dimension (Vapnik-Chervonenkis Dimension)
XORデータ
XOR Data
アソシエーションルール
Association Rules
アンサンブル学習
Ensemble Learning
アンサンブル収束
Ensemble Convergence
イジングモデル
Ising Model
インサンプル誤差
In-Sample Error
ウェーブレット
Wavelet
エキスパートネットワーク
Expert Network
エポック
Epoch
エントロピー
Entropy
カーネル
Kernel
カーネルトリック
Kernel Trick
カーネル関数
Kernel Function
カーネル平滑化
Kernel Smoothing
カーネル法
Kernel Method
カーネル密度推定
Kernel Density Estimation (KDE)
ガウス・マルコフの定理
Gauss-Markov Theorem
ガウス混合モデル
Gaussian Mixture Model (GMM)
ガウス分布
Gaussian Distribution / Normal Distribution
ギブスサンプリング
Gibbs Sampling
クラスタリング
Clustering / Cluster Analysis
グラフラプラシアン
Graph Laplacian
クリーク
Clique
クリークポテンシャル
Clique Potential
グループLasso
Group Lasso
ゲーティングネットワーク
Gating Network
コスト複雑度剪定
Cost-Complexity Pruning
サブサンプリング(ブースティング)
Subsampling (Stochastic Boosting)
サポートベクターマシン
Support Vector Machine (SVM)
サポートベクトル
Support Vector
シグモイド関数
Sigmoid Function
スタッキング
Stacking (Stacked Generalization)
スパース主成分分析
Sparse PCA
スパース性
Sparsity
スパース性
Sparsity
スパース表現
Sparse Representation
スペクトラルクラスタリング
Spectral Clustering
スラック変数
Slack Variable
ソフトしきい値
Soft Thresholding
ソフトスプリット
Soft Split
ソフトマックス関数
Softmax Function
ソフト閾値処理
Soft Thresholding
テストデータ
Test Data
テンソル積基底
Tensor Product Basis
デンドログラム
Dendrogram
ナイーブベイズ分類器
Naive Bayes Classifier
ノット
Knot
ノンパラメトリック法
Nonparametric Method
パーセプトロン
Perceptron
ハードスプリット
Hard Split
バーンイン期間
Burn-in Period
バイアス
Bias
バイアス-バリアンス・トレードオフ
Bias-Variance Tradeoff
バイアス・バリアンスのトレードオフ
Bias-Variance Tradeoff
バギング
Bagging (Bootstrap Aggregation)
バックフィッティング
Backfitting Algorithm
バックプロパゲーション
Backpropagation
ハマースリー・クリフォード定理
Hammersley-Clifford Theorem
ハミルトニアンモンテカルロ
Hamiltonian Monte Carlo (HMC)
パラメトリックブートストラップ
Parametric Bootstrap
バリアンス
Variance
バンド幅
Bandwidth
バンピング
Bumping
バンプ・ハンティング
Bump Hunting
ヒンジロス
Hinge Loss
ヒンジ関数
Hinge Function
ブースティング
Boosting
ブートストラップ
Bootstrap
フーリエ変換
Fourier Transform
プロトタイプ
Prototype
ベイズニューラルネットワーク
Bayesian Neural Network
ベイズモデル選択
Bayesian Model Selection
ベイズモデル平均
Bayesian Model Averaging (BMA)
ベイズ因子
Bayes Factor
ベイズ分類器
Bayes Classifier
ボロノイ分割
Voronoi Tessellation
マージン
Margin
マスキング効果
Masking Effect
マハラノビス距離
Mahalanobis Distance
マルコフグラフ
Markov Graph
マルコフ連鎖
Markov Chain
メモリベース手法
Memory-Based Method
モデル選択
Model Selection
モデル平均化
Model Averaging
ユークリッド距離
Euclidean Distance
ラプラス近似
Laplace Approximation
ランダムフォレスト
Random Forest
リフレクテッドペア
Reflected Pair
リンク関数
Link Function
ルールアンサンブル
Rule Ensemble
ルールアンサンブル
Rule Ensemble
ロジスティック回帰
Logistic Regression
委員会法
Committee Method
一致性
Consistency
一般化加法モデル
Generalized Additive Model (GAM)
仮説検定
Hypothesis Testing
加法モデル
Additive Model
過学習
Overfitting
回帰
Regression
回帰関数
Regression Function
階層的クラスタリング
Hierarchical Clustering
階層的専門家混合モデル
Hierarchical Mixtures of Experts (HME)
学習ベクトル量子化
Learning Vector Quantization (LVQ)
学習率
Learning Rate
楽観性
Optimism
完全データ対数尤度
Complete-Data Log-Likelihood
監視型主成分
Supervised Principal Components
関数近似
Function Approximation
既約誤差
Irreducible Error
期待テスト誤差
Expected Test Error
期待予測誤差
Expected Prediction Error (EPE)
帰納的バイアス
Inductive Bias
偽発見率(FDR)
False Discovery Rate (FDR)
疑似残差
Pseudo-Residuals
共分散行列
Covariance Matrix
共分散行列
Covariance Matrix
境界バイアス
Boundary Bias
教師あり学習
Supervised Learning
教師なし学習
Unsupervised Learning
局所ロジスティック回帰
Local Logistic Regression
局所最小値
Local Minimum
局所最適解
Local Optimum
局所線形回帰
Local Linear Regression
局所多項式回帰
Local Polynomial Regression
局所尤度
Local Likelihood
近似最近傍探索
Approximate Nearest Neighbor (ANN)
近接プロット
Proximity Plot
近接行列
Proximity Matrix
区分線形
Piecewise Linear
訓練データ
Training Data
訓練誤差
Training Error
群衆の知恵
Wisdom of Crowds
経験分布関数
Empirical Distribution Function
計算量(計算複雑度)
Computational Complexity
決定株
Decision Stump
決定境界
Decision Boundary
決定木
Decision Tree
決定木
Decision Tree
固有値分解
Eigenvalue Decomposition
後退削除
Backward Pruning
交差エントロピー
Cross-Entropy
交差検証
Cross-Validation
勾配ブースティング
Gradient Boosting
構造化回帰モデル
Structured Regression Model
構造的リスク最小化
Structural Risk Minimization (SRM)
高次元問題
High-Dimensional Problem
混合モデル
Mixture Model
混合判別分析
Mixture Discriminant Analysis (MDA)
座標降下法
Coordinate Descent
再生核ヒルベルト空間
Reproducing Kernel Hilbert Space (RKHS)
最近縮小セントロイド
Nearest Shrunken Centroids (NSC)
最近傍縮小重心
Nearest Shrunken Centroids
最小角回帰
Least Angle Regression (LAR)
最小記述長
Minimum Description Length (MDL)
最小二乗法
Least Squares
最大クリーク
Maximal Clique
最大尤度法
Maximum Likelihood Estimation (MLE)
最適分離超平面
Optimal Separating Hyperplane
最尤推定
Maximum Likelihood Estimation
三角形分割
Triangulation
散らす(Shattering)
Shattering
残差
Residual
残差平方和
Residual Sum of Squares (RSS)
指示関数
Indicator Function
指示行列
Indicator Matrix
指数損失
Exponential Loss
枝刈り(Branch and Bound)
Branch and Bound
事後確率
Posterior Probability
事後分布
Posterior Distribution
事前確率
Prior Probability
事前分布
Prior Distribution
次元の呪い
Curse of Dimensionality
次元削減
Dimension Reduction
次元削減
Dimensionality Reduction
自己回帰モデル
Autoregressive Model (AR)
自己組織化マップ
Self-Organizing Map (SOM)
自動関連度決定
Automatic Relevance Determination (ARD)
射影
Projection
弱い学習器
Weak Classifier / Weak Learner
弱い学習器
Weak Learner
主成分
Principal Component
主成分回帰
Principal Components Regression (PCR)
主成分曲線
Principal Curves
主成分分析
Principal Component Analysis (PCA)
周辺化
Marginalization
集合的弱信号
Collective Weak Signal
柔軟判別分析
Flexible Discriminant Analysis (FDA)
重み共有
Weight Sharing
重み減衰
Weight Decay
縮小(ブースティング)
Shrinkage (Boosting)
縮小ランク回帰
Reduced-Rank Regression
消滅モーメント
Vanishing Moments
情報なし誤差
No-Information Error
条件付きテスト誤差
Conditional Test Error
条件付き期待値
Conditional Expectation
条件付き独立性
Conditional Independence
畳み込みニューラルネットワーク
Convolutional Neural Network (CNN)
畳み込みニューラルネットワーク
Convolutional Neural Network (CNN)
信頼区間
Confidence Interval
制限付きボルツマンマシン
Restricted Boltzmann Machine (RBM)
制限付き推定量
Restricted Estimator
正規化・標準化
Normalization / Standardization
正準相関分析
Canonical Correlation Analysis (CCA)
正準変量
Canonical Variates
正則化
Regularization
正則化判別分析
Regularized Discriminant Analysis (RDA)
正則化判別分析
Regularized Discriminant Analysis (RDA)
正定値カーネル
Positive Definite Kernel
生成モデル
Generative Model
精密度行列
Precision Matrix
責任度
Responsibility
潜在クラスモデル
Latent Class Model
潜在変数
Latent Variable
線形回帰
Linear Regression
線形判別分析
Linear Discriminant Analysis (LDA)
線形判別分析(LDA)
Linear Discriminant Analysis
線形分離可能
Linear Separability
前向きステージワイズ回帰
Forward Stagewise Regression
前向き段階的加法モデリング
Forward Stagewise Additive Modeling
相互作用の次数
Order of Interaction
相対的重要度
Relative Importance
損失関数
Loss Function
多次元尺度構成法
Multidimensional Scaling (MDS)
多重解像度解析
Multi-Resolution Analysis (MRA)
多重検定
Multiple Testing
多重補完
Multiple Imputation
多様体
Manifold
対角線形判別分析
Diagonal LDA
対比発散
Contrastive Divergence (CD)
代理分割
Surrogate Splits
単変量フィルタリング
Univariate Filtering
置換検定
Permutation Test
超平面
Hyperplane
定常分布
Stationary Distribution
適応Lasso
Adaptive Lasso
適応的最近傍法
Discriminant Adaptive Nearest-Neighbor (DANN)
投影追跡回帰
Projection Pursuit Regression (PPR)
統計モデル
Statistical Model
統計的学習
Statistical Learning
特異値分解
Singular Value Decomposition (SVD)
特徴空間
Feature Space
特徴選択
Feature Selection
特徴量
Feature
特徴量ランダム選択
Feature Randomization / Random Feature Selection
独立仮定
Independence Assumption
独立成分分析
Independent Component Analysis (ICA)
独立成分分析
Independent Component Analysis (ICA)
二項逸脱度
Binomial Deviance
二次判別分析
Quadratic Discriminant Analysis (QDA)
二分再帰分割
Binary Recursive Partitioning
剥ぎ取り(Peeling)
Peeling
薄板スプライン
Thin-Plate Spline
罰則付き判別分析
Penalized Discriminant Analysis (PDA)
判別モデル
Discriminative Model
判別関数
Discriminant Function
汎化誤差
Generalization Error
非パラメトリックロジスティック回帰
Nonparametric Logistic Regression
非負値行列因子分解
Non-negative Matrix Factorization (NMF)
非類似度
Dissimilarity
標準誤差
Standard Error
標本相関
Sample Correlation
表現定理
Representer Theorem
不安定性
Instability
不純度
Impurity
部分最小二乗法
Partial Least Squares (PLS)
部分最小二乗法
Partial Least Squares (PLS)
部分従属プロット
Partial Dependence Plot
部分従属性プロット
Partial Dependence Plot
復元抽出
Sampling with Replacement
分配関数
Partition Function
分離集合
Separating Set
分類
Classification
文字列カーネル
String Kernel
平滑化スプライン
Smoothing Spline
偏効果
Partial Effect
変数重要度
Variable Importance
変動係数モデル
Varying Coefficient Model
放射基底関数
Radial Basis Function (RBF)
無向グラフィカルモデル
Undirected Graphical Model
尤度
Likelihood
尤度
Likelihood
有効パラメータ数
Effective Degrees of Freedom
貪欲アルゴリズム
Greedy Algorithm