過度擬合
過擬合是統計學中的建模錯誤，當函數與有限的數據點集過於密切對齊時發生。因此，模型僅在參考其初始數據集時有用，而不適用於任何其他數據集。過度擬合模型通常採用製作過於複雜的模型來解釋研究數據中的特殊性。
實際上，經常研究的數據中存在一定的誤差或隨機噪聲。因此，試圖使模型與略微不準確的數據過於吻合可能會導致模型出現嚴重錯誤並降低其預測能力。
定義：過度擬合（Overfitting）是統計學和機器學習中的一種建模錯誤。當模型過於複雜，以至於它不僅捕捉到了數據中的真實模式，還捕捉到了數據中的噪聲和誤差時，就會發生過度擬合。這樣一來，模型在訓練數據上的表現非常好，但在新數據上的表現卻很差。
起源：過度擬合的概念最早出現在統計學中，隨着機器學習和數據科學的發展，這一問題變得更加普遍。20 世紀 80 年代，隨着計算能力的提升和數據量的增加，研究人員開始注意到模型複雜度與預測準確性之間的平衡問題。
類別與特點：過度擬合可以分為兩類：1. 結構性過度擬合：模型結構過於複雜，包含了過多的參數。2. 數據過度擬合：模型對訓練數據中的噪聲和異常值過於敏感。過度擬合的特點包括：高訓練準確率但低測試準確率、模型複雜度高、對新數據的泛化能力差。
具體案例：案例 1：在股票價格預測中，使用一個包含大量參數的複雜模型來擬合曆史數據，結果模型在歷史數據上的預測非常準確，但在新數據上的預測卻非常差。案例 2：在圖像識別中，使用一個過於複雜的神經網絡模型來訓練少量的圖像數據，結果模型在訓練數據上的識別率很高，但在新圖像上的識別率卻很低。
常見問題：1. 如何檢測過度擬合？可以通過交叉驗證和觀察訓練誤差與測試誤差的差異來檢測。2. 如何避免過度擬合？可以通過正則化、簡化模型結構、增加訓練數據量等方法來避免。
