免費線上數學練習

機器學習數學式練習

常用的損失函數、活化函數、機率和最佳化公式。

開始練習機器學習數學公式

  • 免費練習。
  • 無須帳號。
  • 練習進度會保留在這部裝置上。

練習內容

回想損失函數、活化函數或更新規則的算式前,先辨認它的作用。記得公式,不代表模型適合某組資料。

有什麼用處

閱讀及實作機器學習模型時,減少查找公式的次數。

開始前

試做例題,了解你將練習什麼。請留意答案格式與題目列出的條件。

講解

沿梯度的反方向走一步

對於J(θ) = θ²,在θ = 3時,梯度是6。若步長η = 0.1: 下一步的θ = 3 − 0.1 × 6 = 2.4。

使用下一步的θ = θ − η∇J(θ),其中J是可微的損失函數,∇J是它的梯度,η > 0是步長。在一維中,導數為正表示要減小θ,導數為負表示要增大θ。沿這個方向移動足夠小的一步,可以降低損失。單靠零導數無法判斷下降方向。步長太大可能會跨過頭。

加總加權輸入,再加上截距

設x = (2, 3)、w = (4, −1),b = 5。 ŷ = 4 × 2 + (−1) × 3 + 5 = 10。

模型是ŷ = w · x + b。讓各輸入乘上對應的權重,將乘積相加,最後加一次截距b。向量w和x的分量數必須相同。

把誤差平方後取平均

觀測值是2和5,預測值是3和3。 MSE = ((2 − 3)² + (5 − 3)²)/2 = (1 + 4)/2 = 2.5。

對n > 0組資料,使用MSE = Σ(yᵢ − ŷᵢ)²/n。這裡yᵢ是觀測值,ŷᵢ是它的預測值,Σ表示把全部n項相加。平方可以避免正負誤差互相抵消。

把一個分數轉成零到一之間的值

在z = 0時,σ(z) = 1/(1 + e⁰) = 1/2。

Sigmoid函數的公式是σ(z) = 1/(1 + exp(−z)),其中exp(u)表示e的u次方。對有限的實數分數z,結果嚴格介於0與1之間。正分數得到大於1/2的值,負分數得到小於1/2的值。要保留指數中的負號。

把多個分數轉成比例

假設兩個分數的指數函數值分別是2和3,它們的softmax值為: 2/(2 + 3) = 2/5 3/(2 + 3) = 3/5

對K個分數,softmax(z)ᵢ = exp(zᵢ)/Σⱼ₌₁ᴷ exp(zⱼ)。這裡exp(u)表示e的u次方。將所選分數的指數函數值,除以全部分數的指數函數值總和。所有輸出都為正,且加總為1。

試做幾道例題

實際練習,看得見進步。

第 1 題,共 4 題

J 可微。θ 是參數向量,η > 0 是步長。

選擇精確的代數式。

包含此主題的美國年級與課程

相關練習

開始練習機器學習數學公式

  • 免費練習。
  • 無須帳號。
  • 練習進度會保留在這部裝置上。