[Day 4] Basic Derivative

https://www.codestates.com/

코딩부트캠프 | 코드스테이츠 - 비전공생도 개발자가 될 수 있습니다

---

Warm-up

• 도함수  = 기울기
• ( F * G )' = F'G + FG'
• 편미분 ( Partical Derivative ) : 나만 변하고 나머지는 다 고정

---

Note

• 미분 ( Derivative )
  • 미분이란? 작을 미(微) 와 나눌 분(分) 으로 작게 나눈다는 뜻
  • Δx를 점점 0에 가깝게 해서 순간의 변화량을 측정 하고자 하는것이 더 구체적인 목표
• 미분 공식  w / Python
  • Numberical Method
    : 실제로 0으로 나눌 수는 없기 때문에 0에 매우 근사한 값을 사용, 보통 1e - 5을 사용한다.
  • 𝑓(𝑥) = 상수 → 𝑓′(𝑥) = 0
  • 𝑓(𝑥)=𝑎𝑥𝑛 → 𝑓′(𝑥)=𝑎𝑛𝑥(𝑛−1)  --> Power Rule
  • 𝑓(𝑥)=𝑒𝑥 → 𝑓′(𝑥)=𝑒𝑥
  • 𝑓(𝑥)=𝑙𝑛𝑥 → 𝑓′(𝑥)=1 / 𝑥 --> 자연로그 중요 ✮✮✮
• 편미분 ( Partial Derivative ) 
  : 파라미터가 2개 이상인 Error 함수에서 우선 1개의 파라미터에 대해서만 미분을 하자 라는 목적으로 사용
• Chain Rule
  : 함수의 함수 ( 합성 함수 )를 미분하기 위해 사용
  • 𝐹(𝑥)=𝑓(𝑔(𝑥))
  • 𝐹′(𝑥) → 𝑓′((𝑔(𝑥))⋅𝑔′(𝑥)
• 경사 하강법 ( Gradient Desent )
  : 오차 함수인 𝜀을 최소화 하는 a, b를 찾을 수 있는 최적화 알고리즘 중의 하나

---

Daily Review

오늘은 미분, 편미분 , 경사 하강법의 기본에 대해서 공부했다. 다행히 대학교 때 까지 수학을 공부한게 이해에 많은 도움이 되었다

---

참고

https://www.youtube.com/watch?v=GzphoJOVEcE 

https://www.youtube.com/watch?v=GX7xxAFfPK4&t=2s