20230429 1650
REF
[1] https://happy-obok.tistory.com/55
활성화 함수(Activation fucntion)란? (역할/ 개념 / 종류 / 비교 / Sigmoid / tanh /ReLU/ 구현 )
활성화 함수에 대해서 공부한 내용을 요약한 글입니다. 활성화 함수의 역할, 종류(Sigmoid. tanh, ReLU)를 공부하고 파이썬으로 구현, 시각화 했습니다. 활성화 함수 입력 신호의 총합을 출력 신호로
happy-obok.tistory.com
(정의) 입력신호의 총합을 출력신호로 변환하는 함수
(질문) 그냥 입력신호를 그대로 pass though하면 안되나? 왜 변환하지?
입력신호를 그대로 pass through하면 은익층의 효과가 없다!!!!!!!!!! [1]
(종류) 보통 사용되는 activation function
Sigmoid, tanh, ReLU(렐루)함수**…
** 할렐루야~ 선형함수인데 0이하는 모두 0의 값을 갖도록 truncate한 함수
(note) b=bias
'[AI]Artificial Inteligence 인공지능' 카테고리의 다른 글
| AI XOR gate, perceptron (0) | 2023.05.04 |
|---|---|
| AI 로지스틱 회귀 Logistic Regression (0) | 2023.04.30 |
| AI OR gate, Regression (vs Deap Learning) (0) | 2023.04.27 |
| AI deep learning도 error minimizing 개념 (0) | 2023.04.24 |
| AI 큰 그림 Story telling of Deep Learning (0) | 2023.04.15 |
