활성함수

[유용환]

활성함수중 sigmoid를 사용하면 숫자들을 0에서 1로 압축시키는데 만약에 두 크기가 다른 숫자를 sigmoid를 사용하면
큰수와 작은수가 압축되면 0에서 1사이의수중에서  압축전 큰수가 작은수보다 전과 같이 큰것이 되나요
그렇게 되면은 sigmoid를 사용해도 전과 비슷해지지 않을까요

[codingapple]

더 컸던 숫자는 압축해도 더 큽니다 
마지막 출력레이어에서 0과 1사이의 확률을 뱉게하려고 주로 씁니다

[유용환]

확률을 나타내기 위해서 활성함수를 사용하는것인가요

[codingapple]

마지막레이어에선 그렇습니다

[유용환]

각 레이어마다 사용했을때 0에서 1로 크기를 줄여주기만 하면 그렇게 성능이 향상되지는 않을거같은데 아닌가요

[codingapple]

안쓰면 선형적인 예측밖에 못합니다 활성함수강의를 참고합시다

[글쓴이]

글