- Deep Learning with PyTorch
- Vishnu Subramanian
- 53字
- 2021-06-24 19:16:27
Tanh
The tanh non-linearity function squashes a real-valued number in the range of -1 and 1. The tanh also faces the same issue of saturating gradients when tanh outputs extreme values close to -1 and 1. However, it is preferred to sigmoid, as the output of tanh is zero centered:
Image source: http://datareview.info/article/eto-nuzhno-znat-klyuchevyie-rekomendatsii-po-glubokomu-obucheniyu-chast-2/
推薦閱讀
- Intel FPGA/CPLD設計（基礎篇）
- Aftershot Pro：Non-destructive photo editing and management
- 深入理解Spring Cloud與實戰
- Cortex-M3 + μC/OS-II嵌入式系統開發入門與應用
- 網絡服務器配置與管理（第3版）
- 顯卡維修知識精解
- 電腦組裝與維修從入門到精通（第2版）
- Linux運維之道（第2版）
- 計算機應用與維護基礎教程
- 電腦組裝、維護、維修全能一本通（全彩版）
- Intel FPGA/CPLD設計（高級篇）
- 嵌入式系統設計教程
- VCD、DVD原理與維修
- Mastering Adobe Photoshop Elements
- 計算機組裝維修與外設配置（高等職業院校教改示范教材·計算機系列）