t_dnn1-2(質問管理番号)

回答日時：

2019/01/31

Q：

ソフトプラス関数の実装は以下ではないでしょうか？
def softplus(u):
return np.log(1 + np.exp(u))

なぜ、以下が回答となるのか分かりません。教えていただけますでしょうか？
def softplus(u):
return np.maximum(0,u) + np.log(1 + np.exp(-np.abs(-u)))

A：

下記サイトが参考になるかと思います。Overflowの対策と、数学的定義から導かれて、こちらが使われています。
https://stackoverflow.com/questions/44230635/avoid-overflow-with-softplus-function-in-python