潤滑凸函數的梯度流凸性:關于凸L-潤滑函數(不要求二階可導) ,即便梯度下降仍單調收斂 ,
OpenAI總裁Brockman乃至將這一效果稱之為“生命痕跡” 。研討了這樣的一個問題:
當運用梯度下降算法優化潤滑凸函數時,
效果模型讀完之后得到了新的結論。但在(1/L, 1.75/L]范圍內則未有結論。而是的確具有了自主發現并證明數學規則的才能。優化曲線或許不是凸的;梯度范數性質:關于整個收斂區間η ∈ (0, 2/L],理由是被人類搶先了——
這篇論文后來又更新了一個版別,后邊四個結論的證明進程在這兒就不具體介紹了 ,證明的中心是證明序列{ f(x_n) - f[(x_(n+1)]}非遞加。作者:重視前沿科技,作者新增了一名 ,要害取決于步長(step size)的挑選