RL-赵-(六)：随机逼近与随机梯度下降02-1：Stochastic approximation（SA/随机逼近）算法【无需知道目标函数的表达式或它的导数或梯度表达式】

二、随机逼近/Stochastic approximation (SA)算法随机逼近/Stochastic approximation (SA)：SA指的是一类广泛的随机迭代算法，用来求解方程的根或者优化问题。与其他求根算法（如基于梯度的方法）相比，SA的强大之处在于它不需要知道目标函数的表达式，也不知道它的导数或者梯度表达式。Robbins-Monro（RM）算法：这是随机逼近（stochastic approximation）领域的开创性工作。著名的随机梯度下降算法（stochastic gradient descent algorithm）是RM算法的一种特殊形式。它可以用于分析在开头介绍的均值估计算法（mean estimation algorithms）。1、Problem statement问题声明： 假设我们要求解下面方程的根g(w)=0 g(w)=0g(w)=0其中w∈Rw\in\mathbb{R}w∈R是要求解的变量，g:R→Rg:\mathbb{R}\to\mathbb{R}g:R→