概率比
TRPO 算法的优化目标函数为:

其中,At 为动作优势值,前一项为动作在当前和上一步策略中的概率比(likelihood ratio),概率比公式的代码为:

可见,这里使用了 log 函数,相减对应于公式中的相除。
注意这个公式和 vanilla policy gradient 不一样。这(可能)和重要性采样 Importance Sample 有关, ... ...
TRPO 算法的优化目标函数为:

其中,At 为动作优势值,前一项为动作在当前和上一步策略中的概率比(likelihood ratio),概率比公式的代码为:

可见,这里使用了 log 函数,相减对应于公式中的相除。
注意这个公式和 vanilla policy gradient 不一样。这(可能)和重要性采样 Importance Sample 有关, ... ...