最常用：

$$\frac{\partial Ax}{\partial x} = A^T$$ $$\frac{\partial x^TA}{\partial x} = A$$

$$\frac{dTr(AB)}{dA} = B^T$$ $$\frac{d(ABA^T)}{dA} = 2AB$$

左边为分子布局，右边为分母布局，不推荐固定用哪个

不管啥layout归根结底一句话…保证雅可比矩阵乘起来的时候维度对应即可。如果有方阵，那肯定某两层中间变量的维度相同的，直接强行让两者的维度记号不一样即可。

叉乘的导数：

举例： $\frac{1}{2} ||Ax- \overrightarrow {b} ||^2$ 对 x 求导，最后结果是 $A^T(Ax - b)$