潍坊网站建设兼职,系统管理在哪里,保养车哪个网站做的好,职业做网站游戏的文章目录向量与矩阵标量、向量、矩阵、张量向量范数和矩阵的范数导数和偏导数特征值和特征向量概率分布伯努利分布正态分布#xff08;高斯分布#xff09;指数分布期望、⽅差、协⽅差、相关系数期望方差协⽅差相关系数向量与矩阵
标量、向量、矩阵、张量
标量#xff08;…
文章目录向量与矩阵标量、向量、矩阵、张量向量范数和矩阵的范数导数和偏导数特征值和特征向量概率分布伯努利分布正态分布高斯分布指数分布期望、⽅差、协⽅差、相关系数期望方差协⽅差相关系数向量与矩阵
标量、向量、矩阵、张量
标量scalar一个单独的数。向量vector⼀组有序排列的数。通过次序中的索引我们可以确定每个单独的数。矩阵matrix具有相同特征和纬度的对象的集合。⼀个对象表⽰为矩阵中的⼀⾏⼀个特征表⽰为矩阵中的⼀列表现为⼀张⼆维数据表。张量tensor一个多维数组⼀个数组中的元素分布在若⼲维坐标的规则⽹格中我们将其称之为张量。 向量范数和矩阵的范数
向量范数
设一个向量不同范数表示如下 向量的1范数向量的各个元素的绝对值之和 向量的2范数向量的每个元素的平⽅和再开平⽅根 向量的负⽆穷范数向量的所有元素的绝对值中最小的 向量的正⽆穷范数向量的所有元素的绝对值中最大的 向量的p范数
矩阵范数
设矩阵定义为Amxn其元素为aij。 矩阵的1范数列范数矩阵的每⼀列上的元素绝对值先求和再从中取个最⼤的,列和最⼤。 矩阵的2范数矩阵ATA的最大特征值开平方根。 矩阵的⽆穷范数⾏范数矩阵的每⼀⾏上的元素绝对值先求和再从中取个最⼤的⾏和最⼤。 矩阵的L0范数矩阵的⾮0元素的个数 矩阵的L1范数: 矩阵中的每个元素绝对值之和 矩阵的F范数: 矩阵的各个元素平⽅之和再开平⽅根它通常也叫做矩阵的L2范数。 矩阵的p范数:
导数和偏导数
导数代表了在⾃变量变化趋于⽆穷⼩的时候函数值的变化与⾃变量的变化的⽐值。⼏何意义是这个点的切线。物理意义是该时刻的瞬时变化率。 偏导数就是指多元函数沿着坐标轴的变化率。
特征值和特征向量
特征值表⽰的是这个特征到底有多重要⽽特征向量表⽰这个特征是什么。
如果说⼀个向量ν是矩阵A的特征向量将⼀定可以表⽰成下⾯的形式 λ为特征向量ν对应的特征值。即矩阵A的信息可以由其特征值和特征向量表⽰。
概率分布
伯努利分布 期望φ 方差φ1-φ
正态分布高斯分布 期望μ 方差φ 缺乏实数上分布的先验知识, 不知选择何种形式时, 默认选择正态分布。 指数分布
深度学习中, 指数分布⽤来描述在 点处取得边界点的分布
期望、⽅差、协⽅差、相关系数
期望
数学期望是试验中每次可能结果的概率乘以其结果的总和。它反映随机变量平均取值的⼤⼩。 离散函数 连续函数
方差
⽅差⽤来度量随机变量和其数学期望之间的偏离程度。
协⽅差
协⽅差是衡量两个变量线性相关性强度及变量尺度。
相关系数
相关系数是研究变量之间线性相关程度的量。
