建网站哪家好 优帮云,谁给个网站啊急急急2021,网站设计的指导思想,做网站时怎么选择数据库类型马尔科夫链#xff08;Markov Chains#xff09;
从一个例子入手#xff1a;假设某餐厅有A#xff0c;B#xff0c;C三种套餐供应#xff0c;每天只会是这三种中的一种#xff0c;而具体是哪一种#xff0c;仅取决于昨天供应的哪一种#xff0c;换言之#…马尔科夫链Markov Chains
从一个例子入手假设某餐厅有ABC三种套餐供应每天只会是这三种中的一种而具体是哪一种仅取决于昨天供应的哪一种换言之如果知道今天供应了什么就可以用某种方式预测明天将会供应什么。 例如今天供应的是A那么明天有60%概率供应B我们可以用一条由A向B的有向边来表示边权是概率。于是我们可以用图来表示这种关系 这就是一个马尔科夫链。
马尔科夫链的一个重要状态就是未来状态只取决于现在状态而与过去无关。
也就是有 例如考虑已知一个供应序列[B,A,B]那么第4天供应C的概率是多少由马尔可夫性质我们只需要考虑第3天因此概率就是70%。
下面我们在链上做随机漫步Random Walk比如得到结果[A, B, A, C, A, C, C, C, A, B]现在我们想要求出每种套餐的概率直接用频率分布近似而长期下来这些概率可能会收敛到某些特定值这种概率分布叫做稳态分布。
我们亦可用线性代数来求出稳态的概率分布对于有向图我们可以转化为邻接矩阵: 我们用一个行向量来代表状态的概率假设我们从B状态开始则有 当我们将这个行向量和矩阵相乘我们得到了矩阵的第二行更广义地我们得到了未来的状态。 依次类推那么我们可以说如果在某一次达到了稳态那么输出的行向量应当等于输入的行向量于是我们得到了这个在线性代数中熟悉的表达式 因此其实是矩阵的特征向量特征值等于1此外的元素还需要满足归一性也即全部元素之和等于1。
由此我们可以解出这个稳态这个结果和直接模拟得到的相符合。
这个结果告诉我们餐厅整体上会在大概35%的时间供应A21%的时间供应B剩下时间供应C。
由此我们也可以看出可能存在多个稳态取决于有多少个满足条件的特征向量。
现在考虑下面这个马尔科夫链 我们会发现对于状态0只要离开就不可能再回去了这种不可被其他状态达到的情况我们称为暂态transient。
而对于状态1、2离开后是可以回来的称为常返状态Recurrent
而当存在暂态时我们称这个马尔科夫链是可约的反之称不可约链。
这里我们如果把0-1这条边删去可以得到两个更小的不可约链。 现在考虑下面这个马尔科夫链 考虑这个问题 从状态i到状态j共n步的概率是多大
可以先考虑简单的显然等于
而对于我们需要考虑所有可能的路径并将概率相加:
这个表达式其实是两个向量乘积
由此我们可以总结
进一步
这样的总结是根据经验的归纳不能保证正确。
但确实是正确的根据是Chapman-Kolmogorov定理之所以能使用是因为马尔可夫性质。
该定理表述如下 现在我们从另一个视角来看稳态分布我们让n趋于无穷大 每一行都收敛到同一个行向量这就是这个马尔科夫链的静态分布。 比如对于对于不同的i其值是不变的换言之不依赖于开始的状态这恰恰符合马尔可夫性质。 隐马尔科夫链Hidden Markov Model
仍然从例子入手 Jack 所住的地方只有三种天气ABC任何一天只会出现一种天气明天天气只和今天天气相关。 假设Jack每天有两种可能的心情a、b心情取决于天气。如下图 现在我们不知道某一天的天气情况但是我们可以了解Jack的情绪因此说马尔科夫链的状态是隐藏的我们可以观察到一些依赖于这些状态的变量。可以说隐马尔可夫模型就是一个普通的马尔科夫链和一组观测变量构成即
HMM HiddenMC Observed Variables 注意Jack的情绪只和当天的天气有关而和昨天的情绪无关 同样我们可以用矩阵表示
转移矩阵
发射矩阵记录观测变量相应概率的矩阵 现在考虑连续三天的情况 这里先假设我们知道天气情况那么这种情况的概率我们可以算出来 其中第一项需要用求平稳分布得到其余项可以直接从矩阵读出。 现在我们隐藏状态只看观察变量的序列最有可能的状态序列是什么
要解决这个问题我们需要计算每个序列的概率找出概率最大的序列而最终找出来确实是CBC这个序列。
Python模板代码
详见注释
from hmmlearn.hmm import GaussianHMM
# 导入 GaussianHMM 类这是 hmmlearn 库中用于高斯混合模型Gaussian Hidden Markov Model的类。
import numpy as np
startprob np.array([0.6, 0.3, 0.1, 0.0])
# 建一个 NumPy 数组 startprob表示 HMM 模型的初始状态概率。
transmat np.array([[0.7, 0.2, 0.0, 0.1],[0.3, 0.5, 0.2, 0.0],[0.0, 0.3, 0.5, 0.2],[0.2, 0.0, 0.2, 0.6]])
# 创建一个 NumPy 数组 transmat表示 HMM 模型的状态转移矩阵。
means np.array([[0.0, 0.0],[0.0, 11.0],[9.0, 10.0],[11.0, -1.0]])
# 表示每个隐藏状态的均值。
covars .5 * np.tile(np.identity(2), (4, 1, 1))
# 表示每个隐藏状态的协方差矩阵。这里使用了 np.tile 来生成相同的协方差矩阵。
hmm GaussianHMM(n_components4, covariance_typefull)
# 创建一个 GaussianHMM 对象指定模型有 4 个隐藏状态并使用完整的协方差矩阵
hmm.startprob_ startprob
# 设置 HMM 模型对象的初始状态概率。
hmm.transmat_ transmat
# 设置 HMM 模型对象的状态转移矩阵。
hmm.means_ means
# 设置 HMM 模型对象的均值。
hmm.covars_ covars
# 设置 HMM 模型对象的协方差矩阵。
seen np.array([[1.1, 2.0], [-1, 2.0], [3, 7]])
# seen表示观察到的数据序列。
logprob, state hmm.decode(seen, algorithmviterbi)
# 使用 Viterbi 算法对给定的观察数据序列进行解码返回对数概率和对应的状态序列。
print(state)
print(hmm.score(seen))
