长春网站建设方案托管,要如何关闭公司网站 撤销备案,专业个人网站建设,旅游网站规划设计与建设随机游走
基本思想 从一个或一系列顶点开始遍历一张图。在任意一个顶点#xff0c;遍历者将以概率1-a游走到这个顶点的邻居顶点#xff0c;以概率a随机跳跃到图中的任何一个顶点#xff0c;称a为跳转发生概率#xff0c;每次游走后得出一个概率分布#xff0c;该概率分布…随机游走
基本思想 从一个或一系列顶点开始遍历一张图。在任意一个顶点遍历者将以概率1-a游走到这个顶点的邻居顶点以概率a随机跳跃到图中的任何一个顶点称a为跳转发生概率每次游走后得出一个概率分布该概率分布刻画了图中每一个顶点被访问到的概率。用这个概率分布作为下一次游走的输入并反复迭代这一过程。当满足一定前提条件时这个概率分布会趋于收敛。收敛后即可以得到一个平稳的概率分布。
最经典的一维随机游走问题有赌徒输光问题和酒鬼失足问题。 1赌徒在赌场赌博赢的概率是p输的概率1-p每次的赌注为1元假设赌徒最开始时有赌金1元赢了赌金加1元输了赌金减1元。问赌徒输光的概率是多少 2一个醉鬼行走在一头是悬崖的道路上酒鬼从距离悬崖仅一步之遥的位置出发向前一步或向后退一步的概率皆为1/2问酒鬼失足掉入悬崖的概率是多少 图的随机游走 上图中的random walk 就是形成了一条随机游走链N1,N2,N3,N4)其中N1的又有本身的编码N1(a1, a2, a3)即一个3维的embedding. 在上图中发Φ表示embedding |V|xd即v个节点乘以d维编码例如上文提到的N1节点 N1(a1, a2, a3)就是3维编码。
SkipGram SkipGram就是给定一个中心词去预测它的上下文 假设在我们的文本序列中有5个词[“the”“man”“loves”“his”“son”]。
假设我们的窗口大小skip-window2中心词为“loves”那么上下文的词即为“the”、“man”、“his”、“son”。这里的上下文词又被称作“背景词”对应的窗口称作“背景窗口”。
跳字模型能帮我们做的就是通过中心词target word“loves”生成与它距离不超过2的背景词context“the”、“man”、“his”、“son”的条件概率用公式表示即 进一步假设给定中心词的情况下背景词之间是相互独立的公式可以进一步得到 用概率图表示为 可以看得出来这里是一个一对多的情景根据一个词来推测2m个词m表示背景窗口的大小上图窗口大小为2.
