赣州专业做网站,如何改wordpress的title,网站建设行业的前景分析,用dw制作个人简历网页目录 离散无记忆信道输入概率输出概率联合分布概率信道逆向概率一些记号示例1示例2 离散无记忆信道 离散#xff1a;输入输出字母表都是有限的 无记忆#xff1a;输出字符 d i d_i di 被接收到的概率只依赖于当前的输入 c i c_i ci, 而与前面的输入无关。 一个离散无记… 目录 离散无记忆信道输入概率输出概率联合分布概率信道逆向概率一些记号示例1示例2 离散无记忆信道 离散输入输出字母表都是有限的 无记忆输出字符 d i d_i di 被接收到的概率只依赖于当前的输入 c i c_i ci, 而与前面的输入无关。 一个离散无记忆信道由输入字母表 S { x 1 \mathcal{S} \{ x_1 S{x1, ⋯ \cdots ⋯, x s } x_s\} xs}和输出字母表 Q { y 1 \mathcal{Q} \{ y_1 Q{y1, ⋯ \cdots ⋯, y t } y_t\} yt} 以及一系列信道概率 p ( y j ( y_j (yj| x i ) x_i) xi) 组成其中信道概率满足条件对任意 1 ≤ 1\leq 1≤i ≤ \leq ≤s, ∑ j 1 t p ( y j ∣ x i ) 1. \sum_{\mathrm{j1}}^\mathrm{t}\mathrm{p(y_j|x_i)1.} j1∑tp(yj∣xi)1.
直观地可以把 p ( y j ( y_{j} (yj| x i x_{i} xi) 当 成 通 过 该 信 道 发 送 x i x_{i} xi 时接收到 y j _\mathrm{j~} j 的概 率。 上述定义中离散的意思是指输入输出字母表都是有限的而无记忆的意思是指输出字符 d i d_i di 被接收到的概率只依赖于当前的输入 c i c_i ci, 而与前面的输入无关。 还要注意到离散无记忆信道定义中的时间位置的独立性也就是通过信道传输一个字符发生错误的概率跟发送的时间以及该字符在码字中的位置无关。 进一步如果 ( c 1 ( c_1 (c1, ⋯ \cdots ⋯, c n c_n cn) 和 ( d 1 ( d_1 (d1, ⋯ \cdots ⋯, d n d_n dn) 分别是字母表 S S S和字母表 Q Q Q 上的长度为 n 的码字那么通过信道发送 c ( c 1 , ⋯ , c n ) (\mathfrak{c}_1,\cdots,\mathfrak{c}_{\mathfrak{n}}) (c1,⋯,cn)时接收到d ( d 1 , ⋯ , d n ) (\mathrm{d}_1,\cdots,\mathrm{d}_{\mathrm{n}}) (d1,⋯,dn)的概率为 p ( d ∣ c ) ∏ i 1 n p ( d i ∣ c i ) . \mathrm{p(d|c)\prod_{i1}^np(d_i|c_i).} p(d∣c)i1∏np(di∣ci). 输入概率
因为信道的输入本质上具有概率的特性所以可以把信道的输入当成随机变量 X 的值并且其输入概率分布由下式定义 P ( X x i ) p ( x i ) . \mathrm{P(Xx_i)p(x_i).} P(Xxi)p(xi). 输出概率
每个输入 X 会引发一个输出 Y, 输出概率分布由输入分布和信道概率所确定即 P ( Y y j ) ∑ i 1 s p ( y j ∣ x i ) p ( x i ) . \mathrm{P(Yy_j)\sum_{i1}^sp(y_j|x_i)p(x_i).} P(Yyj)i1∑sp(yj∣xi)p(xi).
联合分布概率
联合分布律由下式给出 P ( X x i , Y y j ) p ( y j ∣ x i ) p ( x i ) . \mathrm{P(Xx_i,Yy_j)p(y_j|x_i)p(x_i).} P(Xxi,Yyj)p(yj∣xi)p(xi). 信道逆向概率
信道逆向概率定义为 P ( X x i ∣ Y y j ) P ( X x i , Y y j ) P ( Y y j ) . \mathrm{P(Xx_i|Yy_j)\frac{P(Xx_i,Yy_j)}{P(Yy_j)}.} P(Xxi∣Yyj)P(Yyj)P(Xxi,Yyj). 一些记号
为方便起见会使用一些记号 p ( x i ) P ( X x i ) \mathrm{p(x_i)P(Xx_i)} p(xi)P(Xxi) p ( y j ) P ( Y y j ) \mathrm{p(y_j)P(Yy_j)} p(yj)P(Yyj) p ( x i , y j ) P ( X x i , Y y j ) \mathrm{p(x_i,y_j)P(Xx_i,Yy_j)} p(xi,yj)P(Xxi,Yyj) p ( x i ∣ y j ) P ( X x i ∣ Y y j ) \mathrm{p(x_i|y_j)P(Xx_i|Yy_j)} p(xi∣yj)P(Xxi∣Yyj) p ( y j ∣ x i ) P ( Y y j ∣ X x i ) \mathrm{p(y_j|x_i)P(Yy_j|Xx_i)} p(yj∣xi)P(Yyj∣Xxi) 示例1
一个重要的离散无记忆信道是前文用过的二元对称信道其输入输 出字母表为{0}1}。信道概率为 P ( 0 ∣ 1 ) P ( 1 ∣ 0 ) p P ( 0 ∣ 0 ) P ( 1 ∣ 1 ) 1 − p \begin{aligned}P\left(0\mid1\right)P\left(1\mid0\right)p\\P\left(0\mid0\right)P\left(1\mid1\right)1-p\end{aligned} P(0∣1)P(1∣0)pP(0∣0)P(1∣1)1−p也就是说交叉概率(每个比特传输的错误概率)为 p p p。 示例2
二元擦除信道的信道概率为 P ( 1 ∣ 1 ) r , P ( ? ∣ 1 ) s , P ( 0 ∣ 1 ) 1 − r − s P ( 0 ∣ 0 ) p , P ( ? ∣ 0 ) q , P ( 1 ∣ 0 ) 1 − p − q P(1\mid1)r\:,\:P(?\mid1)s\:,\:P(0\mid1)1-r-s\\P(0\mid0)p\:,\:P(?\mid0)q\:,\:P(1\mid0)1-p-q P(1∣1)r,P(?∣1)s,P(0∣1)1−r−sP(0∣0)p,P(?∣0)q,P(1∣0)1−p−q这里的“?”可以解释为输人丢失或者擦除。、
