诸暨东莞网站建设公司,室内设计师网站十大网站,企业网站需要多大带宽,珠宝品牌网站设计现在我们将焦点转移到一种叫做协变量转移的扰动上。我们在一个分类或回归设置中工作#xff0c;我们希望从x预测y#xff0c;并假设p≈(y | x)和p∗(y | x)是相同的(标记函数在训练和测试之间不会改变)
假设 (Covariate Shift)。对于列车分布p~和检验分布p∗#xff0c;我们…现在我们将焦点转移到一种叫做协变量转移的扰动上。我们在一个分类或回归设置中工作我们希望从x预测y并假设p≈(y | x)和p∗(y | x)是相同的(标记函数在训练和测试之间不会改变)
假设 (Covariate Shift)。对于列车分布p~和检验分布p∗我们假设p ~(y | x) p∗(y | x)对于所有x。
与因果推理的联系
倾向加权也可以用于因果推理。这里我们有一个协变量为X的患者治疗条件为T(通常T∈{0,1})结果为Y。我们的目标是估计治疗效果粗略地说它是E[Y | T 1]−EY | T 0。我们将在下面看到如何做到这一点让p∗0和p∗1分别是T 0和T 1的分布。然而首先我们需要更仔细地设置问题。
为了更仔细地设置问题我们使用潜在结果框架。在这个框架中实际上有两个变量Y(0)和Y(1)它们分别是我们设置T 0或T 1时的结果。这可能不同于以T为条件的结果分布因为可能存在T与Y相关的因素(例如如果T是吸烟Y是肺癌可能存在一些基因导致一个人更有可能吸烟更有可能患肺癌这说明了T和Y之间强烈的经验相关性;这是费雪提出的反对意见!)
当然在观察环境中有很多因素会造成T和Y之间的相关性例如病情较重的患者更有可能得到积极的治疗。只要这些因素作为协变量x的一部分被观察到我们就可以接受这一点。这就引出了无混杂假设:
假设 (非混杂性)。如果Y (0) Y(1)⊥T | X那么分布(X, T, Y (0) Y(1))就是无混杂的。换句话说治疗和结果应该是独立的取决于协变量X。
潜在结果框架的主要挑战是我们只观察到(X, T, Y (T))。换句话说我们只观察了实际应用的治疗T的结果这使得很难估计E[Y(1)]或E[Y(0)]。我们将把估计E[Y(1)]作为一个领域适应问题来处理并使用倾向加权。首先要注意的是通过澄清我们有 其中我们定义p∗1使得p∗1 (x, t, y) p≈(x)I[t 1]p≈(y | x, t 1);它在x上的分布与p ~相同但总是采用t 1的处理。由于p≈(y | x, t)几乎肯定 p∗(y | x, t)所以协变量移位假设成立。因此我们可以通过倾向加权估计p * 1下的期望: 对于分布p∗0 (x, t, Y) p≈(x)I[t 0]p≈(Y | x, t 0)计算Ep≈[Y(0)]同样适用
由于右边是用Y (T)表示的所以它只涉及可观测的量只要知道~ p(T | X)就可以从样本中估计出来。这个估计量被称为逆倾向加权因为它涉及除以倾向权重≈p(T | X)。
