逻辑与推理
逻辑与推理¶
1.命题逻辑¶
2.谓词逻辑¶
3.知识图谱推理¶
知识图谱
由有向图构成,每个结点表示客观世界的一个实体,结点间的连线表示关系
- 从数据到知识:归纳
- 从知识到数据:演绎
归纳学习
- ILP:归纳逻辑程序设计
- FOIL:ILP的代表性方法,通过序贯覆盖学习推理
FOIL算法概述
输入:目标谓词、目标谓词的训练样例
目标谓词是需要推断规则的结论,也称为规则头
为了学习推理规则,需要构造目标谓词的训练样例:
- 正例集合
- 反例集合
还需要其他背景知识:背景知识来自知识图谱中目标谓词以外的其他谓词实例化结果
FOIL算法思路
从一般到特殊,逐一添加前提约束词
推理结束:覆盖所有样本正例而不覆盖任意反例,展示了”归纳学习“的能力;在学到推理规则后,再为规则赋值经过”演绎“得到新知识。
FOIL信息增益
用于判断增加后质量的好坏
路径排序算法
是一种利用标注数据的监督学习。
-
特征抽取:生成并选择路径特征集合
- 随机游走
- 广度优先搜索
- 深度优先搜索
- 特征计算
-
分类器训练:分类器用于判断节点之间是否具有分类器所能辨认的关系
4.概率图推理¶
概率图的定义
两个结点之间存在边,可视为两个结点之前有不一定100%发生的影响。
基于概率图的推理即为概率推理。
概率图模型的分类
- 贝叶斯网络:用一个有向无环图表示。有向边表示结点之间的单向概率依赖
- 贝叶斯网络满足局部马尔可夫性,即在给定一个结点的父节点的情况下,该父节点有条件地独立于他的非后代结点
- 马尔可夫网络:无向边表示节点和结点之间的相互概率依赖
5.因果推理¶
克服辛普森悖论
- 因果关联:存在因果关系
- 混淆关联:待研究的两个变量存在共同的原因变量:性别会影响到患者吃药与否以及恢复速率,忽略性别,则吃药与否和回复率间就存在混淆关联;这种相关会随外界因素变化而变化
- 选择关联:待研究的两个变量存在共同的结果变量;这种相关会随外界因素变化而变化
因果分析的两种理论框架
- 潜在结果框架
- 结构因果模型(因果图)
- 结构因果图是一种有向无环图(DAG),DAG刻画了图中所有结点之间的依赖关系,可用于描述数据的生成机制。这样描述变量联合分布或数据生成机制的模型被称为贝叶斯网络
因果图
因果图的优势:易于计算变量的联合概率
找规律即可。
因果干预与do算子
- 干预:改变明确存在关联关系的某变量取值,研究取值改变对结果变量的影响
- do算子:从因果分析角度实现干预。判断改变取值是否是原因要素