基于本体的领域知识推理研究(txt+pdf+epub+mobi电子书下载)


发布时间:2020-05-27 03:49:44

点击下载

作者:徐国虎

出版社:湖北科学技术出版社

格式: AZW3, DOCX, EPUB, MOBI, PDF, TXT

基于本体的领域知识推理研究

基于本体的领域知识推理研究试读:

前言

基于本体的知识推理研究是情报学研究的一个全新领域,对这个新兴的领域进行探索具有非常重要的意义。首先,基于本体的知识推理一定程度上能够满足人们对知识元的需求,繁忙的工作和社会节奏使得人们对信息的需求转化为能直接满足其需求的精练知识甚至是知识元的需求,这使得信息的加工朝着知识推理与提炼的方向发展;其次,基于本体的知识推理符合语义网的发展趋势,语义网力求使计算机之间能够从语义层次上相互理解和沟通,其七层模型中的URI层、XML命名空间层、RDF(S)层和本体层的研究已经取得了突破性进展,但其逻辑层研究却成为语义网发展的瓶颈,至今关于智能推理的逻辑基础和规则描述语言还没有公认的成果出现;其三,基于本体的知识推理检索能够弥补传统信息检索的不足,传统的关键词检索方式由于是基于语词层面的结果匹配,这使得检索的查全率和查准率大受影响,而基于本体的知识推理是一种基于语义层面的检索,正好满足了人们对语义知识的需求。从这些角度看,探讨基于本体的知识推理问题,具有一定的理论意义和实践价值。

本著作的研究成果来源于笔者参与的国家自然科学基金项目“基于本体的数字图书馆检索模型研究”(批准号:7037304)中的子项目“基于本体的人文历史知识推理机制及其实现”。本书从知识推理的基本理论出发,探讨了本体知识推理的逻辑基础、本体知识库构建、语义关系分析、本体推理规则的定义与描述、本体推理引擎的功能等5个方面的问题,对基于本体的知识推理理论进行了深入分析,并结合国共合作领域本体的实例,进行了具体的推理实现。全书共计二十万余字,分八章。第一章主要阐述研究选题背景和意义、研究的内容与研究线路。第二章首先探讨了基于规则、基于模型、基于实例的三种知识推理范式,并指出基于本体的知识推理包含基于逻辑的领域知识检错推理和基于关系的蕴涵知识发现推理两种推理机制,其中后者就是从领域知识的语义关系分析入手确立推理规则的一种推理,其本质还是基于规则的知识推理范式,而这也是本著作研究的重点。第三章探讨了基于本体的知识推理的逻辑基础,介绍了描述逻辑的发展历程、描述逻辑与命题逻辑以及谓词逻辑之间的关系,分析了描述逻辑ALC与SHIQ的语义,在此基础上对三种常见的基于描述逻辑的本体描述语言:OIL、DAML +OIL、OWL的推理能力进行了比较,最后探讨了基于描述逻辑的本体推理的基本理论,并比较了数种常见的推理引擎,为后续的推理引擎选用给出充分的理论依据。第四章对推理实现的实例:国共合作领域本体库的结构、表示、存储等问题进行了研究,从而为第五章领域知识的语义关系分析奠定基础。第五章针对前期构建的国共合作领域本体库中的Is-a关系、Instance-of关系、SubAttribute-of关系、Instance-Instance关系等数种语义关系的特点和性质进行了分析,其重点是分析以上语义关系的可传递性、可逆性、对称性等,最后探讨了采用属性类的方法来解决本体语义关系描述中N元组的分解问题。第六章首先探讨了本体规则推理的基本原理,并在上一章对国共合作领域语义关系分析的理论基础上,定义了Is-a关系推理规则、Instance-of关系推理规则、Instance-Instance关系推理规则、SubAttribute-of关系推理规则等四大类规则,然后对数种主流的本体规则描述语言进行了比较,并据此选用了JRL语言对定义的国共合作领域本体推理规则进行了形式化描述。第七章探讨了分别利用开源的Racer和Jena2进行逻辑检错推理和蕴涵知识发现推理的具体实现问题,其中重点阐述了蕴涵知识发现推理的静态推理与动态推理、推理结果可视化和推理路径回溯等关键技术环节。第八章对整个研究进行总结,并指出了笔者认为后续研究应当继续深入的几个研究重点。

拙稿得以成书出版,首先应当感谢的是我的恩师武汉大学信息管理学院董慧教授以及马费成教授、胡昌平教授、娄策群教授、焦玉英教授与邱均平教授等多位老师,众位教授崇高的品格、严谨的治学态度、渊博的学识和注重创新的精神使我终生受益,感谢他们从系统实现线路的确定、开发工具的选用一直到书稿的顺利完成与文采润色的整个过程中提出的许多宝贵意见,在此表示诚挚的谢意。感谢同门好友,尤其是参加同一项目的余传明博士、杨宁博士、姜赢博士、张继东博士以及陆伟忠、敖青、陈亮、张华、夏杨等师弟师妹,正是他们的团结合作与辛苦努力,该项目研究才得以顺利开展,本书稿才得以顺利完成。感谢我的父母和岳父岳母以及爱人许芳博士和宝贝女儿徐子钰,他们多年的无私付出和真切期望让我倍感温暖,从而一路走来。同时本书的出版还得到了湖北科学技术出版社刘志敏女士的大力支持和帮助,在此表示由衷的谢意。徐国虎2008年1月第一章绪论1.1研究背景

本体技术目前已经成为计算机科学中的热点,在语义网、搜索引擎、知识管理、异构系统集成、电子商务、自然语言理解、知识工程、地理信息科学与数字图书馆等领域都有着重要应用。本书在语义网研究和知识管理及信息检索的背景下研究了本体在领域知识推理中的应用。下面从语义网、知识管理、信息检索等方面来阐述研究背景。1.1.1 语义网发展的瓶颈

所谓语义网(Semantic Web),其创始人Tim Berners-Lee将其定义为“An extension of the current web in which information is given well-defined meaning, better enabling computers and people to work in cooperation”,其层次结构包括Unicode(统一字符编码)和URI(统一资源定位符)层、XML+Name Space +XML Schema层、RDF+RDF Schema层、本体层、逻辑层、证明层和信任层等七层。

语义网自从21世纪初被提出,短短的数年间,众多的专家学者投身其中,发展迅猛。至今语义网本体层已取得了突破性的进展,W3C已经推出公认的本体描述语言OWL,同时涌现了众多的本体构建方法与工具。但语义网本体层之上的逻辑层与证明层却是目前语义网发展的瓶颈,主要表现为关于本体推理缺乏统一的规则语言,本体推理引擎各有千秋,缺乏一个主流的推理引擎,这些问题在一定程度上妨碍了采用不同形式化语言描述的领域本体的互联与融合,阻碍了网络异构数据的整合。因而现在语义网逻辑层的有关研究成为本体与语义网领域研究的新热点问题。1.1.2 传统信息检索遇到的难题

随着信息技术与网络的发展,信息检索的对象从相对封闭、稳定一致、集中管理的内容扩展到开放、动态、更新快、分布广泛、管理松散的网络内容;信息检索者也由原来的情报学专业人员扩展到包括商务人员、管理人员、教师学生、各专业人士等在内的普通大众,他们对信息检索从结果到方式提出了更高、更多样化的要求。因此适应网络化、智能化以及个性化的检索需要是目前信息检索技术发展的新趋势。

传统的检索模型有布尔逻辑模型、向量空间模型、概率模型等,这些检索技术虽然在一定程度上提高了查询效率,但由于其主要理论基础源于词形匹配或数量统计模型,因而传统的检索方法仅用单一的词或词的组合来进行检索,缺乏知识的处理,其返回的结果在查全率和查准率上都无法满足检索者的需求。总的来说,传统的信息检索机制存在三个深层次的问题:“忠实表达”问题、“表达差异”问题、“词汇孤岛”问题。这三个问题都与语义紧密相关,解决这三个问题的主要方向就是语义检索。其核心是用形式化本体描述背景知识,并明确化文档的语义,以便综合利用本体的表达能力和推理机制。在语义检索技术中,基于本体的知识推理对于从语义理解的角度分析检索请求,对知识库进行语义扩展查询是关键。1.1.3 知识管理工程化的趋势

关于知识管理理论的书籍与文章已经不计其数,需要强调的是,国外一些研究机构与学者已经开始尝试从工程的角度去研究知识管理,其中本体的技术与方法是这些研究机构与学者关注的一个重点。德国卡尔斯鲁厄(Karlsruhe)大学AIFB研究所和美国的KSL实验室的研究是体现本体应用于知识管理工程这一研究趋势的典型。

AIFB研究所在知识管理领域的研究不但广泛,而且非常深入,其与本体相关的研究课题包括知识表示和推理、基于本体的知识管理系统和语义知识门户等。美国斯坦福大学计算机科学系的知识系统实验室(KSL)的研究重点是构造基于本体的知识服务器和多用途术语知识库。知识共享是其核心项目,该项目的研究重心就是在多样表达范式之间建立共同的语言版本和推理模块。1.2研究意义

互联网的出现一方面极大地缓解了信息匮乏的局面,另一方面也使得人们对信息的需求发生了根本变化,即转化为对知识的需求,这使得对知识的描述朝着着重于语义组织的方向发展。在一定程度上,本体的技术与方法为此提供了好的解决思路,但应用本体来描述和组织知识也存在着本体构建工作量大、依赖于领域专家、知识逻辑错误难以发现等问题,这就使得我们的目光进一步转移,能否赋予本体一定的推理能力,从而解决这些问题。具体而言,以笔者参与的国家自然科学基金项目“基于本体的数字图书馆检索模型研究”(批准号为:70373047)开发的国共合作领域本体为例,基于本体的领域知识推理研究具有如下意义。1.2.1 检测本体知识逻辑错误

笔者在项目中所采用的本体描述语言是W3C组织推荐的OWL(Web Ontology Language)。OWL是一种基于描述逻辑的Web本体形式化描述语言。描述逻辑(Description Logic,简写DL)则是一种基于对象的知识表示的形式化逻辑工具,通过领域中概念的定义、实例的声明和关系的创建来描述领域知识,这和本体的思想是一致的。同时描述逻辑是一阶谓词逻辑的可判定子集,能够提供可判定的推理服务,并且具有语义特征。而OWL是基于描述逻辑的描述语言,这就意味着OWL中的类构造算子和公理都有相应的描述逻辑元素表示,这样利用OWL构建的本体库能够同时具备良好的表现能力和强大的推理能力。OWL能够很好地表现特定领域的知识结构和概念层次,同时建立概念和关系的蕴涵公理,在此基础上,本体库可保证知识结构的逻辑一致性和有逻辑保证的可拓展性。

基于描述逻辑的推理主要包括一致性检测、包含检测和本体实例检测等等。这些逻辑检测功能对于繁琐的本体库构建工作来说是非常有意义的。逻辑检测增强了开发人员发现本体库中逻辑错误的能力,减小了本体构建工作发生错误的可能性,减轻了管理和维护本体库的工作量。而且考虑到语义环境下本体库的可拓展性,逻辑检测对今后的本体库拓展和本体库集成也具有重大意义。1.2.2 发现本体领域蕴涵知识

与基于描述逻辑的检错推理互为补充的是基于规则的蕴涵知识推理。规则推理利用Rete算法,通过对组成规则的模式的依次匹配来得到满足规则的元组,进而得到推理结果。这种推理主要用来在大量显式描述的知识中发现蕴涵知识从而表现本体库知识中可推论的部分。例如本体库实例中大量存在的具有传递性的部分——整体的关系、家族关系等都可以通过推理来实现。“基于本体的数字图书馆检索模型研究”项目中所做的人物家族关系推理,仅仅通过人物的夫妻、父母、儿女、出生日期四个关系属性和“性别”数据属性就推理出38种新的家族关系。

这种蕴涵知识推理还可以用来支持用户的高级检索。例如用户可能需要查找西安事变前后一个月内所发生的事件,来获取西安事变发生的背景知识。这种与时间相关的事件知识在本体库中是没有定义的,我们就可以通过定义动态的查询规则对本体库已有的事件知识进行推理来得到检索结果。利用规则推理发现蕴涵知识,使得无论是开发人员还是本体库都可以避免陷入纷繁复杂的领域知识的语义关系网络中,开发人员可以专注于对整个知识领域框架的把握和理解。这样本体构建在更加简单有效的同时能够表现出丰富的领域知识。1.2.3 减少本体构建工作量

将两种推理方法结合应用到本体构建中,最显著的效果就是极大减少了本体构建的工作量,通过在现有本体库的基础上进行推理,我们可以得到一个更大的逻辑(虚拟)本体知识库,有效地拓展了前台能够检索到的领域知识的广度和深度。项目构建的国共合作领域本体知识库共建立了167个本体类、108个关系属性和13129个实例(其中事件本体实例761个,资源本体实例678个,组织本体实例951个,人物本体实例1712个,地点本体实例1361个,时间本体实例3361个,角色类实例2838个,其他类实例1480个),推理扩展后的本体知识库仅关系属性就增加到208个。试想,如果这些增加的部分都要在本体库中事先定义好的话,对于本体构建人员来说无疑是一场噩梦。1.2.4 减轻对领域专家的依赖

同时,引入推理还减轻了本体开发人员对领域专家的依赖。构建领域本体很重要的一点就是需要领域专家的强力支持。虽然开发人员具有丰富的本体知识和开发能力,但是对特定的知识领域却知之甚少,如果没有领域专家的参与,很难建立领域本体的概念模型和其中蕴涵的公理,甚至很难确定哪些知识是蕴涵的,哪些蕴涵知识又是值得推理的。所以,在国共两党关系领域本体构建过程中,笔者邀请了华中师范大学近现代史研究所的两位博士参与到本体库的构建工作中,得到了他们细致而专业的历史理论支持。然而在领域专家的工作中,很大一部分时间与精力放在了历史史实的确认和个体间关系的确定,这对于领域专家来说是一项简单而烦琐的工作,专家的争议随时会中断项目的进程。通过分析和研究,我们发现将这些分类确认和关系建立所蕴涵的模式编写成规则,利用推理来完成这方面的工作,具有很好的效果。这也使得项目开发减轻了对领域专家的依赖,加快了本体库的构建进度。1.3国内外相关工作1.3.1 国外研究情况

在上述背景下,国外有关领域的研究者开始把本体技术应用到知识发现与推理中来,其中富有代表性的成果主要有CONON、DR-Prolog、SweetJess、Racer、DROOLS、Jena等。

CONON由新加坡国立大学Hung Keng Pung等人开发,该系统在强大计算环境下提供了一个对文本建模的OWL表示的本体,它能捕获通用概念,并提供了对以层次形式描述的领域本体的扩展能力,在此基础上,将其与CYC顶层本体整合,以获得实验文本数据集,这些文本数据集以RDF三元组的形式表示,然后在LINUX环境下,构建推理规则,运用开源的Jena推理引擎来检验文本信息的一致性,并由低阶的显式文本知识推理出高阶的蕴涵知识。DR-Prolog由希腊CRete大学Grigoris Antoniou等人开发,该系统就运用规则方法对不完全和不一致信息进行可中止推理的问题进行了探讨,该系统规则兼容RuleML规则语言,包含了严格规则与可中止规则,不同规则之间具有优先权限,并具有良好的可扩展性,可被应用于不同知识领域的可中止推理。SweetJess由美国马里兰大学Mahesh D. Gandhe等人设计完成,它主要在规则语言RuleML与SCLP(Situated Courteous Logic Programs)逻辑程序的相互支持与转化以及不同规则语言的融合等方面进行了探索。首先一个基于DAML+OIL的规则语言RuleML本体被构建,并着重强调了对SCLP的表达能力,然后将RuleML规则语言表达的规则转化为Jess(Java Expert System Shell)所支持的规则,并给出了一个运用Jess规则推理引擎执行SCLP RuleML推理的实现框架。Racer由Hor-rocks等人开发,它基于SHIQ描述逻辑与Tableau算法,对TBox与ABox进行可满足性、包含性、一致性与实例查询等推理,它主要用于对本体知识库的逻辑检查。DROOLS是由Bob Mc-Whirter开发的一个开源推理引擎,它是基于规则的多模式匹配Rete算法的Java实现,充分利用了JSR94规则推理引擎的API,现在的DROOLS 2. 0Beta版支持多语言描述规则,共有三个语义模块:Python模块、Java模块和Groovy模块。Jena是由惠普实验室开发的一个对Java应用中元数据操作的开源框架,目前有Jena1和Jena2两个版本,Jena1提供了对RDF的强有力支持和受限的本体推理能力,Jena2在Je-na1的基础上,提供了本体操作API,支持OWL,整个Jena2框架由以下组件构成:Another RDF parser、API for RDF、API for ontologies with support for OWL, DAML and RDF schema、Reasoners、Persistent storage support、RDQL(query language for RDF)。1.3.2 国内研究现状

与国外的研究相比,国内的研究相对来说比较分散,基于本体的知识发现与推理的理论与应用研究涉及到了计算机、交通、教育、制造业、农业等领域。值得注意的是,国内相关研究在通用性问题的解决和研究深度两个方面与国外有一定差距,真正投入使用的也并不多见。

顾慧翔、俞勇设计了一个基于本体和一阶谓词推理的铁路信息查询系统。它利用RDF和本体描述语言,将互联网的标记信息进行语义化,构建事实库。该系统还构建了铁路领域的本体集,依照本体集将从互联网上获取的信息映射到本体实例,形成语义知识库。在此基础上,客户端接受来自用户的查询请求,将其传送到服务器端,并提交给一阶逻辑推理引擎,利用规则对知识库中的事实进行推理,得到最终的查询结果,客户端以文本和图形两种方式显示给用户。

胡鹤、刘大有探讨了本体技术与方法在时空信息表示与推理方面的应用。他们利用描述逻辑和一阶谓词逻辑的对应关系,给出了基于描述逻辑的时空本体定义,并在Protégé环境下实现了用OWL语言表示的时空本体。然后探讨了一种新的使用RCC理论来组合拓朴和方向关系的方法,并将经典的空间区域连接演算RCC-8关系划分成两类:方向敏感的部分和方向不敏感的部分,并应用这一性质来组合拓扑关系与方向关系以建立用于特定应用中表达和推理任务JEPD(jointly exhaustive and pairwise disjoint,简写为JEPD)集合,从而进行时空推理。

张大志、刘磊在对本体的概念、性质进行分析的基础上,结合应用实际,提出了一种本体的形式描述方法DecDef(Declare De-fine)。在这种描述方法中,把本体抽象成外部声明和内部表示两部分,并在这种描述方法的基础上,建立了本体内的简单推理模型,并且给出了这种形式描述的一个基于XML的系统模型以及一个具体的应用。

王洪伟、吴家春将描述逻辑应用到企业管理领域,初步建立了客户关系管理领域中客户知识的本体模型,包括173个术语(包含128个类,45个属性)、78个术语定义、27个实例及52个实例声明,并利用描述逻辑的Tableau算法对客户本体中的相关概念进行了可满足性、等价性、包含性及非交性推理检验。

云南师范大学的甘健侯在其学位论文“基于本体的语义WEB知识发现及其应用的研究”中将语义网中常见的知识推理机制分为两类:基于结构的知识推理和基于逻辑的知识推理,并重点探讨了基于概念层次结构和概念网络图结构的推理算法及实现,给出了基于概念层次结构的对称关系推理和逆关系推理的具体算法描述。

合肥工业大学的夏俊在其学位论文“语义网中基于本体知识库系统的自动推理研究”中,在探讨Web语义化的关键问题及研究现状和方向的基础上,研究了Tableau算法在语义网本体层逻辑推理中的应用,并对其进行了改进,提出了基于数据类型组的Tableau推理算法。对于蕴涵知识发现推理,主要采用Jess来实现,并对Rete算法进行了改进,最后开发了一个原型系统。1.4研究内容

本著作从知识推理的基本理论出发,探讨了本体知识推理的逻辑基础、本体知识库构建、语义关系分析、本体推理规则定义与描述、本体推理引擎的功能分析与比较等五个方面的问题,从而对基于本体的知识推理理论进行了深入分析,并结合国共合作领域本体进行了具体的推理实现。全书共计二十余万字,分八章,其具体内容如下:

第一章,绪论。主要阐述研究背景和意义、国内外相关研究的现状、研究方法与研究线路以及研究的难点与创新之处。

第二章,知识推理的基本理论。首先探讨了基于规则、基于模型、基于实例的三种知识推理范式,并指出基于本体的知识推理包含基于逻辑的领域知识检错推理和基于关系的蕴涵知识发现推理两种推理机制,其中后者是从领域知识的语义关系分析入手确立推理规则来进行推理,其本质还是基于规则的知识推理范式,而这也是本著作阐述的重点内容。

第三章,基于本体的知识推理的逻辑基础。探讨了基于本体的知识推理的逻辑基础,介绍了描述逻辑的发展历程、描述逻辑与命题逻辑以及谓词逻辑之间的关系,分析了描述逻辑ALC与SHIQ的语义,在此基础上对三种常见的基于描述逻辑的本体描述语言:OIL、DAML+OIL、OWL的推理能力进行了比较。最后探讨了基于描述逻辑的本体推理的基本理论,并比较了数种常见的推理引擎,为后续的推理引擎选用给出了充分的理论依据。

第四章,国共合作领域本体的构建。对推理实现的实例:国共合作领域本体库的结构、表示、存储等问题进行了研究,从而为第五章领域知识的语义关系分析奠定基础。

第五章,国共合作领域本体的语义关系分析。针对项目构建的国共合作领域本体库中的Is-a关系、Instance-of关系、SubAttribute-of关系、Instance-Instance关系的特点和性质进行了分析,其重点是分析以上语义关系的可传递性、可逆性、对称性等,最后探讨了采用属性类的方法来解决本体语义关系描述中N元组的分解问题。

第六章,国共合作领域本体推理规则的确立。首先探讨了本体规则推理的基本原理,并在上一章对国共合作领域语义关系分析的理论基础上,定义了Is-a关系推理规则、Instance-of关系推理规则、Instance-Instance关系推理规则、SubAttribute-of关系推理规则等四大类规则,然后对数种主流的本体规则描述语言进行了比较,并据此选用了JRL语言对定义的国共合作领域本体推理规则进行了形式化描述。

第七章,国共合作领域本体知识推理的具体实现。探讨了分别利用开源的Racer和Jena2进行逻辑检错推理和蕴涵知识发现推理的具体实现问题,其中重点阐述了蕴涵知识发现推理的静态推理与动态推理、推理结果可视化和推理路径回溯等关键技术环节。

第八章,总结。对基于本体的国共合作领域知识推理的研究工作进行了总结,指出整个研究中存在的不足以及后续工作中应当深入的研究重点。1.5研究线路与方法1.5.1 研究思路

项目“基于本体的数字图书馆检索模型”研究的基本思路是理论与实践相结合。首先与领域专家探讨,在已构建的国共领域本体库中,有哪些内容(知识)可以推理,值得推理,并确定两种基本的推理机制:基于逻辑的领域知识检错推理与基于关系的蕴涵知识发现推理。

基于逻辑的领域知识检错推理主要是在OWL语言的逻辑基础——描述逻辑的基础上,运用Tableau算法,对国共合作领域本体的概念层次、声明的实例以及实例间复杂的语义关系进行检测,以保证本体库结构的逻辑一致性和知识描述的正确性,为后续的蕴涵知识推理、本体库的拓展以及与其他领域本体库的集成提供逻辑保证;而基于关系的蕴涵知识发现推理主要是在国共合作领域本体库的概念层次与属性关系的基础上,采取规则推理策略,在本体库中进行模式匹配,以发现本体库中蕴涵的知识。

在参考国外研究成果并与领域专家商量的基础上,决定基于逻辑的领域知识检错推理直接在成熟的本体工具Jena中通过DIG协议来集成外部的Racer推理引擎插件在原始的本体库与蕴涵推理后的本体库中进行逻辑检错,并修改;而基于关系的蕴涵知识发现推理是领域本体知识推理开发的重点,拟采用Jena工具中内置的推理引擎进行开发。

在确定了基于关系的蕴涵知识发现推理的开发方向后,对常见的三种知识推理方法进行比较,选用规则推理方法。然后在对基于规则的本体推理的逻辑基础与算法基础等理论问题进行研究的基础上,对问世的多种规则语言(ORL、RuleML、SWRL等)与推理引擎(Racer、FaCT、Pellet、Jena、Jess)等进行比较,选择合适的规则描述语言与推理工具,然后分析国共合作领域本体的语义关系,与领域专家反复商谈确定推理规则,并对确立的规则运用所选的规则描述语言进行形式化描述,将形式化的规则文件再导入选定的推理引擎,并与原始的本体库数据绑定进行推理;充分考虑推理与检索流程的区别,并将其结果在可视化界面区别显示,对推理结果和推理过程可根据用户的要求予以直观展示。1.5.2 研究方法(1)文献调查法:对国内外发表的关于本体和知识推理的相关文献通过搜索引擎与各种文献数据库进行广泛收集,收集并仔细阅读了260多篇相关文献,为基于国共合作领域本体的知识推理研究提供了理论依据和知识储备。(2)案例分析法:从国内外已开发和正在开发的本体推理系统中选取若干具有代表性的案例进行分析研究,从中选用合适的关键技术与实现工具。(3)比较分析法:对三种基于描述逻辑的本体描述语言、五种国外成熟的推理引擎、五种常见的规则语言等进行比较,以选择适合于国共合作领域项目的本体描述语言、规则语言和推理引擎。(4)模型建立法:在对本体推理的逻辑基础与算法基础进行研究的基础上,利用开源的Racer与Jena2建立原型系统,实现了推理规则的表示、领域知识的逻辑检错以及基于关系的蕴涵知识推理等功能。1.6研究难点与创新之处1.6.1 研究难点(1)国共合作领域本体的语义关系分析研究。国共关系时间跨度长,内容繁多,史料浩瀚;国共两党关系纷繁复杂,历史长河中涌现了形形色色的数以万计的人物与组织机构,其关系也是错综复杂,它们与中国各阶级、各阶层、各民族、各党派、各社会团体都有着千丝万缕的联系;国共关系的近百年历史中,出现诸多的事件,包括政治、军事、经济、文化、教育以及外交等各个领域。这一切勾勒出国共关系的历史轮毂,要发现其语义关系,梳理出国共合作领域本体的知识规律,从而建立其推理规则库是具有相当难度的。(2)推理规则的描述与优化研究。在对国共合作领域本体语义关系进行分析,用自然语言初步概括出推理规则后,研究的难点就是推理规则的形式化描述及其优化研究。因为规则的形式化描述研究在国际上还处于一个未成熟阶段,没有一个统一的描述语言标准,常见的就有ORL、RuleMl、SWRL、OWLRule+等近十种之多;另外研发成功的本体推理引擎也有数种之多,而且不同推理引擎与规则描述语言之间还存在着兼容的问题。所以必须对常见的规则语言的描述能力进行比较,再考虑与推理引擎的兼容性来选定规则描述语言,然后考虑规则描述的精练化,并去掉冗余规则。规则的描述精练与优化直接决定了推理的效率。(3)利用Racer与Jena对推理模块的实现研究。由于国内缺乏类似项目的借鉴,利用Racer与Jena来实现国共合作领域本体知识逻辑检错推理和蕴涵知识发现推理具有一定的难度。其困难主要表现在Racer与Jena结构复杂难以掌握、动态规则推理中规则的动态生成以及推理路径的回溯和推理依据的具体展开等方面。1.6.2 研究创新(1)国内首次全面、系统地将本体思想和方法引入人文历史领域来进行知识组织与知识表现,构建了庞大的国共合作领域本体库。这弥补了国内本体技术在人文历史领域应用的空白,为人文社科知识的组织与表现提供了可供借鉴的新思路与新方法。(2)提出了基于本体的知识推理机制包含基于逻辑的领域知识检错推理和基于关系的蕴涵知识发现推理的观点,剖析了两种推理机制具体的推理任务与实现路线,探讨了两者之间的关系,并认为基于关系的蕴涵知识发现推理的关键在于对领域本体的语义关系进行准确分析,其本质还是基于规则的知识推理范式。(3)对基于本体的领域知识推理进行了系统研究,并开发了国共合作领域的知识推理原型系统,解决了领域本体知识逻辑检错、动态推理规则的实时构建与推理路径回溯以及推理可视化输出等技术难点。这在国内信息管理学界是首创,为本体在信息管理领域中的应用提供了可供借鉴的框架体系和可操作的范例。第二章知识推理的基本理论

知识是人类在实践中所积累的认识和经验的总和,反映了客观事物之间的关系。它是信息接受者通过对信息的提炼和推理而获得的正确结论,是人类通过信息对自然界、人类社会以及思维方式与运动规律的认识与掌握,是人类的大脑通过思维重新组合的、系统化的信息集合。人类掌握的知识要让计算机可以接受和理解,就必须借助一定的方法来对知识进行描述,这就是所谓的知识表示。也就是说,知识表示就是对人类大脑中的知识进行的一种描述,这种描述就是计算机可以接受和理解的某种数据结构。对知识进行表示的过程就是把知识编码成某种数据结构的过程,而知识表示常见方法有逻辑表示法、语义网络、框架表示法、脚本表示法以及本体描述方法等。而本书的立足点就是运用本体描述语言OWL来表示国共合作领域的知识,然后在这个构建的领域知识库中运用规则推理技术来发现领域蕴涵知识。因而,我们首先必须探讨什么是知识推理,人类思维的推理过程是怎样的,而计算机自动推理的方法又有哪些,这些推理方法又各有什么特点与缺陷等等这些基本的理论问题,并在明晰这些基本理论问题的基础上,来剖析基于本体的知识推理机制。2.1知识推理概述

推理是按某种策略由已知判断推出另一种判断的思维过程。计算机系统的自动推理过程相当于人类大脑的思维过程,随着计算机功能的日益强大,运用计算机来实现复杂推理任务也越加普遍。为了充分利用计算机的自动推理能力,有必要了解人类大脑思维的推理过程。2.1.1 人类推理思维

亚里士多德认为“人是有理性的动物”,而所谓的“理性”就是指一种认识能力,特别是有规则地、依据因果关系来思维的能力。这个意义上的理性在一定程度上就肯定了人类有一种从已有知识达到新知识的能力,即所谓的推理能力。根据我国著名科学家钱学森教授和杨春鼎教授的观点,人类大脑的推理主要有以下几种思维方法:

归类思维:人类在长期的生产与生活中把世间万事万物分为不同的种属类别,如动物、植物等。而当人类看到某一熟悉事物的时候,大脑就会自动的将其归为某一类别。比如,某人看到松树,就会想到它是木本植物,这就是人类大脑的归类思维。

启发思维:启发思维是指人类大脑从一般规律(通常是一些基本常识与常规惯例)中推断出某些结论。例如某妻子发现丈夫从单位辞职回家了,就断定他得罪单位领导了,因为她丈夫平时脾气很耿直,经常得罪人。

规则思维:规则思维是指人类大脑根据特定的已知规则来进行思考,并控制自己的行为过程。比如,行人横穿马路时,看到红灯亮了,他就会想到交通规则“红灯停,绿灯走”,他就会停步等绿灯亮了再过马路。

经验思维:经验思维是指人类大脑在遇到问题时就会自动与过去遇到的类似问题进行比较,并从过去问题的解决方法中尝试找出新的解决措施。比如某程序员在用Java做网络应用开发时,他自动地就会想起他曾经做过的类似项目,并将以前项目的一些成功经验与做法带入该项目,甚至将以前项目的部分代码直接复用过来。2.1.2 什么是自动知识推理

知识推理是按某种策略由已有知识推出另一种判断的思维过程。自动知识推理就是由计算机来实现知识推理的过程。通常,一个计算机系统的推理过程是通过推理引擎来完成的,所谓推理引擎就是系统中用来实现推理的那些程序。例如,在医疗诊断专家系统中,所有与诊断有关的医疗常识和专家经验都被保存在知识库中。当系统开始诊断疾病时,首先需要把病人的症状和检查结果放到症状知识库中,然后再从这些初始症状知识出发,按照某种策略在知识库中寻找可以匹配的知识,如果得到的是一些中间结论,还需要把它们作为已知事实放入知识库中,并继续寻找可以匹配的知识,如此反复直到得出最终结论为止。

上述计算机系统由初始知识出发到推出最终结论为止的这一过程就是自动知识推理,实现这一推理过程的计算机程序实现称为推理引擎。后文所述的知识推理都是指此意义上的计算机自动知识推理。推理过程是一个思维过程,计算机自动推理的质量与效率不仅依赖于所采用的推理方法与算法,还依赖于推理的控制策略。

在本体项目中,推理是以(多)领域本体知识库中已有的形式化知识为根据,按照一定的逻辑规则和内在公理来检查本体形式化知识的逻辑严密性和发现蕴涵的、未显式描述的知识,是一种基于规则的计算机自动知识推理。2.1.3 知识推理的控制策略

智能系统的自动推理过程相当于人类的思维过程,它不仅依赖于所用的推理方法,同时也依赖于推理的控制策略。有关知识推理的方法我们将在下一节详细论述。

推理的控制策略是指如何使用领域知识使推理过程尽快达到目标的策略,它主要包括推理方向控制策略、求解策略、限制策略、冲突消解策略、搜索策略等。推理方向控制策略用来确定推理的控制方式,即推理过程是从初始状态到目标还是从目标到初始状态,据此推理可分为正向推理、反向推理和混合推理;求解策略是指推理引擎仅求单一解还是所有解或最优解;冲突消解策略是指当推理过程有多条知识(可能是规则也可能是实例或模型)可用时,如何从中选取一个用于推理的策略。搜索策略主要包括深度优先搜索策略和广度优先搜索策略,一般用来解决推理路线与推理效果等问题。2.1.4 知识推理的应用

计算机自动推理在许多领域得到了广泛的应用,其中包括抽象代数与逻辑(定理证明)、决策支持系统、实时系统控制、软件自动化、医学诊断等各个方面,并且有很多比较成功的实践。

基于本体的知识推理是近年来兴起的热点,然而目前的本体知识系统普遍不能充分地理解和处理领域知识,尚未达到智能化。但自动推理研究中形成的思想方法和成果为本体知识系统在知识推理、问题求解的自动化、推理可视化等方面提供了极好的借鉴,为解决本体知识系统的智能化问题奠定了基础。2.2知识推理方法

计算机模拟人类大脑的思维活动来进行知识推理,其推理方法大致可分为三类:基于规则的推理、基于模型的推理和基于实例的推理。2.2.1 基于规则的推理方法

基于规则的推理方法(Rule-Based Reasoning, RBR)又称搜索型推理,是指运用产生式规则来进行知识推理。规则是一种比较接近于人们习惯的问题描述方式,具有简单、灵活和易于理解的特点,广泛用于表达启发性知识。这种推理通常没有预先确定的推理步骤,实际的推理步骤由初始情况和搜索过程给出,大多数情况下它是一种尝试性的匹配推理过程。

实现搜索推理的想法由来已久,因为这是最接近人类自然思维活动的推理方法。早在1977年专家系统之父、斯坦福大学计算机科学家费根鲍姆教授就总结了人工智能的成败,并认为规则推理是最具普遍意义的智能活动,系统地提出了以规则推理为核心的Feigenbaum设想。

在基于规则的推理方法中,推理知识被抽象为Case⇒Operation的形式,推理的一般方式如图2-1所示。它有三个组成部分:规则集合、动态寄存区、规则执行区。首先,初始事实送入动态寄存区,然后与规则集合中的模式匹配。若匹配成功,即送入规则执行区,执行推理操作,由已知事实产生或删除某一事实情况,或者执行其他的动作行为;若匹配不成功,则终止推理过程;若满足推理终止条件也终止。新的事实再次送入动态寄存区,并更新动态寄存区的状态特征。如此迭代反复,形成一个在规则集合和已知知识集的连续搜索过程。推理过程中采取一定的推理控制策略,可以在多种匹配可能的选择中引导合理的规则匹配,从而提高推理效率。规则执行区的运作方式主要分为两种:数据驱动和目标驱动。前者又称“正向推理”,是由已知条件推得结论的方式;后者又称“反向推理”,是由结论归结到条件的方式。图2-1 基于规则的推理方式

基于规则的自动推理往往没有预定的推理步骤,实际的推理步骤由初始事实和搜索过程给出,其推理控制程序和知识表达程序是截然分离的,因此便于修正初始知识而不影响推理控制程序,反之亦然。基于规则的机器推理方法更接近人的自然思维习惯,并且容易跟踪推理路径,具有良好的解释性。基于规则的自动推理可以应用于广泛的知识领域。2.2.2 基于模型的推理方法

基于模型的推理方法(Model-Based Reasoning, MBR)是随着计算机编程技术的发展而发展起来的,是当前人工智能领域的一个研究热点,其主要思想是根据系统的组成元件与元件之间的连接建立起推理模型,这种模型通常用一阶逻辑语句来描述。根据系统的逻辑模型以及系统的输入,我们能通过逻辑的推理论据导出系统在正常情况下预期的行为,如果观测到的系统实际行为与系统预期的行为有差异,就说明系统存在异常,并确定引发异常的元件集合,这就是基于模型的推理。基于模型的推理通常应用于工程机械诊断和异常处理等方面。

基于模型推理的实质是将相关领域研究对象的结构和知识精化、归纳并对原对象抽象描述后,表达出原对象的特性和行为,构建出该对象的物理模型(也可能是数学模型或结构模型)和相应的逻辑关系,以供专家系统在推理时使用深知识(与浅知识相对,和启发式知识不同它描述了研究对象的内部联系)的过程。基于模型的推理方法技术在建模上可由整体到局部分为:①组织模型,负责分配和调度整个系统中各个模块的功能;②模块模型,用于进行变换、嵌套、组合以产生复合输入问题的解;③组件模型,用于进行组件的功能特征和物理特征的构建及调试。MBR技术在理论上采用约束系统进行推理,首先运用组件描述语言(Component Description Lan-guage, CDL)将组件的约束特征描述出来;然后将约束特征转化入约束系统,进行推理。约束系统框架将输入问题的外部约束与组件及模块间的内部约束进行匹配和组合,最终得到推理结果。从推理的角度看,基于模型的推理方法又可以分为两大类,一类是基于一致的方法,另一类是溯因方法。

基于一致方法的提出最初是为了处理待诊断系统的正常行为模型。所谓的“一致”是指系统的行为描述(正常行为或异常行为)与观测无矛盾。溯因方法的提出最初是为了处理待诊断系统的故障行为模型,是用于推理出有关导致系统出现异常行为的某些元件。溯因推理的着手点是系统所表现出来的异常行为(症状),然后利用已建立的因果理论找出那些蕴涵症状的原因集合,最后利用启发式知识否定不可能候选诊断。

由于基于模型的推理方法有研究对象复杂、精准的后台模型支持,它的推理效果往往好过其他推理方法。但是也正因为它的推理需要上述对象模型,使得它只适合工作领域的规律已被完全掌握,且对系统建造时效要求不高的场合。也就是说,基于模型的推理方法也有其不足:首先是给出问题的约束要充分,否则会使系统无法控制约束,最终无法获得结果;其次不具有经验知识的记忆能力,知识的学习完全局限于模块模型。2.2.3 基于实例的推理方法

基于实例的推理方法(Case-Based Reasoning, CBR)起源于1982年美国学者Roger Schank关于人类学习和回忆的动态存储模型的研究工作,是近年来人工智能领域兴起的一种推理方法。第一个真正意义上基于CBR的专家系统是1983年由耶鲁大学Janet Kolodner教授领导开发的CYRUS系统,它以动态存储模型和问题求解、学习的MOP理论(Memory Organized Packet)为基础,来解决与旅行相关问题的咨询问答工作。

简单地说,基于实例的推理,是将过去成功的事例存入实例库,遇到新问题时,在实例库中寻找过去类似的事例,得到新问题的近似解答,再加以适当修改,使之完全适合于新问题的推理方法。具体而言,基于实例的推理过程可以分为四个阶段:获取相似的旧实例、重用实例并提出解决方案、修改实例和回收新实例,其推理流程如图2-2所示。图2-2 基于实例的推理过程图

人类思考往往是把事件或问题同以前的经验相联系。而基于实例的推理就是基于以往经验的推理,它就是通过回忆以前曾经成功解决过的相似问题,比较新旧问题发生背景和问题特征等方面的差异,经过一系列的调整、修改后重新使用以前的知识和信息,最终解决当前问题的一整套推理方法。其推理的工作过程为:分析输入(描述问题或情景),确定实例索引,根据索引从实例库中取出相近的实例,如果有完全匹配的实例,则问题就迎刃而解;如果没有,修改相似实例问题的求解方法并使之适应于要求解的新问题。如果成功,则创建索引,形成新实例并存储;若不成功,则先分析失败的原因,修正解法,重新测试,或重新指定索引,重新进行实例检索。也就是说,基于实例推理方法的中心任务就是:辨识当前问题的状态,找出与当前问题相似的实例,参考相似实例提出当前问题的解决方法,并评价该解决方案,然后更新系统的实例库以反映在这次问题的解决过程中所获得的经验和教训。

尽管CBR推理方法的中心任务如上所述,但不同的CBR推理系统对以上过程的具体实现又不尽相同,根据推理实现策略的不同,基于实例的推理又可分为基于示例的推理、基于事例的推理和基于存储的推理。

基于示例的推理(Exemplar-based reasoning)仅将问题的解决过程视为一个分类问题,即为待分类的事物找到一个相应的类。这样,最相近的实例就是此分类问题的解决方案,不需要额外的调整。

基于事例的推理(Instance-based reasoning)由基于示例的推理方法发展而来,这种推理方法为了弥补后台背景知识的不足和领域深层知识的缺乏,采用了数量较多的实例用以完成概念定义、分类等任务。基于事例的推理与基于示例推理的不同之处在于:基于示例推理需要知识密集的强大后台知识库的支持,而基于事例的推理不是通过对概念的人为加工和归纳来提高自身解决问题的能力,而是使用机器学习和归纳来达到以上目的的。

基于存储的推理(Memory-based reasoning)方法强调的是存储海量的实例,在需要时对实例库进行搜索,并提取解决方案的数据作为推理结果。在对CBR方法的研究中,很多都是关注在这种基于存储的推理上,因为实例存储的组织和访问是任何类型的CBR方法无法回避的问题。在对实例的访问和存储上,它或者依靠完全的机器自动判断或者依靠大量事前归纳总结的领域深层知识来完成。

基于实例的推理方法无需显式的领域知识模型,避免了知识获取瓶颈,因此它在知识难以表达或因果关系难以把握,但已积累丰富经验的领域,如工程规划和设计、故障诊断和法律咨询等,有非常大的优势并得到了广泛的应用。而且基于实例的推理系统易于维护,同时增量式的学习使实例库的覆盖度随系统使用逐渐增大。但它也有许多与生俱来的缺陷,如实例创建与标引复杂、工作量大,推理求解不能覆盖所有解空间,搜索时可能会漏掉最优解等。2.3基于本体的知识推理机制

在本体项目中,推理是以(多)领域本体知识库中已有的形式化知识为根据,按照一定的领域公理和规则来检查本体形式化知识的逻辑严密性和发现蕴涵的、未显式描述的知识,是一种基于规则的计算机自动知识推理。在国共合作领域项目中,推理是以构建的国共合作领域本体库中的OWL语义知识为根据的,是一种基于语义的知识推理。整个推理机制分为两类:基于逻辑的领域知识检错推理和基于关系的蕴涵知识发现推理。2.3.1 基于逻辑的领域知识检错推理

基于逻辑的领域知识检错推理主要是在OWL语言的逻辑基础——描述逻辑的基础上,运用Tableau算法对国共合作领域本体的概念层次、声明的实例以及实例间复杂的语义关系进行检测,以保证本体库结构的逻辑一致性和知识描述的正确性,为后续的蕴涵知识推理、本体库的拓展以及与其他领域本体库的集成提供逻辑保证。具体而言,基于逻辑的领域知识检测包括在本体术语库TBox和断言库ABox中进行包含性检测、可满足性检测、一致性检测等,其中可满足性检测是领域知识检测推理中的核心问题,因为在描述逻辑推理中,包含性问题与一致性问题都可化为可满足性问题,而基于描述逻辑的Tableau算法能在多项式时间内完成可满足性的推理问题。在项目中主要是在本体工具Jena中通过DIG协议集成外部的Racer推理引擎插件,来完成该项推理任务。由于在前期的本体库构建工作中,充分的参考了相关领域叙词表,反复听取了领域专家的指导意见,所以在运用Racer对国共合作领域本体库检测时,并没有发现大的逻辑错误,这也为后续的蕴涵知识推理开发提供了必需的逻辑保障和原始知识准备。因而本书的重点在于国共合作领域中蕴涵知识的发现推理。2.3.2 基于关系的蕴涵知识发现推理

基于关系的蕴涵知识发现推理就是在国共合作领域本体库的概念层次与属性关系的基础上,采取规则推理方法,在本体库中进行模式匹配,以发现事先未显式定义的新实例之间的关系和新断言的三元组知识。在推理过程中,主要考虑概念与概念之间的关系(超类、子类等关系)、概念与个体之间的关系(实例关系)、实例与实例之间的关系(亲缘关系、同事关系、因果关系等)以及关系与关系之间的关系和性质(父子关系、互逆关系、传递性和对称性等)。在蕴涵知识发现推理中,可以判断个体是否是某个或多个类的实例、判断某个类中所有的实例、判断两个实例之间的关系、判断与某个实例有特定关系的实例、推导类(属性)的层次体系结构等。关于蕴涵知识发现推理的实现,笔者在领域专家的帮助下,首先对国共合作领域本体的语义关系进行了详细的分析,然后确定了推理规则,并采用规则描述语言JRL进行了形式化描述,然后对形式化规则逐条在Jena2推理引擎的环境中进行测试并优化,从而形成蕴涵知识推理所需的规则集,然后将其文件绑定到开源的Jena2 com. hp. hpl. Jena. reasoner. rulesys包中,调用com. hp. hpl. Jena. reasoner. rulesys. builtins与com. hp. hpl. Jena. reasoner两个包分别对规则进行解析,并引入基于Rete算法的通用规则推理引擎进行规则模式匹配,从而获得推理结果。2.3.3 检错推理与发现推理的关系

由于国共合作历史领域历史跨度时间长、信息量大,因而领域本体构建工作复杂而又繁重。对于运用本体展现领域知识中所蕴涵的大量事实和复杂关系而言,本体知识推理是一个十分重要的技术手段,它可以大大减小对本体库进行维护、更新、检测和知识发现的工作。实践表明,基于逻辑的检错推理为发现推理提供了逻辑保障,而基于关系的蕴涵知识发现推理也在一定程度上为检错推理减少了工作量,这两种推理机制的综合运用为本体库拓展和集成提供了有利条件。(1)检错推理为发现推理提供逻辑保障。基于描述逻辑的检错推理工作的一部分就是针对项目前期构建的国共合作本体库进行逻辑检查,主要包括一致性检测、包含检测和本体实例检测。这些逻辑检测工作增强了开发人员发现本体库中逻辑错误的能力,减小了本体构建工作中由于本体构建工作人员的认识局限性或疏忽大意从而导致本体描述的领域知识发生错误的可能性。经过检错推理后,国共合作领域本体库的知识结构和概念层次以及实例声明的逻辑更加严密,其体系结构也更为合理。在经过逻辑检错推理的本体库中进行蕴涵知识推理,在一定程度上就避免了“以谬推谬”。也就是说,检错推理为发现推理提供逻辑保障。(2)发现推理为检错推理减轻工作量。通过在现有本体库的基础上进行蕴涵知识发现推理,我们得到了一个更大的逻辑(虚拟)本体库,有效地拓展了前台能够检索到的领域知识的广度和深度。国共合作领域本体库共建立了167个本体类、108个关系属性和13129个实例(其中事件本体实例761个,资源本体实例678个,组织本体实例951个,人物本体实例1712个,地点本体实例1361个,时间本体实例3361个,角色类实例2838个,其他类实例1480个),通过蕴涵推理得到的新本体库仅关系属性就增加到208个。试想,如果这些增加的部分都要在本体库中事先描述好的话,其本体构建工作和逻辑检测工作无疑是重上加重。我们通过分析国共合作领域中的关系,并依据这些复杂关系中所蕴涵的模式来编写推理规则。只要推理规则描述正确以及推理所用的原始数据正确,通过Jena2内置的推理引擎所得到的蕴涵知识就是正确的。但是,假若这些蕴涵知识全部在原始数据的基础上,通过手工添加到本体库中,那毫无疑问,它是不可能百分之百正确的。所以说,基于关系的蕴涵知识发现推理在一定程度上减轻了本体构建工作量,从而也减轻了本体逻辑检错推理的工作量。(3)发现推理和检错推理互为补充。通过基于关系的规则推理来发现蕴涵知识,使得开发人员可以避免陷入纷繁复杂的领域知识语义关系网络中,开发人员可以专注于对整个知识领域框架的把握和理解。这样本体构建在更加简单、有效率的同时能够表现出更加丰富的领域知识。基于逻辑的检错推理又事先保证了本体描述知识的逻辑严明性,为发现推理提供了有逻辑保障的原始数据,而发现推理也在一定程度上减少了本体构建工作和逻辑检测工作量,所以说发现推理与检错推理互为补充,将两种推理方法结合应用到本体项目中,最显著的效果就是极大减少了本体构建的工作量,保证了本体描述知识的逻辑正确性,减少了对领域专家的依赖,从而为本体库拓展和多本体集成提供了有利的条件。

试读结束[说明:试读内容隐藏了图片]

下载完整电子书


相关推荐

最新文章


© 2020 txtepub下载