房产搜索引擎主要使用拼写检查
Posted: Tue Feb 11, 2025 10:09 am
房产搜索的框架搭建 实际上,搜索引擎是一个复杂的系统,它需要通过搜索用户输入的查询来从大量的数据中筛选出最符合用户需求的结果。整个搜索引擎包括qery理解、召回和排序、重排等多个模块。下面将介绍房产搜索引擎的整体框架以及每个模块的作用。 Qery理解 Qery理解可以被视为一种分析过程。对用户输入的qery进行预处理、分词、纠错、扩展、意图识别、赋予权重等操作,再做为检索条件进行数据召回。 深度解析 | 房产垂直搜索引擎构建上 这个过程可能比较复杂,我们可以通过一个例子来进行简单分析。
例如,用户输入qery为:“hoyng 两居的二手房、”,可以进行以下操作: 预处理 预处理指对整个输入qery进行简单处理,将大小转换为小写、无意义符号去除、停用词去除、半角转换、过长截断、繁转简等。通过上述方法,对数据进行初步处理。 对上述qery做预处理后可以得到:“hoyng两居二手房” 分词 分词Tokeniztion指根据一些规则,将一段文本切换为若干个字 西班牙电话号码表 或词语的流程,如“永远有光芒”,可拆分为“永远有光芒”,这里的每一个字或词可以看作一个输入单元Token,OenI的的收费标准便是按Token为单位计费的。
常见的分词工具有jieHnL、NLR、THL、IK nlyzer。值得一提的是,大多分词工具也支持自定义词典。对于垂直搜索引擎而言,结合分词工具和自定义词典切分自然语言十分方便。 通过使用分词工具,我们可以将qery可切分为“hoyng”、“两居”、“二手房”个Token。 纠错 纠错Qery orretion是预处理中的重要流程之一,通过对用户输入的qery进行修正或重写,提高搜索结果的精准度。纠错一般包括以下几种方法:拼写检查、词典纠错、基于上下文纠错、机器学习、深度学习等方法。
基于词典纠错等方法。 关于机器学习或深度学习,主要采用HMM、SeqSeq、Trnsrmer、ointer-Genertor Networks等模型进行改写生成。另外,ERT的应用也是不错的选择,在工业界被广泛应用。 根据纠错规则,此处将qery处理为“朝阳两居二手房”。 扩展 扩展Exnsion一般指对用户的qery进行扩展,以便召回更多符合用户需求的数据。扩展通常有以下方法: 同义词扩展:将查询词中的同近义词进行转换或替换。
例如,用户输入qery为:“hoyng 两居的二手房、”,可以进行以下操作: 预处理 预处理指对整个输入qery进行简单处理,将大小转换为小写、无意义符号去除、停用词去除、半角转换、过长截断、繁转简等。通过上述方法,对数据进行初步处理。 对上述qery做预处理后可以得到:“hoyng两居二手房” 分词 分词Tokeniztion指根据一些规则,将一段文本切换为若干个字 西班牙电话号码表 或词语的流程,如“永远有光芒”,可拆分为“永远有光芒”,这里的每一个字或词可以看作一个输入单元Token,OenI的的收费标准便是按Token为单位计费的。
常见的分词工具有jieHnL、NLR、THL、IK nlyzer。值得一提的是,大多分词工具也支持自定义词典。对于垂直搜索引擎而言,结合分词工具和自定义词典切分自然语言十分方便。 通过使用分词工具,我们可以将qery可切分为“hoyng”、“两居”、“二手房”个Token。 纠错 纠错Qery orretion是预处理中的重要流程之一,通过对用户输入的qery进行修正或重写,提高搜索结果的精准度。纠错一般包括以下几种方法:拼写检查、词典纠错、基于上下文纠错、机器学习、深度学习等方法。
基于词典纠错等方法。 关于机器学习或深度学习,主要采用HMM、SeqSeq、Trnsrmer、ointer-Genertor Networks等模型进行改写生成。另外,ERT的应用也是不错的选择,在工业界被广泛应用。 根据纠错规则,此处将qery处理为“朝阳两居二手房”。 扩展 扩展Exnsion一般指对用户的qery进行扩展,以便召回更多符合用户需求的数据。扩展通常有以下方法: 同义词扩展:将查询词中的同近义词进行转换或替换。