重庆做网站changeke,营销和销售的区别,专业微信网站建设公司首选公司,理财网站免费建设文章目录 企业表相似类别筛选实战项目背景介绍效果展示基于规则的效果基于向量相似的效果 说明相关文章推荐 企业表相似类别筛选实战
项目背景
在当下RAG#xff08;检索增强生成#xff09;技术应用不断发展的背景下#xff0c;掌握文本相似算法不仅能够助力信息检索检索增强生成技术应用不断发展的背景下掌握文本相似算法不仅能够助力信息检索还可用于评估生成式LLM的效果。
介绍
文本分类是现实生活中常见的任务之一。在企业分类中类别数量通常达到数百个为了方便理清这些类别间的关系、筛选出相似类别变得尤为重要。本项目旨在解决这一需求。
本项目的代码开源在GitHub欢迎Star和Donate! 地址https://github.com/JieShenAI/csdn/tree/main/25/01/文本相似_企业表筛选_实战
效果展示
本文通过基于规则的google_bleu方法和基于向量的相似度计算对企业类别间的相似度进行测算并展示了两种方法的筛选结果。
候选集的表格为 alter_values.xls通过遍历 init_values.xls 中的条目从候选集中筛选出前 TopK 个最相似的条目。
基于规则的效果
规则方法主要基于字符层面的相似度计算使用 google_bleu 算法完成效果如下图所示 行业分类属性列 来自 init_values.xls。
【0-9】属性列代表与行业分类属性列中值相似的前 Top 10 个值相似程度从高到低递减0 属性列为最相似。
由google_bleu 支持字符串的相似得分计算主要是基于字符层面的。
可以改进的点在分词的时候采用字分词每个单字为一个词。在分词时可通过引入 jieba分词 和自定义领域词典进行优化。
基于向量相似的效果
向量相似方法采用嵌入模型能够抓取文本的深层语义信息避免仅局限于字符表面匹配。
使用 jina-embeddings-v2-base-zh 作为嵌入模型点击查看该模型的介绍 https://modelscope.cn/models/jinaai/jina-embeddings-v2-base-zh 使用基于向量的相似度计算能够把握住文本深层次的语义信息不会仅仅是表面的字符。
相比规则算法向量方法能有效筛选出语义相近的类别例如
规则方法可能错误地将“房地产中介服务”筛选为与“中 国 共 产 党 机 关”相关的条目向量方法则能准确找到更贴合语义的结果如“国家权力机构”或“共青团”。
基于规则
行业分类0123456789中国共产党机关中国共产党机关中成药生产房地产中介服务国家机构国家权力机构国家行政机构其他国家机构公共安全管理机构生产专用起重机制造其他未列明国家机构
基于向量
行业分类0123456789中国共产党机关中国共产党机关国家权力机构共青团国家行政机构人民检察院国家机构监察委员会、人民法院和人民检察院人民政协、民主党派人民政协基层群众自治组织及其他组织
可以发现基于规则找出的与中 国 共 产 党 机 关相关条目其中居然包含有中成药生产、房地产中介服务 。
说明 data: 存放原始数据目录
rule.py: 基于规则的相似度筛选代码
vector.py: 基于向量的相似度筛选代码参考 chroma. https://python.langchain.com/docs/integrations/vectorstores/chroma/
向量筛选.csv 与 规则筛选.csv 是最终的输出结果
代码复用通过对两个表格与表头的替换即可实现代码复用
相关文章推荐
三种文本相似计算方法规则、向量与大模型裁判.https://blog.csdn.net/sjxgghg/article/details/145209050
