weixin_49672862的博客

原创 传统检索:BM25 及其变体与 DocT5query 检索算法对比

查询“神经网络原理”分解为词“神经”“网络”“原理”，文档得分基于优化后的 IDF 和默认参数，排名靠前文档为包含查询词的适中长度文档。: 查询“深度学习”通过翻译模型扩展为“deep learning”“神经网络”，文档包含扩展词的得分更高，排名更准确。: 查询“深度学习应用”分解为词“深度”“学习”“应用”，长文档因非线性归一化获得更公平的得分，排名更均衡。: BM25 的变体，优化文档长度归一化，引入非线性长度惩罚，减少对短文档的偏见，适合长文档检索。待定DocT5query。

原创 密集检索模型

原创 生成式检索模型

以下表格总结了各模型的关键属性，方便对比分析：

原创 github的使用

【代码】github的使用。

原创 服务器配置PyCharm

【代码】服务器配置PyCharm。

原创 Mqtt服务器搭建

MQTT 是一种轻量级消息发布/订阅协议，适合物联网设备通信。MQTT Broker（代理服务器）：负责消息的转发，所有客户端（发布者和订阅者）都连接到Broker。客户端：可以是树莓派，PC，手机等，通过Broker发送或接收消息。

原创 利用语用推理改进稀疏检索

传统 RSA ：一个说话者和 10 个学生，每次都能细致地推理他们的反应；RRA：要面向 10 万用户，不能逐个分析，只能做压缩优化，但仍保留推理精髓。

原创 conda环境保存

目的：防止环境崩溃，提前备份文件环境。

原创 树莓派使用

配置用户名，主机名默认，只有配置你的wifi他才会开机自动连接。选择相应内容烧录到SD卡中。

原创 DocT5query

设置top_k参数决定对前多少个检索评估。

原创 t5-base模型问题以及注意点

Tokenizer：1000000000000000019884624838656，序列转换器长度错误。“n_positions”: 512，模型输入序列最大长度正确。解决方法：添加T5缺失文件，即选中的文件。添加后再次执行的结果（变为正确）只需要关注以下两个参数。

原创 DSI生成式检索

Decoder-only Search Index(2022年)

原创 mengzi-t5-base模型的使用

只能作为填词模型进行使用，根据特性微调以便适应下游任务。<extra_id_0>处是你想让模型输出的内容。

原创 hugging-face模型下载与使用

Files进行模型本地下载（设置好浏览器下载路径后，点击每个文件后的下载，注意所有文件都要下载，这里我的下载路径为"D:\model\Qwen-7B-Chat"）Model card有模型概述以及需要什么模型之外的额外插件以及模型使用方法（Transformers Usage） 下拉后找到此词条。模型页面，左边可以选择相应任务筛选模型，右边为可使用模型实体。以下是官方给出的代码，其他模型类似（只修改了模型加载地址）hugging-face链接，需要设置外网访问。

原创 RepBERT检索方法，以及CLS和last_hidden_state

【代码】RepBERT检索方法，以及CLS和last_hidden_state。

原创 密集段落检索 （DPR）

由于上述 input_ids，embeddings 方法回提示警告让传入attention_mask。因此我采用直接**inputs 语法将字典解包为关键字参数。**注意：**中文需要进行分析，否则编码器按字进行编码。

原创 BM25-ADPT和BM25T

查询算法继承实现

原创 BM25检索

BM25类检索。

原创 Anaconda安装Pyserini

配置环境变量CLASSPATH。下载缺失包，并进行移动。

原创 conda配置拉取github代码

SSH 连接问题可能由于密钥选择不正确引起。[email protected]:castorini/pyserini.git替换成你自己的。登录到 GitHub，进入你的 Settings 页面。在左侧导航栏中，点击 SSH and GPG keys。[email protected]你的邮箱。点击 New SSH key 按钮，粘贴公钥并保存。远程仓库代码需要用git进行拉取。根据密钥保存位置找到密钥并复制。