使用 ScaNN 进行高效检索以进行检索 7使用 TensorFlow 构建推荐系统 Efficient serving with ScaNN for retrieval

上篇博客讲了theano scan()，这里主要比较他们的差别，其实这两个函数都是用来做迭代的，其实看官网API也写得很详细，也不难。 官方文档 tf.scan( fn, elems, initializer=None, parallel_iterations=10, back_prop=True, swap_memory=False, in...

Scanner对象 java.util.Scanner是Java5的新特性，我们可以通过Scanner类来获取用户的输入。 基础语法： Scanner scanner = new Scanner(System.in); 通过Scanner类的**next()与nextLine()**方法获取输入的字符串， 在读取钱我们一般需要使用 ...

@[tf.scan()函数使用介绍] tf.scan()帮助文档 在python交互式解释器下输入help(tf.scan)查看帮助文档这句话说明了scan的作用。他将张量elems的第一维元素list作函数计算，带入至fn，作为参数，累加作用，直到遍历完elems的所有一维元素。作用类似于functools里面的reduce函数。 Demo 1维数组： scan会取出nums每一个一维数据，在...

假设一个人想要使用需要完全匹配标题、作者或其他易于机器索引的标准的查询来搜索大型文学作品数据集。这样的任务非常适合使用 SQL 等语言的关系数据库。但是，如果想要支持更抽象的查询，例如“内战诗歌”，则不再可能依赖简单的相似性指标，例如两个短语之间的共同词数。例如，查询“科幻小说”与“未来”的相关性比与“地球科学”的相关性更高，尽管前者有 0，而后者有 1，与查询相同的词。 机器学习 (ML) 极大地提高了计算机理解语言语义并因此回答这些抽象查询的能力。现代 ML 模型可以将文本和图像等输入转换为嵌入、高维向

ScaNN是一款功能强大的相似度搜索工具，结合其他AI工具可以实现功能强大的应用。你可以进一步了解ScaNN的官网以及Langchain-Community的资源来拓展你的知识。

文 / 软件工程师 Philip Sun，Google Research 人们要从大量的文学作品中进行搜索，一般需要使用与标题、作者或其他易于机器索引的标准完全匹配的查询条件。那么使用 SQL 等语言的关系型数据库可以轻松完成此类任务。 但是，如果想要查询如 ‘内战期间的诗歌’ 这类比较抽象的内容，就无法再依赖如对比短语之间共同单词数量等简单的相似性指标。如，“科幻小说 (Science Fiction)”与“未来 (Future)”的关系比与“地球科学 (Earth Science)...

ScaNN是一种专为大规模数据集设计的近邻搜索方法，支持最大内积搜索（Maximum Inner Product Search），同时兼容其他距离函数如欧几里得距离。其实现针对支持AVX2的x86处理器进行了优化。ScaNN在大规模数据集上的高效性和可扩展性使其成为向量检索的理想选择。Langchain官方文档ScaNN算法和实现细节。

ScaNN是一个高效且灵活的工具，特别适用于需要大规模处理向量相似性搜索的应用。ScaNN论文Langchain 文档。

ScaNN是一款由Google Research开发的工具，专为大规模向量搜索设计。它引入了搜索空间剪枝和量化技术来加速内积最大化搜索，同时支持其他距离函数如欧氏距离等。ScaNN的实现针对支持AVX2的x86处理器进行了优化。ScaNN是处理大规模向量搜索任务的强大工具。通过结合如Langchain和Huggingface等工具，可以实现高效且准确的检索系统。想要深入学习，请参考Google Research的ScaNN GitHub仓库。

最朴素的想法就是，每次来了一个新的查询数据（query），都遍历一遍数据候选集（dataset）里面的所有数据，计算出query与dataset中所有元素的相似度或者距离，然后精准地返回TopK相似的数据即可。在搜索的业务场景下，基于一个现有的数据候选集（dataset），需要对新来的一个或者多个数据进行查询（query），返回在数据候选集中与该查询最相似的TopK数据。但是当数据候选集特别大的时候，遍历一遍数据候选集里面的所有元素就会耗费过多的时间，其时间复杂度是。.........

通过本文介绍的方法，您可以深入理解和使用ScaNN进行高效的向量相似性检索。ScaNN GitHub 项目Hugging Face Embeddings 文档。

Milvus 从 2.3 版本开始，在 Knowhere 中支持了 ScaNN 算法，在各项 benchmark 中有着不俗的表现。例如，在 Cohere 数据集 Recall 约 95% 的时候，使用 Knowhere 2.x 版本端到端的 QPS 是 IVF_FLAT 的 7 倍，HNSW 的 1.2 倍。Faiss 实现的 ScaNN，又名 FastScan，它使用更小的 PQ 编码和相应的指令集，可以更为友好地访问 CPU 寄存器，展示出优秀的索引性能。

传统的搜索，使用关键做精确的查找，利用倒排索引在索引库中搜索。日常在用的百度，Google都属于关键词搜索。 在 AI 时代我们需要查找一张相似的图片，一个问题的答案，或者根据一段音乐查找对应的歌曲，这些情况下没有准确的关键词用来做检索。 这些图片，问题（文本），语音，不再是简单的一个一维量化的数字，而是包含了大量的属性特征。 因而不合适使用传统的关键字搜索引擎来查找。 对于文本，图片，语音，视频，DNA信息等等，都可用向量来表示，数据被特征化处理后用来表示这条数据的向量称之为 Embedding

主要分为和两大方向。

ScaNN通过搜索空间剪枝和量化来优化最大内积搜索，支持欧氏距离等其他距离函数。其实现针对支持AVX2的x86处理器进行优化。开发者可以通过 ScaNN 的GitHub了解更多详细信息。ScaNN提供了一种高效的向量相似性搜索方法，适用于大规模数据集的处理。Vector Store指南。

ScaNN提供了一种高效的方法来处理大规模数据集的向量相似搜索需求。通过本文介绍的基本集成和使用方法，您可以在自己的项目中实现快速高效的相似搜索。