Manticore Search 支持将机器学习模型生成的嵌入向量添加到每个文档中，然后对它们进行最近邻搜索。这使您可以基于NLP算法构建相似性搜索、推荐、语义搜索和相关性排序等功能，包括图像、视频和声音搜索等。
要将KNN向量搜索与全文搜索结合以获得更好的相关性，请参阅混合搜索。
嵌入是一种表示数据的方法 - 例如文本、图像或声音 - 作为高维空间中的向量。这些向量的构造是为了确保它们之间的距离反映了它们所代表数据的相似性。此过程通常使用诸如词嵌入（例如Word2Vec、BERT）用于文本或神经网络用于图像的算法。向量空间的高维特性，每个向量有多个分量，允许表示项目之间复杂而细致的关系。它们的相似性通过这些向量之间的距离来衡量，通常使用欧几里得距离或余弦相似度等方法。
Manticore Search 使用 HNSW 库启用 k-最近邻（KNN）向量搜索。此功能是 Manticore Columnar Library 的一部分。
要运行 KNN 搜索，您必须首先配置您的表。浮点向量和 KNN 搜索仅在实时表（而不是普通表）中受支持。表需要至少一个 float_vector 属性，作为数据向量。您需要指定以下属性：
-
knn_type: 必填设置；目前仅支持hnsw。 -
knn_dims: 必填设置，指定要索引的向量的维度。 -
hnsw_similarity: 必填设置，指定 HNSW 索引使用的距离函数。可接受的值为：L2- 平方 L2IP- 点积COSINE- 余弦相似度
注意： 使用
COSINE相似度时，插入时向量会自动归一化。这意味着存储的向量值可能与原始输入值不同，因为它们将被转换为单位向量（数学长度/幅度为 1.0 的向量），以实现高效的余弦相似度计算。这种归一化保留了向量的方向，同时标准化了其长度。 -
hnsw_m: 可选设置，定义图中出边的最大数量。默认值为 16。 -
hnsw_ef_construction: 可选设置，定义构建时间/准确性权衡。默认值为 200。
- SQL
- Config
create table test ( title text, image_vector float_vector knn_type='hnsw' knn_dims='4' hnsw_similarity='l2' );Query OK, 0 rows affected (0.01 sec)使用向量数据最简单的方法是使用 自动嵌入。使用此功能时，您创建一个带有 MODEL_NAME 和 FROM 参数的表，然后只需插入您的文本数据 - Manticore 会为您自动生成嵌入。
创建自动嵌入表时，请指定：
MODEL_NAME: 要使用的嵌入模型FROM: 用于生成嵌入的字段（留空表示所有文本/字符串字段）API_KEY: 远程模型（OpenAI、Voyage、Jina）需要。在表创建期间通过实际 API 请求验证 API 密钥。API_URL: 可选。自定义 API 端点 URL。如果未指定，则使用默认提供程序端点（例如，OpenAI 的https://api.openai.com/v1/embeddings）。API_TIMEOUT: 可选。API 请求的 HTTP 超时时间（以秒为单位）。默认为 10 秒。设置为'0'以使用默认超时。适用于表创建期间的验证请求和插入操作期间的嵌入生成。
支持的嵌入模型：
| 模型类型 | 示例 | 需要 API 密钥 | 说明 |
|------------|---------|-----------------|-------|
| Sentence Transformers | sentence-transformers/all-MiniLM-L6-v2 | 否 | 本地 BERT 基模型，自动下载 |
| Qwen | Qwen/Qwen3-Embedding-0.6B | 否 | 本地 Qwen 家族模型 |
| Llama | TinyLlama/TinyLlama-1.1B-Chat-v1.0 | 否 | 本地 Llama 家族模型 |
| Mistral | Locutusque/TinyMistral-248M-v2 | 否 | 本地 Mistral 家族模型 |
| Gemma | h2oai/embeddinggemma-300m | 否 | 本地 Gemma 家族模型 |
| OpenAI | openai/text-embedding-ada-002 | 是 | API_KEY='<OPENAI_API_KEY>' |
| Voyage | Voyage AI 模型 | 是 | API_KEY='<VOYAGE_API_KEY>' |
| Jina | Jina AI 模型 | 是 | API_KEY='<JINA_API_KEY>' |
本地模型格式要求：
- 必须以
safetensors格式保存（仅单文件） - 支持的家族：Qwen、Llama、Mistral、Gemma
- 测试模型：
TinyLlama/TinyLlama-1.1B-Chat-v1.0、Locutusque/TinyMistral-248M-v2、Qwen/Qwen3-Embedding-0.6B、h2oai/embeddinggemma-300m - 其他
safetensors模型可能也有效，但不保证
有关设置 float_vector 属性的更多信息，请参见 此处。
- SQL
- Config
使用 sentence-transformers（不需要 API 密钥）
CREATE TABLE products (
title TEXT,
description TEXT,
embedding_vector FLOAT_VECTOR KNN_TYPE='hnsw' HNSW_SIMILARITY='l2'
MODEL_NAME='sentence-transformers/all-MiniLM-L6-v2' FROM='title'
);使用 Qwen 本地嵌入（不需要 API 密钥）
CREATE TABLE products_qwen (
title TEXT,
description TEXT,
embedding_vector FLOAT_VECTOR KNN_TYPE='hnsw' HNSW_SIMILARITY='l2'
MODEL_NAME='Qwen/Qwen3-Embedding-0.6B' FROM='title' CACHE_PATH='/opt/homebrew/var/manticore/.cache/manticore'
);使用 OpenAI（需要 API_KEY 参数）
CREATE TABLE products_openai (
title TEXT,
description TEXT,
embedding_vector FLOAT_VECTOR KNN_TYPE='hnsw' HNSW_SIMILARITY='l2'
MODEL_NAME='openai/text-embedding-ada-002' FROM='title,description' API_KEY='...'
);使用 OpenAI 与自定义 API URL 和超时（可选）
CREATE TABLE products_openai_custom (
title TEXT,
description TEXT,
embedding_vector FLOAT_VECTOR KNN_TYPE='hnsw' HNSW_SIMILARITY='l2'
MODEL_NAME='openai/text-embedding-ada-002' FROM='title,description'
API_KEY='...' API_URL='https://custom-api.example.com/v1/embeddings' API_TIMEOUT='30'
);使用所有文本字段进行嵌入（FROM 为空）
CREATE TABLE products_all (
title TEXT,
description TEXT,
embedding_vector FLOAT_VECTOR KNN_TYPE='hnsw' HNSW_SIMILARITY='l2'
MODEL_NAME='sentence-transformers/all-MiniLM-L6-v2' FROM=''
);使用自动嵌入时，您可以：
- 省略向量字段，让 Manticore 从
FROM中列出的字段生成嵌入 - 为某一行提供自己的向量
- 提供
()以跳过生成并存储全零向量
如果您之后运行 ALTER TABLE ... REBUILD EMBEDDINGS，当前包含来自 () 的零向量的行也会被重新生成。
- SQL
仅插入文本数据 - 自动生成嵌入
INSERT INTO products (title) VALUES
('machine learning artificial intelligence'),
('banana fruit sweet yellow');插入用户提供的向量
INSERT INTO products (title, embedding_vector) VALUES
('machine learning artificial intelligence', (0.653448,0.192478,0.017971,0.339821));插入多个字段 - 如果 FROM='title,description'，两者都用于嵌入
INSERT INTO products_openai (title, description) VALUES
('smartphone', 'latest mobile device with advanced features'),
('laptop', 'portable computer for work and gaming');插入空向量（不自动生成；存储零向量）
INSERT INTO products (title, embedding_vector) VALUES
('no embedding item', ());搜索方式相同 - 提供查询文本，Manticore 会生成嵌入并查找相似文档：
- SQL
- JSON
SELECT id, knn_dist() FROM products WHERE knn(embedding_vector, 3, 'machine learning');+------+------------+
| id | knn_dist() |
+------+------------+
| 1 | 0.12345678 |
| 2 | 0.87654321 |
+------+------------+
2 rows in set (0.00 sec)或者，您可以手动插入预计算的向量数据，确保其与创建表时指定的维度匹配。您也可以插入空向量；这意味着文档将被排除在向量搜索结果之外。
重要： 当使用 hnsw_similarity='cosine' 时，插入时向量会自动归一化为单位向量（数学长度/幅度为 1.0 的向量）。这种归一化保留了向量的方向，同时标准化其长度，这是高效余弦相似度计算所必需的。这意味着存储的值将与您原始输入值不同。
- SQL
- JSON
insert into test values ( 1, 'yellow bag', (0.653448,0.192478,0.017971,0.339821) ), ( 2, 'white bag', (-0.148894,0.748278,0.091892,-0.095406) );Query OK, 2 rows affected (0.00 sec)现在，您可以使用 SQL 或 JSON 格式中的 knn 子句执行 KNN 搜索。两种接口支持相同的本质参数，无论您选择哪种格式，都能确保一致的体验：
- SQL:
select ... from <table name> where knn ( <field>, <query vector> [,<options>] ) - JSON:
POST /search { "table": "<table name>", "knn": { "field": "<field>", "query": "<text or vector>", "ef": <ef>, "rescore": <rescore>, "oversampling": <oversampling> } }
参数包括：
field: 包含向量数据的浮点向量属性的名称。k: 已弃用的选项。请改用查询limit。它用于指定单个 HNSW 索引应返回的文档数量。然而，最终结果中包含的文档数量可能会有所不同。例如，如果系统处理的是划分为磁盘块的实时表，每个块可能返回k个文档，导致总数超过指定的k（累积计数为num_chunks * k）。另一方面，如果在请求k个文档后，根据特定属性过滤掉一些文档，最终文档数量可能少于k。需要注意的是，参数k不适用于 ramchunks。在 ramchunks 的上下文中，检索过程的工作方式不同，因此k参数对返回文档数量的影响不适用。query:（推荐参数）搜索查询，可以是：- 文本字符串：如果字段配置了自动嵌入，则会自动转换为嵌入。如果字段没有配置自动嵌入，将返回错误。
- 向量数组：与
query_vector的工作方式相同。
query_vector:（旧参数）作为数字数组的搜索向量。仍支持向后兼容。 注意： 在同一请求中使用query或query_vector，不要同时使用两者。ef: 搜索期间使用的动态列表的大小。较高的ef会导致更准确但更慢的搜索。默认值为 10。rescore: 启用 KNN 重新评分（默认启用）。在 SQL 中设置为0或在 JSON 中设置为false以禁用重新评分。在使用量化向量完成 KNN 搜索（可能有过采样）后，距离会使用原始（全精度）向量重新计算，结果会重新排序以提高排名准确性。oversampling: 在执行 KNN 搜索时，k的乘数因子（浮点值），导致使用量化向量检索的候选对象数量超过所需。默认应用oversampling=3.0。如果启用了重新评分，这些候选对象可以稍后重新评估。过采样也适用于非量化向量。由于它会增加k，这会影响 HNSW 索引的工作方式，可能会导致结果准确性的小幅变化。early_termination: 启用或禁用 HNSW 图遍历期间的自适应早期终止。默认启用。在 SQL 中设置为0或在 JSON 中设置为false以禁用。有关详细信息，请参阅 早期终止。
文档始终按其与搜索向量的距离排序。您指定的任何其他排序条件将在此主要排序条件之后应用。要获取距离，有一个内置函数称为 knn_dist()。
- SQL
- JSON
select id, knn_dist() from test where knn ( image_vector, (0.286569,-0.031816,0.066684,0.032926), { ef=2000, oversampling=3.0, rescore=1 } );+------+------------+
| id | knn_dist() |
+------+------------+
| 1 | 0.28146550 |
| 2 | 0.81527930 |
+------+------------+
2 rows in set (0.00 sec)HNSW索引需要完全加载到内存中才能执行KNN搜索，这可能导致显著的内存消耗。为了减少内存使用，可以应用标量量化——一种通过用有限的离散值表示每个分量（维度）来压缩高维向量的技术。Manticore支持8位和1位量化，这意味着每个向量分量从32位浮点数压缩为8位甚至1位，分别将内存使用量减少4倍或32倍。这些压缩表示还允许更快的距离计算，因为可以在单个SIMD指令中处理更多的向量分量。尽管标量量化会引入一些近似误差，但通常这是在搜索精度和资源效率之间值得的权衡。为了获得更好的精度，量化可以与重评分和过采样结合使用：检索的候选对象数量多于请求的数量，并使用原始32位浮点向量重新计算这些候选对象的距离。
支持的量化类型包括：
8bit：每个向量分量量化为8位。1bit：每个向量分量量化为1位。使用非对称量化，查询向量量化为4位，存储向量量化为1位。这种方法比简单方法提供更高的精度，但有一些性能权衡。1bitsimple：每个向量分量量化为1位。此方法比1bit更快，但通常精度较低。
- SQL
create table test ( title text, image_vector float_vector knn_type='hnsw' knn_dims='4' hnsw_similarity='l2' quantization='1bit');Query OK, 0 rows affected (0.01 sec)注意：通过ID查找相似文档需要Manticore Buddy。如果不起作用，请确保已安装Buddy。
基于特定文档的唯一ID查找相似文档是一项常见任务。例如，当用户查看特定项目时，Manticore Search可以高效地识别并显示在向量空间中与该项目最相似的项目列表。以下是实现方法：
- SQL:
select ... from <table name> where knn ( <field>, <k>, <document id> ) - JSON:
POST /search { "table": "<table name>", "knn": { "field": "<field>", "doc_id": <document id>, "k": <k> } }
参数包括：
field：这是包含向量数据的浮点向量属性的名称。k：这表示要返回的文档数量，是分层可导航小世界（HNSW）索引的关键参数。它指定了单个HNSW索引应返回的文档数量。然而，最终结果中包含的文档数量可能会有所不同。例如，如果系统处理的是划分为磁盘块的实时表，每个块可以返回k个文档，导致总数超过指定的k（累积计数为num_chunks * k）。另一方面，如果在请求k个文档后，根据特定属性过滤掉一些文档，最终文档数量可能少于k。需要注意的是，参数k不适用于ramchunks。在ramchunks的上下文中，检索过程不同，因此k参数对返回文档数量的影响不适用。document id：用于KNN相似性搜索的文档ID。
- SQL
- JSON
select id, knn_dist() from test where knn ( image_vector, 5, 1 );+------+------------+
| id | knn_dist() |
+------+------------+
| 2 | 0.81527930 |
+------+------------+
1 row in set (0.00 sec)- SQL
- JSON
select id, knn_dist() from test where knn ( image_vector, 5, (0.286569,-0.031816,0.066684,0.032926) ) and match('white') and id < 10;+------+------------+
| id | knn_dist() |
+------+------------+
| 2 | 0.81527930 |
+------+------------+
1 row in set (0.00 sec)当将KNN向量搜索与属性过滤结合使用时，Manticore支持两种策略，它们的区别在于过滤相对于HNSW图遍历的应用时机。
-
预过滤（默认；
prefilter=1（SQL）或"prefilter": true（JSON，默认））将过滤器传递到HNSW遍历本身。在将候选对象添加到结果堆之前，会检查每个候选对象是否符合过滤器——只有匹配的文档会贡献到最终的k个结果中。这减少了浪费的距离计算，并保证恰好返回k个匹配文档（假设存在k个匹配文档）。 -
后过滤（
prefilter=0（SQL）或"prefilter": false（JSON））首先在完整数据集上运行KNN搜索，然后对结果应用过滤器。这是安全且可预测的：HNSW图的遍历不会受到干扰，过滤器仅影响返回给客户端的结果。缺点是图可能会在最终被丢弃的候选对象上花费精力。如果过滤器仅匹配一小部分文档，返回的k个结果可能显著少于请求的数量，因为大多数KNN候选对象未能通过过滤器。
内部，Manticore使用基于ACORN-1的算法进行预过滤。一个天真的预过滤器只会跳过不匹配的节点，这可能会导致连接HNSW图中其他分离部分的“桥梁”节点丢失，从而在过滤器变得更加选择性时导致召回率崩溃。ACORN-1避免了这一点：当节点未通过过滤器时，其邻居仍会被添加到探索队列中。这允许遍历绕过被过滤的节点并保持图的连通性。当少于60%的文档通过过滤器时，ACORN-1探索会自动激活。
自动暴力回退： 当启用预过滤时，Manticore 会估算在过滤后的子集上运行暴力距离扫描是否比遍历 HNSW 图更便宜。该估算将 HNSW 预计访问的节点数与通过过滤的文档数进行比较。如果过滤后的集合足够小，直接扫描会更快，Manticore 会自动切换到暴力方法，完全跳过 HNSW。这确保了即使在极端选择性下也能保持正确性和良好性能。
- SQL
- JSON
-- prefilter (default): filter applied during HNSW traversal (ACORN-1 used automatically)
SELECT id, knn_dist() FROM test
WHERE knn ( image_vector, (0.286569,-0.031816,0.066684,0.032926) )
AND price < 100;
-- postfilter: KNN runs over full dataset, filter applied to results
SELECT id, knn_dist() FROM test
WHERE knn ( image_vector, (0.286569,-0.031816,0.066684,0.032926), { prefilter=0 } )
AND price < 100;默认情况下，Manticore 在 HNSW 图遍历期间使用自适应提前终止算法。它不会始终探索由 ef 定义的完整候选集，而是监控新候选项改善结果集的速率，并在该速率持续低于阈值时提前终止。这减少了距离计算次数，而不会显著影响结果质量。
提前终止默认启用，当 k 为 10 或更少时会自动禁用，因为对于如此小的结果集，算法的开销并不值得。性能优势随着 k 的增大而增加——结果集越大，通过提前终止可以节省的距离计算次数越多。
请注意，过采样会乘以 HNSW 遍历期间使用的有效 k，因此提前终止也受益于过采样：更高的有效 k 意味着可能跳过的候选项更多。
要显式控制提前终止，请使用 early_termination 选项：
- SQL
- JSON
-- disable early termination
SELECT id, knn_dist() FROM test WHERE knn ( image_vector, (0.286569,-0.031816,0.066684,0.032926), { ef=200, early_termination=0 } );
-- enable early termination explicitly (default)
SELECT id, knn_dist() FROM test WHERE knn ( image_vector, (0.286569,-0.031816,0.066684,0.032926), { ef=200, early_termination=1 } );何时禁用提前终止：
- 当结果集的精度至关重要且无法承受超出 HNSW 已提供的任何近似值时。
- 当使用较低的
k值（约 30 或更少）时，提前终止提供的性能优势较小，但可能会降低精度。