1. Faiss简介
Faiss是Facebook开源的一款用于大规模P维向量最近邻检索的工具。
Faiss is a library for efficient similarity search and clustering of dense vectors. It contains algorithms that search in sets of vectors of any size, up to ones that possibly do not fit in RAM. It also contains supporting code for evaluation and parameter tuning. Faiss is written in C++ with complete wrappers for Python/numpy. Some of the most useful algorithms are implemented on the GPU. It is developed by Facebook AI Research.
他底层采用C ++编写,并且提供了python的封装代码。主要功能是,对于一个给定的向量,在所有已知的向量库中找出与其相似度较高的向量,即该向量的前k个最近邻向量。
尤其是随着万物皆可Embedding时代的到来,Faiss越来越受到人们关注。
2. Faiss安装
可以pip安装
pip install faiss-cpu --no-cache
也可以采用conda安装
#CPU 版本
conda install faiss-cpu -c pytorch
# GPU 版本
conda install faiss-gpu cudatoolkit=8.0 -c pytorch # For CUDA8
conda install faiss-gpu cudatoolkit=9.0 -c pytorch # For CUDA9
conda install faiss-gpu cudatoolkit=10.0 -c pytorch # For CUDA10
3. Faiss Action
faiss的使用方法也比较简单,归纳为以下三个步骤:
- 构建向量库,对已知的数据进行向量,最终以矩阵的形式表示
- 为矩阵选择合适的index,将第一步得到的矩阵add到index中
- search得到最终结果
以IndexFlatL2为例,看一下faiss的用法:
import numpy as np
import faiss
d = 64
nb = 100000
nq = 10000
# 构建向量库
xb = np.random.random((nb, d)).astype('float32')
xb[:, 0] += np.arange(nb) / 1000.
xq = np.random.random((nq, d)).astype('float32')
xq[:, 0] += np.arange(nq) / 1000.
# 关键步骤,build index
index = faiss.IndexFlatL2(d)
index.add(xb)
k = 4
D, I = index.search(xq[:5], k) # 分别返回距离和索引