使用Django和Postgres进行全文搜索

这些天,我需要全文搜索。这个区块中最酷的工具是Elastic Search和Sorl:他们快速,灵活,资源消耗沉重并且需要配合Java运行。

放弃这些选项后,我剩下了Xapian和postgres全文搜索的功能,而xapian似乎功能更丰富,我决定从postgres开始,因为它与django进行了天然集成,并且对这个特定项目的要求不高。

项目及其要求
您可能已经注意到,我正在运行job board。 Voorjob基本上是从lever.co聚合工作,并让用户搜索它。目前,我在数据库中大约有25,000个工作,这个数字增长缓慢,每增加2或3个工作,就会关闭另一个工作。是的,如果我采用了弹性搜索路径,那将是一本教科书过度设计的结果。

实施
从9.4版开始,postgres添加了一些允许全文本搜索的功能。不久之后,Django在postgres特定功能中镜像了这些功能。

要开始使用此新功能,我基本上需要在模型中使用SearchVectorField,并需要使用矢量化的职位描述来更新此字段的方法:

这种方法适用于很少更新的工作,例如job board,但是如果您的应用程序经常更新,则应避免使用此策略,并应定期执行一些任务来填充向量:

甚至更好的是,您可以通过阅读本官方文档,使用postgres触发器直接进行操作。

查询工作
现在您已经准备好数据库,现在可以查询它了,让我们看一下voorjob搜索视图的教学版本:

我基本上在这里考虑两种查询:单词存在和“精确表达式”。是的,该逻辑中存在一些缺陷,请继续起诉我:D

还有很多可以改进的地方,django支持加权查询:

vector = SearchVector(’title’,weight =’A’)+ SearchVector(’body’,weight =’B’)
Job.objects.all()。update(body_vector = vector)
这最终将以更好的顺序返回结果,其中标题中的匹配比正文中的匹配更重。

查询系统也更加灵活,允许进行逻辑运算OR / AND和NOT。在不久的将来,我将改善对工作板的搜索,并更新此帖子以描述所做的更改。

性能
在开发过程中,我使用了具有16GB内存和不错的NVMe的I5。对本地计算机中的25k作业运行查询基本上是瞬时的。

当我将项目转移到生产环境时(5美元),事情变得越来越慢了。

运行mississippi基准测试,我得到以下结果:

在/ django rest framework上搜索((1个密西西比州以扫描5K条目))
在/ full /上搜索“ django rest framework”(-3个密西西比州,扫描25K条目)
不是最好的性能,但现在可以使用。本文将进行更新以反映任何性能改进。

考虑到我的搜索需求不高-超过25k的条目,且字数过多的文章并不比本文大很多-使用postgres作为我的全文搜索的后端,对于此早期MVP来说效果很好。现在,我比每天给我20个用户提供最快的体验,对尝试事物和扩大董事会成员更感兴趣。

更新(2020年2月9日)
好消息! 我了解到可以将索引添加到SearchVectorField中:

现在,所有情况下的搜索时间均降至1个mississippi。 由于我的数据很小,因此用于该索引的内存量可以忽略不计。

原文:http://voorloopnul.com/blog/full-text-search-with-django-and-postgres/