Что такое векторная база данных (Vector Database)

Определение

Векторная база данных хранит эмбеддинги, наборы чисел, которые передают смысл каждого фрагмента текста, рядом с самим текстом. Когда приходит вопрос, он тоже превращается в числа, и база возвращает фрагменты с самыми близкими числами, а обычно это и самые близкие по смыслу. Так ИИ-поиск находит правило об отмене для клиентки, которая написала «Не получится прийти завтра» и ни разу не написала слово «отменить». Это может быть отдельный продукт или обычная база данных с расширением: pgvector, например, добавляет в PostgreSQL поиск по векторному сходству.

Почему это важно

Понимая, что она делает, легко объяснить, почему ассистент находит нужный фрагмент по словам, которых клиент не употреблял, и почему так же легко находит устаревший фрагмент, если старый файл ещё лежит на месте. Кроме того, она хранит копии ваших документов и требует той же осторожности, что и они.

Напрямую связано: Эмбеддинг (Embedding), RAG (генерация с дополнением поиском), База данных (Database).

Советы по улучшению

• Держите документы, по которым она ищет, актуальными и удаляйте старые версии: старый текст находится так же легко, как новый.
• Давайте ассистенту, который общается с клиентами, только документы для клиентов: всё, что хранится, можно найти.
• Проверяйте поиск вопросами в словах клиентов, а не в формулировках ваших документов.
• Спросите поставщика, где хранятся копии ваших документов и у кого к ним есть доступ.

Частые ошибки

• Считать сохранённые числа анонимными, хотя по ним можно восстановить большую часть текста.
• Строить собственный векторный поиск для нескольких десятков фрагментов, с которыми справится готовый инструмент.
• Судить о поиске по одному удачному вопросу вместо десяти настоящих.