Ниже описан самый простой способ запустить NLWeb локально: используя OpenAI для эмбеддинга и обработки запросов, Qdrant как векторную СУБД. Запуск в Docker Compose.

  1. Клонируем репозиторий git clone https://github.com/microsoft/NLWeb.git
  2. Создаем .env файл для хранения ключей cp .env.template code/.env
  3. Заполняем параметр OPENAI_API_KEY в .env (создать и оплатить тут https://platform.openai.com/)
  4. в config/config_embedding.yaml и config/config_llm.yaml заменяем azure_openai на openai
  5. Включаем qdrant в code/python/requirements.txt
  6. Запускаем docker-compose up -d
  7. Загрузка тестовых данных docker exec nlweb bash -c "cd /app/python && python -m data_loading.db_load https://feeds.libsyn.com/121695/rss Behind-the-Tech"

Чтобы узнать больше — посмотрите видео: