MiniRAG API

MiniRAG API es un sistema de generación aumentada por recuperación (RAG) con las características básicas. Ofrece el proceso de indexación de documentos y un endpoint para poder hacer preguntas.

Indexación

El primer paso es indexar los ficheros para poder acceder a ellos posteriormente desde el API. Para ello hay que colocar los ficheros jsonl en el volumen de documentos. Posteriormente, ejecutar el siguiente comando para realizar la indexación:

docker compose run --rm api python -m process

Ejecución

Cuando este proceso finalize y los documentos estén indexados, para lanzar el API hay que ejecutar el siguiente comando:

docker compose up

Endpoint

El endpoint para acceder al API es /predict con el parámetro query (GET) que contiene la consulta del usuario. La respuesta se devuelve en streaming.

Configuración

En el fichero compose.yml aparecen todas las variables que se pueden configurar en el sistema. Las obligatorias son LLM_SERVER y PROMPT.