Skip to content

dynamic model loading#1

Open
HatakekkSheeshh wants to merge 1 commit intoBig-Data-Club:mainfrom
HatakekkSheeshh:main
Open

dynamic model loading#1
HatakekkSheeshh wants to merge 1 commit intoBig-Data-Club:mainfrom
HatakekkSheeshh:main

Conversation

@HatakekkSheeshh
Copy link

Thêm tính năng tự động load model embedding cho 3 loại paraphrase-multilingual-MiniLM-L12-v2, paraphrase-multilingual-mpnet-base-v2, BAAI/bge-m3.
Ưu điểm: Làm các experiment linh hoạt hơn, không phải build lại image
Nhược điểm: Ngốn dung lương và thời gian để build

P/s: Thêm tính năng hot-reload cho frontend
Tính năng cần cải thiện: chromadb lưu các collection riêng biệt cho mỗi model embedding nên làm việc trên document nào thì phải lựa chọn model embedding tương thích với document đó. Nào rảnh optimize sau

@Haidendoo
Copy link

cung hay day toi se duyet cho ban

@HatakekkSheeshh
Copy link
Author

god damn pr 1 tuan moi dc duyet, toi bat man voi bigdataclub =))

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

2 participants