Chopper: z i bez English
Pytanie, które wymaga dwóch faktów z 20 znalezionych akapitów Wikipedii (pytania dwuetapowe MuSiQue przetłumaczone na polski). Bez Choppera Qwen3-14B czyta wszystkie 20 akapitów. Z Chopperem czyta tylko dosłowne cytaty wycięte przez polski Chopper, ok. 14× mniej tokenów. Ten sam model, ten sam prompt.
GitHub · model · English · pip install chopper-rag · MIT / Apache 2.0, także do użytku komercyjnego
20 przykładowych pytań: odpowiedzi Qwen3-14B
Zielone = poprawnie, czerwone = błędnie. Najpierw pytania, na które Qwen z Chopperem odpowiedział dobrze. Kliknij wiersz, aby zobaczyć go niżej razem z fragmentami i cytatami.
| Pytanie | Bez Choppera | Z Chopperem |
|---|
- Chopper wycina cytaty w Twojej przeglądarce (model, ok. 450 MB, zaczyna się wczytywać od razu po otwarciu strony; cięcie trwa 10–60 s).
- Potem Qwen3-14B odpowiada na żywo, dwa razy: raz czytając wszystkie fragmenty, raz tylko cytaty.
Znalezione akapity (20): to czyta Qwen bez Choppera
Bez Choppera
Z Chopperem
Dane: 100 dwuetapowych pytań walidacyjnych MuSiQue z naszego badania liczby kroków (CC BY 4.0), każde z 20 akapitami, które daje MuSiQue; pytania, odpowiedzi i akapity przetłumaczył na polski model GPT-6 Luna. Cytaty: polski Chopper na modelu pl-ModernBERT-base od OPI PIB (plmodernbert-base; surowy wynik, to czytał Qwen). Odpowiedzi: Qwen3-14B przez OpenRouter (bez myślenia, sama odpowiedź, temperatura 0), dokładnie tym samym zapytaniem co Twoje pytania; ocenione przez sędziego LLM względem wzorcowej odpowiedzi (polskiej lub angielskiej). Na wszystkich 100 pytaniach: 33% bez Choppera vs 56% z Chopperem, 3864 vs 277 tokenów (wcześniejszy Chopper mmBERT-base-pl: 43%; dla porównania angielski oryginał: 28% vs 48%). 20 przykładów wylosowano warstwowo, tak by odpowiadały wynikowi na 100 pytaniach. Dla Twoich pytań Chopper działa w przeglądarce (plmodernbert-base, całe zdania), a Qwen3-14B odpowiada przez małe proxy; nic nie jest zapisywane. Pełne wyniki. * Czas: szacunek dla jednej karty RTX 3090 z Qwen3-14B (4-bit): ok. 1800 tokenów promptu na sekundę plus ok. 0,25 s na krótką odpowiedź; z Chopperem dodatkowo 0,16 s na sam Chopper (zmierzone 155 ms). Odpowiedzi na żywo przychodzą przez OpenRouter, więc ich rzeczywisty czas zależy od sieci.