Šta je RAG i kada je bolji izbor od chatbota?

RAG znači: prvo pretraži dokumente, pa pusti model da odgovori onim što je našao. To je pravi oblik čim odgovor stoji u samim materijalima, a ne u opštem znanju modela.

Gde su stajali dokumenti — u sopstvenoj kući ili kod dobavljača modela?

Indeks je stajao u klijentovom sopstvenom PostgreSQL-u. Modelu je išao samo isečak koji je pitanju potreban — a gde je i to bilo previše, model je radio na njihovoj mašini.

Koliko dokumenata podnosi vektorska pretraga sa pgvector?

14.000 dokumenata preko tri odeljenja radi u produkciji, sa HNSW kao indeksom. Granica u praksi nije broj dokumenata, nego koliko su uredno isečeni.

Čime je mereno da li je pretraga dovoljno dobra?

Stvarnim pitanjima iz svakodnevnog rada, ne demoom. Test skup je bio napravljen od pitanja koja su zaista postavljena; ispod 90 % hit@3 ništa nije išlo u rad.

Da li je potrebna posebna vektorska baza kao Pinecone?

Retko. pgvector sedi u bazi koja ionako radi — jedan sistem manje, jedan backup manje, jedan račun manje. Preko nekoliko stotina miliona vektora odgovor se menja.

Početna Oblasti03 · AI integracija

AI integracija

RAG pipeline-i, embeddings i vektorska pretraga sa pgvector — u produkciji, ne kao demo. Ova stranica pokazuje gde to pada, kako sam to napravio i po čemu možeš da proveriš.

VI-generisano

Rad, u toku — jedino pitanje sa kojim neko ovde dolazi.21:9

Oblast: 03 od 04
Stack: 11 tehnologija
Referenca: AI generator ekspozea

VI-generisano

Šta rad ostavlja za sobom: tabela koja odgovara.21:9

Polazno stanje: pretraga ne nalazi odgovore

Znanje postoji — u PDF-ovima, tiketima i na mrežnim diskovima — ali niko ne može da ga pronađe. Pretraga nalazi reči, a ne odgovore; pa pitaš kolegu, a on pita sledećeg.

Sanduče puno pitanja gde-da-nađem: cenovnik, ugovor, tehnički list — Isto pitanje, ponovo svake nedelje. Odgovor postoji — samo nije ni u čijem indeksu pretrage.16:9

Screencast · nula rezultata za dokument koji je jedan red niže u folderu — Nula rezultata, a fajl je vidljiv jedan red niže. Pretraga poredi znakove, ne značenje.21:9

Način rada

Prvo postojeći dokumenti, pa model: seku se na naslovima, ugrađuju i kombinuju sa pretragom punog teksta. Testira se stvarnim pitanjima iz svakodnevnog rada — u rad ide tek preko 90 % hit@3.

Metod u radu: pipeline levo, test pretrage sa skorovima desno — Seći, ugraditi, proveriti — jedan prolaz16:9

DokaziPre i posle2 eksponata

Razmišljanje pre koda: rukom crtana strategija chunking-a na papiru — Pre: seći na naslovima, nikad usred rečeniceFotografija · 16:9

Posle: 50 svakodnevnih test pitanja, hit@3 na 94 odsto — Posle: korak koji je to dokazao16:9

Referentni projekat za ovu oblast

Sposobnost bez projekta iza sebe je spisak tehnologija. Ovo je taj projekat — sa brojem koji je iz njega izašao i studijom slučaja u kojoj to možeš proveriti.

Snimak ekrana: generator predloga radi — PDF pregled levo, log desno

Regrutacija · veštačka inteligencija

3 min

po predlogu · ranije 45

Ekspozei koji se sami napišu za tri minuta

Od prijava i biografija nastaje gotov profil kandidata — Claude piše tekstove, pipeline slaže dokument.

Next.js TypeScript PostgreSQL pgvector RAG Claude / GPT / Gemini AWS (S3, Lambda) Docker

Pogled u pipeline: komentarisani kod i log jednog gotovog predloga — Isti slučaj iznutra: pipeline16:9

Isti slučaj spolja: odštampani predlog na čeličnom stolu — Isti slučaj spolja: rezultatFotografija · 16:9

Svi referentni projekti

Na čemu sam radio

Četiri vrste posla, svaka sa onom jednom slikom koja je čini proverljivom. Numerisane da bi se na njih moglo pokazati — ne zato što jedna sledi drugu: svaka stoji za sebe.

01
Obrada dokumenata i automatsko parsiranje
VI-generisano
02
Semantička pretraga sopstvenih podataka
03
Chat i voice botovi povezani sa postojećim sistemima
VI-generisano
04
Zamena AI SaaS-a integrisanim sopstvenim razvojem
VI-generisano

Stack: pgvector, RAG, HNSW

Posle polaznog stanja i načina rada niko više ne pita šta je instalirano — nego da li je išta od toga stvarno. Linija ostaje, dva okvira ispod nje odgovaraju.

Claude GPT Gemini pgvector PostgreSQL Python Node Docker Twilio RAG HNSW

U radu

VI-generisano

Ponovljivo

Ono što rad čini ponovljivim: compose datoteka i CI workflow

VI-generisano

Red veličine

Malo je značilo: skripta koja od petka sortira mejlove sa računima. Veliko je značilo: pretraga i asistencija preko 14.000 dokumenata i tri odeljenja — posao je stajao u posebnim slučajevima.

Mali slučaj

Pretraga · Preko fonda — Postoji do petka, može da mirujeFotografija · 16:9

Veliki slučaj

Pipeline · Posebni slučajevi — Proces — jedna slika bila bi proizvoljan trenutak16:9

Česta pitanja

Pet pitanja koja se redovno postavljaju o ovoj oblasti — odgovorena iz projekata u kojima su se pojavila.

Šta je RAG i kada je bolji izbor od chatbota?: RAG znači: prvo pretraži dokumente, pa pusti model da odgovori onim što je našao. To je pravi oblik čim odgovor stoji u samim materijalima, a ne u opštem znanju modela.
Gde su stajali dokumenti — u sopstvenoj kući ili kod dobavljača modela?: Indeks je stajao u klijentovom sopstvenom PostgreSQL-u. Modelu je išao samo isečak koji je pitanju potreban — a gde je i to bilo previše, model je radio na njihovoj mašini.
Koliko dokumenata podnosi vektorska pretraga sa pgvector?: 14.000 dokumenata preko tri odeljenja radi u produkciji, sa HNSW kao indeksom. Granica u praksi nije broj dokumenata, nego koliko su uredno isečeni.
Čime je mereno da li je pretraga dovoljno dobra?: Stvarnim pitanjima iz svakodnevnog rada, ne demoom. Test skup je bio napravljen od pitanja koja su zaista postavljena; ispod 90 % hit@3 ništa nije išlo u rad.
Da li je potrebna posebna vektorska baza kao Pinecone?: Retko. pgvector sedi u bazi koja ionako radi — jedan sistem manje, jedan backup manje, jedan račun manje. Preko nekoliko stotina miliona vektora odgovor se menja.