Razvoj chatbotova

Kako radi.

Sustav, korak po korak — svaka je faza agent ili servis s jasnim zadatkom i predajom sljedećem.

01 · Unos znanja

Prikupljamo vaše wikije, PDF-ove, Notion i baze podataka te tekst dijelimo u semantičke vektore.

02 · Vektorski embedding

Vaše znanje pohranjujemo u brze vektorske baze podataka (Pinecone/Milvus) za semantičko pretraživanje.

03 · Upravljanje kontekstnim prozorom

Dohvaćamo točno relevantne isječke za kontekstni prozor LLM-a kako bi odgovori bili bez halucinacija.

04 · Izvršavanje radnji

Bot ne samo da razgovara: poziva API-je za obradu povrata novca, rezervaciju sastanaka ili ponovno postavljanje lozinki.

Građeno za produkciju, u vašem vlasništvu.

Provjereni okviri, a ne tanki omotači. Otvorite bilo koju mogućnost i pogledajte tehniku, stack i skicu implementacije.

Kontrola halucinacija

Strogi sistemski promptovi i slojevi citiranja koji AI prisiljavaju da se drži zadanih činjenica.

Utemeljeni odgovori s citatima — Tehnika: dekodiranje temeljeno na citatima

Projektiramo „skeptičan“ AI. Model ima uputu odgovarati ISKLJUČIVO na temelju dohvaćenih isječaka konteksta. Ako odgovor nije u izvornom materijalu, programiran je reći „Ne znam“ umjesto da izmišlja činjenice. Model mora ispisivati citate u fusnotama [Doc ID: 12], koje programski provjeravamo prije prikaza korisniku.

Stack: LangChain Self-Query, Guardrails AI, NeMo Guardrails

Omnikanalna implementacija

Jedan mozak, posvuda: web, WhatsApp, Slack, MS Teams i SMS.

Headless konverzacijska jezgra — Tehnika: WebSocket gateway i obrazac adaptera

Odvajamo „mozak“ od „tijela“. Temeljna logika (LLM + RAG) nalazi se na središnjem poslužitelju dostupnom preko WebSocket API-ja. Za svaki kanal gradimo lagane adaptere (Twilio za SMS, Slack Bolt za Teams). Stanje se vodi centralno u Redisu, pa korisnik može započeti na webu i završiti u SMS-u bez gubitka konteksta.

Stack: Redis (Pub/Sub), Twilio API, Slack Bolt, React Native

Dugoročna memorija

Pamćenje korisničkih preferencija i povijesti razgovora između sesija za hiperpersonalizaciju.

Trajna memorija — Tehnika: vektorizirana memorija i izdvajanje entiteta

Standardni chatbotovi zaborave vas čim se sesija zatvori. Naš gradi trajni korisnički profil. LLM-ovima sažimamo razgovore u ključne činjenice („Korisnik voli crvene cipele“, „Budžet je 5.000 $“) i pohranjujemo ih kao „semantička sjećanja“ u vektorsku bazu. Pri sljedećem posjetu ta sjećanja unaprijed učitavamo u kontekstni prozor.

Stack: Zep Memory, LangChain Entity Memory, PostgreSQL

Analiza sentimenta

Prepoznavanje emocija u stvarnom vremenu koje pri eskalaciji pokreće protokol predaje čovjeku.

Eskalacija na temelju sentimenta — Tehnika: NLU klasifikacija i WebSocket usmjeravanje

Svaka korisnikova poruka dobiva ocjenu sentimenta (od -1,0 do +1,0) prije nego što LLM generira odgovor. Ako ocjena padne ispod praga (npr. -0,6, „ljutnja“), aktivira se osigurač „predaje čovjeku“. Bot se ispričava, zaustavlja generiranje i odmah preko WebSocketa preusmjerava razgovor na nadzornu ploču živog agenta, zajedno s cijelom poviješću razgovora.

Stack: HuggingFace Sentiment Pipeline, Socket.io, Zendesk API

Typical stack: OpenAI/Anthropic, Pinecone/Weaviate, LlamaIndex, FastAPI, React

Od eksperimenta do produkcije.

Opseg definiramo na vašem stacku, isporučujemo prvi mjereni sustav i vodimo ga u odnosu na polaznu vrijednost koju možete pratiti.