Ce este RAG, LLM și AI pe înțelesul oricărui antreprenor

Indiferent de afacerea pe care o deții noi te putem ajuta să beneficiezi de avantajele sistemelor AI. De ce este important pentru orice afacere? Informația este cel mai mare "activ" al unei afaceri și majoritatea afacerilor folosesc informația ca un "pasiv". Nu ne referim la activ și pasiv din punct de vedere contabil. Ne referim la faptul că informația în majoritatea afacerilor nu este utilizată în totalitate și la valoarea reală pe care o are.

Ce este "embedding":

Orice sistem AI are la bază o bibliotecă de date. În limbajul tehnologiei informației, această bibliotecă se numește "embeddings". Nu este o bibliotecă de date în sensul clasic, ci una foarte bine structurată, în care informația este organizată matematic. Ca să înțelegi mai bine cum funcționează, hai să luăm un exemplu: "Telefonul oferă performanțe foto-video remarcabile, un design durabil și autonomie extinsă de baterie, potrivit pentru utilizare intensivă zilnică."

Fiecare cuvânt din acest enunț, la fel ca majoritatea cuvintelor dintr-un dicționar, a fost transformat în limbaj matematic. Această metodă se numește "vectorizare". Un vector conține un număr foarte mare de valori, rezultate din poziționarea spațială a fiecărui cuvânt în raport cu toate celelalte cuvinte din bibliotecă. Imaginează-ți că această bibliotecă de date conține toate cuvintele posibile, împreună cu explicațiile lor: partea de vorbire, categoria din care fac parte (de exemplu, "telefonul" este un dispozitiv electronic), caracteristicile de bază (este un dispozitiv mobil, este folosit în primul rând pentru comunicare, rulează aplicații etc.) și legăturile cu alte categorii.

Un vector conține deci mai multe valori numerice (0.23, 0.34, -0.24, -0.43, 0.67...), fiecare reprezentând o caracteristică a unui cuvânt sau a unui text. Aceste valori se numesc **dimensiuni** și variază, în general, între 384 și 3072. Cu cât sunt mai multe dimensiuni, cu atât modelul este mai precis, dar consumă mai multe resurse. Vectorizarea unui text se poate face cuvânt cu cuvânt, pe grupuri de cuvinte, pe propoziții sau pe texte întregi. Pe lângă cuvinte, biblioteca de date conține și vectori pentru acțiuni, stări, caracteristici, descrieri și multe alte tipuri de informații. Practic, aproape tot ceea ce facem și putem face este descris matematic în această bibliotecă de numere.

Ai auzit probabil și de termenul "token" și vrei să înțelegi ce înseamnă. Un token este o bucată dintr-un cuvânt. De precizat: majoritatea modelelor de embeddings au fost construite pornind de la limba engleză, dar principiul este similar și pentru limba română. Orice cuvânt poate fi format din mai multe părți (rădăcină, temă, afix, sufix, prefix etc.). Pentru un model AI ar fi extrem de costisitor, în termeni de spațiu, să memoreze toate cuvintele și toate derivatele lor. De aceea, înainte de vectorizare, se alege un set fix de "rădăcini" de cuvinte. De exemplu, pentru "căldură" se reține doar rădăcina "cald", sufixele "ură" sau "uros" fiind comune pentru multe alte cuvinte; la fel, pentru "reface" se reține "face", prefixul "re-" fiind folosit în numeroase alte cuvinte. Un model de "embeddings" este, așadar, o bibliotecă de date transformate în valori numerice. Printr-un dicționar fix, aceste "tokenuri" sunt descompuse și recompuse diferit, în funcție de fiecare model.

LLM modelul AI de limbaj = "creierul" AI

Un model LLM face parte, la rândul lui, din sistemul AI. Este partea de "creier" a sistemelor AI. Probabil îl folosești aproape zilnic, sub formă de Claude, ChatGPT, Gemini, Qwen și altele. Aceste LLM-uri sunt biblioteci de date capabile să genereze și răspunsuri. Cum reușesc acest lucru? Pornind de la același model de embeddings. Modelul încearcă întâi să înțeleagă cerința ta, apoi, prin mai multe metode, extrage "esența" acesteia și, în final, generează statistic un răspuns. Aceste modele nu conțin toate răspunsurile posibile. Ele generează răspunsul cu cea mai mare probabilitate de a fi cel corect de fapt, răspunsul cel mai frecvent dat, în mod colectiv, de oameni.

Ca să înțelegi mai bine, iată un exemplu: dacă întrebi 1000 de persoane "ce este un laptop?", majoritatea vor răspunde, sub o formă sau alta, că este "un calculator portabil". Dacă întrebi însă "ce este o memorie RAM?", vei primi răspunsul corect de la doar o parte dintre cei 1000 de oameni, să spunem 50. Cum știe modelul care răspunsuri sunt corecte, dacă doar o mică parte dintre oameni au răspuns corect? După antrenamentul pe texte din cărți, site-uri web și alte surse, modelul primește și un antrenament suplimentar de "înțelegere": pentru fiecare tip de răspuns, evaluatorii umani au acordat un punctaj, astfel încât modelul să învețe care este răspunsul corect pentru întrebări similare. Așa se explică de ce, de regulă, primești un răspuns corect, relevant pentru întrebarea ta. Dacă vrei și alte perspective, va trebui să formulezi întrebarea diferit nu sub forma "ce au răspuns și ceilalți". Aici intervin metodele prin care, cu ajutorul unor fișiere de proiect sau reguli, îi comunici unui model LLM cum dorești să fie formulat răspunsul: ce trebuie să conțină, ce structură și ce formă să aibă.

Este important de știut că un model LLM și un model de embeddings pot funcționa și local, pe un server sau pe un calculator din cadrul companiei tale. Mai mult, modelele LLM pot fi antrenate special pentru activitatea afacerii tale. Ele conțin deja "înțelegerea limbajului" este tot ce ai nevoie ca punct de plecare. Nu vei găsi ceva superior la acest nivel de bază: vor exista modele online cu un nivel de înțelegere mai avansat, dar acestea sunt generaliste, nu sunt antrenate specific pentru afacerea ta.

Modelele generaliste rămân totuși utile, mai ales pentru analiză, pentru corectarea continuă a erorilor care pot apărea și pentru actualizarea permanentă a informațiilor din modelul tău local.

RAG metoda prin care poți beneficia de AI pentru firma ta:

RAG (Retrieval-Augmented Generation) este o metodă prin care un model de inteligență artificială răspunde nu doar pe baza a ceea ce "știe" dinainte, ci și pe baza unor documente găsite, în prealabil, într-o bază externă de cunoștințe texte și documente proprii. Este o tehnologie prin care îți poți sprijini activitatea firmei în aproape orice situație care implică analiza de text și operații pe baza documentelor, informațiilor și datelor existente în activitatea economică.

Orice model LLM conține, în interior, și un model de embeddings. Orice text introdus trebuie mai întâi "înțeles": prin transformarea cuvintelor în vectori și compararea acestora cu biblioteca internă de date, un AI (sau un software) identifică unde se situează, spațial, textul introdus de tine dacă este o cerere, o afirmație, o condiție, și la ce se referă (pentru ce, când, unde). Un model LLM este capabil să compare datele pe care le deține deja cu datele tale. Textele tale sunt trimise către un model LLM pentru a genera un răspuns, care poate fi o acțiune finală, dar poate fi și un proces intermediar de selecție sau de atribuire.

Ulterior, tot cu ajutorul unui model LLM, se poate genera acțiunea finală. Dacă dorești, poți utiliza și un model de embeddings separat de model LLM, pentru acțiuni intermediare: se pot aplica diverse metode de ancorare, căutare, ordonare, ponderare și atribuire de relevanță pentru textele tale. Utilizarea separată a unui model de embeddings este, de multe ori, necesară pentru diverse acțiuni, câteva dintre ele sunt enumerate mai jos.

La ce ajută RAG:

Gândește-te că toate datele companiei tale pot fi transformate în vectori, iar un model LLM te poate ajuta să le analizezi și să le înțelegi. Concret, RAG te ajută la:

- Organizare: poți organiza datele în funcție de situație, preferințe, domeniu sau orice alt mod de structurare dorești.
- Analiză: poți analiza datele comparându-le între ele sau cu alte surse.
- Prioritizare: poți marca anumite date drept prioritare, astfel încât să nu omiți informații importante.
- Automatizare: prin analiza textului poți automatiza procese repetitive.
- Căutare rapidă: găsești ușor texte cu același înțeles, fără să trebuiască să-ți amintești exact cum ai formulat ceva.

De ce să folosești RAG

RAG este metoda personalizată pentru afacerea ta. Se aplică pe documentele tale, pe fluxurile din cadrul companiei tale, adaptat specific nevoilor tale. Trebuie să știi că nu va exista niciodată un model AI generalist pe care să-l poți folosi special pentru afacerea ta, așa cum folosești o platformă sau un software standard. De ce? Pentru că nu se potrivește perfect. Un LLM generalist te poate ajuta să înțelegi și să generezi răspunsuri, dar în momentul în care ai deja multe reguli, condiții și date specifice, modelele generaliste tind să greșească.

Recomandarea noastră este să începi de pe acum să-ți construiești propriul RAG, astfel încât să îl poți dezvolta exact pentru nevoile afacerii tale.

Unde mai poți folosi un model LLM sau un model de embeddings:

Un model LLM poate fi utilizat și ca un program de calculator de sine stătător. Un model LLM local, sau un agent AI local, poate scrie direct comenzi înțelese de programe, servere și sisteme de operare. Astfel, un simplu program de vizualizare, combinat cu un LLM, poate deveni administrator de sistem, manager de proiecte sau aproape orice alt sistem informatic de care compania ta are nevoie.