Changes for src/apren/ba2/llm_patterns.md: 1 added line, 1 removed line.
Original line number
Diff line number
Diff line
@@ -642,7 +642,7 @@ La tria depèn del corpus, les consultes i el tipus de raonament necessari:
-**Si les consultes requereixen raonament relacional entre entitats** (qui depèn de qui, quines decisions estan connectades), la cerca vectorial no és suficient: vegeu [GraphRAG](#quan-el-rag-vectorial-no-és-suficient).
-**Si les dades canvien en temps real o la recuperació ha de ser condicional**, el patró d'eines és més adequat: el model decideix quan i com cercar, pot iterar sobre els resultats, i pot accedir a fonts que no estan indexades en cap corpus estàtic.
-**Si el model produeix respostes pobres fins i tot quan la informació rellevant és al context**, el problema no és accés a dades sinó comprensió del domini: terminologia especialitzada, patrons de raonament específics, o un estil de resposta que el model no ha vist prou durant l'entrenament. En aquests casos el *fine-tuning* és més adequat. RAG proporciona dades en temps d'inferència; fine-tuning internalitza patrons en temps d'entrenament.
-**Si les consultes requereixen agregar o comparar informació a través de tot el corpus** (comptar ocurrències, detectar contradiccions, identificar patrons globals), RAG no ajuda: recuperar els fragments més similars no és suficient quan la resposta depèn de llegir-ho tot. Cal injecció completa o fine-tuning.
-**Si les consultes requereixen agregar o comparar informació a través de tot el corpus** (comptar ocurrències, detectar contradiccions, identificar patrons globals), RAG no ajuda: recuperar els fragments més similars no és suficient quan la resposta depèn de llegir-ho tot. Cal injecció completa o processar el corpus per parts i agregar els resultats amb codi. El fine-tuning no és una alternativa: no memoritza el corpus de manera fiable.
Changes for src/apren/ba2/llm_prompts.md: 5 added lines, 30 removed lines.
Original line number
Diff line number
Diff line
@@ -15,11 +15,13 @@ Les peces que el formen es tracten per separat: les instruccions del sistema, el
| Criteri | Prompting | Fine-tuning |
| --- | --- | --- |
| Dades disponibles | Poques o cap | Centenars a milers d'exemples |
| Necessitat d'adaptació | Format de resposta | Coneixement específic del domini |
| Què adapta | Comportament, amb instruccions a cada crida | Comportament (format, to, estil) fixat als pesos |
| Cost | Baix (només inferència) | Alt (entrenament + GPU) |
| Temps de desplegament | Immediat | Hores a dies |
| Manteniment | Fàcil d'iterar | Cal reentrenar |
Cap dels dos és la via per afegir coneixement: el fine-tuning no ensenya fets nous de manera fiable. Si al model li falta informació específica o recent, la solució és donar-li-la al context amb [RAG](llm_patterns.md#rag-com-a-patró-de-recuperació).
**Regla pràctica**: comença sempre amb prompting (zero-shot → few-shot → chain-of-thought). Si la tasca és de raonament complex i el model estàndard no és suficient, prova un model de raonament abans de passar a fine-tuning. El fine-tuning és l'últim recurs: és car, lent d'iterar i no sempre supera un bon prompt.
## Prompt com a contracte
@@ -172,6 +174,8 @@ Els models de raonament costen significativament més per token i tenen latènci
**Regles crítiques enterrades enmig del prompt**: els models presten més atenció al principi i al final del context que al mig (vegeu [Estat, memòria i multi-torn](llm_systems.md#estat-memòria-i-multi-torn)). Les restriccions imprescindibles (format, prohibicions, prioritats) han d'anar al principi del system prompt o just abans de la pregunta de l'usuari, no entre paràgrafs d'instruccions secundàries.
**Confiar al prompt una regla que s'ha de complir sempre**: el prompt fa un comportament més probable, no el garanteix. Si el system prompt d'un bot de suport diu *"No ofereixis reemborsaments de més de 100 €"*, el model ho complirà gairebé sempre, però no sempre. La garantia és que l'eina `refund` rebutgi els imports de més de 100 €. El prompt inclina el comportament; el codi que envolta el model l'assegura (vegeu [El model i el harness](llm_patterns.md#el-model-i-el-harness)).
**Injecció de prompt**: un usuari pot intentar sobreescriure les instruccions del sistema. És un vector d'atac amb el seu propi tractament; vegeu [Seguretat, guardrails i validació](llm_systems.md#seguretat-guardrails-i-validació).
## Prompts com a artefactes de codi
@@ -179,32 +183,3 @@ Els models de raonament costen significativament més per token i tenen latènci
Un prompt és lògica d'aplicació, no un string literal al mig del codi. Ha de viure en un fitxer propi, estar sota control de versions i passar pel mateix procés de revisió que qualsevol altra peça de codi. Canviar un prompt sense tests és equivalent a canviar una funció sense tests: pot trencar comportament de forma silenciosa.
Això connecta directament amb l'avaluació: quan es modifica un prompt, cal un mecanisme per verificar que el comportament resultant és l'esperat. Una **eval** és un test automatitzat del comportament del model: una parella entrada / sortida esperada (o un criteri de correctesa) que el sistema executa contra el model i verifica. A diferència dels tests unitaris convencionals, les evals han de tolerar que la sortida no sigui idèntica entre crides: el criteri de correctesa pot ser coincidència exacta, similitud semàntica, o un model jutge que avaluï la qualitat. La combinació **prompt versionat + suite d'evals** és la base d'un flux de treball sostenible. Per a l'arquitectura completa d'avaluació, vegeu [Avaluació](llm_evals.md).
## Instruccions permanents de projecte (AGENTS.md)
Els agents de programació llegeixen un fitxer d'instruccions del repositori (`AGENTS.md`, `CLAUDE.md` o equivalent) i l'afegeixen al context de cada sessió:
```text
# AGENTS.md
- Fes servir pytest per validar els canvis.
- No modifiquis els tests.
- No afegeixis dependències sense mirar si ja hi ha una alternativa.
```
Sembla configuració, però és un system prompt guardat al repositori. Ningú no comprova que l'agent el compleixi: si modifica un test, no hi ha res que l'aturi. Fa uns comportaments més probables, i prou.
D'aquí surt la regla pràctica: **si una cosa s'ha de complir sempre, no la deixis al fitxer**. "No modifiquis els tests" escrit a `AGENTS.md` és una preferència; el mateix com a permís que bloqueja l'escriptura a `tests/` és una garantia. El fitxer inclina el comportament, el codi l'assegura, i aquest codi és el que envolta el model, no el model (vegeu [El model i el harness](llm_patterns.md#el-model-i-el-harness)).
Per a la mateixa regla tens tres nivells de duresa, i val la pena triar-lo conscientment:
| On la poses | Què passa si l'agent la vol saltar |
| --- | --- |
| Línia a `AGENTS.md` | pot fer-ho; és una preferència |
| Permís que denega l'escriptura a `tests/` | no pot: l'acció no s'executa |
| Hook que intercepta la crida abans d'executar-la | no pot: es rebutja i el model rep l'error |
| Test o CI que falla si els tests han canviat | pot fer-ho, però no arriba a `main` |
| No exposar-li l'eina d'escriptura | impossible per construcció |
El detall pràctic d'aquests mecanismes és a *IA per al desenvolupament*: els permisos, contenidors i llistes de comandes a [Execució aïllada](../../aitools/07_practiques_i_tancament.md#execució-aïllada-sandboxing), i les portes automàtiques (linters, tipus, tests, CI) a [Harness engineering](../../aitools/05_projecte_automatitzable.md#harness-engineering). Allà hi trobaràs també el criteri per mantenir el fitxer d'instruccions curt i útil: [Decisions de disseny explícites](../../aitools/05_projecte_automatitzable.md#decisions-de-disseny-explícites).
La resta ja s'ha vist a [Errors de disseny habituals](#errors-de-disseny-habituals): les regles ambigües es compliran de forma inconsistent, i com més llarga sigui la llista, més probable és que el model n'ignori les menys destacades.
Changes for src/apren/ba2/llm_vs_ml.md: 9 added lines, 2 removed lines.
Original line number
Diff line number
Diff line
@@ -134,9 +134,16 @@ Els embeddings es calculen una vegada per document i es poden pre-computar per a
### Prompting primer, fine-tuning després
Un error freqüent és recórrer al fine-tuning massa aviat. Té un cost de cicle significatiu (dades → entrenament → validació → desplegament) i afegeix una dependència de manteniment que el prompting no té. Abans de considerar-lo, s'han d'haver esgotat les tècniques de prompting en ordre creixent de complexitat: few-shot, chain-of-thought, system prompt detallat i sortida estructurada (el detall i els criteris d'ús de cadascuna, a [Disseny de prompts](llm_prompts.md)).
Un error freqüent és recórrer al fine-tuning massa aviat. Té un cost de cicle significatiu (dades → entrenament → validació → desplegament) i afegeix una dependència de manteniment que el prompting no té. Abans de considerar-lo, s'han d'haver esgotat les tècniques de prompting, en l'ordre que proposa [Disseny de prompts](llm_prompts.md#fine-tuning-vs-prompting).
El fine-tuning té sentit quan les evals mostren que el prompting ha assolit un plateau, quan el prompt creix tant que el cost d'inferència s'acumula, o quan la tasca requereix estil o coneixement de domini molt específic que el model base no té.
El fine-tuning té sentit quan les evals mostren que el prompting ha assolit un plateau, quan el prompt creix tant que el cost d'inferència s'acumula, o quan la tasca requereix un format, un to o un patró de resposta molt específic que el prompting no aconsegueix de forma consistent. No serveix per afegir coneixement: els fets nous o canviants arriben millor al model amb [RAG](llm_patterns.md#rag-com-a-patró-de-recuperació).
El fine-tuning habitual (**supervisat**) entrena amb exemples de bones respostes. De vegades, però, és més fàcil **comprovar** una resposta que escriure-la. Pensa en un assistent que converteix preguntes en consultes SQL: escriure a mà mil consultes correctes és molta feina, però comprovar-ne una és fàcil, perquè l'executes i compares el resultat amb l'esperat. El **fine-tuning per reforç** (*reinforcement fine-tuning*) aprofita això: el model genera respostes, un programa les puntua i el model s'ajusta cap a les que aproven. Aquest programa és una eval automàtica, la mateixa que ja faries servir per avaluar el sistema.
Per triar entre les dues variants:
-**Tens exemples de bones respostes**: fine-tuning supervisat.
-**No en tens, però pots comprovar automàticament si una resposta és correcta**: fine-tuning per reforç.
Changes for src/apren/ba2/ml_transformers.md: 4 added lines, 0 removed lines.
Original line number
Diff line number
Diff line
@@ -219,6 +219,10 @@ Un model preentrenat té coneixement general del llenguatge, però pot no ser pr
**QLoRA** combina LoRA amb **quantització** del model base a 4 bits, i permet fer fine-tuning de models de desenes de milers de milions de paràmetres en una sola GPU.
**Què obtens.** En tots els casos obtens el mateix model amb uns pesos diferents; el que canvia és la forma en què te'l quedes. Amb fine-tuning complet és una còpia sencera, tan gran com l'original. Amb LoRA és només un **adaptador** (*adapter*), un fitxer petit amb les matrius afegides que es carrega a sobre del model base sense modificar-lo. Si el fas amb el servei d'un proveïdor, no reps cap fitxer: reps un identificador de model nou que només pots cridar a través de la seva API.
Per a l'aplicació, el canvi és mínim: la crida és la mateixa i només canvia el nom o la ruta del model. Per això pots comparar el model base i el model fine-tunejat amb les mateixes proves automàtiques (les [evals](llm_evals.md)) abans de decidir quin despleges.
### Prompting i aprenentatge en context
Una de les propietats més sorprenents dels LLMs és la seva capacitat d'**aprendre en context** (*in-context learning*): podem fer que el model realitzi tasques noves simplement descrivint-les al prompt, sense modificar cap pes. N'hi ha prou amb una instrucció: