Ti sarà capitato. Stai lavorando con ChatGPT o Claude, la conversazione va avanti, e a un certo punto il modello sembra dimenticare quello che gli avevi detto all'inizio. Oppure apri una chat nuova e scopri che non ricorda niente di ieri. Sono due problemi diversi, con cause diverse. Per capirli servono tre parole che spesso usiamo come sinonimi, ma non lo sono: contesto, context window e memoria.
Il contesto: cosa l'AI sta guardando adesso
Il contesto è tutto ciò che è presente nella conversazione in corso: i tuoi messaggi, le risposte del modello, i documenti che hai allegato, le istruzioni di sistema. Il modello vede solo questo, nient'altro. Non ha accesso al tuo computer, ai tuoi file o a quello che hai scritto in un'altra chat. Quando gli fai una domanda, risponde basandosi esclusivamente su ciò che ha davanti in quel momento.
La context window: quanto riesce a tenere a mente
Prima serve un'altra parola: token. Un modello non legge parole intere, ma pezzetti di testo, circa tre quarti di parola in media. Tutto quello che scrivi e tutto quello che il modello risponde viene contato in token.
La context window è la dimensione massima del contesto che il modello riesce a elaborare in una singola sessione, misurata appunto in token. È il suo tavolo di lavoro: ci sta una quantità limitata di roba. Finché la conversazione ci sta dentro, il modello ricorda tutto. Quando la superi, le informazioni più vecchie escono dalla finestra e vengono dimenticate, per far posto alle nuove. Le dimensioni cambiano parecchio: i modelli datati si fermavano intorno ai 4.000 token, quelli recenti arrivano oltre un milione. Ma un limite c'è sempre.
Tutto ciò che è nella conversazione in corso: i tuoi messaggi, le risposte, i documenti allegati, le istruzioni di sistema. Il modello vede solo questo.
La dimensione massima del contesto elaborabile in una singola sessione, misurata in token. Oltre il limite, le informazioni più vecchie escono dalla finestra.
Meccanismo separato e opzionale per conservare informazioni tra conversazioni diverse. Va attivata: salva note che vengono poi reiniettate nel contesto.
La memoria: cosa si porta da una chat all'altra
La memoria è un'altra cosa ancora. È un meccanismo separato e opzionale per conservare informazioni tra conversazioni diverse. Non è automatica: va attivata. Quando è attiva, il modello salva delle note (chi sei, come preferisci lavorare, fatti che tornano spesso) e le reinietta nel contesto delle chat successive. Esempi concreti: la Memoria di ChatGPT, i Progetti di Claude con le loro istruzioni permanenti, le istruzioni personalizzate che imposti una volta e valgono sempre.
Come distinguerli, davanti a un problema
La prossima volta che l'AI sembra smemorata, la regola è semplice:
Cosa farne nel tuo lavoro
Capire questi tre concetti cambia il modo in cui usi l'AI tutti i giorni:
- Non intasare il contesto. In una chat lunga, se il modello inizia a perdere il filo, non insistere nella stessa conversazione: riparti da una chat nuova e dagli solo le informazioni che servono. Un contesto pulito dà risposte migliori.
- Usa memoria e progetti per ciò che si ripete. Il tuo ruolo, il tono che vuoi, la terminologia della tua azienda: non riscriverli a ogni chat. Mettili una volta in un progetto o nelle istruzioni personalizzate, e valgono per tutte le conversazioni.
- Porta fuori ciò che conta. La context window si svuota, la memoria dipende dalla piattaforma. Il lavoro che vuoi tenere salvalo fuori, in un tuo documento. Così non dipende da nessun servizio.
In sintesi
Contesto, context window e memoria non sono sinonimi. Il contesto è cosa l'AI vede adesso. La context window è quanto riesce a vederne tutto insieme. La memoria è cosa si porta dietro tra una volta e l'altra. Quando impari a distinguerli, smetti di stupirti se l'AI dimentica e inizi a usarla con metodo.