{"id":1472,"date":"2026-09-07T09:01:26","date_gmt":"2026-09-07T09:01:26","guid":{"rendered":"https:\/\/www.budus.it\/Blog\/?p=1472"},"modified":"2026-09-07T09:01:27","modified_gmt":"2026-09-07T09:01:27","slug":"ollama-prova-empirica-con-finestre-di-contesto-contextwindow-diverse","status":"publish","type":"post","link":"https:\/\/www.budus.it\/Blog\/ollama-prova-empirica-con-finestre-di-contesto-contextwindow-diverse\/","title":{"rendered":"Ollama: Prova empirica con Finestre di Contesto (ContextWindow) diverse"},"content":{"rendered":"\n

Ho a disposizione una workstation HP Z2, con processore Inter(R) Core(TM) i9-14900K, 64 GB di RAM, Scheda video NVIDIA RTX A4500 20 GB.<\/p>\n\n\n\n

Su questa macchina ci ho installato Ollama e alcuni modelli.<\/p>\n\n\n\n

Tramite il setup di ollama, ho provato a fare inferenza modificando la “ContextWindow” (Finestra di Contesto), uno dei parametri fondamentali affinch\u00e9 i modelli riescano fattivamente a realizzare un ragionamento compiuto e prolungato (non la semplice domanda, ma proprio una discussione, un lavoro, ecc.).<\/p>\n\n\n\n

Pi\u00f9 \u00e8 grande la finestra di contesto, pi\u00f9 il modello riuscir\u00e0 ad immagazzinare informazioni ed elaborarle, ragionandoci sopra (se previsto il ragionamento).<\/p>\n\n\n\n

Ma \u00e8 chiaro che, all’aumentare di questa finestra, Ollama deve allocare sempre pi\u00f9 risorse (in realt\u00e0, come si vedr\u00e0 poi dalla tabella di comparazione, non sempre) hardware: prima andr\u00e0 ad occupare la VRAM (la memoria della scheda video), quindi far\u00e0 uno “split” e user\u00e0 la RAM di sistema; nel mio caso specifico sono esattamente 20 GB (VRAM) e 64 GB (RAM).<\/p>\n\n\n\n

Tuttavia, ho constatato alcuni aspetti fondamentali:<\/p>\n\n\n\n

    \n
  1. Finch\u00e9 il modello gira totalmente in VRAM, le prestazioni sono ottime, al pari di un servizio online a pagamento (ChatGPT, Claude, Gemini, ecc.).<\/li>\n\n\n\n
  2. Appena il contesto non riesce pi\u00f9 ad essere allocato in VRAM, Ollama “spezza” e qui le prestazioni crollano, ma non solo perch\u00e9 …<\/li>\n\n\n\n
  3. … ho constatato che anche i crash del modello si fanno MOLTO pi\u00f9 probabili.<\/li>\n<\/ol>\n\n\n\n

    Quindi: scegliere la finestra di contesto in base al modello e al proprio hardware, diventa estremamente dirimente, fa la differenza tra “tirare fuori un lavoro anzich\u00e9 un fallimento”.<\/p>\n\n\n\n

    Da qui nasce la mia idea di fare una tabella comparativa dove, semplicemente, ho provato a fare inferenza su tre modelli che sto usando (siamo a Settembre 2026) con soddisfazione, ma variando la Finestra di Contesto dal minimo di 4K fino al massimo di 256K (4K, 8K, 16K, 32K, 64K, 128K, 256K).<\/p>\n\n\n\n

    Ecco il risultato:<\/p>\n\n\n\n

    Name<\/th>ID<\/th>Size<\/th>Processor<\/th>Context<\/th><\/tr><\/thead>
    orcarouter\/Qwen3.8-27B-Uncensored:iq4_xs<\/td>84e6355d6764<\/td>34 GB<\/td>48%\/52% CPU\/GPU<\/td>262144<\/td><\/tr>
    orcarouter\/Qwen3.8-27B-Uncensored:iq4_xs<\/td>84e6355d6764<\/td>25 GB<\/td>28%\/72% CPU\/GPU<\/td>131072<\/td><\/tr>
    orcarouter\/Qwen3.8-27B-Uncensored:iq4_xs<\/td>84e6355d6764<\/td>20 GB<\/td>10%\/90% CPU\/GPU<\/td>65536<\/td><\/tr>
    orcarouter\/Qwen3.8-27B-Uncensored:iq4_xs<\/td>84e6355d6764<\/td>17 GB<\/td>100% GPU<\/td>32768<\/td><\/tr>
    orcarouter\/Qwen3.8-27B-Uncensored:iq4_xs<\/td>84e6355d6764<\/td>16 GB<\/td>100% GPU<\/td>16384<\/td><\/tr>
    orcarouter\/Qwen3.8-27B-Uncensored:iq4_xs<\/td>84e6355d6764<\/td>15 GB<\/td>100% GPU<\/td>8192<\/td><\/tr>
    orcarouter\/Qwen3.8-27B-Uncensored:iq4_xs<\/td>84e6355d6764<\/td>15 GB<\/td>100% GPU<\/td>4096<\/td><\/tr>
    gemma4:26b<\/td>5571076f3d70<\/td>18 GB<\/td>32%\/68% CPU\/GPU<\/td>262144<\/td><\/tr>
    gemma4:26b<\/td>5571076f3d70<\/td>18 GB<\/td>17%\/83% CPU\/GPU<\/td>131072<\/td><\/tr>
    gemma4:26b<\/td>5571076f3d70<\/td>18 GB<\/td>10%\/90% CPU\/GPU<\/td>65536<\/td><\/tr>
    gemma4:26b<\/td>5571076f3d70<\/td>17 GB<\/td>100% GPU<\/td>32768<\/td><\/tr>
    gemma4:26b<\/td>5571076f3d70<\/td>17 GB<\/td>100% GPU<\/td>16384<\/td><\/tr>
    gemma4:26b<\/td>5571076f3d70<\/td>17 GB<\/td>100% GPU<\/td>8192<\/td><\/tr>
    gemma4:26b<\/td>5571076f3d70<\/td>17 GB<\/td>100% GPU<\/td>4096<\/td><\/tr>
    gpt-oss:20b<\/td>17052f91a42e<\/td>12 GB<\/td>100% GPU<\/td>131072<\/td><\/tr>
    gpt-oss:20b<\/td>17052f91a42e<\/td>12 GB<\/td>100% GPU<\/td>65536<\/td><\/tr>
    gpt-oss:20b<\/td>17052f91a42e<\/td>12 GB<\/td>100% GPU<\/td>32768<\/td><\/tr>
    gpt-oss:20b<\/td>17052f91a42e<\/td>12 GB<\/td>100% GPU<\/td>16384<\/td><\/tr>
    gpt-oss:20b<\/td>17052f91a42e<\/td>12 GB<\/td>100% GPU<\/td>8192<\/td><\/tr>
    gpt-oss:20b<\/td>17052f91a42e<\/td>12 GB<\/td>100% GPU<\/td>4096<\/td><\/tr>
    ornith-1.5:9b<\/td>e5df7dcdd8a2<\/td>14 GB<\/td>100% GPU<\/td>262144<\/td><\/tr>
    ornith-1.5:9b<\/td>e5df7dcdd8a2<\/td>9.9 GB<\/td>100% GPU<\/td>131072<\/td><\/tr>
    ornith-1.5:9b<\/td>e5df7dcdd8a2<\/td>7.8 GB<\/td>100% GPU<\/td>65536<\/td><\/tr>
    ornith-1.5:9b<\/td>e5df7dcdd8a2<\/td>6.7 GB<\/td>100% GPU<\/td>32768<\/td><\/tr>
    ornith-1.5:9b<\/td>e5df7dcdd8a2<\/td>6.1 GB<\/td>100% GPU<\/td>16384<\/td><\/tr>
    ornith-1.5:9b<\/td>e5df7dcdd8a2<\/td>5.8 GB<\/td>100% GPU<\/td>8192<\/td><\/tr>
    ornith-1.5:9b<\/td>e5df7dcdd8a2<\/td>5.6 GB<\/td>100% GPU<\/td>4096<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n

    Analizzando la tabella, si possono fare alcune considerazioni:<\/p>\n\n\n\n