Konteksti-ikkuna (context window) tarkoittaa suurinta tekstimäärää – mitattuna tokeneissa – jonka tekoälymalli pystyy käsittelemään yhdessä sessioissa. Tähän lasketaan sekä käyttäjän syöte että mallin tuottama vastaus. Konteksti-ikkunan ulkopuolelle jäävää tietoa malli ei suoraan "näe".
Konteksti-ikkunan koko
Konteksti-ikkunat ovat kasvaneet merkittävästi: GPT-4 tukee 128 000 tokenia, Claude vielä suurempia ikkunoita. Käytännössä 100 000 tokenia vastaa noin 75 000 sanaa eli kokonaista kirjaa. Isompi konteksti-ikkuna tarkoittaa, että malli voi käsitellä pidempiä dokumentteja ja monimutkaisempia tehtäviä.
Merkitys GEO:lle
RAG-järjestelmissä konteksti-ikkuna rajoittaa, kuinka paljon lähdetekstiä tekoäly voi huomioida kerralla. Tiivis, hyvin strukturoitu sisältö on tehokkaampi lähde kuin pitkä rönsyilevä teksti – se mahtuu kontekstiin ja on helpompi integroida vastaukseen.