tokenizácia
Z STD
Odporúčaný termín [?]
Oblasť: | lingvistika |
Definícia: | automatizované členenie, segmentácia textu na tokeny |
Zdroj: | Šimková, M.: Výberový slovník termínov z korpusovej lingvistiky. 2006. |
Cudzojazyčný ekvivalent: | en-GB: tokenisation, en-US: tokenization |
URL: | http://korpus.juls.savba.sk/ |