tokenizácia
Z STD
Verzia z 08:06, 5. september 2018, ktorú vytvoril MartinSechny (diskusia | príspevky)$7
Odporúčaný termín [?]
| Oblasť: | lingvistika, strojový preklad |
| Definícia: | výsledok automatizovaného členenia textu na tokeny |
| Zdroj: | Šimková, M.: Výberový slovník termínov z korpusovej lingvistiky. 2006. |
| Príbuzné termíny: | token³, tokenizácia² |
| Cudzojazyčný ekvivalent: | en-GB: tokenisation, en-US: tokenization |
| URL: | http://korpus.juls.savba.sk/ |
