Termín:token³: Rozdiel medzi revíziami
Z STD
Riadok 5: | Riadok 5: | ||
|Related terms=tokenizácia¹, tokenizácia² | |Related terms=tokenizácia¹, tokenizácia² | ||
|Synonyms=textová jednotka | |Synonyms=textová jednotka | ||
− | |Bibliography=Slovník cudzích slov (akademický) | + | |Bibliography=Slovník cudzích slov (akademický). Bratislava: SPN – Mladé letá 2005. |
|Translations={{Translation | |Translations={{Translation | ||
|Language=cs | |Language=cs |
Verzia zo dňa a času 17:00, 6. júl 2020
Odporúčaný termín [?]
Oblasť: | lingvistika, informačná technológia a spracovanie údajov, strojový preklad |
Definícia: | znak alebo súbor (postuposť) znakov formálne oddelených od iného znaku alebo súboru znakov napr. medzerou |
Zdroj: | Slovník cudzích slov (akademický). Bratislava: SPN – Mladé letá 2005. |
Synonymum: | textová jednotka |
Príbuzné termíny: | tokenizácia¹, tokenizácia² |
Cudzojazyčný ekvivalent: | cs: token, en: token |
Poznámka: | Ide o základnú jednotku korpusu, ktorou môže byť slovo, tvar slova, interpunkčné znamienko, číslica a pod. |
URL: | https://sk.wikipedia.org/wiki/Token (text) |