Termín:tokenizácia²: Rozdiel medzi revíziami
Z STD
| (2 medziľahlé úpravy od jedného ďalšieho používateľa nie sú zobrazené) | |||
| Riadok 1: | Riadok 1: | ||
{{Term | {{Term | ||
|Name=tokenizácia² | |Name=tokenizácia² | ||
| − | |Definition=automatizované členenie, [[Term:segmentácia²|segmentácia]] textu na tokeny | + | |Definition=automatizované členenie, [[Term:segmentácia²|segmentácia]] textu na [[Term:token³|tokeny]] |
| − | |Field=lingvistika, | + | |Field=lingvistika, informačná technológia a spracovanie údajov |
|Related terms=token³, tokenizácia¹ | |Related terms=token³, tokenizácia¹ | ||
| − | |Bibliography=Šimková, M.: Výberový slovník termínov a pojmov z korpusovej lingvistiky. In: Slovenský národný korpus. Texty, anotácie, vyhľadávania. Bratislava: Jazykovedný ústav Ľ. Štúra SAV – Mikula | + | |Bibliography=Šimková, M.: Výberový slovník termínov a pojmov z korpusovej lingvistiky. In: Šimková, M. – Gajdošová, K. – Kmeťová, B. – Debnár, M.: Slovenský národný korpus. Texty, anotácie, vyhľadávania. Bratislava: Jazykovedný ústav Ľ. Štúra SAV – Vydavateľstvo Mikula 2017. |
|Translations={{Translation | |Translations={{Translation | ||
| − | |Language=en | + | |Language=en |
|Localized form=tokenisation | |Localized form=tokenisation | ||
}}{{Translation | }}{{Translation | ||
| − | |Language=en | + | |Language=en |
|Localized form=tokenization | |Localized form=tokenization | ||
}} | }} | ||
Aktuálna revízia z 22:31, 22. apríl 2021
Odporúčaný termín [?]
| Oblasť: | lingvistika, informačná technológia a spracovanie údajov |
| Definícia: | automatizované členenie, segmentácia textu na tokeny |
| Zdroj: | Šimková, M.: Výberový slovník termínov a pojmov z korpusovej lingvistiky. In: Šimková, M. – Gajdošová, K. – Kmeťová, B. – Debnár, M.: Slovenský národný korpus. Texty, anotácie, vyhľadávania. Bratislava: Jazykovedný ústav Ľ. Štúra SAV – Vydavateľstvo Mikula 2017. |
| Príbuzné termíny: | token³, tokenizácia¹ |
| Cudzojazyčný ekvivalent: | en: tokenisation, en: tokenization |
