Informatika - Jazykové technologie a počítačová lingvistika

Tato stránka vychází z podkladů pro tištěné studijní plány (tzv. Karolinku).

Garantující pracoviště: Ústav formální a aplikované lingvistiky
Oborový garant: Doc. Mgr. Barbora Vidová Hladká, Ph.D.

Zaměření:

počítačová a formální lingvistika
statistické metody a metody strojového učení pro zpracování jazyka

Absolventa charakterizuje porozumění matematicko-informatickým základům počítačového zpracování přirozených jazyků a teoretickým základům jejich formálního popisu. Má dobrou znalost obecných metod strojového učení, a to včetně nejmodernějších metod hlubokého učení. Získané znalosti je schopen uplatňovat v návrhu a realizaci systémů pro zpracování přirozených jazyků v psané i mluvené formě stejně jako systémů pro práci s rozsáhlými kolekcemi nestrukturovaných i strukturovaných dat obecně (ve finančnictví, ekonomice, biologii, lékařství a dalších oborech využívajících metod umělé inteligence). Absolvent disponuje potřebnými znalostmi a praktickými dovednostmi (programování, práce v týmu), které najdou uplatnění v informačních a komunikačních technologiích (ICT).

Povinné předměty

kódPředmětKredityZSLS
NTIN066Datové struktury 1 62/2 Z+Zk
NTIN090Základy složitosti a vyčíslitelnosti 42/1 Z+Zk
NPFL063Úvod do obecné lingvistiky 42/1 Z+Zk
NPFL067Statistické metody zpracování přirozených jazyků I 52/2 Z+Zk
NPFL138Hluboké učení 83/4 Z+Zk
NSZZ023Diplomová práce I 60/4 Z
NSZZ024Diplomová práce II 90/6 Z
NSZZ025Diplomová práce III 150/10 Z

Povinně volitelné předměty - skupina 1

Je požadováno splnění povinně volitelných předmětů z následujícího seznamu v rozsahu alespoň 24 kreditů.

kódPředmětKredityZSLS
NPFL006Úvod do formální lingvistiky 32/0 Zk
NPFL038Základy rozpoznávání a generování mluvené řeči 52/2 Z+Zk
NPFL068Statistické metody zpracování přirozených jazyků II 52/2 Z+Zk
NPFL070Zdroje jazykových dat 41/2 KZ
NPFL075Závislostní gramatiky a korpusy 31/1 KZ
NPFL079Algoritmy rozpoznávání mluvené řeči 52/2 Z+Zk
NPFL082Informační struktura věty a výstavba diskurzu 20/2 Z
NPFL083Lingvistické teorie a gramatické formalismy 52/2 Z+Zk
NPFL087Statistický strojový překlad 52/2 Z+Zk
NPFL093Aplikace NLP 42/1 KZ
NPFL094Morfologická a syntaktická analýza 32/0 KZ
NPFL095Moderní metody v počítačové lingvistice 30/2 Z
NPFL097Neřízené strojové učení v NLP 31/1 Z
NPFL099Statistické dialogové systémy 42/1 Z+Zk
NPFL100Variabilita jazyků v čase a prostoru 21/1 Z
NPFL103Vyhledávání informací 52/2 Z+Zk
NPFL104Metody strojového učení 41/2 Z+Zk
NPFL122Hluboké zpětnovazební učení252/2 Z+Zk
NPFL139Hluboké zpětnovazební učení283/4 Z+Zk
NPFL128Jazykové technologie v praxi 42/1 KZ

2 Předmět NPFL122 byl vyučován do roku 2022/2023, předmět NPFL139 je vyučován od roku 2023/2024, předměty jsou vzájemně neslučitelné.

Povinně volitelné předměty - skupina 2 (projektové předměty)

Je požadováno splnění povinně volitelných předmětů z následujícího seznamu v rozsahu alespoň 6 kreditů. Má-li student zájem o absolvování více jak jednoho projektového předmětu, může k tomu využít volitelné předměty NPRG078 Softwarový projekt II, NPRG079 Výzkumný projekt II či NPRG080 Firemní projekt II.

kódPředmětKredityZSLS
NPRG069Softwarový projekt 120/8 Z0/8 Z
NPRG070Výzkumný projekt 90/6 Z0/6 Z
NPRG071Firemní projekt 60/4 Z0/4 Z

Povinně volitelné předměty - skupina 3 (doplňující předměty)

Je požadováno splnění povinně volitelných předmětů z následujícího seznamu v rozsahu alespoň 10 kreditů.

kódPředmětKredityZSLS
NAIL025Evoluční algoritmy 1 52/2 Z+Zk
NAIL069Umělá inteligence 1 42/1 Z+Zk
NAIL070Umělá inteligence 2 32/0 Zk
NAIL104Pravděpodobnostní grafické modely 32/0 Zk
NPGR036Počítačové vidění 52/2 Z+Zk

Státní závěrečná zkouška

Studijní program Informatika - Jazykové technologie a počítačová lingvistika má jeden společný povinný okruh pro obě zaměření (okruh 1), jeden povinný okruh dle zvoleného zaměření (okruh 2, nebo okruh 3) a jeden okruh si student vybírá z volitelných okruhů (okruhy 4 a 5). Jako tento poslední okruh si student může zvolit také povinný okruh druhého zaměření tohoto programu. Celkem tedy každý student dostane otázky ze tří okruhů.

Zkušební okruhy

1. Základy počítačového zpracování přirozeného jazyka (povinný okruh pro obě zaměření)
2. Lingvistické teorie a formalismy (povinný okruh pro zaměření počítačová a formální lingvistika)
3. Statistické metody a strojové učení v počítačové lingvistice (povinný okruh pro zaměření statistické metody a metody strojového učení pro zpracování jazyka)
4. Zpracování řeči, dialogové systémy a multimodální systémy (volitelný okruh)
5. Aplikace metod zpracování přirozeného jazyka (volitelný okruh)

Zkušební požadavky

1. Základy počítačového zpracování přirozeného jazyka
Úrovně popisu jazyka: fonetika, fonologie, morfologie, syntax, sémantika, pragmatika. Základní pojmy z teorie informace. Markovovy modely. Jazykové modely a vyhlazování. Třídy slov. Anotované korpusy. Návrh a vyhodnocení lingvistických experimentů, evaluační metriky. Morfologické značkování. Přehled základních klasifikačních a regresních algoritmů.

Doporučené předměty

kódPředmětKredityZSLS
NPFL063Úvod do obecné lingvistiky 42/1 Z+Zk
NPFL067Statistické metody zpracování přirozených jazyků I 52/2 Z+Zk
NPFL138Hluboké učení 83/4 Z+Zk
NPFL070Zdroje jazykových dat 41/2 KZ

2. Lingvistické teorie a formalismy
Funkční generativní popis. Pražský závislostní korpus. Universal Dependencies. Další gramatické formalismy - přehled a základní charakteristika. Fonetika, fonologie. Počítačová morfologie. Povrchová a hloubková stavba věty; valence. Aktuální členění věty; informační struktura, diskurz. Koreference. Typologie jazyků. Parsing.

Doporučené předměty

kódPředmětKredityZSLS
NPFL063Úvod do obecné lingvistiky 42/1 Z+Zk
NPFL006Úvod do formální lingvistiky 32/0 Zk
NPFL075Závislostní gramatiky a korpusy 31/1 KZ
NPFL083Lingvistické teorie a gramatické formalismy 52/2 Z+Zk
NPFL094Morfologická a syntaktická analýza 32/0 KZ

3. Statistické metody a strojové učení v počítačové lingvistice
Generativní a diskriminativní modely. Metody řízeného učení pro klasifikaci a regresi (lineární modely, ostatní metody: naive Bayes, rozhodovací stromy, učení založené na příkladech, SVM a kernely, logistická regrese). Metody neřízeného učení. Jazykové modely a modely kanálu. Vyhlazování modelů, kombinace modelů. HMM, trellis, Viterbi, Baum-Welch. Algoritmy pro statistický tagging. Algoritmy pro složkový a závislostní statistický parsing. Strojové učení s využitím neuronových sítí. Konvoluční a rekurentní sítě. Slovní embeddingy.

Doporučené předměty

kódPředmětKredityZSLS
NPFL067Statistické metody zpracování přirozených jazyků I 52/2 Z+Zk
NPFL138Hluboké učení 83/4 Z+Zk
NPFL068Statistické metody zpracování přirozených jazyků II 52/2 Z+Zk

4. Zpracování řeči, dialogové systémy a multimodální systémy
Základy tvoření a vnímání mluvené řeči. Metody zpracování řečového signálu. Modelování akustiky fonémů pomocí HMM. Implementace Baum-Welch a Viterbi algoritmu pro rozpoznávání řeči. Neuronové modely řeči. Metody syntézy řeči. Řečové aplikace. Základní komponenty dialogového systému. Porozumění jazyku v dialogových systémech. Sledování dialogového stavu. Metody řízení dialogu. End-to-end neuronové dialogové systémy. Architektury pro dialogové systémy v otevřené doméně. Generování přirozeného jazyka. Evaluace dialogových systémů. Vizuální dialog a multimodální systémy.

Doporučené předměty

kódPředmětKredityZSLS
NPFL038Základy rozpoznávání a generování mluvené řeči 52/2 Z+Zk
NPFL079Algoritmy rozpoznávání mluvené řeči 52/2 Z+Zk
NPFL099Statistické dialogové systémy 42/1 Z+Zk

5. Aplikace metod zpracování přirozeného jazyka
Kontrola překlepů, kontrola gramatické správnosti. Strojový překlad. Počítačem podporovaný překlad. Statistické metody ve strojovém překladu. Strojový překlad mluvené řeči. Vyhodnocování kvality překladu a překladu mluvené řeči. Vyhledávání informací, modely pro vyhledávání informací. Rozšiřování dotazů a relevance feedback. Shlukování dokumentů. Hledání blízkých duplicit. Evaluace vyhledávání informací. Postojová analýza (sentiment analysis). Předtrénované modely a jejich využití v úlohách klasifikační povahy a úlohách generování.

Doporučené předměty

kódPředmětKredityZSLS
NPFL087Statistický strojový překlad 52/2 Z+Zk
NPFL093Aplikace NLP 42/1 KZ
NPFL103Vyhledávání informací 52/2 Z+Zk
NPFL128Jazykové technologie v praxi 42/1 KZ