Informatika - Jazykové technologie a počítačová lingvistika

Garantující pracoviště: Ústav formální a aplikované lingvistiky
Oborový garant: Doc. Mgr. Barbora Vidová Hladká, Ph.D.

Zaměření:

– počítačová a formální lingvistika

– statistické metody a metody strojového učení pro zpracování jazyka

Absolventa charakterizuje porozumění matematicko-informatickým základům počítačového zpracování přirozených jazyků a teoretickým základům jejich formálního popisu. Má dobrou znalost obecných metod strojového učení, a to včetně nejmodernějších metod hlubokého učení. Získané znalosti je schopen uplatňovat v návrhu a realizaci systémů pro zpracování přirozených jazyků v psané i mluvené formě stejně jako systémů pro práci s rozsáhlými kolekcemi nestrukturovaných i strukturovaných dat obecně (ve finančnictví, ekonomice, biologii, lékařství a dalších oborech využívajících metod umělé inteligence). Absolvent disponuje potřebnými znalostmi a praktickými dovednostmi (programování, práce v týmu), které najdou uplatnění v informačních a komunikačních technologiích (ICT).

Povinné předměty

Povinně volitelné předměty - skupina 1

Student musí získat celkem alespoň 40 kreditů za povinně volitelné předměty, z nichž může být až 6 kreditů za projektové předměty (tedy předměty ze skupiny 2) a až 10 kreditů za předměty z bloku doplňujících povinně volitelných předmětů (tedy ze skupiny 3).

Povinně volitelné předměty - skupina 2 (projektové předměty)

Student si jako povinně volitelný může zvolit nejvýše jeden z projektových předmětů z této skupiny, ze získaných kreditů se mu započítá až 6 kreditů jako kredity za povinně volitelné předměty. (Případné další kredity za předměty z této skupiny se započítávají jako kredity za volitelné předměty.)

Povinně volitelné předměty - skupina 3 (doplňující předměty)

Student si může zvolit jakékoliv předměty z této skupiny, ze získaných kreditů se mu započítá až 10 kreditů jako kredity za povinně volitelné předměty. (Případné další předměty z této skupiny se započítávají jako volitelné předměty.)

Státní závěrečná zkouška

Studijní program Informatika - Jazykové technologie a počítačová lingvistika má jeden společný povinný okruh pro obě zaměření (okruh 1), jeden povinný okruh dle zvoleného zaměření (okruh 2, nebo okruh 3) a jeden okruh si student vybírá z volitelných okruhů (okruhy 4 a 5). Jako tento poslední okruh si student může zvolit také povinný okruh druhého zaměření tohoto programu. Celkem tedy každý student dostane otázky ze tří okruhů.

Zkušební okruhy

1. Základy počítačového zpracování přirozeného jazyka (povinný okruh pro obě zaměření)

2. Lingvistické teorie a formalismy (povinný okruh pro zaměření počítačová a formální lingvistika)

3. Statistické metody a strojové učení v počítačové lingvistice (povinný okruh pro zaměření statistické metody a metody strojového učení pro zpracování jazyka)

4. Zpracování řeči, dialogové systémy a multimodální systémy (volitelný okruh)

5. Aplikace metod zpracování přirozeného jazyka (volitelný okruh)

Zkušební požadavky

1. Základy počítačového zpracování přirozeného jazyka
Úrovně popisu jazyka: fonetika, fonologie, morfologie, syntax, sémantika, pragmatika. Základní pojmy z teorie informace. Markovovy modely. Jazykové modely a vyhlazování. Třídy slov. Anotované korpusy. Návrh a vyhodnocení lingvistických experimentů, evaluační metriky. Morfologické značkování. Přehled základních klasifikačních a regresních algoritmů.

Doporučené předměty

2. Lingvistické teorie a formalismy
Funkční generativní popis. Pražský závislostní korpus. Universal Dependencies. Další gramatické formalismy - přehled a základní charakteristika. Fonetika, fonologie. Počítačová morfologie. Povrchová a hloubková stavba věty; valence. Aktuální členění věty; informační struktura, diskurz. Koreference. Typologie jazyků. Parsing.

Doporučené předměty

3. Statistické metody a strojové učení v počítačové lingvistice
Generativní a diskriminativní modely. Metody řízeného učení pro klasifikaci a regresi (lineární modely, ostatní metody: naive Bayes, rozhodovací stromy, učení založené na příkladech, SVM a kernely, logistická regrese). Metody neřízeného učení. Jazykové modely a modely kanálu. Vyhlazování modelů, kombinace modelů. HMM, trellis, Viterbi, Baum-Welch. Algoritmy pro statistický tagging. Algoritmy pro složkový a závislostní statistický parsing. Strojové učení s využitím neuronových sítí. Konvoluční a rekurentní sítě. Slovní embeddingy.

Doporučené předměty

4. Zpracování řeči, dialogové systémy a multimodální systémy
Základy tvoření a vnímání mluvené řeči. Metody zpracování řečového signálu. Modelování akustiky fonémů pomocí HMM. Implementace Baum-Welch a Viterbi algoritmu pro rozpoznávání řeči. Neuronové modely řeči. Metody syntézy řeči. Řečové aplikace. Základní komponenty dialogového systému. Porozumění jazyku v dialogových systémech. Sledování dialogového stavu. Metody řízení dialogu. End-to-end neuronové dialogové systémy. Architektury pro dialogové systémy v otevřené doméně. Generování přirozeného jazyka. Evaluace dialogových systémů. Vizuální dialog a multimodální systémy.

Doporučené předměty

5. Aplikace metod zpracování přirozeného jazyka
Kontrola překlepů, kontrola gramatické správnosti. Strojový překlad. Počítačem podporovaný překlad. Statistické metody ve strojovém překladu. Strojový překlad mluvené řeči. Vyhodnocování kvality překladu a překladu mluvené řeči. Vyhledávání informací, modely pro vyhledávání informací. Rozšiřování dotazů a relevance feedback. Shlukování dokumentů. Hledání blízkých duplicit. Evaluace vyhledávání informací. Postojová analýza (sentiment analysis). Předtrénované modely a jejich využití v úlohách klasifikační povahy a úlohách generování.

Doporučené předměty