| A | B | C | D | E | F | G | H | I | J | K | L | M | N | O | P | Q | R | S | T | U | V | W | X | Y | Z | |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
1 | ДЗ | Квизы | ||||||||||||||||||||||||
2 | 06.02.2024 | Вводное занятие | ||||||||||||||||||||||||
3 | Unit 1: Introduction and Basic Text Processing | |||||||||||||||||||||||||
4 | 13.02.2024 | Lecture 01: | Theories: | Тест 1. Introduction to NLP | ||||||||||||||||||||||
5 | NLP Research Questions and Tasks | |||||||||||||||||||||||||
6 | Math & Lingustics Background | |||||||||||||||||||||||||
7 | Chomsky Hierarchy of Grammars and Automata | |||||||||||||||||||||||||
8 | Text Segmentation | |||||||||||||||||||||||||
9 | Tokenization and Stemming | |||||||||||||||||||||||||
10 | Morphology and Universal Morphology Corpus | |||||||||||||||||||||||||
11 | Word frequncies and Zipf’s Law | |||||||||||||||||||||||||
12 | Collocations and Multi-word Expressions | |||||||||||||||||||||||||
13 | 16.02.2024 | Practice: | ||||||||||||||||||||||||
14 | Python Programming & NumPy & Jupyter Notebook | |||||||||||||||||||||||||
15 | NLTK | |||||||||||||||||||||||||
16 | Unit 2: NLP Techniques | |||||||||||||||||||||||||
17 | 20.02.2024 | Lecture 02: | ||||||||||||||||||||||||
18 | Theories: | Тест 2. Machine Learning basics and Text Classification | ||||||||||||||||||||||||
19 | Machine Learning basics | |||||||||||||||||||||||||
20 | Classifiers, Logistic Regressions | |||||||||||||||||||||||||
21 | Stochastic Gradient Descend | |||||||||||||||||||||||||
22 | Vector Space Models and TF-IDFs | |||||||||||||||||||||||||
23 | Text Classification | |||||||||||||||||||||||||
24 | Sentiment Analysis | |||||||||||||||||||||||||
25 | 23.02.2024 | Practice: | ||||||||||||||||||||||||
26 | PyTorch & Logistic Regression | |||||||||||||||||||||||||
27 | Assignment 1: Word2Vec | |||||||||||||||||||||||||
28 | 27.02.2024 | Lecture 03: | ДЗ 1 word2vec | Тест 3. Word Embedding | ||||||||||||||||||||||
29 | Theories: | |||||||||||||||||||||||||
30 | Distributional Semantics and Word Embeddings | |||||||||||||||||||||||||
31 | Word2Vec and Evaluation | |||||||||||||||||||||||||
32 | Softmax and Cross-entropy Loss | |||||||||||||||||||||||||
33 | GLoVe, Fasttext | |||||||||||||||||||||||||
34 | 07.03.2024 | Practice: | ||||||||||||||||||||||||
35 | 18:40 | Word2Vec, Doc2Vec | ||||||||||||||||||||||||
36 | Assignment: | |||||||||||||||||||||||||
37 | 1st assignment is open. | |||||||||||||||||||||||||
38 | 05.03.2024 | Lecture 04: | Тест 4. Convolutional Neural Networks | |||||||||||||||||||||||
39 | Theories: | |||||||||||||||||||||||||
40 | Artificial Neural Networks (ANNs) | |||||||||||||||||||||||||
41 | Multilayer Perceptrons (MLPs) | |||||||||||||||||||||||||
42 | Backpropagation | |||||||||||||||||||||||||
43 | Convolutional Neural Networks (CNN) | |||||||||||||||||||||||||
44 | 15.03.2024 | Practice: | ||||||||||||||||||||||||
45 | Text Classification with CNNs | |||||||||||||||||||||||||
46 | 12.03.2024 | Lecture 05: | ДЗ 2 классификация тестов | Тест 5. Hidden Markov Models and Tagging | ||||||||||||||||||||||
47 | Theories: | |||||||||||||||||||||||||
48 | Part-of-Speech (POS) Tagging | |||||||||||||||||||||||||
49 | Named Entity Recognition (NER) | |||||||||||||||||||||||||
50 | Maximum Entropy (ME) | |||||||||||||||||||||||||
51 | Sequence Labelling | |||||||||||||||||||||||||
52 | Hidden Markov Models (HMMs) | |||||||||||||||||||||||||
53 | Viterbi Search and Forward-Backword Algorithm | |||||||||||||||||||||||||
54 | Conditional Random Fields (CRFs) | |||||||||||||||||||||||||
55 | 22.03.2024 | Practice: | ||||||||||||||||||||||||
56 | Topiс Modeling and Visualization | |||||||||||||||||||||||||
57 | 19.03.2024 | Lecture 06: | Тест 6. Recurrent Neural Networks | |||||||||||||||||||||||
58 | Theories: | |||||||||||||||||||||||||
59 | Neural Language Models | |||||||||||||||||||||||||
60 | Recurrent Neural Networks (RNNs) | |||||||||||||||||||||||||
61 | Long Short Term Memory (LSTM) Units | |||||||||||||||||||||||||
62 | Bi-LSTM-CRF Models for Sequence Labeling | |||||||||||||||||||||||||
63 | 29.03.2024 | Practice: | ||||||||||||||||||||||||
64 | Neural Networks Tips and Tricks | |||||||||||||||||||||||||
65 | Regularizations | |||||||||||||||||||||||||
66 | Dropout | |||||||||||||||||||||||||
67 | Initialization | |||||||||||||||||||||||||
68 | Assignments: | |||||||||||||||||||||||||
69 | Assignment 1 Answers | |||||||||||||||||||||||||
70 | 26.03.2024 | Lecture 07: | ||||||||||||||||||||||||
71 | Theories: | Тест 7. Topic Modeling | ||||||||||||||||||||||||
72 | Topic Modeling | |||||||||||||||||||||||||
73 | Treebanks | |||||||||||||||||||||||||
74 | Probabilistic Phrase Structure Grammars (PCFGs) | |||||||||||||||||||||||||
75 | Constituent Parings with PCFG | |||||||||||||||||||||||||
76 | Dependency Parsing | |||||||||||||||||||||||||
77 | Parsing with Neural Networks | |||||||||||||||||||||||||
78 | Semantic Role Labeling (optional) | |||||||||||||||||||||||||
79 | Coreference Resolution (optional) | |||||||||||||||||||||||||
80 | Discourse Parsing (optional) | |||||||||||||||||||||||||
81 | 05.04.2024 | Practice: | ||||||||||||||||||||||||
82 | Final Project Selection | |||||||||||||||||||||||||
83 | Unit 3: NLP Applications | |||||||||||||||||||||||||
84 | 02.04.2024 | Lecture 08: | ||||||||||||||||||||||||
85 | Theories: | Тест 8. Statistical Machine Translation | ||||||||||||||||||||||||
86 | Statistical Machine Translation | |||||||||||||||||||||||||
87 | Statistical Language Models | |||||||||||||||||||||||||
88 | IBM Models | |||||||||||||||||||||||||
89 | Log-linear Framework and Phrase-based Models | |||||||||||||||||||||||||
90 | Beam Search Decoding | |||||||||||||||||||||||||
91 | Machine Translation Evaluation and BLEU | |||||||||||||||||||||||||
92 | Sequence-to-sequence Models | |||||||||||||||||||||||||
93 | Attention Mechanisms | |||||||||||||||||||||||||
94 | RNN-based Neural Machine Translation (NMT) | |||||||||||||||||||||||||
95 | 12.04.2024 | Practice: | ||||||||||||||||||||||||
96 | RNN-based NMT | |||||||||||||||||||||||||
97 | 09.04.2024 | Lecture 09: | Тест 9. Transformers | |||||||||||||||||||||||
98 | Theories: | |||||||||||||||||||||||||
99 | Subword Level and Character Level NMT | |||||||||||||||||||||||||
100 | Transformers | |||||||||||||||||||||||||