Zpracování přirozeného jazyka II

MLC_NLPA
Délka 1 den
0 ITK bodů
0 termínů
Praha (4 990 Kč)

Brno (na vyžádání)

Bratislava (200 €)

V tomto kurzu navážeme na základní kurz Zpracování přirozeného jazyka pokročilejšími tématy. Zaměříme se především na předzpracování dat a nejnovější aplikace hlubokého učení ve zpracování textu. Bude se jednat především architektury neuronových sítí postavených na takzvaných Transformerech. S využitím metody transfer learningu ukážeme, jak lze využít velké předtrénované neuronové sítě pro nejrůznější praktické aplikace.

Základní znalost programování v Pythonu
Středoškolská matematika
Znalosti strojového učení na úrovni kurzu Úvod do strojového učení
Znalosti na úrovni kurzu Zpracování přirozeného jazyka

Studijní materiál společnosti Machine Learning College.

Předzpracování textových dat

Kódování znaků a unicode normalizace
Tradiční tokenizace (jednoduché metody, Spacy, Moses)
Subword tokenizace (byte-pair kódování, wordpiece, sentencepiece)
Šištění dat (deduplikace, odstranění textového balastu)

Word embeddings

Obecné principy
Implementace skip-gram modelu

Strojový překlad s rekurentními sítěmi

Paměťové buňky LSTM a GRU
Implementace strojového překladu pomocí rekurentních sítí

Transformery

Attention is all you need
Architektura transformeru
GPT2
BERT
XLNET

Příklady transfer learningu pro zpracování přirozeného jazyka

Klasifikace textů
Rozpoznání jmenných entit
Question answering

Stáhnout PDF detail
Stáhnout PDF detail (bez termínů)

Uvedené ceny jsou bez DPH.

Zpracování přirozeného jazyka II

GOPAS Praha

GOPAS Brno

GOPAS Bratislava

Obchodní údaje

Zpracování přirozeného jazyka II

Předchozí kurzy

GOPAS Praha

GOPAS Brno

GOPAS Bratislava

Obchodní údaje