beskriva fundamentala metoder för lagring av textdata för världens språk,
beskriva de vanligaste typerna av språkteknologiska uppgifter,
beskriva de vanligaste typerna av maskininlärning som används inom modern språkteknologi,
förklara hur textdata kan annoteras för en språkteknologisk uppgift inför användning av maskininlärning.
F
ä
r
d
i
g
h
e
t
o
c
f
ö
m
å
a
:
tillämpa mjukvarubibliotek som använder sig av maskininlärningsmetoder för vanliga språkteknologiska uppgifter,
skriva programkod för att implementera maskininlärningsmodeller för språkteknologi,
tillämpa utvärderingsmetoder för att mäta kvaliteten hos språkteknologiska system.
V
n
s
l
beskriva fördelar och begränsningar hos olika maskininlärningsmodeller med avseende på en given språkteknologisk uppgift,
resonera om vilka typer av data som skulle kunna vara användbara för en given tillämpning inom språkteknologi,
välja en lämplig utvärderingsmetod för ett språkteknologiskt system och motivera detta val,
resonera om etiska frågor rörande språkteknologiska system som bygger på metoder inom maskininlärning, exempelvis stereotyper och underrepresentation.
Kursinnehåll
Den snabba utveckling som sker inom maskininlärning har revolutionerat det språkteknologiska området, inklusive för kommersiellt viktiga tillämpningar som översättning, sammanfattning och informationsextraktion. Språkliga data uppvisar ett antal egenheter som gör dem mer utmanande att arbeta med i jämförelse med andra typer av data som förekommer inom maskininlärning: naturligt språk är diskret, strukturerat och mångtydigt. Det finns en enorm språklig variation: inte bara finns det tusentals språk i världen, men även inom varje språk finns det stora variationer i stil och genre. Många språkliga fenomen har en "långsvansad" statistisk fördelning, vilket gör det mer kostsamt att producera träningsdata. På grund av dessa anledningar är maskininlärningsarkitekturer för språkteknologiska tillämpningar ofta uppbyggda på ett annorlunda sätt än för tillämpningar i andra området. Kursen täcker följande breda områden:Att arbeta praktiskt med textdata, inklusive fundamentala uppgifter som orduppdelning och ordräkning;probabilistiska språkmodeller, t.ex. ämnesmodeller;översikt över de vanligaste typerna av språkteknologiska tillämpningar;representationsarkitekturer i språkteknologiska modeller, t.ex. ordinbäddningar, faltningsnät, rekurrenta nät och attention models;maskininlärningsmodeller för de vanligaste typerna av språkteknologiska problem, framför allt kategorisering, sekvenstaggning, strukturprediktion samt generering;överföringsinlärning inom språkteknologi.
Förutsättningar
Grundläggande behörighet för avancerad nivå
Litteratur
Kurslitteratur publiceras 8 veckor innan kursstart.