Redogöra för grunderna, möjligheterna och begränsningarna hos stora språkmodeller.
Redogöra för viktiga principer bakom stora språkmodeller och relaterade modellarkitekturer.
Dokumentera dataanvändning och beskriva vilken roll data spelar för modellens prestanda.
Bygga en stor språkmodellbaserad applikation, förklara dess användning och relaterade etiska överväganden.
Beskriva och analysera social bias och faror/risker relaterade till stora språkmodeller.
Kritiskt analysera de potentiella samhälleliga konsekvenserna av artificiell intelligens och stora språkmodeller med avseende på etik och hållbarhet.
Kursinnehåll
Denna kurs ger en översikt över stora språkmodeller, de möjligheter och risker som är förknippade med dem, och de samhälleliga konsekvenserna av artificiell intelligens. Fokus ligger på grunderna för stora språkmodeller: modellarkitekturer, typer av språkmodeller, dataanvändning; nyckelbegrepp för tokenisering, inbäddningar, uppmärksamhetsmekanism, transformatorer, promptning, finjustering; konstruktion av en stor språkmodellbaserad applikation; etiska frågeställningar och relaterad samhällspåverkan, bland annat social bias.
Förutsättningar
120 hp inklusive Sannolikhet och statistik, Linjär algebra, Envariabelanalys och en kurs i grundläggande programmering. Statistisk maskininlärning. Engelska 6. (Med en svensk kandidatexamen uppfylls kravet på engelska.)