Säkerhet och integritet för maskininlärning

Lärandemål

Kursen syftar till att ge studenterna förståelse för säkerhetsfrågor och skydd av integritet i moderna maskininlärningssystem samt introducera centrala begrepp för att säkerställa tillförlitligheten i sådana system. Kursen kombinerar teoretisk kunskap med praktiska färdigheter för att utveckla robusta, integritetsbevarande och tillförlitliga maskininlärningssystem. Efter avslutad kurs skall den studerande kunna:

• Redogöra för de viktigaste säkerhets- och integritetsriskerna i moderna maskininlärningssystem.
• Tillämpa hotmodellering och säkerhetsanalysmetoder för att identifiera och bedöma risker i maskininlärningspipelines, inklusive nya attackmodeller såsom AI-assisterade angripare.
• Konstruera och implementera säkerhets- och integritetsattacker mot maskininlärningssystem, utveckla motsvarande försvar och empiriskt utvärdera deras effektivitet.
• Förklara grundläggande principer för att bygga tillförlitliga maskininlärningssystem och relatera dessa till verkliga tillämpningar.
• Samarbeta och kommunicera resultaten av ett grupprojekt, inklusive implementering, dokumentation och presentation/demonstration.