Förklara och sammanfatta teoretiska metoder, utföra matematiska härledningar, samt analysera specifika tekniska koncept relaterade till distribuerad konsensus, optimering, och maskininlärning över nätverk.
Implementera och utföra laborativa uppgifter med välkända programspråk, samt verifiera och reflektera över de teoretiska resultaten relaterade till konsensusbildning och kollaborativ maskininlärning genom simuleringsexempel.
Presentera och rapportera laborativa uppgifter på ett strukturerat och uttänkt sätt.
Kursinnehåll
Grundläggande kunskap om kommunikationsnätverk, grafer, topologi samt spektral grafteori. Exempel på signal- och informationsbehandling i nätverk. Applikationer inom distribuerad styrning, inferens, och maskininlärning. Informationsspridning och sammanställning över nätverk. Distribuerad konsensus i tidsinvarianta samt tidsvarianta nätverk. Optimeringsmetoder för maskininlärning. Gradientnedstigning, stokastisk gradientnedstigning, samt distribuerad och decentraliserad gradientnedstigning. Centraliserad och decentraliserad kollaborativ maskininlärning. Federerad inlärning. Kommunikationseffektivitet, samt dataheterogenitet och -integritet. Decentraliserad inlärning. Avvägningar mellan kommunikation och beräkning. Hållbar AI: etiska aspekter av AI, energi- och beräkningseffektivitet optimerad ML, etc.
Förutsättningar
Linjär algebra, sannolikhetslära, stokastiska processer, programmeringskunskaper i Python.
Proceedings of the IEEE, - A. Nedić, A. Olshevsky and M. G. Rabbat, Network topology and communicationcomputation tradeoffs in decentralized optimization
Proceedings of the IEEE - R. Olfati-Saber, J. A. Fax and R. M. Murray, Consensus and cooperation in networked multiagent systems