MEM-299 Μηχανική Μάθηση

Κατεύθυνση	Μαθηματικών	Εφαρμοσμένων Μαθηματικών
Είδος	Ελεύθερης Επιλογής (Ε4)	Επιλογής Προχωρημένο
Έτος/εξάμηνο	4ο / Εαρινό
ECTS/Διδακτικές μονάδες	7 / 4
Ώρες διαλέξεων/εργαστηρίων	4 / 2
Προαπαιτού­μενα μαθήματα	MEM-104, MEM-105, MEM-106, MEM-261
Συνιστώμενα μαθήματα	MEM-251, MEM-264, MEM-255 ή MEM-293, MEM-262 ή MEM-264
Μέθοδος διδασκαλίας	Διαλέξεις και εργαστήριο υπολογιστών
Μέθοδος αξιολόγησης	Τελική εργασία, εξετάσεις εργαστηρίου, φυλλάδια ασκήσεων

Μαθησιακά αποτελέσματα

Μετά την επιτυχή ολοκλήρωση του μαθήματος ο στόχος είναι οι φοιτητές να είναι σε θέση:

• Να αναγνωρίζουν και να εφαρμόζουν κατάλληλες τεχνικές μηχανικής μάθησης για την επίλυση απλών πραγματικών προβλημάτων.
• Να υλοποιούν αλγορίθμους μηχανικής μάθησης και να αξιολογούν την απόδοσή τους χρησιμοποιώντας σχετικές μετρικές.
• Να εξηγούν τα μαθηματικά θεμέλια και τις υπολογιστικές πτυχές των μοντέλων μηχανικής μάθησης.
• Να αντιμετωπίζουν ηθικά ζητήματα και να κατανοούν τους περιορισμούς των λύσεων μηχανικής μάθησης.
• Να έχουν επάρκεια στη χρήση εργαλείων μηχανικής μάθησης για την προεπεξεργασία δεδομένων, την εκπαίδευση μοντέλων και την ερμηνεία αποτελεσμάτων.

Περιεχόμενο

• Ιδιοτιμές, Ιδιοδιανύσματα. Η μέθοδος των δυνάμεων και η ανάλυση QR.
• Ο αλγόριθμος PageRank. Ανάλυση σε ιδιάζουσες τιμές (SVD).
• Το πρόβλημα ελαχίστων τετραγώνων και μέθοδοι επίλυσης του.
• Το πρόβλημα βελτιστοποίησης στη μηχανική μάθηση. Τετραγωνικά συναρτησιακά, κυρτότητα, η μέθοδος Newton και παραλλαγές της. Μη-γραμμικά ελάχιστα τετράγωνα. Οι μέθοδοι μεγίστης κλίσης και συζυγών κλίσεων. Πολλαπλασιαστές Lagrange.
• Ο αλγόριθμος μεγίστης κλίσης, σύγκλιση. Οι παραλλαγές της ορμής και Nesterov.
• Στοχαστική μέθοδος Μεγίστης Κλίσης, Γραμμική Παλινδρόμηση.
• Παλινδρόμηση με βάρη. Πιθανό-θεωρητική προσέγγιση της Παλινδρόμησης, Κατηγοριοποίηση, Λογιστική Παλινδρόμηση.
• Διακρίνουσα Ανάλυση Gauss, Ο απλοϊκός αλγόριθμος Bayes. Μέθοδοι πυρήνα.
• Μηχανές Διανυσμάτων Υποστήριξης. Συναρτησιακό και Γεωμετρικό Περιθώριο και το πρόβλημα ελαχιστοποίησης. Ταξινομητής Βέλτιστου Περιθωρίου. Κυρίως και Δυικό πρόβλημα βελτιστοποίησης.
• Μηχανές διανυσμάτων υποστήριξης με εξομάλυνση. Τεχνικά Νευρωνικά Δίκτυα.
• Νευρωνικά δίκτυα πολλαπλών επιπέδων. Ο αλγόριθμος της οπισθοδρόμησης. Το καθολικό προσεγγιστικό θεώρημα. Συνελικτικά και Επαναλαμβανόμενα Νευρωνικά Δίκτυα.
• Επιλογή Μοντέλου & Χαρακτηριστικών. Κύμανση & Μετατόπιση.

Συνιστώμενη βιβλιογραφία

• Strang, G. Linear Algebra and Learning from Data, Wellesley-Cambridge Press, 2019.
• Deisenroth, M. P.; Faisal, A. A.; Ong, C.-S. MATHEMATICS for MACHINE LEARNING. Cambridge University Press, 2020.
• Géron, A. Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow; O'Reilly Media, 2020.
• James, et al. An Introduction to Statistical Learning with applications in R, Springer, 2017.
• Grus, J. Data Science from Scratch; O'Reilly Media, 2019. Κωδικός βιβλίου στον Εύδοξο : 94690736.
• Κ. Διαμαντάρας, Δ. Μπότσης, Μηχανική Μάθηση, 2019, Κλειδάριθμος, Κωδικός βιβλίου στον Εύδοξο : 86198212.
• Hastie, T.; Tibishirani, R.; Friedman, J. The Elements of Statistical Learning. 2017; pp. 1–764.
• David Barber. Bayesian Reasoning and Machine Learning. Cambridge University Press, 2016.
• Kochenderfer, M. J.; Wheelerm, T. A. Algorithms for Optimization; 2019. MIT Press.
• Scikit-Learn.

Περιγράμματα μαθημάτων

• MEM-299 Μηχανική Μάθηση, Κατεύθυνση Μαθηματικών
• MEM-299 Μηχανική Μάθηση, Κατεύθυνση Εφαρμοσμένων Μαθηματικών