Kατά τη διάρκεια της σταδιοδρομίας του, έχει υπηρετήσει σε διάφορες Μονάδες Πυροβολικού και Κ/Β HAWK καθώς επίσης και σε θέσεις εθνικών και διεθνών Επιτελείων. Υπηρέτησε στο Διεθνές Στρατιωτικό Επιτελείο του ΝΑΤΟ στις Βρυξέλλες, στα Τμήματα Πληροφοριών (Intelligence) και Τρεχουσών Επιχειρήσεων (Cur Ops) αντίστοιχα. Διετέλεσε Διοικητής της 117 ΜΠΠ, της 181 ΜΚ/Β HAWK, της 96 ΑΔΤΕ στη Χίο και της XII Μ/Κ ΜΠ «ΕΒΡΟΣ».
Υπηρέτησε σαν Διευθυντής του Επιτελικού Γραφείου του Αρχηγού ΓΕΣ Κωνσταντίνου Παναγιωτάκη (1999-2001), Διευθυντής Επιτελείου και Βοηθός Επιτελάρχη στο Γ΄ΣΣ/NDC-GR, Διευθυντής Κέντρου Επιχειρήσεων (JOC DIR) της KFOR στο Κόσοβο, Διευθυντής του 3ου ΕΓ/ΓΕΣ, Διευθυντής της ΔΕΠΙΧ/ΓΕΣ, Διευθυντής Α΄ Κλάδου του ΓΕΣ και Διοικητής Γ΄ΣΣ/NDC-GR.
Ήταν πτυχιούχος της Νομικής Σχολής του Πανεπιστημίου Αθηνών και κάτοχος μεταπτυχιακού Διπλωματικών και Στρατηγικών Σπουδών. Είναι κάτοχος πτυχίων αγγλικής και γαλλικής γλώσσας.
Είχε τιμηθεί με τα κάτωθι παράσημα, μετάλλια και διαμνημονεύσεις:
- Μεγαλόσταυρος του Τάγματος του Φοίνικα
- Ανώτερος Ταξιάρχης του Τάγματος της Τιμής
- Μετάλλιο Στρατιωτικής Αξίας Α΄Τάξεως
- Διαμνημόνευση Αρχηγίας Γενικού Επιτελείου Εθνικής Άμυνας
- Αστέρας Αξίας και Τιμής
- Διαμνημόνευση Αξίας και Τιμής
- Διαμνημόνευση Ηγεσίας Σχηματισμού- Μεγάλης μονάδος Α΄ Τάξεως
- Διαμνημόνευση Ευδοκίμου Διοικήσεως Α΄ Τάξεως
- Διαμνημόνευση Υπηρεσιών Αξιωματικού Επιτελούς Α΄ Τάξεως
- Διαμνημόνευση Ειρηνευτικών Αποστολών
- Αναμνηστικό μετάλλιο ΝΑΤΟ για τα Βαλκάνια (non Article 5)
Την 1η Νοεμβρίου 2011, κατόπιν σχετικής απόφασης του ΚΥΣΕΑ, προήχθη στο βαθμό του Στρατηγού και ανέλαβε τα καθήκοντα του Αρχηγού Γενικού Επιτελείου Εθνικής Αμύνης.
Στις 15 Σεπτεμβρίου 2015 αποστρατεύθηκε αποκτώντας τον τίτλο του επίτιμου Αρχηγού Γενικού Επιτελείου Εθνικής Αμύνης. Αυθημερόν ανακλήθηκε στην ενεργό υπηρεσία προκειμένου να αναλάβει στις 6 Νοεμβρίου 2015 για τα επόμενα 3 χρόνια την προεδρία της Στρατιωτικής Επιτροπής της Ευρωπαϊκής Ένωσης.
Ο Στρατηγός Μιχαήλ Κωσταράκος ήταν νυμφευμένος με την Αικατερίνη Σγουρού και είχε δύο κόρες, την Άσπα και την Αγνή.
