Το 1964 αναδείχθηκε χρυσός Ολυμπιονίκης στη Ρώμη, μόλις στα 18 του χρόνια.
Στην αυτοβιογραφία του, που κυκλοφόρησε το 1975, έγραψε ότι λίγο μετά από την επιστροφή του στις ΗΠΑ από τους Ολυμπιακούς Αγώνες, πέταξε το χρυσό του μετάλλιο στο ποτάμι, όταν εκείνος και ένας φίλος του δεν κατάφεραν να μπουν σε ένα εστιατόριο για λευκούς και τσακώθηκαν με μία «λευκή» συμμορία.
Αρκετοί έχουν αμφισβητήσει αυτή την ιστορία έκτοτε. Στη βιογραφία του από τον Τόμας Χάουσερ αναφερόταν ότι πράγματι το περιστατικό στο εστιατόριο συνέβη, αλλά ο πυγμάχος έχασε το μετάλλιό του ένα χρόνο μετά από τη διοργάνωση της Ρώμης.
Πάντως, παρέλαβε ένα δεύτερο μετάλλιο, κατά τη διάρκεια των Ολυμπιακών αγώνων της Ατλάντα το 1996, σε ημίχρονο αγώνα μπάσκετ. Σε αυτή τη διοργάνωση, ήταν ο τελευταίος λαμπαδηδρόμος.
Ο Μοχάμεντ Άλι κατέκτησε, σαν σήμερα το 1960, το χρυσό μετάλλιο. Και έκτοτε, το αντίστοιχο εκατομμυρίων θαυμαστών του.
