Γεννήθηκε στα περίχωρα της Φλωρεντίας. Το 1941 ξεκίνησε τις σπουδές του στο Πανεπιστήμιο της Φλωρεντίας, όπου σπούδασε Αρχιτεκτονική και Τέχνη. Μετά τον πόλεμο, θέλησε να συνεχίσει τις σπουδές του, άλλαξε όμως γνώμη όταν είδε τον Λόρενς Ολίβιε στο ρόλο του Ερρίκου Δ' το 1945. Ετσι, αποφάσισε να ασχοληθεί με το θέατρο και τον κινηματογράφο. Το 1948 εργάστηκε ως βοηθός σκηνοθέτη στο πλευρό του Λουκίνο Βισκόντι στην ταινία «Η γη τρέμει». Με τον Βισκόντι συνεργάστηκε και σε άλλες ταινίες. Οι μέθοδοι του Βισκόντι είχαν βαθιά επιρροή στο μετέπειτα έργο του Τζεφιρέλι. Εργάστηκε και με άλλους σημαντικούς σκηνοθέτες, όπως ο Αντονιόνι και ο Ροσελίνι. Είχε συνεργαστεί και με την Μαρία Κάλλας.
Εγινε γνωστός για αρκετές από τις ταινίες που είχε σκηνοθετήσει, κυρίως για το «Ρωμαίος και Ιουλιέτα» (για την οποία έλαβε υποψηφιότητα για βραβείο Οσκαρ) και το «Η στρίγγλα που έγινε αρνάκι» με την Ελίζαμπεθ Τέιλορ και τον Ρίτσαρντ Μπάρτον, ενώ σκηνοθέτησε τη μίνι σειρά «Ιησούς από την Ναζαρέτ».