آیت الله محمد یزدی ۱۰ تیر ۱۳۱۰ در اصفهان متولد شد. او پس از پیروزی انقلاب اسلامی و پس از آیت الله موسوی اردبیلی، یعنی از ۲۴ مرداد ۱۳۶۸ تا ۲۳ مرداد ۱۳۷۸ سکان ریاست قوه قضائیه را به دست گرفت. او نمایندهٔ استان تهران در دومین، سومین و چهارمین دوره مجلس خبرگان رهبری بوده و در چهارمین دوره برای یک سال ریاست این مجلس را بر عهده داشت.
وی یکی از مبارزین برجسته قبل از انقلاب بود و در طول دوران انقلاب اسلامی، خدمات ارزندهای به کشور ارائه کرد.
ریاست دادگاه انقلاب اسلامى قم، ریاست دفتر امام (ره) در قم، نمایندگى مجلس خبرگان قانون اساسى، عضویت در شوراى بازنگرى قانونى اساسى، ریاست قوه قضائیه با حکم مقام معظم رهبرى در دو دوره پنج ساله، نمایندگى رؤساى سه قوه در هیأت سه نفره حل اختلاف بین مرحوم رجایى و بنى صدر، نمایندگى مجلس خبرگان رهبرى، نائب رئیس و قائم مقام اجرائى جامعه مدرسین حوزه علمیه قم، عضویت در دوره چهارم و پنجم شورای عالی حوزههای علمیه و رئیس دوره پنجم آن شورا از جمله مسئولیتهای وی بوده است.
آیتالله محمّد یزدی از شاگردان برجسته امام خمینی (ره) و آیت الله بروجردی (ره) بودند که در درسهاى فقه و اصول امام خمینى (ره) شرکت داشتند.
او در اسفند ۱۳۹۸ به همراه آیت الله محمد تقی مصباح یزدی برای انتخابات میان دورهای خبرگان کاندید شدند که آیت الله با شرکت در انتخابات میان دوره خبرگان از حوزه استان قم توانست به عنوان تنها نامزد در زمان اخذ رای با کسب تقریبا ۳۰ درصد آرا از واجدین شرایط رای، به مجلس خبرگان راه یابد.
آیت الله محمد یزدی در ۴ تیرماه ۶۷ توسط امام خمینی به عضویت شورای نگهبان درآمد. آیت الله در تاریخ ۱۱ آبان ۱۳۹۹ به دلیل کهولت سن، از عضویت استعفا داد و با حکم رهبری سید احمد خاتمی جانشین او شد.