Матвей Михайлович Рябцев родился в 1871 году в Рязанской губернии. По окончании Рязанской духовной семинарии в 1891 году Матфей Михайлович был назначен учителем и регентом в двухклассную приходскую школу в селе Полянки Пронского уезда Рязанской губернии. В 1893 году его определили псаломщиком в храм села Тума Николаевская Касимовского уезда, учителем и законоучителем в местную двухклассную церковноприходскую школу.
Двадцать второго мая 1895 года Матвей Михайлович был рукоположен во священника ко храму в селе Горлово Скопинского уезда. Но поскольку здесь не было свободного места по штату, отец Матфей двадцать седьмого мая того же года был назначен служить в храм в селе Макшеево Егорьевского уезда, а также заведующим местной школой и учителем в ней. В 1903 и в 1905 годах он был избран депутатом на училищный и епархиальный съезды. В 1905 году отец Матвей нес послушание противораскольнического миссионера по 1-му Егорьевскому благочинию.
Второго сентября 1905 года отец Матвей был назначен служить в собор города Касимова. С 1906 года по 1910 год он был заведующим Касимовской одноклассной церковноприходской школой и законоучителем в ней. Кроме того, он состоял законоучителем и учителем латинского языка в городской мужской гимназии. Когда началась Первая мировая война и в городском лазарете были размещены раненые воины, то отец Матвей стал служить в городском лазарете и духовно окормлять раненых.
В ноябре 1918 года, во время революционных волнений в Касимове и Касимовском уезде, было отдано распоряжение об аресте священника. Солдаты, пришедшие арестовать отца Матвея, предложили ему спрятаться, а своему начальству они бы доложили, что не застали его дома. Но священник не согласился и решил идти с ними на казнь.
Местом убийства отца Матвея и других касимовцев было выбрано городское кладбище, у стены которого выстроили приговоренных к расстрелу. Солдаты отказались стрелять в батюшку, и тогда сам предводительствующий отрядом карателей, большевистский комиссар по фамилии Кокорев, убил священника.
Через некоторое время Кокорев смертельно заболел и попал в больницу. Из устных преданий известно, что болезнь была настолько мучительна, что он вопил от боли и, осознавая, что болезнь ему послана за тяжкие грехи, кричал: «Отец Матвей, прости меня!»
День памяти сщмч. Матфия Рябцева– 14 ноября