В Русской императорской армии с мая 1917 по январь 1918 г.
В Красной армии с февраля 1918 г.
Окончил военно-инструкторские курсы при штабе 6-й армии в г. Вологда (1919), повторные курсы комсостава РККА СибВО (1926), Военную академию РККА им. М. В. Фрунзе (1936).
В Первую мировую войну был призван в армию в мае 1917 г. и проходил службу рядовым на Кавказском фронте в составе 281-го запасного полка в г. Эривань. В январе 1918 г. при роспуске полка и демобилизации он был направлен в распоряжение Московского военкомата, по прибытии зачислен в 85-й запасной Астраханский полк.
В Гражданскую войну в феврале 1918 г. на базе полка был сформирован 85-й партизанский отряд, а Ф. П. Шмелев избран его командиром (подписку о переходе из отряда в Красную армию дал 25.2.1918). В июне отряд влился во вновь сформированный Себежский полк 2-й Псковской дивизии. Через месяц Ф. П. Шмелев с отдельной ротой, сформированной из отряда, убыл в распоряжение 1-го Вятского запасного полка в г. Вятка. Командиром роты этого полка участвовал в подавлении восстаний в тылу Восточного фронта в Глазовском уезде и в районе Ижевского завода Вятской губ. В сентябре 1918 г. Ф. П. Шмелев с маршевой ротой убыл на Северный фронт. По прибытии она вошла в 156-й Гатчинский стрелковый полк 18-й стрелковой дивизии 6-й армии. Командиром роты этого полка участвовал в боях за овладение городами Шенкурск и Березняки. В феврале 1919 г. он был командирован на военно-инструкторские курсы при штабе армии в г. Вологда. По их окончании в июле направлен в 156-й Северный полк, где в должности командира роты воевал под г. Онега. В бою под ст. Шелехса 23 сентября 1919 г. был ранен и лечился в госпиталях в Вологде и Рыбинске. В апреле 1920 г. из госпиталя направлен на Западный фронт в 5-ю стрелковую дивизию. Начальником команды пеших разведчиков 38-го стрелкового полка этой дивизии участвовал в Советско-польской войне 1920 г., в наступлении на Варшаву. При отходе на р. Неман в бою под м. Кузница 25 сентября был ранен и эвакуирован в госпиталь им. III Интернационала в Москве, по выздоровлении в мае 1921 г. направлен в распоряжение главкома по Сибири в г. Омск, а оттуда - в Народно-революционную армию Дальневосточной Республики. В июле 1921 г. назначен командиром роты в 3-ю бригаду, при сведении бригады в особый Амурский стрелковый полк проходил службу в нем пом. командира и командиром роты, начальником пешей разведки. Участвовал с ним в боях против частей генералов барона Р. ф. Унгерна фон Штернберга и В. М. Молчанова под Волочаевкой, Бекином и ст. Васильевская. В конце февраля под ст. Васильевская был ранен в голову и до мая находился в госпитале в Хабаровске, затем вернулся в часть. С августа 1922 г., при реорганизации Народно-революционной армии и формировании на ее базе 2-й Приамурской стрелковой дивизии, командовал взводом и ротой в 5-м Амурском стрелковом полку.
С сентября 1925 по август 1926 г. находился на повторных курсах комсостава РККА СибВО. С июля 1927 г. и. д. начальника строевого отделения штаба 2-й Приамурской стрелковой дивизии, участвовал с ней в боях на КВЖД (1929). С сентября 1931 г. занимал должность пом. начальника 1-й части штаба 19-го Приморского стрелкового корпуса в г. Владивосток. В апреле 1932 г. направлен на учебу в Военную академию РККА им. М. В. Фрунзе, по окончании в мае 1936 г. назначен начальником 1-й части штаба 32-й Саратовской стрелковой дивизии ОКДВА, с февраля 1938 г. временно и. д. командира 94-го стрелкового полка этой дивизии.
5 июля 1938 г. арестован и до 2 июня 1939 г. находился под следствием, затем по суду оправдан. После восстановления в кадрах РККА в октябре 1939 г. майор Ф. П. Шмелев был назначен преподавателем кафедры общей тактики Военной академии РККА им. М. В. Фрунзе.
С началом Великой Отечественной войны июле 1941 г. назначен начальником штаба 8-й Московской стрелковой дивизии народного ополчения, входившей в состав 32-й армии Резервного фронта (в сентябре 1941 г. переименована в 8-ю стрелковую дивизию). В октябре в ходе Вяземской оборонительной операции дивизия вела тяжелые бои на р. Десна, прикрывая отход войск Западного фронта к Вязьме. В ночном бою под Уварово пропал без вести командир дивизии комбриг Д. П. Скрипников, и полковник Ф. П. Шмелев принял командование частями на себя. Прорывался с ними на рубеж Покров, Вязьма. По его воспоминаниям: "В октябре 1941 года дивизия была подчинена 24 армии и вела тяжелые бои на Десне в районе станции Коробец и Уварова, прикрывая отход частей Западного фронта к городу Вязьма. В ночном бою под Уваровым погиб комбриг Д.П. Скрипников и в ее временное командование вступил я" (https://smol1941.narod.ru/8sd.htm).
При прорыве у с. Покров он был ранен в ногу и руку и оставлен на поле боя, затем группой бойцов подобран и перенесен в дер. Некрасово. Некоторое время лечился в деревнях Некрасово, Мосолово и Дылдино, затем сформировал там партизанский отряд. В феврале 1942 г. отряд соединился с 8-й отдельной воздушно-десантной бригадой подполковника А. А. Онуфриева 4-го воздушно-десантного корпуса и воевал с ней в тылу врага, с приходом кавалерийского корпуса генерала П. А. Белова в район Вязьмы перешел в его подчинение. В апреле по приказу командира корпуса объединил свой отряд с отрядом им. 24-й годовщины РККА и сформировал из них полк, затем бригаду. Во главе их в составе корпуса участвовал в рейде по тылам противника. За время пребывания в тылу врага проявил себя решительным, хорошо подготовленным в военном отношении командиром. Приказом по войскам Западного фронта от 07.05.1942 награжден орденом Красного Знамени. По выходе корпуса из рейда его отряд остался в тылу немцев. Здесь из своего отряда, отряда Жабо и не вышедших отрядов кавалерийского корпуса генерала П. А. Белова Ф. П. Шмелев сформировал 3 группы, определив им районы боевых действий (контролировал ж.-д. участки Ельня - Спас - Деменск, Спас - Деменск - Вязьма; тракты Ельня - Спас - Деменск, Ельня - Семлево - Вязьма). 15 августа 1942 г. распоряжением Военного совета 33-й армии вывезен на самолете из тыла врага по болезни (малярия). По выздоровлении в ноябре назначен командиром 37-й отдельной стрелковой бригады и убыл затем с ней на Воронежский фронт. В составе 3-й танковой армии этого фронта бригада участвовала в Острогожско-Россошанской наступательной операции. В ходе ее 14 января 1943 г. при отражении контратак противника был тяжело ранен и эвакуирован в госпиталь. За боевые отличия в этой операции полковник Ф. П. Шмелев награжден орденом Суворова 2-й степени (8.2.1943).
По выздоровлении 16 марта 1943 г. вновь прибыл в штаб Воронежского фронта и назначен затем командиром 180-й стрелковой дивизии. В составе войск Воронежского, затем 1-го Украинского фронта дивизия принимала участие в Курской битве, Киевской и Житомирско-Бердичевской наступательных операциях. 24 сентября 1943 г., будучи в составе 38-й армии, она форсировала р. Днестр и продолжала наступление. С 27 сентября дивизия была подчинена 40-й армии. В ее составе 27-29 сентября она форсировала р. Днепр и вела бои за расширение захваченного плацдарма. С 3 ноября ее части принимали участие в Киевской наступательной операции и освобождении столицы Украины. В ознаменование одержанной победы ей было присвоено наименование «Киевская» (06.11.1943). С 12 ноября 1943 г. дивизия перешла к обороне в районе хут. Тростянец и участвовала в Киевской оборонительной операции, отбивая атаки танков и пехоты противника. Командир дивизии за бои под Киевом был награжден орденом Кутузова 2-й степени (10.01.1944).
В конце января 1944 г. в ходе Корсунь-Шевченковской наступательной операции генерал-майор Ф. П. Шмелев был отстранен от командования «за потерю управления войсками» и в марте назначен заместителем командира 33-го стрелкового корпуса 27-й армии 2-го Украинского фронта. Участвовал с ним в Уманско-Ботошанской наступательной операции. С 6 июля генерал-майор Ф. П. Шмелев временно и. д. командира 35-го гвардейского стрелкового корпуса этих же армий и фронта, который удерживал плацдарм на р. Прут в районе г. Яссы. С 9 августа 1944 г., с возвращением прежнего командира генерала С. Г. Горячева, вновь и. д. заместителя командира 33-го стрелкового корпуса. За отличия в Ясско-Кишиневской наступательной операции генерал-майор Ф. П. Шмелев был награжден орденом Богдана Хмельницкого 2-й степени. В дальнейшем вместе с корпусом принимал участие в Дебреценской и Будапештской наступательных операциях.
С февраля 1945 г. был допущен к временному и. д. заместителя командующего 27-й армией. В ее составе принимал участие в Балатонской оборонительной и Венской наступательной операциях. Приказом по войскам 3-го Украинского фронта от 20.04.1945 награжден орденом Отечественной войны 1-й степени.
После войны 10 мая 1945 г. генерал-майор Ф. П. Шмелев был назначен командиром 202-й стрелковой дивизии. По ее расформировании с 10 сентября переведен на должность командира 78-й стрелковой дивизии ПрикВО. С расформированием последней в августе 1946 г. назначен зам. командира 73-го стрелкового корпуса. С марта 1947 г. находился в распоряжении Управления кадров Сухопутных войск, затем назначен начальником курса факультета заочного обучения Военной академии им. М. В. Фрунзе.
С мая 1950 г. и. д. начальника Ташкентского объединенного военного училища, с июля 1953 г. - начальника военной кафедры Полтавского сельскохозяйственного института. 15 августа 1955 г. уволен в запас.
Награжден орденом Ленина, 4 орденами Красного Знамени, орденами Суворова 2-й ст., Кутузова 2-й ст., Богдана Хмельницкого 2-й ст., 2 орденами Отечественной войны 1-й ст., медалями.