В Красной армии с мая 1920 г. Окончил 27-е пехотные курсы в г. Орел (1923), Московскую пехотную школу им. Ашенбреннера (1927), курсы «Выстрел» (1944). В Гражданскую войну К. А. Сергеев был призван в РККА 4 мая 1920 г. и направлен в 403-й стрелковый полк 45-й стрелковой дивизии. В составе 14-й армии воевал с ним на Западном фронте против белополяков. В августе в боях на р. Буг был тяжело ранен и эвакуирован в военный госпиталь. После выздоровления в январе 1921 г. зачислен красноармейцем в 20-й учебно-кадровый полк в г. Воронеж. С сентября служил в 17-м стрелковом полку 6-й стрелковой дивизии в г. Орел. В марте 1922 г. К. А. Сергеев направлен на 27-е Орловские пехотные курсы. После завершения обучения направлен в 42-й стрелковый полк 14-й стрелковой дивизии МВО, где проходил службу пом. командира взвода, старшиной роты и командиром взвода. С 1 октября 1924 г. зачислен курсантом в Московскую пехотную школу им. Ашенбреннера. В сентябре 1927 г. окончил ее и проходил службу командиром взвода, пом. командира и командиром роты в 16-м стрелковом полку 6-й стрелковой дивизии в г. Орел. В феврале 1932 г. направлен на Д. Восток в 281-й стрелковый полк 94-й стрелковой дивизии ОКДВА в г. Ачинск, где был командиром роты и начальником штаба батальона. С мая 1936 г. служил в 280-м стрелковом полку пом. начальника штаба полка и командиром батальона. С 17 апреля 1939 г. временно командовал 152-м стрелковым полком 94-й стрелковой дивизии. Полк принимал участие в боях на р. Халхин-Гол. С апреля 1940 г. К. А. Сергеев исполнял должность пом. командира по строевой части полка в ЗабВО. С января 1941 г. - слушатель курсов «Выстрел». С началом Великой Отечественной войны майор К. А. Сергеев 2 июля 1941 г. окончил курсы и был назначен командиром 52-го стрелкового полка 18-й Московской стрелковой дивизии народного ополчения. С 31 июля дивизия вошла в 32-ю армию Резервного фронта. С переименованием ее 26 сентября в 18-ю стрелковую дивизию 2-го формирования полк получил наименование 1306-й стрелковый. 30 сентября она выдвинулась в район Сычевка - Ново-Дугино, где 4 октября приняла первый бой. Противник, прорвав оборону 32-й армии, вышел в тыл наших войск, в результате части дивизии оказались в окружении. В дальнейшем они с боями стали пробиваться на восток к г. Вязьма. В середине октября дивизия сосредоточилась в районе Звенигорода, где после доукомплектования вошла в 16-ю армию Западного фронта. После выхода из окружения с 13 ноября полковник К. А. Сергеев принял командование 1310-м стрелковым полком 82-й мотострелковой дивизии, которая в составе 5-й армии Западного фронта оборонялась восточнее пгт Дорохово Московской обл. С 7 декабря 1941 по 24 января 1942 г. находился в госпитале по ранению. После выздоровления был направлен в ПриВО, где с 20 февраля 1942 г. принял командование 127-й стрелковой дивизией в г. Аткарск. 19 апреля отстранен от должности по несоответствию и 24 апреля назначен с понижением комендантом 75-го УРа. С мая воевал с ним на Брянском, а с июля - на Воронежском фронтах. С 15 сентября по 20 ноября находился на лечении по болезни в госпитале, затем был направлен в распоряжение Военного совета Юго-Западного фронта и с 1 декабря допущен к исполнению должности зам. командира 50-й гвардейской стрелковой дивизии. Ее части в это время в составе 5-й танковой армии вели наступление в общем направлении на Чернышевская, Морозовск. 23 декабря они форсировали р. Чир в районе Чернышевская и овладели г. Морозовск. В дальнейшем дивизия в составе 3-й гвардейской армии развивала наступление севернее Тацинская, Каменск, освободила города Краснодон, Боково-Антрацит и к середине февраля вышла в район южнее Ворошиловграда и перешли к обороне. С 27 февраля 1943 г. вступил в командование 50-й гвардейской стрелковой дивизией, части которой вели оборонительные бои под Ворошиловградом. В августе дивизия, совершив марш в район р. Миус, вошла в состав 5-й ударной армии Южного фронта и вела наступательные бои в направлении г. Сталино. 4 сентября полковник К. А. Сергеев был отстранен от командования и зачислен в распоряжение Военного совета 5-й ударной армии. Затем с 20 сентября допущен к командованию 40-й гвардейской стрелковой Енакиевской Краснознаменной дивизией, которая в составе 31-го гвардейского стрелкового корпуса участвовала в это время в Мелитопольской наступательной операции. С 13 ноября 1943 по 6 марта 1944 г. находился на лечении по ранению в госпитале. После выздоровления в начале апреля был зачислен слушателем Высшей военной академии им. К. Е. Ворошилова. В конце декабря окончил ее ускоренный курс и в январе 1945 г. был назначен командиром 93-й стрелковой Миргородской Краснознаменной ордена Суворова дивизии. В составе 10-го гвардейского стрелкового корпуса 3-го Украинского фронта участвовал с ней в Будапештской и Венской наступательных операциях. В ходе последней с 9 апреля 1945 г. полковник К. А. Сергеев принял командование 61-й гвардейской стрелковой Славяновской Краснознаменной дивизией, которая вела бои в составе 6-го гвардейского стрелкового корпуса 57-й армии. После войны генерал-майор К. А. Сергеев продолжал командовать этой дивизией в ЮГВ. В декабре 1946 г. переведен зам. командира 19-й механизированной Запорожской Краснознаменной ордена Суворова дивизии 10-й механизированной армии в г. Пловдив. В июле 1947 г. направлен зам. командира 50-й гвардейской стрелковой дивизии в составе 128-го стрелкового корпуса в г. Брест. В феврале 1949 г. прикомандирован к ЦК Всесоюзного ДОСАРМ, затем назначен зам. председателя по военной подготовке Республиканского комитета ДОСРМ Белорусской ССР. С декабря 1951 г. зачислен в распоряжение Управления кадров Сухопутных войск, затем назначен зам. начальника курсов - начальником учебного отдела Объединенных курсов офицерского состава Беломорского ВО. С февраля 1954 г. - начальник военной кафедры Московского пушно-мехового института, а с июля 1955 г. - Всесоюзного государственного института кинематографии. 31 октября 1957 г. уволен в запас. Награжден орденом Ленина, 2 орденами Красного Знамени, орденами Кутузова 2-й ст., Богдана Хмельницкого 2-й ст., Красной Звезды, медалями.