В июле 1941 г. восемнадцатилетний С. Я. Виленкин добровольцем вступает в ряды ополчения. Проходит всю Отечественную войну — от рядового разведчика-самокатчика (батальонная велосипедная разведка) до капитана-артиллериста, командира батареи. Был ранен на Курской дуге. Участник войны с Японией. Награждён 11 орденами и медалями за боевые заслуги.
По окончания войны продолжал службу в рядах Советской Армии. В 1952 г. окончил факультет баллистики и стрельбы Военной артиллерийской академии им. Дзержинского. Работал на военных полигонах Сибири и Казахстана. В 1959 г. защитил кандидатскую диссертацию в области математической статистики: им были разработаны методы, позволяющие сократить число пусков ракет без ущерба для точности поражения цели. В 1963 г. демобилизовался в звании инженер-подполковника.
С 1963 г. сотрудник Института проблем управления. Прошёл путь от старшего научного сотрудника, к.т.н., до заведующего лабораторией, д.т.н., профессора. В 1973 г. Сергей Яковлевич защитил в Институте проблем управления докторскую диссертацию на тему «Исследование оценок параметров случайных функций и операторов по результатам испытаний». Основным результатом работы было доказательство того, что применение неоптимальных, но корректных по дисперсии весовых функций (для получения оценок характеристик случайных процессов и полей) приводит к тому, что оценки функционалов по дискретным последовательностям оказываются более эффективными, чем оценки по непрерывным реализациям; приведены условия, обуславливающие преимущества оценок по дискретным реализациям. С. Я. Виленкин разработал аппарат непрерывной и дискретной фильтрации многомерных нестационарных случайных процессов, порождённых системами стохастических дифференциальных уравнений. Работу в Институте совмещал с преподавательской деятельностью на базовой кафедре МФТИ: был профессором «Физтеха».
Основные научные интересы С. Я. Виленкина связаны со статистическим анализом случайных процессов и полей, исследованием и разработкой архитектур многопроцессорных ЭВМ высокой производительности и их системного и прикладного программного обеспечения. Сергей Яковлевич являлся одним из руководителей разработок высоконадёжных ЭВМ, предназначенных для эксплуатации в особых условиях атомных станций, летательных аппаратов, геологоразведки и т. п., — то были аналого-цифровые гибридные вычислительные системы, создававшиеся в 70-х годах совместно с югославскими специалистами, а в 80-х — высокопроизводительная вычислительная система ПС-2000.
Под руководством С. Я. Виленкина успешно защитили диссертации 20 человек, он является автором 130 научных работ и нескольких монографий.
