Родился 30 августа 1918 года в селе Крюковка (ныне Лукояновский район Нижегородской области) в многодетной семье. В 1934 году поступил в Ленинградское музыкальное училище имени М. П. Мусоргского, на отделение домры. Позже перевелся на отделение балалайки. Учился вместе с Павлом Нечепоренко, также известным балаечником.
С 1939 года солист оркестра имени Андреева.
В 1941 году ушел на фронт. Участвовал во взятии Кёнигсберга. Имеет боевые награды В 1946 году создает балалаечный дуэт с Геннадием Быковым.
В 1953 году окончил Московский музыкально-педагогический институт имени Гнесиных, по классу балалайки (педагог А. И. Илюхин).
В 1958 году создает дуэт балалайки и гитары, совместно с Георгием Меняевым. С ним много гастролировал по стране и за рубежом.
После смерти Меняева, гастролировал с пианисткой, а затем с гитаристом Юрием Черновым.
Был очень популярен в СССР.
Без его выступлений не проходил ни один концерт.
Поклонниками его творчества были народные артисты СССР Любовь Орлова, Пётр Глебов, Леонид Утёсов и многие другие.
Исполнения Рожкова можно услышать в более чем пятидесяти фильмах, среди них «Василий Андреев», «Война и мир», «Течет Волга», «А зори здесь тихие…», «Простая история» и другие.