Борис Громов родился 7 ноября 1943 года в Саратове в семье служащих. Его отец, Всеволод Алексеевич, погиб на фронте в 1943 году. Когда ему было 12 лет, по примеру родного дяди Николая Лебедева, Борис Громов решил стать военным и в 1955 году следом за старшим братом Алексеем поступил в Саратовское суворовское военное училище. После сокращения училища в 1960 году был переведен в Калининское суворовское военное училище (ныне Тверь), которое окончил в 1962-м. Следующие три года Борис Громов проходил обучение в Ленинградском общевойсковом командном училище им. С. М. Кирова
После завершения учебы молодой военный был направлен в Прибалтийский военный округ, в город Калининград. Службу Борис Громов начал командиром взвода, а затем стал командиром роты мотострелковой дивизии.
Через четыре года, в 1969-м, был направлен на учебу в Москву, в Военную академию имени Фрунзе, которую с отличием окончил в 1972 году. Служил на должностях командира 1-го мотострелкового батальона 36-го мотострелкового полка, начальника штаба и командира 428-го мотострелкового полка и начальника штаба 9-й мотострелковой Краснодарской краснознаменной орденов Кутузова и Красной Звезды дивизии. За особые заслуги очередные звания майора, подполковника и полковника Борис Громов получал досрочно. Звание генерал-майора ему было присвоено в 39 лет.
Борис Громов продолжил военное образование и в 1984 году с золотой медалью окончил Военную академию Генерального штаба Вооруженных сил СССР, после чего был назначен заместителем командующего армией Прикарпатского военного округа.
Во время войны в Афганистане трижды проходил службу в частях Ограниченного контингента Советских войск: с февраля 1980 по август 1982 года, с марта 1985 года по апрель 1986 года и с 1987 по 1989 годы. В последней командировке командовал 40-й армией, то есть всем Ограниченным контингентом советских войск в Афганистане. В 1988 году руководил операцией «Магистраль» по снятию блокады с осажденного города Хоста. За успешное проведение этой операции Борис Громов был удостоен звания Героя Советского Союза.
Фактически Громов был последним командующим 40-й армией. Именно он руководил выводом советских войск из Афганистана. Громову принадлежит план отхода войск через перевал Саланг, благодаря чему операция была проведена без потерь. В рамках подготовки к выводу войск Громов, по его собственному признанию, позволял себе неверно выполнять распоряжение командования. В частности, когда поступил приказ из Москвы нанести артиллерийский удар по позициям полевых командиров, Борис Громов приказал наносить удары по пустым ущельям. Это было связано с негласной договоренностью о нейтралитете на время вывода войск. В 1994 году в издательстве «Прогресс» вышла книга «Ограниченный контингент», которую генерал Громов написал в соавторстве с журналистом Сергеем Богдановым.
В 1989-1990 годах Борис Громов командовал войсками Киевского военного округа. Был избран народным депутатом СССР, затем занимал должности первого заместителя министра внутренних дел СССР, первого заместителя главнокомандующего сухопутными войсками. С 1992 по 1994 годы был заместителем министра обороны Российской Федерации. В 1995 году получил назначение на должность главного военного эксперта в ранге заместителя министра иностранных дел Российской Федерации.
В 1995 году Борис Громов начал политическую карьеру. Он возглавил федеральный список общественно-политического движения «Мое отечество» и был избран депутатом Государственной думы РФ, вошел в состав Комитета по международным делам Государственной думы.
В этот же период начал вести активную общественную деятельность, встал у истоков ветеранского движения в России и был активным инициатором консолидации ветеранских объединений. С 1997 года возглавляет Всероссийскую общественную организацию ветеранов «БОЕВОЕ БРАТСТВО».
В октябре 1999 года Борис Громов был выдвинут кандидатом на должность губернатора Московской области, и победил во втором туре, состоявшемся в январе 2000 года. В марте 2012 года по окончании третьего срока руководства областью он заявил о намерении покинуть пост губернатора Московской области после истечения срока своих полномочий в мае.
10 мая 2012 года Громов был утвержден депутатом Московской областной думы, а затем и сенатором от Московской области в Совете Федерации РФ. С 21 июня 2013 года Центризбирком России зарегистрировал Бориса Громова депутатом Госдумы ФС РФ. После выборов 18 сентября в Государственную думу седьмого созыва Борис Всеволодович Громов сложил с себя полномочия депутата.
Генерал Громов — автор многочисленных публикаций по вопросам истории и практического строительства вооруженных сил. Президент Международной ассоциации «Породненные города». Награжден орденами «За заслуги перед Отечеством» I, II, III и IV степени, орденом Ленина, двумя орденами Красного Знамени, орденами Красной Звезды, «За службу Родине в Вооруженных силах СССР», медалью «За боевые заслуги». В 1989 году ему присвоено звание «Почетный гражданин Саратова».
