Учился в Московском архитектурном институте (1932—1937), с 1955 года преподавал в этом институте. Участвовал в проектировании павильона СССР на Международной выставке в Нью-Йорке (1939) под руководством Б. М. Иофана), был одним из авторов неосуществленного проекта Дворца Советов в Москве. Одна из первых самостоятельных работ Белопольского — созданный совместно со скульптором Е. В. Вучетичем памятник генералу М. Г. Ефремову в Вязьме (1947). В дальнейшем Я. Б. Белопольский долго и плодотворно работал с Вучетичем: памятник генералу Н. Ф. Ватутину (1948), мемориал воинам Советской Армии в Трептов-парке в Берлине (1949, Сталинская премия 1950), мемориальный комплекс на Мамаевом кургане в Волгограде (1967, Ленинская премия 1970). Через 10 лет Я. Б. Белопольский вновь обращается к военной тематике. Группа архитекторов, возглавляемая им победила в конкурсе проектов мемориального комплекса на Малой Земле («Рубеж обороны», «Малая Земля», «Затопление кораблей Черноморской эскадры»).
Я. Б. Белопольский был одним из ведущих архитекторов, принимавших участие в разработке и осуществлении генеральных планов реконструкции Москвы. Вместе с группой архитекторов он спроектировал квартал 38-б по Ленинскому проспекту, застроив его 16- и 25-этажными домами (1965-1972).
На Юго-Западе Москвы можно встретить немало других зданий, построенных по проекту Белопольского: дом № 50 по Фрунзенской набережной (сам проект реконструкции этой набережной (1950) также принадлежит Я. Б. Белопольскому, который решил сложную задачу сочетаемости новых домов не только с довоенными постройками, но и только что возведенным зданием МГУ); новое здание Университета Дружбы народов (1965), здания цирка на проспекте Вернадского (1971), Дворца молодежи (1972-1982; построенное здание отличается от первоначального проекта), Института научной информации по общественным наукам (ИНИОН, 1976), комплекса «Парк Плейс» на Ленинском проспекте (1989).
Последний проект Я. Б. Белопольского также связан с Юго-Западом — это криталлообразное здание в Тропарево, которое изначально задумывалось как учебно-деловой центр (3-й учебный корпус) Академии народного хозяйства, а затем — как крупнейший бизнес-центр в столице, включающий в себя пятизвездочный отель. По разным причинам этот проект превратился в один из самых известных «долгостроев» Москвы и к 2010 году все еще оставался таковым.
Среди неосуществленных проектов Белопольского следует отметить проект Всемирной выставки в Москве (1963) — вознесенное над землей кольцо-форум, в котором предполагалось разместить павильоны стран-участниц, а также проект нового здания газеты «Известия» (1968), которое должно было гармонично сочетаться с конструктивистским зданием 1925 года, построенным по проекту Г. Б. Бархина.
Я. Б. Белопольский виртуозно владел приемами организации пространств, безошибочно чувствовал и воплощал принципы гармоничного соотношения целого и частей, умело сочетал традиции и новаторство в архитектуре.
- Советский военный мемориал «Воин-освободитель» в Трептов-парке в Берлине (совместно с Е. В. Вучетичем, 1949)
- Мемориальный ансамбль героям Сталинградской битвы на Мамаевом кургане в Волгограде с монументом «Родина-мать зовёт!» (главный скульптор Е.В. Вучетич (группа скульпторов и архитекторов, 1958—1967).
- Музей советско-польского боевого содружества в селе Ленино, Белоруссия (соавторы: скульптор В. Е. Цигаль, архитектор В. И. Хавин,1968)
- Университет дружбы народов имени П. Лумумбы. Соавторы архитекторы В. Н. Фурсов, Ю. В. Ильин-Адаев, Р. Г. Кананин и М. Е. Константинов.
- Институт научной информации по общественным наукам Российской академии наук. Соавторы архитекторы Е. П. Вулых и Л. В. Мисожников.
- Большой Московский цирк на проспекте Вернадского (соавтор архитектор Е. П. Вулых,1971)
- Памятник Юрию Гагарину в Москве на Ленинском проспекте (скульптор П. И. Бондаренко,1980)
- Памятник генерал-лейтенанту М. Г. Ефремову в г. Вязьма Смоленской области (скульптор Е. В. Вучетич (1946).
- Памятник генералу армии Н. Ф. Ватутину в Киеве (скульптор Е. В. Вучетич,1948).
- Международный коммерческий центр Академии народного хозяйства в Москве на проспекте Вернадского (в соавторстве с Л. Перини, 1992—1995).
- Орден Ленина (1967)
- Орден «Знак Почета» (1963)
- Медаль «За доблестный труд в Великой Отечественной войне 1941—1945 гг.»
- Медали
- Серебряная медаль студии М. Б. Грекова (1969).
- Заслуженный строитель РСФСР (1966)
- Народный архитектор СССР (1988)
- Ленинская премия — за архитектурный проект мемориала на Мамаевом кургане в Волгограде (1970)
- Сталинская премия первой степени — за архитектурный проект мемориала в Трептов-парке (Берлин) (1950)
- Государственная премия Российской Федерации (1994, посмертно)