Учился в Высшей технической школе в Цюрихе (1875-1878). В 1880-1881 гг. совершил поездку в Италию, Австрию и Германию. Архитектурную практику начал совместно с Т. Сандерсом, с которым они проектировали складские здания, Паноптикум в Амстердаме, выступали на архитектурных конкурсах. В 1889 году Берлаге открыл собственное архитектурное бюро. В 1890-х годах им был создан ряд проектов зданий страховых компаний в Амстердаме и Гааге, виллы Хенни в Гааге и дом для Синдиката огранщиков брильянтов в Амстердаме. В 1911 году архитектор посетил США, где познакомился с работами Л. Салливена и Ф.-Л. Райта, которые произвели на него большое впечатление. С 1913 года Берлаге жил преимущественно в Гааге.
Первоначально архитектор строил здания в традиционном стиле, воспроизводящем формы нидерландского ренессанса. Его главный шедевр, здание амстердамской биржи (1903), явилось впечатляющим сплавом национально-средневековой традиции (массивные стены, оживленные аркадами) и современных конструкций (огромный трехэтажный зал, перекрытый кровлей, опирающейся на оголенные стальные фермы). Он укрепил свой творческий авторитет в процессе реализации масштабных градостроительных проектов: разработал планы расширения Амстердама (с 1902), реконструкции Гааги (1908-1909) и Утрехта (1921), предусмотрев сочетание исторических центров с новыми кварталами, застроенными невысокими блочными домами, которые образуют протяженные, четкие перспективы. В своих произведениях Берлаге соединял достаточно строгий функционализм (во многом предопределивший массовую жилую архитектуру середины XX века) с продуманным эстетизмом деталей. Он создал многочисленные проекты мебели, обоев, ковров, стеклянной утвари, призванные разнообразить пространство интерьеров, в основном — чисто ритмически и за счет «правды материалов», почти без орнаментальных стилизаций.
К наиболее значительным постройкам Берлаге принадлежат также Муниципальный музей в Гааге (1934) и Холланд-хаус в Лондоне (1914). Многие здания в Нидерландах были созданы под воздействием работ Берлаге. Воспетая им красота гладких поверхностей и экспрессивная интерпретация исторических форм значительно повлияла на современную нидерландскую архитектуру.