Тео́рия ма́ссового обслу́живания— раздел математики, изучающий системы, предназначенные для обслуживания массового потока требований случайного характера. Типичный пример такой системы — автоматическая телефонная станция, где случайным образом поступают «требования» — вызовы абонентов, а «обслуживание» состоит в соединении их с другими абонентами и поддержании связи во время разговора.
Теория массового обслуживания использует аппарат теории вероятностей и (в меньшей степени) математической статистики. Ее задачи, как правило, сводятся к изучению специального типа случайных процессов. Исходя из заданных вероятностных характеристик поступающего потока вызовов и продолжительности обслуживания и учитывая схему системы обслуживания, теория массового обслуживания определяет соответствующие характеристики качества обслуживания (вероятность отказа, среднее время ожидания начала обслуживания, среднее время простоя линий связи). В простых случаях это определение возможно аналитическими методами, в более сложных случаях приходится прибегать к моделированию соответствующих случайных процессов по методу Монте-Карло.
Возникновение теории массового обслуживания связано с исследованиями датского инженера А.К. Эрланга в 1920-х годах. Дальнейшее развитие эта теория получила в 1940-1950-х годах в работах К. Пальма (Швеция), Ф. Поллачека (Франция), А.Я. Хинчина (Россия). Последнему принадлежит сам термин «теория массового обслуживания». Эти работы были продолжены математиком Б.В. Гнеденко. Являясь формально частью теории случайных процессов, теория массового обслуживания выделилась в самостоятельную область исследований со своим кругом задач и методов их решения и в свою очередь стимулирует развитие теории случайных процессов.