Основан в 1348 в Праге императором чешским королем Карлом I (он же император Карл IV, в честь него университет получил свое название) с одобрения папы Климента VI. Университет был учрежден по образцу Парижского и Болонского университетов; первоначально имел факультеты: свободных искусств, права, медицины и теологии. В университете, основу которого составляли германоязычные профессора и преподаватели, учились также чехи, венгры, поляки и представители других славянских народов. В период гуситского движения Пражский университет становится центром антикатолической борьбы. Ректором университета дважды избирался Ян Гус, чешские преподаватели и студенты получили в нем главенствующие позиции. В 1409 многие немецкие профессора и студенты были вынуждены покинуть Прагу, большинство из них переехали в Лейпцигский университет. С этого времени университет теряет свое международное значение, становится национальным университетом. В 1562 в Праге с целью ослабления влияния Пражского университета была создана иезуитская академия, которая в 1654 объединена императором Фердинандом III с Пражским университетом в университет Кароло-Фердинандский. В период национального возрождения (конец 18 — середина 19 вв.) студенты и профессора университета активно выступали за освобождение Чехии от австрийского господства, участвовали в революционном движении 1848-49. С 1882 по 1939 университет был разделен на 2 университета — чешский и немецкий. В 1909 в чешском университете обучалось 4, 3 тыс студентов, в немецком — 1, 8 тыс студентов. С 1939 по 1945, во время немецко-фашистской оккупации Чехословакии, чешский университет был закрыт; немецкий университет был реорганизован согласно фашисткой идеологии. После освобождения Чехии в 1945, чешский университет возобновил свою деятельность, немецкий университет был упразднен. С 1948 по 1989 университет функционировал в рамках коммунистической идеологии, что затрудняло педагогическую и научную деятельность.
В состав Пражского университета в 2005 входило 14 факультетов: католический богословский, протестантский богословский, гуситский богословский, юридический, три медицинских факультета, математики и физики, естественных наук, педагогический, общественных наук, гуманитарный, философии и культуры, физического воспитания и спорта; а также три факультета (филиала) в Чехии — медицинский в Пльзене, фармацевтический и медицинский в Градец-Кралове; астрономический институт (основан в 1887), институт усовершенствования учителей (основан в 1960). Библиотека Пражского университета (основан в 1348) насчитывает около 2 млн томов.
В 2005 в Пражском университете обучалось свыше 42, 5 тыс студентов, работало свыше 5 тыс преподавателей.