Алла Баянова родилась в артистической семье. Ее отец Николай Левицкий пел в опере под сценическим псевдонимом Баянов; мать Евгения Скородинская была артисткой кордебалета. В 1918 году Бессарабия оказалась в составе Румынии, семья Левицких переезжала из страны в страну, в 1921 году обосновалась в Париже. С девятилетнего возраста Алла выступала перед публикой вместе с отцом, в тринадцать лет стала петь самостоятельно, исполняла цыганские песни и русские романсы. Уроки вокала она брала у отца. В 1934 году Алла с родителями поселилась в Бухаресте, но выезжала на гастроли, выступала вместе с Петром Лещенко, Константином Сокольским, Александром Вертинским, записывала пластинки. В годы Второй мировой войны Баянова была интернирована румынскими властями.
В СССР певица впервые приехала с гастролями в составе румынского эстрадного ансамбля в 1976 году. Лишь в 1989 году Баянова получила советское гражданство, приехала в Россию. Несмотря на преклонный возраст, в 1990-х годах певица активно гастролировала по стране, исполняла цыганские песни, русские романсы, эстрадные песни 1930-1960-х годов, зарубежные шлягеры. Исполнение Баяновой отличалось темпераментом, мастерством, многообразием красок. Алла Баянова является автором ряда мемуаров, в частности книги воспоминаний «Я буду петь для вас всегда» (2003).