В юности училась в художественной школе, освоила игру на укулеле (разновидность гитары). Свою музыкальную карьеру начинала в любительской фолк-группе. В возрасте 22 лет переехала в Торонто, а через пару лет уже подписала свой первый контракт с рекорд-компанией Reprise Records. Вместе со своим мужем Чаком Митчеллом выступала в небольших клубах. Еще до выхода первого альбома песни Митчелл получили известность в исполнении других артистов (певицы Джуди Коллинз, группы Fairport Convention, певца Тома Раша и др.).
Дебютный альбом певицы Song To A Seagull (1968) оказался весьма удачным. Но собственный хит-сингл певице принесла лишь третья пластинка Ladies Of The Canyon (1970; песня Big Yellow Taxi добралась до 11 места в британском хит-параде). Еще успешнее в этом плане был следующий альбом Blue (1971): сразу три композиции с диска стали хитами (Carey, My Old Man и The Last Times I Saw Richard). Наибольшего коммерческого успеха добился альбом Митчелл Court And Spark (1974) — во многом благодаря синглу Help Me, который занял 7 место в чартах США.
В это время певица начала выступать на концертах в сопровождении группы L.A. Express. В конце 1970-х гг. в ее состав входил известный джазовый бас-гитарист (контрабасист) и композитор Чарли Мингус. После того, как корифей контрабаса спустя несколько месяцев умер от гепатита, Митчелл выпустила альбом его памяти Mingus (1979). Пластинка включала в себя песни на музыку Мингуса, тексты к которым написала Митчелл.
После нескольких неудачных в плане продаж дисков, выпущенных во второй половине 1970-х гг., певица смогла возвратить себе популярность альбомом Wild Things Run Fast (1982). Последующие альбомы также пользовались успехом, а пластинка Night Ride Home, выпущенная в 1991, попала в первую десятку альбомных чартов США. В 1990-е гг. Митчелл по-прежнему выпускала альбомы, а также время от времени давала концерты в небольших залах. В 1996 был выпущен двойной диск Hits And Misses: в первую часть вошли самые известные хиты Митчелл, а во вторую — самые, по ее собственному мнению, недооцененные работы певицы. Последней работой Митчелл является получивший отличную критику альбом Travelogue (2002). В этом же году певица удостоилась премии «Грэмми» за жизненные достижения: Джони Митчелл была названа «одной из самых важных исполнительниц рок-эры». В последнее время занимается живописью.