Живописью Арман начал заниматься в конце 1940-х годов и в своем творчестве тяготел к сюрреализму и абстракционизму. Его первая выставка состоялась в Париже в 1956 году.
С 1958 года Арман жил и работал в США. Тогда же он оставил живопись, занялся творческими экспериментами с отпечатками окрашенных предметов на полотне или бумаге, ассамбляжами, создает художественные объекты из нагромождений идентичных предметов (аккумуляции).
Известность к нему пришла в 1960 году после скандальной выставки в Париже. В октябре того же года Арман принял участие в организации движения «новых реалистов» вместе с Ивом Кляйном, Пьером Пестани, Даниелем Спорри, Раймоном Хайнсом, Франсуа Дюфреном, Жаном Тэнгли.
С 1961 года он начинает проводить акции, на которых разрушал художественные объекты (разбивал, разрезал, взрывал), а затем выставлял остатки на обозрение.
К 1970 году относятся его эксперименты с залитыми в бетон предметами. Наиболее известна его «Долгосрочная стоянка» — двадцатиметровый монумент из автомобилей, залитых бетоном. В начале 1970-х годов Арман также начал работать с пластическими материалами.
В 1985 году в парижской Опера-Комик был установлен бюст Мориса Равеля работы Армана, а в 1987 году в Мемфисе — памятник блюзу (двенадцатиметровая двойная спираль из частей рояля, гитар и банджо). В позднем творчестве Армана соединились принципы абстрактного экспрессионизма и «нового реализма».
В конце 1980-х годов художник вернулся к живописи.
В 1991 году была создана серия портретов композиторов (Баха до Бартока), выполненная из музыкальных инструментов, наиболее характерных для их творчества.