Aiello w swym życiu imał się wielu zawodów, w tym kierowcy dalekobieżnych autobusów. Karierę aktorską na scenach teatralnych, w tym na Broadwayu, rozpoczął mając już ponad 30 lat.
W filmie zadebiutował jako czterdziestolatek. Wystąpił w wielu rolach charakterystycznych w filmach takich jak "", "", "" czy "". W 1987 roku wystąpił w komedii Normana Jewisona "Wpływ księżyca" z Cher, Nicholasem Cage'em i Olympią Dukakis. W 1989 roku za drugoplanową rolę - Sala, właściciela pizzerii w filmie Spike'a Lee "Rób, co należy" został nominowany do Oscara.
Wraz z Bruce'em Willisem wystąpił w 1991 roku w sensacyjnej komedii "". W 1994 roku zagrał też w filmie Roberta Altmana "".
W 2004 roku nagrał swój pierwszy singiel "All of me", a także album standardów. Cztery lata temu opublikował swoją autobiografię, której tytuł w wolnym tłumaczeniu brzmi: "Tylko wtedy wiem, kim jestem, kiedy jestem kimś innym: moje życie na ulicy, na scenie i w kinie".
Był żonaty przez prawie 65 lat. Wraz z żoną Sandy Cohen mieli czworo dzieci. Syn, Danny Aiello III, aktor i kaskader, zmarł w 2010 roku w wieku 53 lat.