Aiello w swym życiu imał się wielu zawodów, w tym kierowcy dalekobieżnych autobusów. Karierę aktorską na scenach teatralnych, w tym na Broadwayu, rozpoczął mając już ponad 30 lat.
W filmie zadebiutował jako czterdziestolatek. Wystąpił w wielu rolach charakterystycznych w filmach takich jak "Ojciec Chrzestny II", "Fort Apache", "Dawno temu w Ameryce" czy "Purpurowa róża z Kairu". W 1987 roku wystąpił w komedii Normana Jewisona "Wpływ księżyca" z Cher, Nicholasem Cage'em i Olympią Dukakis. W 1989 roku za drugoplanową rolę - Sala, właściciela pizzerii w filmie Spike'a Lee "Rób, co należy" został nominowany do Oscara.
Wraz z Bruce'em Willisem wystąpił w 1991 roku w sensacyjnej komedii "Hudson Hawk". W 1994 roku zagrał też w filmie Roberta Altmana "Pret-a-porter".
W 2004 roku nagrał swój pierwszy singiel "All of me", a także album standardów. Cztery lata temu opublikował swoją autobiografię, której tytuł w wolnym tłumaczeniu brzmi: "Tylko wtedy wiem, kim jestem, kiedy jestem kimś innym: moje życie na ulicy, na scenie i w kinie".
Był żonaty przez prawie 65 lat. Wraz z żoną Sandy Cohen mieli czworo dzieci. Syn, Danny Aiello III, aktor i kaskader, zmarł w 2010 roku w wieku 53 lat.