Weteran drugiego planu o sympatycznej fizjonomii, predysponującej go do różnorodnych ról charakterystycznych, których ma za sobą imponująco wiele.

James Cromwell pochodzi z rodziny aktorskiej. Początkowo zamierzał być inżynierem, ale pod wpływem wakacyjnej współpracy z ojcem na planie filmowym zmienił zdanie i zdecydował się studiować reżyserię w Carnegie Institute of Technology w Pittsburgu. Karierę rozpoczął jako aktor i reżyser w lokalnych teatrach, pojawił się w sztuce "The Iceman Cometh" w chicagowskim Goodman Theatre, "Becketcie" w Cleveland Playhouse i "Otellu" na Amerykańskim Festiwalu Szekspirowskim. Na ekranie zadebiutował rolami w serialach telewizyjnych "All in the Family" (1974) i "Hot L Baltimore" (1975). Natomiast jego debiut kinowy był pamiętny: pojawił się jako charakterystyczny szofer Marcel w makabrycznej czarnej komedii "Murder by Death" (1976).

W latach 80-tych James Cromwell grał niewielkie role głównie w komediach, między innymi w "The Man with Two Brains" (1983) ze Stevem Martinem i Kathleen Turner i "Różowym cadillacu" (1989), obok Bernadette Peters i Clinta Eastwooda. Wykreował też postać pana Skolnicka w "Zemście twardogłowych" (1984) i licznych sequelach tego młodzieżowego filmu klasy B. Kariera aktora nabrała właściwego rozpędu dopiero w latach 90-tych, kiedy wystąpił w tak różnorodnych produkcjach, jak film czarny "Krwawy Romeo" (1993) z Gary Oldmanem, widowisko science-fiction "Star Trek: Pierwszy kontakt" (1996), biograficzny "The People vs. Larry Flynt" (1996) Miloša Formana, czy thriller "Gatunek II" (1998). Ogromny sukces filmu dla dzieci "Babe: świnka z klasą" (1995) przyniósł aktorowi duży rozgłos i nominację do Oscara za rolę farmera Hoggetta, którą powtórzył także w sequelu "Babe: świnka w mieście" (1998). Następnie aktor wybierał wbrew swojemu wizerunkowi role czarnych charakterów: skorumpowanego wysokiego urzędnika policyjnego w "Tajemnicach Los Angeles" (1997) Curtisa Hansona, bezwzględnego generała-karierowicza w "Córce generała" (1999) i przekupnego detektywa, który prześladuje drobnego kryminalistę Williama H. Macy w "Małym, niewinnym morderstwie" (1999). Do jego bardziej pozytywnych kreacji należą role sprawiedliwego sędziego w "Cedrach pod śniegiem" (1999) i naczelnika więzienia w "Zielonej mili" (1999), którego chorą na raka żonę cudownie uzdrawia John Coffey (Michael Clarke Duncan). Aktor stworzył też przekonywający portret potentata prasowego Williama Randolpha Hearsta w "RKO 281" (1999), telewizyjnym filmie Ridleya Scotta o powstawaniu kinowego arcydzieła "Obywatel Kane" (1941). Natomiast w "Kosmicznych kowbojach" (2000) Clinta Eastwooda, James Cromwell ponownie wcielił się w ekranowego nikczemnika, utrudniającego misję emerytowanym astronautom, Eastwoodowi, Donaldowi Sutherlandowi i Tommy'emu Lee Jonesowi.

Prywatnie James Cromwell jest mężem Julie Cobb, z którą ma córkę Rosemary. Jest weganem i wierzy w istnienie UFO.