Pochodził z żydowskiej rodziny emigrantów z Niemiec. Był atletycznie zbudowany, więc myślał o karierze futbolisty, tym bardziej, że nieźle sobie radził w uniwersyteckiej drużynie podczas studiów na Michigan State University. Zdobył też czarny pas w karate i przez wiele lat regularnie brał udział w rodeo mając przydomek "Żydowski cowboy".
Jednak również podczas studiów zainteresował się aktorstwem. Zaczynał od off-Broadwayowych produkcji, a a na dużym ekranie zadebiutował epizodem w komedii "Słodka Irma" (1963), by wkrótce zwrócić uwagę na siebie niewielką rolą w westernie "El Dorado" (1965) u boku Johna Wayne'a i Roberta Mitchuma.
Na planie "Deszczowych ludzi" (1969), gdzie grał futbolistę z problemami psychicznymi, poznał Francisa F. Coppolę. Dwa lata później, w słynnym "Ojcu chrzestnym" (1971), zagrał Sonny'ego Corleone - porywczego i brutalnego następcę przywódcy mafijnej rodziny, który ginie dosłownie rozstrzelany przy autostradowej bramce. Ta rola przyniosła mu sławę i dała jedyną w karierze nominację do Oscara.
Kolejne lata to m.in. sensacyjny "Gracz" (1974) o profesorze literatury, który jest nałogowym hazardzistą i popada w konflikt z mafią, komediowa "Zabawna dama" (1975) u boku Barbry Streisand, thriller sci-fi "Rollerball" (1975) oraz kolejny thriller a zarazem ostatni film Sama Peckinpaha "Elita zabójców" (1975).
Niestety, powtarzalność granych charakterów sprawiła, że jego notowania i pozycja zaczęły wyraźnie dołować. Dopiero sensacyjny "Złodziej" (1981) w reżyserii Michaela Manna pozwolił mu się odbić. Wkrótce jednak na kilka lat zawiesił karierę aktorska na kołku i tylko sporadycznie pojawiał się w filmach, m.in. "Kamiennych ogrodach" Francisa F. Coppoli.
Przypomniał o sobie w doskonałej ekranizacji thrillera Stephena Kinga "Misery" (1990), gdzie zagrał pisarza prześladowanego przez pielęgniarkę - w tej roli nagrodzona Oscarem Kathy Bates - psychopatyczną wielbicielkę jednej z jego książkowych bohaterek. To ponownie dało impuls, by zagrać w kilku przebojowych filmach: m.in. w muzycznym "Dla naszych chłopców" (1991), komedii sensacyjnej "Miesiąc miodowy w Las Vegas" (1992) czy thrillerze "Egzekutor" (1996).
XXI wiek, to już mniejsze role, epizody, ale też jedna z głównych ról w serialu "Las Vegas" (2003-2007), gdzie zagrał szefa ochrony kasyna. Jego ostatnim filmem była komedia "Trzy królowe" (2021) w której zagrał u boku Ellen Burstyn, Ann-Margaret, Jane Curtin i Christophera Lloyda.
