Nació el 18 de febrero de 1919 en Hazle Township, Pensilvania en el seno de una familia de modestos inmigrantes ucranianos. Su nombre real era Vladymir Ivanovich Palahniuk.
Su cara de rasgos duros y su corpulencia lo convirtieron en el malvado ideal en la pantalla grande, con lo que pasó a interpretar casi exclusivamente asesinos y sicópatas en los más de 80 filmes en los que actuó.
De origen humilde, fue lustrabotas, salvavidas, boxeador, y soldado antes de ser actor.
A fines de la década de 1930 se lanza bajo el seudónimo de Jack Brazzo a una carrera en el boxeo profesional que le deparó varios éxitos: además de ganar sus primeras 15 peleas, 12 de ellas por nocáut. Los golpes en el boxeo desfiguraron su rostro.
Palance dejó el boxeo profesional para ingresar en las fuerzas armadas en los primeros años de la década de 1940. Participó en la Segunda Guerra Mundial donde su rostro fue dañado nuevamente al estallar en el aire el bombarderoen que iba. Fue intervenido en una serie de cirugías reconstructivas.
Tras ser dado de baja en 1944, entró en la Universidad de Stanford, California, donde se licenció como dramaturgo en 1949. Un día lo descubre el director Elia Kazan, quien quedó impresionado por "un rostro que solo una madre podría amar". El rostro angulado y la barbilla marcada le daban a Palance un aire misterioso con el cual era capaz de erizar la piel con su mirada fija. Es entonces cuando empieza a delinearse su imagen de "villano".
Misántropo al igual que su amigo Lee Marvin, Palance vivía aislado en su rancho de California y dedicaba su tiempo a la pintura y a sus hijos. Aficionado a la pintura, también escribió un libro de poemas y hablaba seis idiomas: ucraniano, ruso, italiano, español, frances e ingles.