Rudolf urodził się w Krakowie, ze związku Modrzejewskiej z Zimajerem. Kiedy Rudolf miał sześć lat, ojciec, który wcześniej rozstał się z matką chłopca, porwał go i przez trzy lata trzymał w ukryciu.
W wieku piętnastu lat Rudolf wraz z matką wyemigrował do USA. Jako młody chłopak chciał zostać pianistą - lekcje gry na fortepianie dawał mu Ignacy Paderewski.
Obywatelstwo amerykańskie otrzymał podczas studiów w paryskiej École nationale des ponts et chaussées (Państwowa Szkoła Dróg i Mostów). Po ukończeniu studiów w Paryżu powrócił do Stanów Zjednoczonych i podjął pracę inżyniera. Przyjął łatwiejsze do wypowiedzenia za granicą nazwisko Ralph Modjeski.
Stał się światowej sławy inżynierem, budowniczym linii kolejowych i mostów, pionierem w budownictwie mostów wiszących. Zbudował prawie 40 mostów na największych rzekach Ameryki Północnej. Jego uczniem był m.in. twórca słynnego mostu Golden Gate w San Francisco - Joseph B. Strauss.