1914年，蘇步青以優異的成績考入舊四年制的浙江省立第十中學，當時的校長洪彥遠對蘇步青非常器中，鼓勵他好好學習，并承諾以后有機會送他去日本學習。等到蘇步青中學畢業后，已經在北洋政府教育部任職的洪彥遠沒有食言，給蘇步青匯去200銀元，資助他去日本留學。這讓當時只有17歲的蘇步青非常感動，同時暗下決心，有朝一日學成后一定要回報母校。

22歲那年，蘇步青以第一名的成績考入日本仙臺市的東北帝國大學數學系，師從著名幾何學家洼田忠彥教授。之后，他又免試升入研究生院攻讀博士學位。此時的蘇步青已經在數學方面嶄現出了強勁的勢頭，相繼在國際學術期刊發表了幾十篇仿射微分幾何和射影微分幾何方面的研究論文，被國際數學界稱作“東方國度上升起的燦爛的數學明星”。

博士畢業后，日本東北帝國大學為了能留住這位數學天才，給蘇步青開出了比其他老師高一倍的薪水，這對于出身貧寒的蘇步青來說，極具誘惑力。然而，令所有人沒有想到的是，蘇步青婉拒了校方的好意。他表示，報效祖國是他當前也是此后的唯一理想。有趣的是，當時的蘇步青已經娶了松本教授的女兒松本米子為妻，松本教授也希望女婿能留在日本工作生活。然而，蘇步青也沒有給老丈人“留面子”，于1931年偕妻子松本米子回到中國。

回國后時間不長，“國立清華大學”便向蘇步青伸出橄欖枝，高薪邀請他去該校數學系任教。當時的清華大學的數學系已經匯聚了熊慶來、鄭桐蓀、武之等知名教授，在這里教書可以說名利雙收，然而，蘇步青再一次婉拒了高薪聘請，執意來到國立浙江大學當了一名副教授，以自己的所學回報家鄉的大學。此事傳開后，眾人都為蘇步青高尚的品格和知恩圖報的精神所感動。