汤若望原名约翰·亚当，沙尔·冯·白尔。1592年5月1日出生在德国莱茵河畔科隆城一个叫沙尔·冯·白尔的贵族之家。沙尔家族是科隆城古老的名门望族，其爵邸就在阿波斯特尔大教堂附近，全家人都是天主教的虔诚信奉者。
1534年西班牙贵族罗耀拉创建耶稣会，帮助罗马教会在反宗教改革的运动中自上而下地实行自身的改革，重振天主教，重建教皇的绝对权威。耶稣会成了天主教各修会中势力最大的一个修会团体。
汤若望就读于耶稣会所创办的著名的三王冕中学。这个学校非常重视对学生的素质教育，把培养学生虔诚善良的人生操守视为主要目标。聪明好学的汤若望学习成绩优秀。
1607年，科隆城内流行瘟疫，三王冕中学被迫停办。16岁的汤若望被当地耶稣会教区推荐到罗马德意志学院学习。
三年过去，他以优异的成绩学完了哲学、古典文学、数理天文学等全部课程，特别在数学和天文学方面，显示出他具有很大潜力和才华。他就是在这里第一次接触到伽利略的望远镜，并对此产生浓厚的兴趣。
1611年10月，汤若望加入了耶稣会，宣誓终生安贫、贞洁、服从。随后，搬到了罗马耶稣的圣·安德烈奥修道院，当一名见习修士，接受严格的修士训练。也加入了灵采研究院，探索着不断发展着的新科学，尤其是天文学和数学。
安德烈奥修道院有一个图书馆，馆里藏着许多经过印刷，装订成册的海外耶稣会士写给总会的年报、报告、信函。
汤若望经常到图书馆翻阅这些材料。早期传教士在东方在中国所建立的丰功伟绩，让他激动不已。他钦佩利玛窦在中国采取的适应中国文化习俗的，所谓“合儒”的传教策略，竭力把天主教义与中国的儒家文化相结合。当他听说利玛窦神父以其数学天文学的智慧，惊倒了中国人，并且受到皇帝的优礼和敬重，为上帝的教会开拓了新的、非常大的信仰领域时，他为西方的数理天文这在中国获得这样的价值而欣喜若狂。
两年见习期满后，1613年10月，他进入了罗马学院。开始了为期四年的神学和数学研究。罗马学院是罗耀拉于1551年创办的，虽说是一所“基督精神的神学院”，该学院的课程设置除宗教内容外，还有数学、天文学、地理学、机械力学、化学等科目。
伽利略也担任过该院的教师，他曾在学院的报告厅里展示过经他改良后的望远镜，受到热烈欢迎和钦佩。汤若望都听过他的演讲，对伽利略的学说产生浓厚的兴趣。
1617年，他以最优秀的成绩完成了在罗马学院的学业，晋升为神父。1618年4月16日，在金尼阁的带领下，汤若望、邓玉函、罗雅谷等22名传教士，以葡萄牙政府的名义派遣，从里斯本启航东渡。
1619年7月15日，汤若望和他的教友们抵达了澳门，被安置在圣·保禄学院里。
传教士们一踏上中国土地，便开始精心研习中国语言文化，甚至以掌握北京官话为目标。这些西方修士入乡随俗，脱下僧袍，换上儒服，住进中式房屋，并潜心研究中国经史和伦理，寻找其中东西方文化的融合点。在同朝野名流交往的过程中，这些上通天文，下知地理，又熟读汉文典籍的西方传教士，自然赢得了中国文人士大夫的好感和信任，从而达到其传播信仰的目的，这就是利玛窦开创的“合儒超儒”的传教策略。但有些狂热的传教士们，认为利玛窦过于迁就中国人，影响了天主教的“纯正性”，发展教徒速度太慢。在利玛窦去世之后，开始改变利氏的传教路线，采取激进式的传教方式，坚决排斥儒家思想，严禁中国教民祭天、祭祖、拜孔子，激起了社会人士的反感与怀疑，酿成“南京教案”，传教士们被驱逐，在中国内地几乎无立足之地。
其时正是明朝内忧外患之际，满洲努尔哈赤的勇兵悍将“非火器战车不可御之”。朝廷派人到澳门向葡萄牙人购买大炮。滞留澳门的传教士们以军事专家的面目，跟着大炮随行，得以进入内地。
1622年夏天，汤若望换上了中国人的服装，把的德文姓名“亚当”改为发音相近的“汤”,“约翰”改为“若望”，正式取名汤若望，字“道未”出典于《孟子》的“望道而未见之”取道北上。1623年1月25日到达北京。
汤若望到北京后，仿效当年的利玛窦，将他从欧洲带来的数理天算书籍列好目录，呈送朝廷。又将带来的科学仪器在住所内一一陈列，请中国官员们前来参观。汤若望以他的数理天文学知识得到朝廷官员们的赏识。
他到北京不久，就成功地预测了当年10月8日出现的月食。后来他又准备地预测了第二年(1624)9月的月食。还用了一种罗马关于月食计算的方法，计算了北京子午圈与罗马子午圈的距离。为此，他写了两篇关于日食的论文，印刷分赠给各官员并送呈给朝廷。
中国传教会给他的任务是研究中国的语言文字与儒家学说，数理天文学以及传教工作只是附带的。他在北京见习了四年，在钦天监官员李祖白的帮助下，用中文写了一本介绍伽利略望远镜的《远镜说》，第一个将欧洲的最