1917年1月生，江苏常州人。1952年加入九三学社。1956年1月加入中国共产党。北平协和医学院毕业，医学博士。医学家、医学教育家，泌尿外科专家。中国科学院、中国工程院院士。
1933年9月至1936年在北平燕京大学医预科学习。1936年至1942年在北平协和医学院学习。1942年至1946年任中和医院住院医师、住院总医师、主治医师。1946年至1947年任北京大学医学院讲师。1947年至1948年在美国芝加哥大学进修泌尿外科。1948年11月回国。1948年至1960年任北京医学院副教授、教授。1960年至1970年任北京第二医学院副院长、院长、教授。1970年至1993年任中国医学科学院副院长、院长、名誉院长，首都医科大学校长，中国协和医科大学副校长、校长、名誉校长，教授，中华医学会会长、名誉会长。1981年当选为中科院生物学部委员（后改称中科院院士）。1986年当选为第三届中国科协副主席。1987年6月至1993年4月任中国人口福利基金会副会长。1989年任九三学社第八届中央副主席。1991年5月当选为第四届中国科协副主席。1992年当选为中科院学部主席团成员。1992年12月当选为九三学社第九届中央主席。1993年3月—1998年3月任第八届全国人大常委会副委员长。1994年8月被聘为上海中医药大学名誉校长。1995年当选为中国工程院医药与卫生工程学部院士。1995年在美国泌尿外科学会第95届大会上当选为世界泌尿外科学术界领导人之一和该会荣誉会员。1995年11月被推举为中国器官移植发展基金会名誉理事长。1995年12月当选为中国计划生育协会第四届理事会副会长。1996年5月被推举为中国科协名誉主席。1996年9月被西南交大聘为名誉教授。1997年11月至2002年12月任九三学社第十届中央委员会主席。1998年1月当选为中国医药生物技术协会第二届名誉理事长。1998年3月至2003年3月任第九届全国人大常委会副委员长。
是第五、六届全国政协委员。
长期从事泌尿外科的临床治疗和科研工作，是中国泌尿外科的先驱者之一，在肾结核对侧肾积水和肾上腺髓质增生研究中有独创性见解。1957年首创用输精管结扎并用精囊灌注术，增强了避孕效果，是我国男性节育技术的奠基人。50年代，首先提出的肾结核对侧肾积水的概念，被国内外公认为“在临床上有极重大的意义”，并率先利用回盲肠行膀胱扩大术治疗膀胱挛缩取得成功，到70至80年代国外才作为最新方法介绍给公众。60年代设计了特殊的导管改进前列腺增生的手术，使手术出血量大为减少，手术时间缩短，被称为“吴氏导管”。1977年提出的“肾上腺髓质增生”是一个独立的疾病，被收进1979年《美国泌尿外科年鉴》。1995年“吴阶平泌尿外科医学基金会”在北京成立。
从1968年开始，曾担任中央多位高级领导人的医疗小组组长。60年代，受周总理的委托，曾先后11次为5个国家元首进行治疗。仅为印尼总统苏加诺就治疗过5次。为此，1965年1月被苏加诺总统授予“伟大公民”二级勋章。曾先后7次获得全国性的科学技术奖。1984年获得巴黎红宝石荣誉奖章。1987年又获得巴黎红宝石最高荣誉奖章。1992年6月8日─16日作为大陆七位杰出的科学家之一，到台湾进行了学术交流。1993年8月获首届中华人口奖科学奖。1993年12月被比利时皇家医学科学院授予“比利时皇家医学科学院荣誉勋章”，以表彰其在医学领域的杰出成就。1995年10月被香港外科医学院授予荣誉院士称号。1996年7月被英国爱丁堡皇家外科医师学院授予荣誉院士称号。1997年9月获何梁何利基金科学与技术进步奖（医学奖）。还曾荣获世界卫生组织授予的金质奖章，以表彰其在控制吸烟方面的成绩。
2011年3月2日21时18分在北京逝世，享年94岁。
主编有《泌尿外科学》、《外科学》、《泌尿外科进展》等，发表有影响的医学著作150篇，出版医学书籍21部。2000年1月，《吴阶平文集》由山东科学技术出版社出版。