安部公房生于大正十三年（一九二四年）三月七日，东京泷野川的一个医生之家。翌年全家迁回父亲的老家满洲奉天（今沈阳），安部的整个童年和少年时代都在这片日本殖民地的辽阔土地上度过。满洲的严酷自然——冬季零下三十度的酷寒、春天遮天蔽日的沙尘暴、一望无际的荒原——在他心中植下了对"被抛入荒诞世界"这一存在处境的直觉感知。一九四三年，他进入东京帝国大学医学部，但战争末期的混乱使他一度返回满洲，战后才重新回到东京完成学业。一九四八年以毕业论文《关于莫尔加尼症状的临床考察》获得医学士学位，但他从未行医——医学训练赋予他的冷静解剖式思维方式，却成为他日后文学创作中最独特的认识论工具。
安部的文坛出道始于诗歌。一九四七年，他自费出版了诗集《诗集——无名诗人》，受里尔克和尼采的影响颇深。一九五一年，短篇小说《红茧》获战后文学奖，这篇小说讲述一个人的身体逐渐变成一只茧、最终化为虚无的故事，以卡夫卡式的寓言手法预示了他此后全部创作的核心主题：身份的丧失、存在的荒诞、以及自我与社会的异化关系。一九五一年至一九五二年，安部以《夜之枪》获芥川奖候补，虽未获奖但已引起文坛广泛关注。同年，他加入了日本共产党——这一政治选择与他对战后民主理想的信奉密切相关——虽然他后来于一九六二年退党，但左翼思想始终是他审视社会现实的基本立场之一。
安部公房真正进入创作巅峰是在一九五〇年代末至一九六〇年代。一九五八年，短篇小说集《墙壁——S·卡尔玛氏的犯罪》获芥川奖，其中同名中篇讲述一个人的名片突然获得自主意志、反过来追捕主人的荒诞故事，以犀利的寓言手法揭示了现代社会中身份认同的脆弱性。一九六二年发表的《砂女》是安部最重要的代表作，也被公认为二十世纪日本小说中最杰出的作品之一。昆虫学者仁木顺平在沙漠中采集昆虫时被村民困入一个沙穴，被迫与一个寡妇一同挖沙以换取每日的供水。在这个封闭的空间中，仁木从反抗到接受、从绝望到发现"沙中希望"的心理转变，构成了一个关于现代人存在困境的完美寓言。《砂女》出版后获得读卖文学奖，并被敕使河原宏改编为同名电影，获戛纳电影节评审团特别奖，使安部的名字从此进入国际文学视野。
此后安部继续在多种文体与媒介上进行先锋探索。《燃烧的地图》（一九六七年）将侦探小说的框架彻底颠覆——侦探在追踪失踪者的过程中逐渐丧失了自我，最终自己也变成了一张地图上的虚线。《箱男》（一九七三年）以手记体讲述一个人把自己装进纸箱中生活、逐渐丧失社会身份的故事，文体实验的激进程度令人联想起罗伯-格里耶的新小说。《密会》（一九七七年）和《樱花方舟》（一九八四年）则在反乌托邦叙事中注入了更深层的政治隐喻。与此同时，安部还是一位活跃的剧作家和导演——他组建了"安部公房工作室"，创作并导演了《猎奴船》《你也有罪》等先锋戏剧，将他的存在主义寓言从文字延伸到了舞台。
平成五年（一九九三年）一月二十二日，安部公房因急性心力衰竭在东京去世，享年六十八岁。他是日本作家中在西方世界影响力最大的一位——贝克特对他深表赞赏，加西亚·马尔克斯称他为"日本的卡夫卡"，苏珊·桑塔格将他列为战后最重要的世界作家之一。安部对日本文学传统的冲击是根本性的：他以彻底的理性主义和寓言手法，打破了日本文学中长期占据主导地位的"私小说"传统和感伤抒情模式，证明了日本文学完全有能力处理最抽象的存在主义命题。从村上春树的都市荒诞到岛田雅司的超现实叙事，从古井由吉的病理学目光到圆城塔的数学式虚构，战后日本文学中一切带有先锋性与实验性的脉络，几乎都可以追溯到安部公房那间由砂与墙壁构筑的奇异世界。