南懷仁出生於比利時首都布魯塞爾，1641年9月29日入耶穌會，1658年隨他衛匡國神父來華，是清初最有影響的來華傳教士之一，是湯若望的學生之一，協助湯若望工作。1664年，由於楊光先和四名輔政大臣的發難誣告，使湯若望和其他傳教士，並整個天主教受到迫害。1669年清帝降旨開釋南懷仁、利類思和安文思。但湯若望已於三年前（1666年）去世，其他傳教士仍流放在廣東。自此開始逐漸復職。著令南懷仁任欽天監一職。皇諭公佈：天主教教義教規曾被不公正地查禁，今查明並無違反國家利益庶民職守之道。爲此，凡被逐教士可回原堂從事本職。諭旨併爲湯若望公開平反昭雪，恢復原賜榮銜，又撥鉅款爲其修建墳墓。這道諭旨在1671年頒佈。 1675年，南懷仁又作出了爲人稱譽的業績。當時吳三桂叛亂，並挫敗清軍。因吳三桂叛軍盤踞山區，非大炮就無法進攻。南懷仁當時把湯若望所鑄火炮修復。除此之外，南懷仁從事於其他有利國計民生的大量工程：如開掘運河，疏通河道。在從事繁重的科研工作的同時，他從不忽視宣傳信仰方面的本職任務。
雖然西方傳教士實不願製造這些殺人利器，但帝命不敢違，不得已勉爲其難。所以火炮鑄成後，均行祝聖禮，供天主像，以教中聖人名號刻其上，並向教宗報告，得到教宗的許可。 由史料記載可知，南懷仁在1674-1676年間，製造輕巧木炮及紅衣銅炮共132門，1681年製成神威將軍炮240門，後來，又製成紅衣大炮53門，武成永固大將軍炮61門，神功將軍炮80門。因此，南懷仁造炮數量至少爲566門。南懷仁所設計的火炮有三種被選入清代國家典籍——《欽定大清會典》。其一是“神威將軍”炮，其二是“武成永固大將軍”炮，其三是“神功軍”炮。 爲表彰南懷仁造炮有功，康熙二十一年四月初十日（1682年5月16日），奉旨加南懷仁工部右侍郎職銜、又加一級。 南懷仁製造的火炮，至今猶存。在北京的中國歷史博物館，就藏有一門武成永固大將軍炮。 南懷仁對清代火炮技術發展的另一重大貢獻，是對火炮的“準炮之法”進行了系統研究，並寫成專著。康熙二十一年（1682）正月二十七日，南懷仁進呈《神威圖說》一書。這部著作主要論述神威將軍炮的“準繩之法”，“闡明其所以然，逐備二十六題之理論，四十四圖之解說，並加數端同類之用法”。
康熙八年，南懷仁撰《曆法不得已辨》，逐條駁斥楊光先、吳明炫在曆法推算方面的錯誤。針對中國傳統的觀象占候、堪輿占卜等觀念，這一年他還撰著了《妄推吉凶之辨》、《妄佔辨》和《妄擇辨》。 南懷仁供職欽天監後做的一件大事是改造觀象臺，重造適用於西洋新法的天文儀器。康熙八年（1669）八月着手，經過四年多努力，於康熙十二年（1673）用銅鑄成六件大型天文儀器，安裝在北京觀象臺上，它們是：測定天體黃道座標的黃道經緯儀，測定天體赤道座標的赤道經緯儀，測定天體地平座標的地平經儀和地平緯儀（又名象限儀），測定兩個天體間角距離的紀限儀和表演天象的天體儀，這些儀器取代了深儀和簡儀等傳統儀器。南懷仁主要參考第谷的設計，同時吸收中國和造型藝術，將歐洲的機械加工工藝和中國的鑄造工藝結合起來，實現他的設計。這些儀器在中國歷史上是先進的。 南懷仁後來還製造過簡平儀、地平半圓日晷儀等多種天文儀器，並著有《赤道南北兩總星圖》（1672）和《簡平規總星圖》（1674）等。 南懷仁設計監製的儀器，典雅精美，它們不僅是觀測天象的儀器，而且也是瑰麗的藝術品，它們作爲中西科學交流的歷史見證，至今仍陳列在北京古觀象臺。 在製造和安裝觀象臺新儀器的同時，南懷仁將各種儀器的製造原理、安裝和使用方法等，詳細記述，繪圖立說。他於康熙十三年正月二十九日（1674年3月6日）將《新制靈臺儀象志》共十六捲進呈，並請鏤版刊行。乾隆年間，《新制靈臺儀象志》被收入《欽定儀象考成》（1752）；又被收入《古今圖書集成·曆象彙編·曆法典·儀象部》，但有圖無表。
在南懷仁完成了觀象臺儀器的改造之後，他又接到了了清廷的新命令，——預推未來一兩千年的歷表。 康熙十七年七月，《康熙永年曆法》三十二卷編撰完成。南懷仁將湯若望天順治二年十二月所著諸歷及二百年恆星表，相繼預推到數千年之後。《康熙永年曆法》實際上是一部天文表。它分爲八個部分——日、月、火星、水星、木星、金星、土星、以及交食，每一部分名四卷。各部分的開始給出一些基本數據，然後給出某一天體二千年的星曆錶。根據這些星曆錶，就可以很容易地編出民歷。清代，由於平叛戰爭、抵抗外敵侵略和統一中國的需要，康熙年間曾大量製造火炮。自康熙十四年至六十年（1675-1721），清政府製造各類火炮達905門之多。無論在造炮的規模、數量和種類方面，還是在制炮的技術和火炮的性能方面，都達到了清代火炮發展的最高水平。而南懷仁則對此做出了巨大的貢獻。 南懷仁與利類思和安文思合著的《御覽西方要紀》，是一部地理學著作，內容涉及歐洲的一般地理知識、以及社會和文化生活的各個方面。《西方要紀》一卷，包括國土、路程、海舶、海奇、土產、製造、西學、服飾、風俗、法度、交易、飲食、醫學、性情、濟院、宮室、城池、兵備、婚配、教法、西士等共21節。與康熙七年進呈。南懷仁在《西方要紀》的末尾，沒有忘記強調基督信仰對歐洲文明的重要作用，並對中國皇帝給予來華傳教士的禮遇洪恩表示了感激之情。
南懷仁最著名的西文著作是《歐洲天文學》（Astronomia Eu-ropaea,1687）。其手稿由柏應理帶到歐洲，於1687年以拉丁文在歐洲迪林根出版。 南懷仁博聞多能，深精西方科學知識。《歐洲天文學》一書的內容幾乎涵蓋了當時在中國介紹的西方所有科技知識。 在著作中多處引用《幾何原本》中的命題，並將幾何學方面的許多知識介紹到中國。在《儀象學》中，有多幅圖表示了幾何作圖的知識。在介紹幾何作圖的同時，也介紹了西方當時使用的作圖和測量工具。 在《儀象志》、（1674）和《窮理學》（1683）兩部著作中，介紹了力學基礎知識，包括重力、重量、重心、比重、浮力、材料強度、單擺、自由落體運動等知識。同時還介紹了光的折射和色散方面的知識。 南懷仁在《新制靈臺儀象志》中，介紹了機械方面的許多知識。他的另一部未刊刻的著作《窮理學》也包含了關於簡單機械的相當豐富的知識。《窮理學》於康熙二十二年八月二十六日（1683年10月16日）進呈，共60卷，是南懷仁最重要的一部著作，詳細敘述了天平、等子、槓桿、滑車、圓輪和藤線等六種簡單機械的性質、原理、計算和應用。並運用到實際中，1661年和湯若望一起利用定滑輪、動滑輪和滑輪組，在他們的指揮下，200名工匠齊心協力操作，終於將大鐘移到了預定位置懸掛在鐘樓裡。還運用機械原理運送孝陵大石牌坊的石料過盧溝橋。還將《幾何原本》譯成滿文。
南懷仁曾在中國與俄羅斯等國的外交接觸中擔任過不可缺少的角色。1676年5月15日（康熙十五年四月初三日），沙皇俄國派遣的特使尼果賴（1636～1708）等一行到達北京。這位使臣雖掌握希臘文、拉丁文等多種歐洲語言，卻不通任何東方語言。通曉多種歐洲語言又精通滿語與漢語的南懷仁成爲此次中俄溝通的橋樑。南懷仁希望促其兩國實現和平，締結和約，雖然南懷仁1688年1月28日不幸去世。但是他的願望被他的同會徐日升和張誠繼承下來。 1689年6月，徐日升與張誠隨同由索額圖率領的中國外交使團去尼布楚。他們忠實地貫徹了南懷仁在中俄之間締造和平的遺言，並用自己的智慧與能力幫助締結了一個成功的和平條約。 中俄《尼布楚條約》是在平行互惠的國際法原則基礎上締結的。這項條約明確劃定了中俄兩國的東部邊界。條約締結後，中國的東北邊疆保持了160年的安寧，俄國則獲得了貿易利益。1692年康熙皇帝降旨准許天主教士在中國自由傳教，從而實現了耶穌會士多年追求的目的。 1686年（康熙二十五年），南懷仁還爲荷蘭外交使團擔任過一次翻譯。
1676年，南懷仁被任命爲耶穌會副省會長。他爲人謙虛熱誠，急人所急，不遺餘力；但律己甚嚴，視世榮如敝屣，堅守神貧，苦身克己；他恪守修會職責，視富貴如浮雲；南懷仁一直懷着爲主致命的期望，他以高度的耐力承受了病中的劇烈痛苦。1688年，領受終傅聖事之後，安逝於主懷，享年六十五歲。安葬在利瑪竇和湯若望的墓旁。