IBM 與中國的業務關系源遠流長。早在 1934 年，IBM 公司就為北京協和醫院安裝了第一臺商用處理機。1979 年，在中斷聯系近 30 年之后，IBM 伴隨著中國的改革開放再次來到中國。同年在沈陽鼓風機廠安裝了中華人民共和國成立后的第一臺 IBM 中型計算機。
隨著中國改革開放的不斷深入，IBM 在華業務日益擴大。80 年代中后期， IBM 先后在北京、上海設立了辦事處。1992 年 IBM 在北京正式宣布成立國際商業機器中國有限公司，這是 IBM 在中國的獨資企業。此舉使 IBM 在實施其在華戰略中邁出了實質性的一步，掀開了在華業務的新篇章。隨后的 1993 年，IBM 中國有限公司又在廣州和上海建立了分公司。到目前為止，IBM 在中國的辦事機構進一步擴展至哈爾濱、沈陽、深圳、南京、杭州、成都、西安、武漢、福州、重慶、長沙、昆明和烏魯木齊等 16 個城市，從而進一步擴大了在華業務覆蓋面。伴隨著 IBM 在中國的發展，IBM 中國員工隊伍不斷壯大，目前已超過 5000 人。除此之外，IBM 還成立了 8 家合資和獨資公司，分別負責制造、軟件開發、服務和租賃的業務。
IBM 非常注重對技術研發的投入。1995 年，IBM 在中國成立了中國研究中心，是 IBM 全球八大研究中心之一，現有 150 多位中國的計算機專家。隨后在 1999 年又率先在中國成立了軟件開發中心，現有近 2000 位中國軟件工程師專攻整合中間件，數據庫，Linux 等領域的產品開發。
二十多年來，IBM 的各類信息系統已成為中國金融、電信、冶金、石化、交通、商品流通、政府和教育等許多重要業務領域中最可靠的信息技術手段。IBM 的客戶遍及中國經濟的各條戰線。
與此同時，IBM 在多個重要領域占據著領先的市場份額，包括：服務器、存儲、服務、軟件和筆記本電腦等。
取諸社會，回饋社會，造福人類，是 IBM 一貫奉行的原則。IBM 積極支持中國的教育事業并在社區活動中有出色的表現。
IBM 與中國高校合作關系的開始可追溯到 1984 年，當年 IBM 為中國高校作了一系列計算機設備硬件和軟件的捐贈。1995 年 3 月，以 IBM 與中國國家教委（現教育部）簽署合作諒解備忘錄為標志，“IBM 中國高校合作項目”正式啟動，這一長期全面合作關系的基本宗旨是致力于加強中國高校在信息科學技術領域的學科建設和人才培養。10 年來，IBM 中國高校合作項目不斷向著更高的水平、更深的層次和更廣的領域發展，對中國高校信息技術相關專業的學科建設和人才培養起到了積極的推動作用。
自 1995 年以來，IBM 已向中國高校捐贈了價值人民幣 10.1 億元的計算機設備、軟件及服務。此外，通過與教育部在基礎教育領域的合作，IBM 向中國教育機構捐贈的設備總價值達人民幣 3177 萬元。迄今為止，IBM 對中國教育機構的捐贈已高達人民幣 10.4 億元。
在高校合作項目方面，目前 IBM 已與 50 多所中國知名高校建立了合作關系。30 萬人次學生參加了 IBM 技術相關課程的學習和培訓，3.7 萬人次學生獲得 IBM 全球專業技術認證證書，3000 人次教師參加了 IBM 組織的不同形式的師資培訓。
除了在高等教育領域與中國教育界進行合作之外，IBM 還將合作范圍積極拓展到基礎教育領域。繼 2001 年 IBM KidSmart“小小探索者”兒童早期智力開發工程引入中國以來，IBM 已經連續 4 年在中國開展了這一項目。目前 IBM 已與遍及全國各省、市、自治區共 38 個城市的近 400 所幼教機構進行合作，捐贈了 1600 套 KidSmart 兒童電腦學習中心。
自 2003 年起，IBM 與教育部進一步合作，在北京、上海、廣州和成都的 12 所小學開展了 Reinventing Education“基礎教育創新教學項目”，采取更多、更有價值的支持方式，把國外成熟的經驗和資源引入中國，并充分結合中國的現狀和需求，更好地幫助學校借助 IT 手段提高教學效果。
通過上述兩個項目，共有 6000 多名基礎教育領域的骨干教師接受了 IBM 的免費培訓，10 萬名兒童受益。
2003 年，IBM TryScience Around the World“放眼看科學”青少年科普項目在中國正式啟動。通過這個項目，IBM 向中國的科技館捐贈電腦終端，終端通過高速網絡與異地服務器相連并將服務器上的豐富內容呈現給科技館的訪問者。“放眼看科學”內容涵蓋了生態考古、太空探索、極限運動、海洋生物等多個方面，為青少年打開了一道接觸科普知識、了解科學概念的全新大門。目前，IBM 已向 6 個城市的科技館捐贈了 25 套 IBM TryScience Kiosk 多媒體終端。
對于 IBM 在中國的出色表現和突出貢獻，媒體給予了 IBM 十分的肯定。IBM 先后被評為“中國最受尊敬企業”、“中國最受尊敬的外商投資企業”、“中國最具有價值的品牌”、“中國最佳雇主”等。IBM 大中華地區董事長兼首席執行總裁周偉焜先生從 2001 年到 2004 年連續被評為年度 IT 財富人物。2004 年，IBM 中國公司被《財富》雜志中文版評選為“中國最受贊賞的公司”，并榮居榜首。
IBM 的前任 CEO 郭士納先生在談到 IBM 中國公司的時候，曾經深情地說：“IBM 懷著對中國的承諾，為中國建立一家世界上首屈一指的信息技術公司。它設在中國，為中國人服務，有朝一日也為全世界服務。IBM 中國公司必將會成為‘中國的 IBM 公司’，成為中國經濟的一部分。” 回顧 IBM 在中國的成長歷程，從最初的戰略嘗試階段，到中期的戰略投資階段，再到全面融入階段，IBM 始終懷著對中國的深切承諾 。
2004 年，IBM 與中國的合作伙伴關系進一步加強：IBM 在上海成立了亞太總部；與聯想公司進行戰略合作，共同發展個人電腦業務；與長城公司共同組建了長城國際系統科技（深圳）有限公司，從事服務器生產。
面向 2005 年，IBM 在中國發布了三大戰略方向，即：保持快速成長；加強以解決方案和服務為核心的高價值業務和用創新幫助中國客戶成功轉型并提升其執行力、生產力和競爭力。
今天，新時代的 IBM 中國公司，正秉承“成就客戶、創新為要、誠信負責”的核心價值觀，引領中國客戶共同走向隨需應變的轉型之路。