大学毕业后任正非当兵了，当的是建筑兵。任正非当兵的第一个工程就是法国公司的工程。那时法国德布尼斯·斯贝西姆公司向中国出售了一个化纤成套设备，在中国的东北辽阳市。任正非在那里从这个工程开始一直到建完生产，然后才离开。
1983年随国家整建制撤销基建工程兵，任正非复员转业至深圳南海石油后勤服务基地。
1987年，因工作不顺利，任正非转而集资21000元人民币创立华为公司。创立初期，华为靠代理香港某公司的程控交换机获得了第一桶金。
1992年任正非孤注一掷投入C&C08机的研发。
1993年年末，C&C08交换机终于研发成功。其价格比国外同类产品低三分之二，为华为占领了市场。1996年3月，为了和南斯拉夫洽谈合资项目，任正非率领一个十多人的团队入住贝尔格莱德的香格里拉。他们订了一间总统套房，每天房费约2000美元。不过，房间并非任正非独享，而是大家一起打地铺休息。
2003年1月23日，思科正式起诉华为及华为美国分公司，理由是后者对公司的产品进行了仿制，侵犯其知识产权。面对思科的打压，任正非一边在美国聘请律师应诉，一边着手结盟思科在美国的死对头3COM公司。2003年3月，华为和当时已进入衰退期的3COM公司宣布成立合资公司"华为三康"，3COM公司的CEO专程作证华为没有侵犯思科的知识产权。最终，双方达成和解。
2011年12月，任正非在华为内部论坛发布了《一江春水向东流》这篇文章，透露了华为的人人股份制。任正非透露，设计这个制度受了父母不自私、节俭、忍耐与慈爱的影响。任正非还创立了华为的CEO轮值制度，每人轮值半年。此举为避免公司成败系于一人，亦避免一朝天子一朝臣。