1918年考进榆林中学。1922年考入北京大学哲学系，聆听了李大钊、鲁迅和其他进步教授的讲课，开拓了视野，加深了对马克思主义的理解和研究，树立了共产主义理想。1925年6月，马云程经后来担任了中共绥德地委组织部长的蔡南轩介绍加入中国共产党。

1926年，在北大就读时期正值国共第一次合作，国民革命军第一次北伐，应榆林中学杜斌丞邀请，并经党组织派遣，回榆林中学担任训育主任兼国文教员。期间积极发展各校的党、团组织，建立学生会，先后在榆中和女校学生中开展革命活动，担任新成立的中共榆林地委书记。此后，成立了总工会，开展工运。接着又组织成立农会、商会，开展同军阀的斗争。筹备并召开了“陕北23县群众代表大会”。

1927年 “4·12”事变后的4月18日，召开了李大钊和19位革命志士追悼大会，同时主持了榆林知识界召开的追悼会。后被党组织安排离开陕北，进入北京大学复读，利用学生身份作掩护，做党的学运工作。1928年，被派去山西省运城中学任教，开展学生运动。1932年冬，运城的党组织建立了地下武装，敌人以存放枪支弹药之名，将他逮捕。1933年，释放出狱后被派回西安高中任教，继续开展党的地下工作。

1934年秋，奉命到北平开展兵运工作。1935年4月，由于叛徒高立仁告密，马云程被捕。在狱中，马云程坚贞不屈，不但没有透露一点党的机密，反而不断向在场的宪兵、军警等宣传共产主义，把敌人的审判庭变成了宣传无产阶级革命的讲堂。敌人得不到一点情报，便动用酷刑。马云程被折磨的血肉模糊，死去活来。但是，只要他清醒着，就怒斥敌人。敌人叫叛徒出庭作证，马云程厉声骂道：“叛徒！可耻！你给我滚出去！”并且正气凛然地警告敌人：“你们不要张牙舞爪，共产主义一定要在全世界实现！”经过20多天的威胁利诱、严刑逼供，敌人仍一无所获，同年5月1日，在北平就义，时年36岁。1952年，北京市人民政府为烈士立碑纪念，遗骨安葬于八宝山革命公墓。（文章来源于《永远的丰碑》）