提起皇甫谧，人们可能立刻想到他编撰的我国第一部针灸学的专着《针灸甲乙经》，其实除此之外，他还编撰了《历代帝王世纪》、《高士传》、《逸士传》、《列女传》、《元晏先生集》等书。他一生以著述为业，在医学史和文学史上都负有盛名，是一个集文、史、哲、医于一身而尤长于医学的伟大作家。
皇甫谧出身官僚家庭，曾祖父名叫皇甫嵩，是东汉时期一位名将，领冀州牧，官拜太尉侯。但是到了皇甫谧父亲时，家境已经衰落，以致连生活都相当窘迫。因皇甫谧的叔父没有后代，在皇甫谧父亲同意下，将皇甫谧过继给自己。自此，皇甫谧就随叔父迁居到新安，皇甫谧的叔父相当溺爱皇甫谧，所以少年时代的皇甫谧沾染了当时官宦子弟的通病，不肯好好读书，整日吃喝玩乐。到了十七岁，竟“未通书史”，目不识丁，甚至有人认为他天生痴傻，那年，由于家中不善经营，加上皇甫谧挥霍浪费，他叔父家的田产房屋变卖一空。叔母对皇甫谧如此不求上进非常气愤，常常为他的前途忧虑。
一天，她把贪玩的皇甫谧赶出家门，想要教训他。谁知他到了外边弄来了香瓜、甜果之类，洋洋自得地呈献给叔母，以为如此“孝顺”一番，便可平息叔母的盛怒。谁知叔母更加气愤，接过瓜果，狠狠地摔在地上，流着泪说：“你快二十岁了，还是‘志不存教，心不入道’，你要真心孝顺父母，就得‘修身笃学’。”他很受感动，自此以后，皇甫谧判若二人，与一帮公子哥儿断绝了来往。拜乡里有名的学者席坦为师，刻苦学习儒学。
由于家境每况愈下，无钱买书，他就到处借书抄阅，有时为借阅一本书，长途跋涉数十里、数百里。后来，家中生计无着，他还得耕田劳动，但仍边耕边读，每天带了书下田，一有空暇就取出书来朗读。阅读了大量的典籍和诸子百家著作，学识大进。
正当他在史学上有所成就的时候，42岁的皇甫谧患了风痹病：半边身子像针刺似地难受，有时痛得起不了身，但他说：“朝闻道，夕死可也。”从此潜心钻研医学。在自学了《内经》、《针经》、《明堂孔穴针灸治要》等医书后，他就在自己身上扎针，有些穴位刺不到就叫儿子进针，就这样，靠针刺、拔火罐、按摩，他居然治好了自己的风痹病。从此，他更努力钻研，决心效法古人整理针灸典籍，要把有用的医术继承下来。
但是随着研究的深入，他发现以前的针灸书籍深奥难懂而又错误百出，十分不便于学习和阅读。如周代的《足臂十一脉灸经》和《阴阳十一脉灸经》、战国时代的《黄帝内经》、东汉初期的《针经》等，虽然对针灸方面的经验进行了系统的总结，但是“其义深奥”，“文多重复，错互非一”，加上当时用竹木简刻书，书被视为秘宝，普通的人是不易得到的，参考书奇缺。值得庆幸的是，当时晋武帝敬他品格高尚、学识丰富，征召他入朝为官，他不但婉言辞绝了，竟还向皇帝提出了借书的请求，皇上为了表示自己“礼贤下士”，居然送了一批书给他，让他补充了不少针灸资料。他以三部著名的医学著作：《素问》、《针经》（即《灵枢》）和《明堂孔穴针灸治要》为依据，加以综合比较，“删其浮辞，除其重复，论其精要”，并结合自己的经验，悉心钻研，摸清了人的脉络与穴位，终于写出了一部为后世针灸学树立了规范的巨著－－《针灸甲乙经》，简称《甲乙经》。
该书共12卷，128篇，内容包括脏腑、经络、腧穴、病机、诊断、治疗等。书中记载了全身穴位649个，穴名349个，对各穴位明确定位，对各穴的主治证、针灸操作方法和禁忌等都做了详细介绍，保存了大量过去散失掉的资料，并纠正了以前的一些谬误。此书问世后，唐代医署就开始设立针灸科，并把它作为医生必修的教材，当时的医家王焘评它“是医人之秘宝，后之学者，宜遵用之”。晋以后的许多针灸学专着，大都是在参考此书的基础上加以发挥而写出来的，也都没有超出它的范围。直至现在，我国的针灸疗法，虽然在穴名上略有变动，而在原则上均本于它。一千六百多年来，它为针灸医生提供了临床治疗的具体指导和理论根据，对我国针灸学起了承前启后的作用，是我国现存最早的一部理论联系实际、有重大价值的针灸学专着，被人们称做是“中医针灸学之祖”，是后世针灸学著作的典范。
此书传到国外，在国际上声望也很高，受到各国，特别是日本和朝鲜的重视。公元7世纪，日本设立针灸科，在《大宝律令》中明确规定把《针灸甲乙经》列为必读的教材之一，所以此书不只是我国最早最系统的针灸专着，在国际医学交流中也起了很大的作用。
