毛玠，字孝先，是陈留平丘人。他年轻时担任县吏，以清廉公正着称。曾打算前往荆州避乱，还未到达，就听说刘表政令混乱，于是改道前往鲁阳。曹操治理兖州时，征召毛玠为治中从事。毛玠向曹操进言：“如今天下分裂，天子流亡，百姓流离失所、无法安居乐业，官府没有一年的粮食储备，百姓也没有安稳的心态，这样的局面难以持久。如今袁绍、刘表虽然兵力强盛、人口众多，但都缺乏长远的谋略，没有建立根基的打算。用兵合乎道义者才能取胜，守住权位需要依靠财力。您应该尊奉天子来号令不服从的诸侯，重视农耕生产，积蓄军用物资，这样一来，称霸天下的大业就可以实现了。”曹操十分敬重并采纳了他的建议，将他转任为幕府功曹。
曹操担任司空、丞相时，毛玠曾担任东曹掾，与崔琰一同掌管官员选拔事宜。他们所举荐任用的，都是清正廉明的士人，那些虽然在当时有很高的名声，但行为不合根本的人，始终得不到晋升。毛玠力求以节俭来做世人的表率，因此天下的士人无不以廉洁的节操来自我激励，即使是地位尊贵、深受宠信的大臣，在车辆服饰方面也不敢过度奢华。曹操感叹道：“任用官员能做到这样，让天下人自己约束自己，我还有什么可担忧的呢！”
魏文帝曹丕还是五官将时，亲自拜访毛玠，想托付他关照自己的亲信。毛玠回答说：“我作为老臣，能够恪守职责，侥幸免于过失已经很庆幸了。如今您所提到的人不符合升迁的次序，所以我不敢奉命。”
大军返回邺城后，朝廷商议合并、精简机构。由于毛玠不接受私下请托，当时的人都很敬畏他，于是都想撤销东曹。他们一同禀告曹操说：“过去西曹的地位高于东曹，东曹次之，应该撤销东曹。”曹操深知其中的内情，下令说：“太阳从东方升起，月亮在东方最圆，凡是说到方向，也都是先提到东方，为什么要撤销东曹呢？”于是撤销了西曹。
当初，曹操平定柳城后，分发所获得的器物，特意把素屏风和素冯几赏赐给毛玠，说：“你有古人的风范，所以赏赐你古人使用的器物。”毛玠身处显要的职位，却常常穿着布衣、吃着粗茶淡饭，十分尽心地抚养兄长的遗孤，得到的赏赐都用来赈济贫困的族人，家中没有多余的财物。后来他升任右军师。魏国刚刚建立时，他担任尚书仆射，再次掌管官员选拔事务。（《先贤行状》记载：毛玠高雅诚信、公正无私，为官清廉谨慎。他掌管选举时，选拔忠诚老实的人，斥退浮华虚伪的人，提拔谦逊有德行的人，抑制结党营私的人。那些治理百姓没有显着功绩却私人财产丰厚的官员，都被罢免废黜，长期不再任用。当时天下一致称颂，没有人不勉励自己践行美德。甚至连地方长官回到朝廷时，都面容污垢、衣着破旧，常常乘坐简陋的柴车。军中官吏进入官府时，穿着朝服徒步而行。人人都追求像用壶盛饭一样廉洁，家家都有洗涤帽缨般的操守，地位高贵的人没有贪婪的牵累，地位低下的人断绝了谋取私利的念头，官员在上廉洁，风俗在下改变，百姓至今仍称赞他。）
当时太子的人选还没有确定，而临菑侯曹植深受曹操宠爱。毛玠秘密劝谏曹操说：“不久前袁绍因为嫡子和庶子的地位不分，导致家族和国家都灭亡了。废立太子这样的大事，我不应该参与议论。”后来众臣聚会，毛玠起身去换衣服，曹操用目光指着他说：“这就是古代所说的国家的司直，如同我的周昌啊。”
崔琰死后，毛玠内心十分悲痛。后来有人向曹操告发毛玠，说：“毛玠外出时见到脸上刺字的反贼，他们的妻子儿女被充为官奴婢，毛玠就说‘老天不下雨，大概就是因为这种事吧’。”曹操听后勃然大怒，将毛玠逮捕入狱。
大理寺卿钟繇审讯毛玠时质问：“自古圣明的帝王，刑罚都会牵连罪人妻子儿女。《尚书》说：‘左边的人不称职，右边的人不称职，我就将你们降为奴隶或处死。’司寇之职规定，男子犯罪沦为罪隶，女子犯罪送入舂米作坊。汉律也规定，罪人妻子儿女没为奴婢，脸上刺字。汉代施行的黥面之刑，本就源于古代典章。如今这些官奴婢的祖先有罪，即便历经百世，仍要面刺标记为官府服役，这样做一来可宽恕良民的性命，二来可减轻连坐之罪。这为何会违背神明之意而导致干旱？根据典籍记载，施政过严则常降寒灾，施政过宽则常遇酷暑，过于宽纵就会导致亢阳干旱。毛玠说这话，是认为朝廷施政宽还是严？若施政过严本应多雨，为何反而干旱？成汤圣明之世，郊外寸草不生；周宣王是贤明君主，却遭遇旱魃为虐。如今干旱已持续三十年，把天灾归咎于黥面奴婢，时间能对得上吗？当年卫人讨伐邢国，军队出征就降雨，若说罪恶与天应无关，为何偏偏此时下雨？毛玠的诽谤之辞，已在百姓中流传，对朝廷不满的声音，也传到了圣上耳中。毛玠说那番话时，不可能是自言自语——他见到的黥面者有几人？这些奴婢中，他认识的有谁？为何会见到他们并感叹？当时对谁讲了这话？对方如何回应？具体时间、地点何在？如今事情已经暴露，不得隐瞒欺骗，必须如实供述！”
毛玠回答道：“我听说，萧望之被石显逼得自杀，贾谊因绛侯、灌婴的谗言被贬谪外放，白起在杜邮被赐剑自刎，晁错在东市遭斩杀，伍子胥在吴都命丧黄泉——这几位贤人，有的在生前遭人嫉妒，有的在身后被人陷害。我自幼就秉持竹简研习礼法，历经多年勤勉才获得官职，任职于机密亲近之位，难免卷入人事纷争。有人想托我谋取私利，我无不给以拒绝；有人向我诉说冤情，再细小的事我也会处理。人性贪婪好利，本就为法律所禁止，而法律限制利益时，有权势者就可能陷害忠良。如今谗言如青蝇乱飞，刻意构陷我，而诽谤我的人，必然是有权势者。
从前王叔与陈生在王廷争论是非，宣子主持公道，命双方出示契约，使是非曲直各有分晓，《春秋》对此大加赞赏并记载下来。我若没说过那些话，就不会有时间、证人；若说过，告发者必定有确凿证据。恳请陛下能像宣子那样明辨是非，让我与告发者当面对质。如果我确实犯了错，那么受刑之日，对我来说就如同得到乘车安葬的礼遇；若被赐剑自杀，就如同蒙受重赏之恩。我谨以实情作答。”
当时桓阶、和洽等人进言营救毛玠，毛玠最终被免官贬黜，死于家中。（孙盛评论说：曹操此举已失政乱刑。《易经》强调“明断各类案件”，古传主张“举用正直、废黜奸邪”，只有断案清明，国家才无冤民；赏罚得当，百姓才会信服。从未有听信谗言、偏信诬告，却能治理天下、实现政治清明的。从前汉高祖将萧何下狱，后来仍让他复任丞相；毛玠一旦遭责难，就终身被弃用，两位君主的度量，相差何其远啊！）
曹操后来赐给毛家棺木、钱帛，任命毛玠的儿子毛机为郎中。