贺齐，字公苗，是会稽郡山阴县（今浙江绍兴）人。（虞预所着《晋书》记载：贺家原本姓庆。贺齐的伯父贺纯，是精通儒学的知名学者，汉安帝时期担任侍中、江夏太守。后来贺纯辞官，和江夏人黄琼、广汉郡人杨厚一起，被朝廷用公车征召入朝。因为要避汉安帝父亲孝德皇的名讳（“庆” 与 “皇” 音近，具体避讳细节因史料记载略有差异），才把 “庆” 姓改成了 “贺”。贺齐的父亲贺辅，曾担任永宁县县长。）
贺齐年轻时在郡府当差，后来被任命为剡县（今浙江嵊州）县长。当时剡县有个叫斯从的小吏，仗着自己行事豪横、结交了一批江湖势力，经常干违法乱纪的事。贺齐早就想整治他，身边的主簿赶紧劝道：“斯从是本地的大族子弟，连山里的越人都依附他。您今天要是治了他的罪，明天这些人肯定会带兵来闹事！” 贺齐听完怒火中烧，当场就下令把斯从抓来斩了。
斯从的族人亲戚得知消息后，立刻互相联络，凑了一千多人，举着兵器就来攻打县城。贺齐毫不慌乱，带着县里的官吏和百姓，打开城门主动出击，一下子就把这群人打得大败，他的威名也从此传遍了山越部落。后来太末（今浙江龙游）、丰浦两地的百姓发动叛乱，贺齐又被调任太末县长。到任后，他严惩作恶的坏人，扶持善良的百姓，只用了一个月，就把叛乱彻底平定了。
建安元年（公元 196 年），孙策来到会稽郡主持政务，经过考察，推荐贺齐为孝廉（汉代选拔官吏的重要科目，相当于获得了做官的资格）。当时原会稽太守王朗逃到了东冶（今福建福州），候官县（今福建福州闽侯县）县长商升起兵支持王朗。孙策派永宁县县长韩晏兼任南部都尉，带兵去征讨商升，同时任命贺齐为永宁县县长。可韩晏根本打不过商升，吃了败仗，孙策只好让贺齐接替韩晏，兼任南部都尉，继续领兵作战。
商升早就听说过贺齐的威名，心里发怵，赶紧派使者来请求结盟。贺齐趁机对使者晓之以理，把归顺和抵抗的利弊说得明明白白。商升听后，立刻送上自己的官印绶带，出城投降，还把军队驻扎到城外，以示诚意。可商升手下的贼寇头目张雅、詹强等人，不愿意跟着投降，反而联合起来杀了商升。张雅自称 “无上将军”，詹强则自称 “会稽太守”，继续和朝廷对抗。
当时贺齐的兵力很少，贼寇人数却很多，硬拼肯定打不过。贺齐只好暂时按兵不动，先稳住阵脚。没多久，他就发现张雅和自己的女婿何雄，因为争夺权力闹起了矛盾，两人互相不服气。贺齐抓住这个机会，让熟悉当地情况的越人暗中挑拨，故意放大两人的猜忌和隔阂，最后两人竟然带兵互相攻打起来。贺齐趁机率领军队发起进攻，一仗就把张雅的队伍打垮了。詹强的部下看到这情形，吓得魂飞魄散，詹强没办法，只好带着所有人投降了。
候官县的叛乱平定后，建安（今福建建瓯）、汉兴（今福建浦城）、南平（今福建南平）三地又乱了起来。贺齐领兵推进到建安，在这里设立了都尉府，这一年是建安八年（公元 203 年）。会稽郡从下属各县调来了五千士兵，每个县的士兵都由本县的县长带领，但全都归贺齐统一指挥。
当时叛乱的贼寇里，有洪明、洪进、苑御、吴免、华当五个人，每人都带着一万多户人家，在汉兴县一带联合驻扎；还有个叫吴五的，带着六千多户人，单独驻扎在大潭（今福建建阳附近）；邹临则带着六千多户人，驻扎在盖竹（今福建建阳附近），这些贼寇的据点，都离馀汗县（今江西馀干，“汗” 读 “干”）不远。贺齐率军征讨汉兴的贼寇，大军要经过馀汗县。他考虑到贼寇人多，自己兵力少，要是孤军深入，后方没有援兵，很可能会被贼寇截断退路。于是他下令让松阳县（今浙江丽水）县长丁蕃留下来，驻守馀汗县，防备后方。
可丁蕃和贺齐本来是邻县的官员，觉得让自己当贺齐的下属、留下来防守，是件丢人的事，坚决不肯服从命令。贺齐见状，当场下令把丁蕃斩了。这一下，整个军队都被震慑住了，再也没人敢不服从命令。贺齐随后分兵留下防守，自己率领主力进攻洪明等人，连续打了好几场胜仗，把贼寇打得落花流水。在战场上，贺齐亲手斩杀了洪明，吴免、华当、洪进、苑御等人见状，只好纷纷投降。接着，贺齐又调转兵力攻打盖竹的邹临，再向大潭的吴五进军，这两个贼寇头目也很快投降了。
这次平叛，贺齐总共斩杀了六千多个贼寇，把主要的贼寇头目全都活捉了。之后，他重新整顿地方秩序，恢复了各县的设置，还从当地百姓中挑选出一万多人补充军队。朝廷论功行赏，任命他为平东校尉。建安十年（公元 205 年），贺齐又率军征讨上饶（今江西上饶），平定叛乱后，上奏朝廷，请求从上饶县分出一部分土地，设立建平县（今福建建阳）。
建安十三年（公元 208 年），贺齐升任威武中郎将，奉命征讨丹阳郡（今安徽宣城一带）的黟县（今安徽黄山黟县）、歙县（今安徽黄山歙县）。当时黟县、歙县附近的武强、叶乡、东阳、丰浦四个乡，率先投降了贺齐。贺齐上奏朝廷，请求把叶乡改为始新县（今浙江淳安）。可歙县还有贼寇头目金奇，带着一万多户人驻扎在安勒山；毛甘带着一万多户人驻扎在乌聊山；黟县的贼寇头目陈仆、祖山，则带着两万多户人驻扎在林历山。
这林历山特别险峻，四面都是陡峭的石壁，高达几十丈，上山的小路又窄又危险，连刀盾都没法携带。贼寇们站在山顶，只要看到有人上山，就往下扔石头，朝廷的军队根本没法进攻。大军在山下驻扎了好几天，将领和士兵们都愁得没办法。贺齐亲自绕着山查看地形，寻找可以进攻的突破口。他暗中招募身手敏捷的士兵，打造了特制的铁钩，偷偷在贼寇没防备的隐蔽险要处，用铁钩开辟出一条能攀爬的小路。到了晚上，他让这些士兵悄悄爬上山，又在山上挂了很多布条，帮助下面的人往上爬，最后总共上去了一百多人。这些士兵分散到山的四周，同时敲响战鼓、吹起号角。
贼寇们半夜里听到四周都是鼓声和号角声，还以为朝廷大军已经全都攻上了山，顿时吓得惊慌失措，乱作一团。那些原本守在险要路口的贼寇，也都跑回大本营，想和大部队汇合。朝廷的大军趁机顺着小路往上冲，一下子就把陈仆等人的队伍打垮了，剩下的贼寇只好投降。这次战役，总共斩杀了七千多个贼寇。（葛洪所着《抱朴子》记载：当年吴国派贺齐将军征讨山贼，贼寇里有个会 “禁术” 的人 —— 每次打仗，朝廷军队的刀剑都拔不出来，弓箭射出去还会自己飞回来，导致官军总是吃亏。贺齐心思缜密，琢磨了很久说：“我听说有刀刃的兵器能被禁术克制，有毒的虫子能被禁术克制，可那些没刀刃的东西、没毒的虫子，就没法被禁术克制。那贼寇肯定只会禁我们的兵器，肯定禁不了没刀刃的东西。” 于是他让人做了很多结实的木棍，挑选了五千个力气大、精锐的士兵当先锋，让他们都拿着木棍。那些山贼仗着有会禁术的人，一点都没防备。结果官军拿着木棍冲上去打，那禁术果然不管用了，这一战下来，杀了上万的贼寇。）
之后，贺齐又上奏朝廷，请求从歙县分出土地，设立新定（今浙江遂安）、黎阳（今安徽休宁附近）、休阳（今安徽休宁）三县。加上原来的黟县、歙县和之前设立的始新县，一共六个县。孙权于是把这六个县划出来，设立了新都郡（今浙江淳安附近），任命贺齐为新都郡太守，在始新县设立太守府，还加封他为偏将军。
建安十六年（公元 211 年），吴郡馀杭县（今浙江杭州馀杭区）人郎稚，联合同宗族的人起兵叛乱，很快就聚集了几千人。贺齐奉命出兵征讨，很快就打败了郎稚。之后他又上奏朝廷，请求从馀杭县分出土地，设立临水县（《吴录》记载：西晋时，临水县改名为临安县）。
后来贺齐奉命到孙权所在的地方汇报工作，等他完成任务要回新都郡时，孙权特意出城为他设宴送行，还安排了乐队和舞队表演助兴。（《吴书》记载：孙权对贺齐说：“将来平定天下，在中原建立都城，让那些偏远地方的人进贡珍宝，让珍奇的鸟兽都来起舞庆贺，除了你，还有谁能帮我实现这个目标呢？” 贺齐回答：“殿下您凭着非凡的军事才能，顺应天命开创大业，臣有幸赶上这样的好时机，能在您身边奔走效力，辅助您做些小事，就像鹰犬一样为您效劳，这已经是臣最大的心愿了。至于让偏远地方进贡珍宝、珍奇鸟兽起舞庆贺，这都是靠殿下您的圣明德行才能实现，不是臣能做到的。”）