袁涣，字曜卿，乃是陈郡扶乐人氏。他的父亲袁滂，曾在汉朝官至司徒。据《袁宏汉纪》记载：袁滂，字公熙，为人质朴纯粹，清心寡欲，从不会去谈论别人的短处。在当时权贵得宠、权势鼎盛之时，有些人因为政见不同而招致灾祸，唯有袁滂在朝堂之上坚守中立，因此他人对他既无喜爱之情，也无憎恶之意。

在那个时候，诸多世家公子大多行事逾越法度，而袁涣却生性清静，一举一动都必定遵循礼仪规范。陈郡郡守听闻他的贤名，任命他为功曹。袁涣到任之后，郡中的奸佞官吏自知无法在他手下蒙混，都纷纷自行引退离去。后来，袁涣被公府征召，在考核中成绩优异，得以升迁为侍御史。朝廷又任命他为谯县县令，然而他并未赴任就职。

刘备担任豫州牧的时候，举荐袁涣为茂才。后来，天下大乱，袁涣为躲避战乱，辗转来到江、淮之间，被袁术征召任用。袁术每次有问题向袁涣咨询请教，袁涣总是秉持公正的态度发表议论，袁术虽然心中不服，却也无法反驳。但因敬重袁涣的为人，不敢不以礼相待。

没过多久，吕布在阜陵攻打袁术，袁涣前去投奔袁术，结果又被吕布扣留。起初，吕布与刘备结为姻亲，关系和睦，后来却产生了嫌隙。吕布想要袁涣写一封信去辱骂刘备，袁涣坚决不肯答应。吕布再三强迫他，袁涣依然不为所动。吕布恼羞成怒，拔出兵器威胁袁涣说：“你写这封信就能活命，不写就只有死路一条！”袁涣面不改色，笑着回应道：“我听说只有高尚的品德才能让人蒙羞受辱，从未听闻用辱骂可以达到目的。倘若刘备是个君子，他不会因为将军您的辱骂之言而感到羞耻；倘若他是个小人，那他会顺着您的意思回骂，如此一来，受辱的反而是您，而不是他。况且我往日侍奉刘将军，就如同今日侍奉您一样，如果我有朝一日离开这里，又去辱骂您，这样做合适吗？”吕布听后，感到十分惭愧，便不再逼迫袁涣。

后来，吕布被诛杀，袁涣得以归附太祖曹操。据《袁氏世纪》记载：吕布战败覆灭之时，陈群父子当时也在吕布军中，见到太祖曹操后都伏地叩拜。唯独袁涣只是拱手作揖，并不行跪拜之礼，太祖对他十分敬畏。当时，太祖赏赐给众官员数辆车，让他们去吕布军中挑选自己想要的物品。众人都装满了车，搬运大量财物，唯有袁涣只挑选了数百卷书籍以及一些物资粮食。众人听闻此事后，都深感惭愧。袁涣对亲近的人说：“倘若我身处战场，这些书籍和粮食足够当作行军途中的干粮了，我并不想把它们据为己有。有些人却借此来博取名声，现在想来，真是让人懊悔不已。”太祖因此更加敬重袁涣。

袁涣向太祖进言说：“兵器，乃是不祥之物，只有在万不得已的情况下才可以使用。应当用道德来鼓舞士气，用仁义来征伐无道，同时安抚百姓，为他们除去祸患。只有这样，才能让士兵们与您同生共死。自从天下大乱以来，已经过去了十几年，百姓渴望过上安定生活的心情，比被倒挂起来还要急切。然而，暴乱至今仍未平息，这是为什么呢？我想，大概是为政之道出现了偏差吧！我听说贤明的君主善于拯救世道，所以世道混乱时，就用道义来整顿；时世虚伪时，就用质朴来纠正。时代不同，世事变化，治理国家的方法也不能一成不变，这一点不可不仔细明察。制度的增减变化，古今本就不必相同。至于兼爱天下，让社会回归正道，即便用武力平定叛乱，也要用仁德来辅助治理，这实在是历代帝王都不会改变的治国之道。您英明睿智，超越当世之人，古代那些能得民心的方法，您都已经勤勉地施行；如今可能导致失去民心的因素，您也都有所戒备。天下百姓仰赖您，才得以避免危亡的灾祸。然而，百姓尚未知晓仁义，希望您能加以教导，如此则是天下的万幸啊！”太祖对袁涣的这番话深表赞同，采纳了他的建议，并任命他为沛南部都尉。