登场

张青在水浒传中的首次被提及是由鲁智深向杨志自我介绍时。当时鲁智深简述自己经历，说自己在十字坡张青店中被孙二娘以蒙汗药迷倒，幸好张青看到鲁智深的禅像后知道是江湖人物，便救醒了鲁智深。谈到鲁智深无处安身时，张青推荐鲁智深到二龙山投靠邓龙，之后张青的事便告一段落。尽管张青于此时（第十七回）便被提及，他却一直到小说第二十七回才真正现身。

初遇武松

后来武松杀了西门庆和潘金莲，由两名差仆押往孟州，路过张青的店。武松察觉出孙二娘不怀好意，便佯装醉倒，设法捉了孙二娘。幸好此时张青回店，及时调解。二人互通姓名后均敬重对方，便结拜为兄弟。张青想乘机杀了两名差仆，为武松换得自由，但武松却以两名差仆待他不错而不肯，二人便于三天后分别。

二遇武松

武松在鸳鸯楼报仇杀了人后，在孟州城外林中一间寺庙中休息，却被张青店里的人捉去，幸好张青认得武松，及时救了他，不致酿成悲剧。数天后，武松被通缉得很紧，张青和孙二娘便把他伪装成云游头陀的模样，并推荐他上了二龙山投靠鲁智深和杨志。武松便拿了推荐信离开。后来张青也和孙二娘上了二龙山。

上梁山

后来呼延灼带兵攻打桃花山，山主李忠接仗失利后便写信向二龙山求助。于是，张青、鲁智深、杨志和武松等人带同人马到达支援，一时双方也占不到优势。呼延灼于是回青州，把正在攻打青州的白虎山头领孔明活捉，山中另一头领孔亮却逃出至桃花山向张青等人求助，众人认为合三山之力仍不足以攻下青州城救人，于是便派孔亮联合梁山泊兵马攻打青州。青州城破后，张青便跟着二龙山、白虎山、和桃花山三山共十一名头领加入梁山泊。上梁山后张青参与多场战役，立功不少。

征方腊

张青在与梁山泊余下一百零八人受招安后，便参与征讨方腊，其中却于攻歙州欧鹏战死，在军心大乱之际死于乱军之中，结束了在水浒传的故事。

张青因菜种得鲜亮，被人称作菜园子张青。（现山东省莘县与河南省范县交界处分别有菜园村，张青营村，十字坡)

他帮着孟州道光明寺务农。后来因为一点生活琐事杀了寺中僧人，一把火烧了寺庙，在大树坡作劫匪，被孙二娘的父亲打败，收为女婿。

他和孙二娘在十字坡开酒店，常用蒙汗药蒙翻过往行人。他们将行人杀死后，大块好肉当作黄牛肉卖，零碎小肉，做馅包馒头。江湖有传言说：“大树十字坡，客人谁敢那里过？肥的切做馒头馅，瘦的却丢去填河。”

武松杀了西门庆、潘金莲后被押解路过十字坡，见酒肉有问题，假装喝醉酒，捉了孙二娘，与张青夫妇相识，拜张青夫妇为兄嫂。对于刚失去兄长又杀了嫂子的武松，算是一份安慰。后张青夫妇投奔了二龙山。“双鞭”呼延灼率兵围剿三山，夫妇二人遂同上梁山，开西山酒店。张青排梁山好汉第一百零二位，征方腊歙州一役，神箭手庞万春射死了欧鹏，率军掩杀，宋江军败退，张青在乱军中战死。