卡尔·车尔尼出生于维也纳，他的父亲（Wenzel Czerny）也是钢琴家。车尔尼从小跟随父亲约翰·内波姆克·胡梅尔（Johann Nepomuk Hummel，1778-1837）和安东尼奥·萨列里（Antonio Salieri，1750-1825）学习钢琴，他3岁时就能弹钢琴，7岁时能将自己的乐思记录下来，9岁就登台演奏莫扎特的C小调钢琴协奏曲，10岁时已能清晰流畅地弹奏莫扎特、克莱门蒂的全部钢琴作品，并且具有超凡的音乐记忆力。从15岁起就开始了钢琴教师的生涯。

1801年，年仅10岁的车尔尼去见贝多芬（Ludwig van Beethoven，1770-1827），贝多芬被车尔尼精彩的演奏所打动，接受了这位学生。车尔尼师从贝多芬学钢琴并受胡梅尔和克莱门蒂（Muzio Clementi，1752-1832）的影响，钻研他们的教学法，车尔尼曾参加了克莱门蒂在维也纳的授课。贝多芬曾在1801年--1803年的三年间免费教他弹奏钢琴。车尔尼于1812年首演了贝多芬的钢琴协奏曲“皇帝”，他对于贝多芬的作品积极宣传，并在他的作品500号《钢琴理论及演奏大全》的第四册的第二、三章中论述如何正确演奏贝多芬的作品。他能够背奏贝多芬的全部钢琴作品。车尔尼很快就成为维也纳最著名的钢琴教师，他的学生包括弗兰兹·李斯特（Franz Liszt，1811-1886），Kullak，Leschetizky，Theodor Döhler(1814-1843)，Sigismond Thalberg(1812-1871)，Stephen Heller(1813-1888)等，后来都成为著名的钢琴家。他免费教李斯特弹琴，李斯特也说：“我的一切都是车尔尼教我的”，并把自己写的练习曲题献给车尔尼。车尔尼在1842年出版了他的自传，"Memery of My Life"。车尔尼去世于维也纳，由于没有家庭，他的遗产都留给维也纳音乐及表演艺术大学和其他的慈善机构。

车尔尼是19世纪上半叶维也纳钢琴学派的创始人，他总结了浪漫主义以前的注重指力的钢琴技巧，同时又指出了手臂重量的重要性，他在《钢琴理论及演奏大全》指出：“弹奏时，手的动作要藏起来，手指不可以抬得比必要时高。为了做得正确，有必要增强肌肉的内在紧张，在不破坏手指柔软运动的范围内，加入手臂的重量”，他在古典主义和浪漫主义钢琴演奏架起了一座桥梁。