指未知数的个数多于方程的个数的方程或方程组。一般有无限多组解，而研究时往往对其加以某种限制，如要求方程的解必须是整数或有理数等。对于整系数的不定方程，如要求其解是整数时，称这类方程为“刁番都方程”。不定方程是数论中最早研究的课题之一。

能分别是某个直角三角形三边之长的三个整数，称为“勾股数”。不定方程x2+y2＝z2的每一组正整数解都是勾股数。

中国古代著名算题。原载《张邱建算经》卷下第三十八题：“今有鸡翁一值钱五，鸡母一值钱三，鸡雏三值钱一。凡百钱买鸡百只，问鸡翁、母、雏各几何?”如设鸡翁数为x，鸡母数为y，鸡雏数为z，就可得一次不定方程组：x+y+z=100,5x+3y+13z=100。原书虽列出全部三组正整数答案：(4，18，78)、(8，11，81)、(12，4，84)，但对解法根据没有详述。后世很多人研究此题，并各自得出解法，称为“百鸡术”。