Айва японская — листопадный кустарник, не превышающий 3 м в высоту. Молодые ветки зелёные, затем становящиеся чёрно-бурыми, сначала чешуйчато-войлочные, затем голые. Почки голые, чёрные. Она популярна благодаря как своим декоративным свойствам, привлекающим внимание с ранней весны до поздней осени, так и полезными свойствами плодов. Кроме того, айва хорошо переносит стрижку, поэтому в ландшафтном дизайне активно используется для создания живых изгородей. А если учесть, что большинство видов, включая гибридные, имеют побеги с острыми, длиной до 2 см, колючками, то такая изгородь справится и с охранными функциями. Куст айвы имеет мощную развитую корневую систему, поэтому их выращивание на рыхлых почвах поможет предотвратить эрозию или укрепить склон.

Листья в очертании обратнояйцевидные или лопатчатые, 3—5 см длиной и 2—3 см шириной, суженные к основанию, с тупозубчатым краем. Черешки голые, около 5 мм длиной. Прилистники фасолевидные, зазубренные.

Цветки от розовых до оранжево-красных, 3—4 см в диаметре[3]. Чашелистики яйцевидные или почти округлые, с внутренней стороны покрытые буроватым опушением, опадающие при плодоношении. Лепестки обратнояйцевидные или почти округлые. Тычинки в количестве 40—60, пестики сросшиеся в основании, не превосходящие по длине тычинки.

Плод — почти шаровидное яблоко жёлтого цвета около 4 см в диаметре[3] со множеством коричневых семян. Съедобен, однако жёсток и менее популярен для приготовления варенья, чем плод айвы продолговатой.