NHK交响乐团成立于1926年10月5日，最初的名字是“新交响乐团”，是日本第一家专业交响乐团。后来更名为“日本交响乐团”。1951年，该乐团开始接受日本放送协会（NHK）的支援，并更名为现在的名称。 随后迅速成长为日本乃至亚洲最著名的交响乐团。乐团的演奏以精准性见长，在日本古典音乐发展史上扮演着不可替代的角色。同时，乐团也在中日文化交流史上书写过浓墨重彩的一笔。作为亚洲最杰出的乐团，日本NHK交响乐团不但代表了当今亚洲交响乐演奏的最高水准，其发展历程更可以被视作亚洲交响乐团建设的典范。NHK交响乐团被誉为是“亚洲的德国乐团”。

知名指挥家小泽征尔曾经是NHK交响乐团的指挥，但在1962年小泽与NHK交响乐团之间发生冲突，小泽也因此离开了NHK交响乐团。