高等教育是从结束了六年的初等教育和六年的中等教育后开始的。通常外国留学生可以报考的日本高等教育机构有：大学(含研究生院)、短期大学、高等专科学校和专门学校，这些学校大致分国立、公立和私立三种。截止2001年4月，日本已有各类大学670所，其中国立99所(全部设有研究生院)、公立74所(其中56所设有研究生院)、私立497所(其中339所设有研究生院)。在日本取得的学位和资格都会得到世界各国的承认。
一、大学
日本的大学一般设有学部(系)、大学院(研究生院、研究所)等机构。
本科学制一般为四年，但医科、牙科、兽医科等专业为六年，教学一般实行学分制，修完一定学分后(大部分大学规定修完124个以上学分，医科学原则上要取得188个学分，兽医学则182个学分以上)方可毕业，并取得学士学位。
研究生院，一般设有硕士课程(通常2年)，博士课程(通常3年，最长不得超过五年)。
二、短期大学
日本的短期大学的学制一般为2年，像医疗技术、护士学科须学习3年。学校主要注重给学生一技之长的教育。短期大学中，大部分是女子短期大学，以人文、家政、教育、保健、艺术、语言等科目为主，学习2年以上，并取得必须的学分者，将被授予准学士学位，一般可视同我国的大专学历。
三、高等专科学校
日本的高等专科学校主要以初中毕业生为招收对象，学制为五年。高等专门学校的毕业生可授予准学士学位，一般可视同我国的大专学历。目前，高等专科学校只从四年级开始接受插班的留学生。
