开设日本留学中介公司需要遵循以下步骤：

市场调研

研究目标客户群体、竞争对手、市场需求等。

制定商业计划

包括服务范围、定价策略、营销策略、财务预算等。

注册公司

确定公司类型（有限公司、合伙公司等），完成注册手续。

获取相关资质

申请办理教育咨询服务许可证等相关资质。

招聘专业人员

招募具有留学经验和专业知识的顾问团队。

建立合作关系

与日本院校、教育机构建立合作关系。

宣传推广

制定营销策略，开展线上线下的宣传推广活动。

提供专业服务

包括选校、申请材料准备、签证办理、语言培训等。

客户关系管理

建立有效的客户关系管理系统，提供及时的支持和咨询。

持续发展和提升

关注行业发展动态，参加培训和会议，提升专业能力。

在办理过程中，建议咨询法律顾问或专业机构以确保符合法规要求。