后，他又得到了当时国父的邀请，担任中华民国政府的外交顾问。从此一直留在中国生活和工作。

当年，他还在上海近郊修建了一座“无忧园”，外表上看只是一所幽静的花园，但其内部设置有电台、发报机等，暗中从事着谍报活动。

抗战爆发之后，大谷光瑞担任日本内阁参议、内阁顾问，是日本政府中著名的鹰派代表，主张对中国采取最强硬的态度和手段，以闪电战术拿下整个中国。