Когда к власти пришли национал-социалисты, то Карл Дим занимался подготовкой очередных «Немецких игр», которые должны были пройти в Нюрнберге. По сути, эти соревнования были последними, которые были подготовлены «буржуазными» функционерами от спорта. Несмотря на грандиозный успех «Немецких игр», нельзя не отметить, что Карл Дим все-таки не отказался от идеи вновь вывести Германию на международный спортивный уровень. Он прилагал множество усилий, чтобы наладить сотрудничество с международными спортивными организациями.

И эти попытки не были напрасными. В 1923 году Карл Дим не без внутренней гордости мог сообщить публике, что «Германия вновь вошла в международную спортивную семью». Впрочем, речь шла об Олимпиадах.

Неофициальное взаимодействие с Международным олимпийским комитетом началось только в 1923 году. Именно тогда Пьер де Кубертси пригласил Карла Дима в Рим, где проходила очередная сессия МОК. Однако Дим потребовал официального приглашения, в противном случае он грозился отказаться от поездки.