Atėnuose vykusiose pirmose moderniose 1896 m. vasaros olimpinėse žaidynėse šveicaras dalyvavo gimnastikos varžybose. Atraminių šuolių ir lygiagrečių varžybose šveicaras užėmė antrąsias vietas. Pratimų ant arklio su rankenomis varžybose Zutter tapo olimpiniu čempionu. Louis Zutter tapo pirmuoju olimpiniu medalininku Šveicarijos istorijoje.