Nato a Siena l'11 ottobre 1868 da Amedeo e Carolina Minoglio, Giovanni Chevalley frequenta l'istituto tecnico e la Scuola di applicazione degli ingegneri di Torino, dove si laurea nel 1891.

Dopo un breve tirocinio presso le Officine Savigliano, viene assunto nello studio di Carlo Ceppi, dove rimane sino al 1898. Qui si occupa, tra l'altro, di parte dei restauri della chiesa torinese della Consolata, il primo di numerosi interventi che occupano Chevalley in un sessantennio di attività.

Effettua restauri e inserimenti di arredo in più di trenta ville, palazzi e castelli, dal primo progetto per gli interni della villa Solaroli di Briona (1895) sino alla ricostruzione e al restauro della villa Agnelli a Villar Perosa del 1945-1947.

A lui si devono la riscoperta e la rivalutazione dell’arte barocca piemontese, a cui si riferisce in numerosi restauri di palazzi torinesi: nel 1924 coordina il restauro del primo piano di Palazzo Madama per destinarlo a sede di rappresentanza del Municipio di Torino. Si impegna nella ristrutturazione delle sedi della Banca d'Italia di Torino, della Cassa di Risparmio di Fossano e di Torino, degli ospedali Sant'Anna e Mauriziano di Torino, dell'albergo Principi di Piemonte di Sestriere.

Nel 1943, dopo la caduta del regime fascista è nominato vicesindaco di Torino.

Oltre a due volumi di disegni di Filippo Juvarra, nel 1955 dona al Museo Civico d’Arte Antica di Torino il dipinto con l’interno del Teatro Regio di Giovanni Michele Graneri del 1752.

Muore a Torino il 13 aprile 1954.