Gryllus Vilmos és Fogarassy Éva gyermekeként született. Testvére Gryllus Vilmos. Általános iskolás korában tanult meg először zongorázni, majd klarinétozni, később furulyázni és citerázni. Középiskolai tanulmányait a Móricz Zsigmond Gimnáziumban végezte. 1969 őszén Mikó Istvánnal megalakította a Kaláka együttest. Versekre írt dalokat és népzenét játszanak. 1969 decemberében lépett először közönség elé a Bem rakparti Művelődési Ház Tolcsvay klubjában. Weöres Sándor, Radnóti Miklós, Arany János és Petőfi Sándor verseit adták elő. 1970 és 1971 között a KFKI Fadrusz utcai helyiségében játszottak. 1971-től 1973-ig a vízivárosi pinceklubban, 1973-tól pedig a Marczibányi téri Művelődési Házban lépett föl.
1972-ben házasságot kötött Kőváry Katalinnal. Két gyermekük született: Gryllus Dorka (1972) és Gryllus Sámuel (1976). Egyetemi tanulmányait a BME Építőmérnöki Karán végezte 1974-ben.
Első nagylemezük 1977-ben jelent meg Kaláka címmel. 1990-ben lemezeinek kiadására és terjesztésére megalapította a Gryllus Kft-t.
Azóta számos értékes lemez jelenhetett meg náluk, amelyek tartalmuknál fogva is szorosan kapcsolódnak a kereszténységhez (Szabad-e bejönni betlehemmel?, Amor Sanctus - Szent Szeretet Könyve, Zsoltárfeldolgozások, Hegyi Beszéld, Pál apostol, Mint a szép híves patakra).