A tehetséges kisgyerekre az iskolát látogató plébános figyelt fel, az ő segítségével került Budapestre, távoli rokonokhoz, Simonyi-Semadam Sándorékhoz. Később Simonyi-Semadam Sándor lánya, Erzsébet és a lány férje Mayer Miksa (a Ganz-gyár mérnöke, Kandó Kálmán munkatársa) vette magához őt, majd később Ernő bátyját is. Tízéves korában beíratták az óbudai Árpád Reálgimnáziumba, ahol hamarosan kitűnt matematikából és fizikából. A Faragó Andor által újra indított Középiskolai Matematikai és Fizikai Lapokat mégsem az iskolában adták a kezébe, hanem nevelőapjától kapta, s a két testvér egymással versengve oldotta meg a kitűzött feladatokat, s küldte be a megoldásokat Faragó Andor lakására - ott volt akkor a ,,szerkesztőség''. Faragó Andor vezette be, hogy évente egyszer a legjobb megoldók fényképeit is közli az újság, így került a 15 éves Kari gyerek portréja is az 1931. évi összeállításba.
Érettségi után két egyetemet végzett el párhuzamosan - anélkül, hogy erről bármelyik helyen tudtak volna: Pécsett jogi diplomát szerzett, Budapesten pedig villamosmérnökit.
A műszaki egyetemen akkoriban jött létre - az Egyesült Izzó anyagi támogatásával - a Bay Zoltán vezette atomfizika tanszék. Nemsokára Simonyi Károly is itt dolgozott.
Kitört a második világháború, és a Bay-csoport honvédelmi minisztériumi megbízással a radar hazai kifejlesztésén dolgozott. Semmi együttműködés senkivel - mindent maguknak kellett kitalálniuk. Simonyi rövidesen amerikai, majd szovjet hadifogságba került, ahol 40 kilóra lefogyott, de megtanult oroszul.
Amikor hazakerült, 1946-ban részt vett a Bay Zoltán vezette Hold-radar kísérletben.
1948-ban megpályázta s elnyerte a Műegyetem soproni Bánya-, Kohó- és Erdőmérnöki Karán a fizika-elektrotechnika tanszéket. Később a tanszéket kettéosztották, Simonyi az elektrotechnikát kapta meg. Itt tervezte meg az első magyar Van de Graaff rendszerű 1 MeV-es magfizikai részecskegyorsítót, amelyért 1952-ben Kossuth-díjat kapott. Ezt a soproni gyorsítót alighogy felépítették, már le is szerelték s felvitték Budapestre. A Központi Fizikai Kutatóintézetben állították fel újra, alapkutatásokat végeztek vele. Simonyi Károly az Intézet egyik igazgatóhelyettese lett.
1956-ban megválasztották a KFKI forradalmi bizottsága elnökének. A forradalom leverése után csakhamar ,,megfagyott körülötte a levegő''. Önként távozott, majd 1970-ben kiderült, hogy a BME-n se tarthatja meg tanszékét. Akkor már tudni lehetett, hogy idősebbik fia, aki nyugati egyetemeken tanult, nem fog visszatérni Magyarországra. (Ő az a Charles Simonyi, aki a Microsoft egyik vezető szakembere lett az Egyesült Államokban.)
Állami feladatként megkapta az országos fizika-felvételi bizottság elnöki tisztét. Egyetemista diákjai, akik rajongtak érte, felkérték, hogy tartson számukra előadást a Várban, a BME ottani kollégiumában a fizikáról. Simonyi kultúrtörténeti háttérbe ágyazva adta elő a témát, nagy sikerrel. Még egy és még egy előadásra kérték fel az egyetemisták, s a hallgatóság soraiban mind több érdeklődő jelent meg.
1975 tavaszán már az ELTE TTK Múzeum-körúti Főépületében, a 200 fős XI. teremben tartott speciális előadást ,,A fizika kultúrtörténete'' címmel. A siker nem maradt el, még a fal mellett is álltak. Átjöttek a mérnökhallgatók, de eljött sok aktív fizikatanár is a budapesti gimnáziumokból. Három sikeres félév után, 1976 nyarán Simonyi hozzáfogott ,,A fizika kultúrtörténete'' megírásához. Először 1978-ban jelent meg a könyv, azután 1981-ben, 1986-ban (mindig át- meg átdolgozva), és jöttek a német nyelvű átdolgozások. Az 1952-es Kossuth-díjat a fizikai kutatások szempontjából nagy jelentőségű gyorsító berendezés hazai eszközökkel való megépítéséért, 1985-ben követte az Állami díj nemzetközileg is elismert tankönyv- és szakírói tevékenységéért, különösen ,,A fizika kultúrtörténete'' című művéért, valamint kiemelkedő pedagógiai munkásságáért.
A 90-es években Simonyi Károly teljesen visszavonult minden nyilvános szerepléstől - irtózott az ünnepléstől, s romló egészségi állapotára is joggal hivatkozhatott.
Simonyi Károly 2001. október 9-én halt meg Budapesten.
A Van de Graaff gyorsító jelenleg már kiállítási darab
A gyorsító jelenleg az ELTE Fizikai épületében található a budapesti Pázmány Péter sétányon. A mellette található tábla felirata:
A Központi Fizikai Kutató Intézetben 1962-ig működött
1 millió voltos Van de Graaff típusú elektrosztatikus részecskegyorsító
Első változata a Soproni Műszaki Egyetem Elektrotechnika Tanszékén épült 700 kV-os feszültségre, protonok gyorsítására
1951 decemberében Simonyi Károly professzor és munkatársai azzal a részecskegyorsítóval hoztak létre először Magyarországon mesterséges atommag átalakulást.
1952-ben a KFKI Atomfizikai Osztályán átépítették, az elérhető feszültséget 1 millió voltra növelték, és elektronok gyorsítására alakították át. Elsősorban atomfizikai alapkutatásra használták, de kísérleti jelleggel végeztek vele ipari célú nagyenergiájú röntgen besugárzásokat is.
2001-ben a Milleneum alkalmából helyreállították a KFKI Atomfizikai Osztály utódjának tekinthető KFKI Részecske- és Magfizikai Kutatóintézet munkatársai.