El emperador Carlos VI hizo voto de construirla en 1713, un año después de la última gran epidemia de peste de Viena, y la dedicó a su santo patrón, San Carlos Borromeo, venerado como sanador de los enfermos de peste. Johann Bernhard Fischer von Erlach ganó el concurso de diseño, las obras comenzaron en 1716 y, tras su muerte en 1723, su hijo Joseph Emanuel terminó la iglesia en 1737, acortando el tambor de la cúpula y añadiendo el ático.
La fachada mezcla fuentes de forma deliberada. El pórtico central evoca un templo griego, las dos columnas de Lorenzo Mattielli se inspiraron en la Columna de Trajano de Roma y los pabellones de las torres a ambos lados muestran la influencia de Bernini y Borromini. Los relieves en espiral narran la vida de Carlos Borromeo; las columnas pretendían recordar además a Boaz y Jaquín, los pilares que se alzaban ante el Templo de Jerusalén, y a las Columnas de Hércules como emblemas del poder imperial. Sobre la puerta, el relieve del frontón con las virtudes cardinales, con el santo patrón en su vértice, alude al voto que dio origen a la fundación, y ángeles del Antiguo y del Nuevo Testamento flanquean la entrada.
En el interior, el fresco de la cúpula de Johann Michael Rottmayr y Gaetano Fanti muestra a Carlos Borromeo intercediendo con el apoyo de la Virgen María, rodeado por las virtudes cardinales. Sobre el altar mayor, concebido por Fischer padre y realizado por Ferdinand Maxmilian Brokoff, el santo asciende hacia una ventana redonda de cálido color amarillo con el nombre hebreo de Dios. Las capillas laterales guardan retablos de varios pintores, entre ellos Sebastiano Ricci, Jakob van Schuppen, Martino Altomonte y Daniel Gran. El púlpito de nogal tallado, probablemente diseñado por Fischer hijo, recuperó sus líneas originales en 2006 y 2007, cuando se retiró de su tornavoz un pesado borde añadido hacia 1860.
Antonio Vivaldi fue enterrado en 1741 en el cementerio Spitaler Gottesacker, que se encontraba junto a la iglesia; la tumba se ha perdido, y en su honor se celebran conciertos de su música en la iglesia. Una orden religiosa se ocupa de la Karlskirche, que es además la iglesia parroquial de la Universidad Técnica de Viena, y su dirección es Karlsplatz 10.




