No.
Per visualizzare le virgolette in una stringa, vanno scritte due volte:

Response.Write "Il mio amico ""Ciccio"" è alto."

A video vedrai

Il mio amico "Ciccio" è alto.