Se hai bisogno degli apici conviene fare così
Codice PHP:
$query = new WP_Query("'tag={$tag2}+{$tag3}'"); 
Occho che ci sono le doppie virgolette (", quelle sul tasto 2) seguite da un apice e il contrario alla fine!

Sarebbe comunque utile sapere nei log del webserver (ed eventualmente di php) cosa viene scritto quando va in errore.