Sì hai detto bene: un server web è un sistema multi-utente. A seconda della banda disponibile il server può accettare centinaia o anche migliaia di connessioni simultanee. Ad ogni utente in PHP viene assegnato un ID di SESSIONE univoco, proprio per capire cosa sta facendo un utente e cosa un altor: questo serve ad esempio a capire che due utenti stanno scrivendo dati contemporaneamente sul server.
Lo stesso per il server mysql: è un database relazionale multi-utente che può accettare centinaia o migliaia di connessioni simultanee.
Però più utenti ci sono contemporaneamente più la velocità scende: se tanti siti sono molto veloci è perchè hanno una grande banda di connessione o eprchè hanno anche una web farm, cioè un gruppo di server che si distribuisce il carico delle utenze: se il server 1 è sovraccarico le ulteriori richieste vengono dirottate al server 2 se ha posto libero. M questo succede solo nei siti di grandi aziende, dove possono entrare anche decine di migliaia di utenti tutti assieme che scaricano a forte velocità.
Anche sui nostri PC possiamo installare un web server come saprai, ma è molto limitato dalla memoria e della banda disponbile, che corrisponde alla velocità della linea ADSL che abbiamo!

Queste sono nozioni mooolto di base...