Prima mi si chiede su che server girerà etc...
Potresti indicare dove ti è stato chiesto "su che server girerà"?

quando dico che per me ottimizzazione è la cosa migliore a prescindere dal server su cui girerà e da quanti utenti dovrà sopportare mi si risponde che l'ottimizzazione "dovrà essere spinta ancor di più".
Parli di "ottimizzazione" ma non ha ancora indicato i due elementi principali necessari per farla: indici e query.

Invece se uso 1000 server in parallelo me ne frego?
Se devi sviluppare un'applicazione per un ambiente controllato, l'ottimizzazione può essere limitata alla reale necessità. In altre parole, se l'ambiente in cui viene eseguito può essere modificato a piacimento (es. è scalabile), l'ottimizzazione può essere limitata a favore della facilità di manutenzione del codice e così via.

Se l'applicazione deve essere altamente performante su qualsiasi sistema, lo sforzo di ottimizzazione dovrà essere maggiore visto che non si avrà un controllo diretto e puntuale sulla piattaforma di produzione.

ottimizzo al meglio possibile
Non hai ancora indicato quali indici utilizzi e come è strutturata la query di selezione, come intendi fare queste ottimizzazioni?

Logica barbara, rozza, rudimentale ma molto concreta, che dici?
Non è una questione di logica, è una questione di progettazione e sviluppo. Puoi continuare a voler dire che vuoi "ottimizzare" ma non sembra tu abbia capito che non si tratta di 2 tabelle VS 1. Si tratta di indici, di query etc. Spezzare la tabella in 2 o più è una scelta (forse) successiva.

Se ho due query e una dipende dal risultato dell'altra c'è poco da inventarsi, sempre sequenziali debbono essere
Solo se l'applicazione è mono utente. Se ci sono più utenti, spezzare una query atomica pesante in due query separate permetterà al database ed alla CPU di gestire al meglio le risorse. Si chiama load-balancing.

il dual core se lo gestisce direttamente il web server nel suo insieme mysql compreso e la mia ottimizzazione è ininfluente (deve esserlo) dal tipo di macchina che utilizzerò, perchè dicevi il contrario?
Studiati il load balancing in MySQL e nelle CPU multi core e poi ne riparliamo.

Forse dovremmo metterci d'accordo sui termini, per me (e anche per il dizionario italiano) ottimizzazione non significa relativa a qualche cosa, ma significa la scelta migliore a prescindere dalle condizioni.
Hai letto il capitolo intitolato "Optimizing SELECT and Other Statements" del manuale di MySQL? E' quello che intendo per ottimizzazione.

Inoltre, nel campo informatio, l'affermazione "a prescindere dalle condizioni" non può essere applicata in modo universale visto che l'applicazione verrà comunque eseguita su un sistema e non in un ambiente ipotetico.

L'esempio più classico sono quegli algoritmi di ottimizzazione che "in teoria" sono perfetti mentre in pratica non possono essere eseguiti perchè richierebbero maggior memoria di quella disponibile ("a prescindere dalle condizioni").

con php e mysql non è possibile ottimizzare in base al tipo di server hardware utilizzato
Chi ha mai parlato di "ottimizzazione in base al tipo di server hardware"?

Qui si parla di ottimizzazione di una tabella di un database. Di indici, di query etc.

volendo gestire in maniera programmatica il look ed unlook dei campi senza lasciar fare il tutto a mysql
Non starai micha pensando di poter implementare in PHP un sistema di locking migliore di quello di MySQL, vero?

a non è giustificato che si cerchi di liquidarla con sufficienza
Sto ancora aspettando che tu scriva quali indici stai utilizzando e come è strutturata la query di selezione.

Puoi continuare a scrivere post chilometrici, ma se non fornisci queste informazioni, nessuno ti potra' dire come ottimizzare la tua tabella, perchè è come se chiedessi come strutturare una tabella senza dire che cosa ci vuoi inserire.

ci vuole più tempo a far calcolare 1+2+3 o 3x2?
che me ne frega che cpu e quanti utenti uso?
"Te ne frega" perchè differenti CPU impiegano tempi differenti per calcolare le somme, le moltiplicazioni, le divisioni etc.

E' ovvio che parliamo a pari condizioni, qualsiasi queste siano.
Mai sentito parlare di "scalabilità". Delle soluzioni più performanti con pochi utenti degradano velocemente all'aumentare degli utenti. L'esempio tipico sono gli algoritmi di ordinamento.

non capisco la difficoltà
Non capisco la difficoltà di postare la struttura della tabella che utilizzi, completa di indici, chiavi etc e la struttura della query di selezione che dovrai utilizzare.