La domanda c'entra poco o nulla con i db. Ad ogni modo la ricerca delle immagini "simili", sotto una certa metrica, prevede tipicamente la riscalatura a bassa risoluzione.
Cosa che, mi pare abbastanza ovviamente, non si può fare con mysql.

Se invece vuoi sapere come si trovano possibili immagini simili... apri il relativo thread, e vedrai che tanti esperti ti aiuteranno