Cerco di risponderti in maniera abbastanza succinta senza entrare troppo nel merito di un argomento che richiederebbe molte più righe.
Le "vendor specific database extensions" sono, come si evince dal nome, estensioni specifiche per le singole tipologie di database (MySQL, PostgreSQL, SQLite, Mssql ecc.). Per cui esse ti permettono di collegarti ed accedere ai dati del database corrispondente alla tipologia di estensione installata.
Gli "abstraction layers" invece introducono appunto il livello di astrazione che permette di dissociarsi da qualunque specifica estensione ed interfacciarsi con differenti tipologie di database. Una delle più note estensioni di tale tipologia è PDO. Il vantqaggio di tale approccio è fondamentalmente quello di scrivere codice non dipendente dal tipo di database utilizzato in quanto, se ben progettato, tale approccio permette di sostituire la base dati senza dover modificare il codice.