Credo che usando
border-style: inset;
border-width: 0;
dovresti risolvere il problema