L'istruzione IDIV considera anche AX come intero, quindi se gli assegni il valore FFFF, l'istruzione IDIV lo interpreta come -1. In questo caso la tua operazione sarà -1/3 e quindi è giusto che in AL ci sia 0 (quoziente) e in AH ci sia FF (il resto) ovvero -1.