" Cannot append segment xxx : the video streams have differents data format"..
E' probabile che questo accada perchè i due filmati hanno caratteristiche differenti (nella codifica audio o video per esempio).

Prova ad uniformare tali caratteristiche e dovresti andare alla grande.

Puoi vedere le informazioni sul file tramite il comando File/File Information.