He tenido un problema similar hace poco y, aunque han pasado varios años desde tu pregunta y seguramente ya lo hayas solucionado, voy a explicar mi caso y cómo lo he solucionado por si otros llegan a este tema buscando alguna respuesta.
En mi caso ha sido al arrastrar grabaciones de tv en formato .ts al mkvtoolnix 6.7.0 o mkvmerge GUI v6.7.0 portable, me aparecia un mensaje similar al tuyo, he probado con varios .ts sin éxito hasta que he probado un .ts que se me ha cargado bien y he podido trabajar con él, el .ts que me ha aceptado estaba cortado previamente con el programa TS Doctor y los otros .ts que me daban errores eran grabaciones tal cual de la tv, sin cortar ni manipular. Por lo que para que no te salga este error hay que cortar previamente el .ts con el TS Doctor u otro programa similar (yo solo uso TS Doctor por lo que no he probado con ningún otro), y si es el caso de una grabación que no quieres cortar para nada puedes probar de cortar el .ts pero seleccionando el principio y el final, no cortas nada pero usas la herramienta cortar del TS Doctor y exportas la grabación "cortada" y seguramente ese "truco" sirve igual.
EDITO: Posteriormente me he encontrado con que otro .ts ya cortado me seguia dando el mismo error que el .ts sin cortar, después de probar con diferentes versiones de mkvtoolnix, he conseguido dar con una que no me daba error y me abria sin problemas. Lo he solucionado usando esta versión: https://mkvtoolnix.download/windows/releases/10.0.0/ aunque imagino que si usáis una posterior a esta será mejor (en el mismo enlace se pueden encontrar todas las versiones