Для того чтобы произвести конвертацию образа нужно сделать следующее :
1. Установить утилиту qemu
$ sudo apt-get install qemu
2. Конвертируем VMWare образ в bin формат
$ qemu-img convert system.vmdk ./system.bin
3. Конвертируем bin-файл в формат VirtualBox
$ VBoxManage convertdd ./system.bin system.vdi