si usas el mame version windows, esto es, el oficial, es bien facil. Lo unico que hay que hacer es, al ejecutar mame usar la opcion -joy.
Con esto deberia funcionar. La cuestion es que tu mando debe estar reconocido por el directx. Esto es, mame usa las directx, por lo tanto el mando debe estar reconocido por el directx.
Para poder ver si eso es asi, ejecuta dxdiag y eln la pestaña entrada mira si esta tu joyustick o gamepad.
Si no es asi el problema no es de mame sino de directx o del mando.