Ich hatte ein ähnliches Problem mit meinem Controller. Es war zwar ein kabelloser, aber ich denke das dürfte kaum einen Unterschied machen.
Wenn du ./retroarch-joyconfig -o p1.cfg -p 1 -j 0 aufrufst, hast du dann alle Tasten, wie beschrieben gedrückt?
Du könntest die Datei ~/.emulationstation/es_input.cfg löschen und dann nochmal die retroarch-joyconfig durchgehen.
Die einzelnen Tasten kannst du in der Datei ~/RetroPie/configs/all/retroarch.cfg nachträglich noch genauer bearbeiten.
EDIT:
Sollte alles nichts helfen, würde ich auf der Githubseite
https://github.com/petrockblog/RetroPie-Setup schauen ob jemand bereits das gleiche Problem wie du hat. Ansonsten einen neuen Issue aufmachen. Der Macher ist sehr freundlich und beantwortet sehr schnell die Anfragen.