Strony zapisu na sąd polubowny mają sporą swobodę co do wyboru gremium, które miałoby się zająć rozstrzygnięciem ich sporu. Właśnie na tej podstawie arbitraż różnicowany jest od dawien dawna na dwa sposoby. Pierwszy to powołanie trybunału, który zbierze się jedynie do rozstrzygnięcia konkretnego sporu. Taki sposób rozstrzygania sporów określany jest mianem arbitrażu ad hoc. Drugi sposób to wskazanie stałego sądu polubownego. Taki arbitraż nazywany jest w praktyce instytucjonalnym.