Hallo James,
du hast recht, die Masse steigt stark an je näher die tatsächliche Bahnebene gegen 0° oder 180° tendiert (Bahnebene parallel zur Sichtlinie: i=90°).
Eine Maximalmasse kann allein auf dieser Grundlage nicht angegeben werden. Ich vermute, dass meistens externe Begrenzungen herangezogen werden um eine Obergrenze abzuschätzen. Dazu gehören besonders in Systemen mit mehreren Planeten systemdynamische Grenzen. Wenn man davon ausgeht, dass die Planeten ungefähr in einer Ebene liegen, müssten die Planeten bei i gegen 0 oder 180 sehr große Schwergewichte sein und könnten somit kein stabiles System mehr darstellen.
Dazu kann man natürlich noch andere Beobachtungsmethoden wählen und daraus Grenzen ableiten. Besonders attraktiv, aber nur selten praktikabel, ist für einen solchen Zweck natürlich die Transitmethode. Die Überprüfung durch direkte Beobachtung ist bei den mit der Radialgeschwindigkeitsmethode entdeckten Planeten (noch) nicht möglich.
Je stärker die Bahnebene gegen die Sichtlinie geneigt ist, desto besser würde sich ein substellarer Begleiter durch Astrometrie entdecken lassen. Wenn es eine RV-Signatur gibt, die von einem Objekt bei bspw. i=179° noch detektierbar ist, muss es sich schon um etwas recht Schweres handeln, was die die astrometrische Variation sehr deutlich machen würde. Aber auch in der Hochpräzisions-Astrometrie steckt man noch in den Kinderschuhen was Exoplaneten angeht.
Im vorliegenden Fall würde ich daher auf bahnmechanische und auf Gezeitenwechselwirkungen beruhende Auschlussgründe tippen.