Como você diz, este é um bug que tem a ver com a tradução entre a camada Mayavi e a camada VTK. Mas por enquanto você pode usar este atributo:
>> ax=mlab.axes()
>> ax.axes.font_factor
1.5
>> ax.axes.font_factor=2
Porém, produz apenas um pequeno aumento de tamanho, pois rejeita valores acima de 2.