SIMD или не SIMD — кроссплатформенность
https://stackoverflow.com/questions/2122573
-
22-09-2019 - |
italiano
english
français
española
中国
日本の
العربية
Deutsch
한국어
Português
RussianВопрос
Мне нужно некоторое представление о том, как написать кроссплатформенную реализацию на C++ нескольких распараллеливаемых задач таким образом, чтобы я мог воспользоваться преимуществами SIMD (SSE, SPU и т. д.), если они доступны.А так же я хочу иметь возможность во время выполнения переключаться между SIMD и не SIMD.
Как бы вы посоветовали мне подойти к этой проблеме?(Конечно, я не хочу реализовывать задачу несколько раз для всех возможных вариантов)
Я понимаю, что с C++ это может быть не очень простая задача, но я считаю, что что-то упускаю.Пока моя идея выглядит так...Класс cStream будет массивом из одного поля.Используя несколько cStreams, я могу достичь SoA (структуры массивов).Затем, используя несколько функторов, я могу подделать функцию Lambda, которую мне нужно выполнить во всем cStream.
// just for example I'm not expecting this code to compile
cStream a; // something like float[1024]
cStream b;
cStream c;
void Foo()
{
for_each(
AssignSIMD(c, MulSIMD(AddSIMD(a, b), a)));
}
Где for_each будет отвечать за увеличение текущего указателя потоков, а также за встраивание тела функтора с SIMD и без SIMD.
что-то вроде этого:
// just for example I'm not expecting this code to compile
for_each(functor<T> f)
{
#ifdef USE_SIMD
if (simdEnabled)
real_for_each(f<true>()); // true means use SIMD
else
#endif
real_for_each(f<false>());
}
Обратите внимание: если SIMD включен, он проверяется один раз и что цикл выполняется вокруг главного функтора.
Решение 2
Если кому-то интересно, это грязный код, с которым я пришел, чтобы проверить новую идею, которая пришла мне в голову, когда я читал о библиотеке, которую опубликовал Пол.
Спасибо, Пол!
// This is just a conceptual test
// I haven't profile the code and I haven't verified if the result is correct
#include <xmmintrin.h>
// This class is doing all the math
template <bool SIMD>
class cStreamF32
{
private:
void* m_data;
void* m_dataEnd;
__m128* m_current128;
float* m_current32;
public:
cStreamF32(int size)
{
if (SIMD)
m_data = _mm_malloc(sizeof(float) * size, 16);
else
m_data = new float[size];
}
~cStreamF32()
{
if (SIMD)
_mm_free(m_data);
else
delete[] (float*)m_data;
}
inline void Begin()
{
if (SIMD)
m_current128 = (__m128*)m_data;
else
m_current32 = (float*)m_data;
}
inline bool Next()
{
if (SIMD)
{
m_current128++;
return m_current128 < m_dataEnd;
}
else
{
m_current32++;
return m_current32 < m_dataEnd;
}
}
inline void operator=(const __m128 x)
{
*m_current128 = x;
}
inline void operator=(const float x)
{
*m_current32 = x;
}
inline __m128 operator+(const cStreamF32<true>& x)
{
return _mm_add_ss(*m_current128, *x.m_current128);
}
inline float operator+(const cStreamF32<false>& x)
{
return *m_current32 + *x.m_current32;
}
inline __m128 operator+(const __m128 x)
{
return _mm_add_ss(*m_current128, x);
}
inline float operator+(const float x)
{
return *m_current32 + x;
}
inline __m128 operator*(const cStreamF32<true>& x)
{
return _mm_mul_ss(*m_current128, *x.m_current128);
}
inline float operator*(const cStreamF32<false>& x)
{
return *m_current32 * *x.m_current32;
}
inline __m128 operator*(const __m128 x)
{
return _mm_mul_ss(*m_current128, x);
}
inline float operator*(const float x)
{
return *m_current32 * x;
}
};
// Executes both functors
template<class T1, class T2>
void Execute(T1& functor1, T2& functor2)
{
functor1.Begin();
do
{
functor1.Exec();
}
while (functor1.Next());
functor2.Begin();
do
{
functor2.Exec();
}
while (functor2.Next());
}
// This is the implementation of the problem
template <bool SIMD>
class cTestFunctor
{
private:
cStreamF32<SIMD> a;
cStreamF32<SIMD> b;
cStreamF32<SIMD> c;
public:
cTestFunctor() : a(1024), b(1024), c(1024) { }
inline void Exec()
{
c = a + b * a;
}
inline void Begin()
{
a.Begin();
b.Begin();
c.Begin();
}
inline bool Next()
{
a.Next();
b.Next();
return c.Next();
}
};
int main (int argc, char * const argv[])
{
cTestFunctor<true> functor1;
cTestFunctor<false> functor2;
Execute(functor1, functor2);
return 0;
}
Другие советы
Возможно, вы захотите просмотреть исходный код библиотеки MacSTL, чтобы найти некоторые идеи в этой области: www.pixelglow.com/macstl/
Возможно, вам захочется взглянуть на мою попытку SIMD/не-SIMD:
вреп, шаблонный базовый класс со специализацией для SIMD (обратите внимание, как он различает SSE только с плавающей запятой и SSE2, в котором представлены целочисленные векторы).
Полезнее v4f, v4i и т. д. классы (подклассы через промежуточные v4).
Конечно, он гораздо больше ориентирован на 4-элементные векторы для РГБА/xyz тип вычислений, чем SoA, поэтому он полностью выдохнется, когда появится 8-way AVX, но общие принципы могут быть полезны.
Самый впечатляющий подход к SIMD-масштабированию, который я видел, — это платформа трассировки лучей RTFact: слайды, бумага.Определенно стоит посмотреть.Исследователи тесно связаны с Intel (в Саарбрюкене сейчас находится Институт визуальных вычислений Intel), поэтому вы можете быть уверены, что они думали о прямом масштабировании на AVX и Ларраби.
Intel Кт Библиотека шаблонов «параллелизма данных» также выглядит весьма многообещающе.
Обратите внимание, что в данном примере решается, что именно выполнять во время компиляции (поскольку вы используете препроцессор). В этом случае вы можете использовать более сложные методы, чтобы решить, что вы на самом деле хотите выполнить;Например, отправка тегов: http://cplusplus.co.il/2010/01/03/tag-dispatching/Следуя показанному там примеру, вы можете использовать быструю реализацию с SIMD, а медленную — без нее.
Задумывались ли вы об использовании существующих решений, таких как либоил?Он реализует множество общих операций SIMD и может решить во время выполнения, использовать ли код SIMD или не-SIMD (используя указатели функций, назначенные функцией инициализации).
