Дмитрий, а почему не упомянул о Intel Cilk Plus? Там есть векторизация с помощью #pragma (также как многопоточность в OpenMP). Доступно само собой в Intel компиляторе, в gcc 4.7 и интеловцы говорят, что скоро будет и в OpenMP.
Не знаю насколько оно действительно работает (особенно в нетривиальных циклах), но выглядит очень круто.

Да, про cilk plus я знаю. Сам не использую но стоило бы попробовать. В OpenMP и Cilk Plus идеи похожи, но вроде как Cilk более гибок в плане параллелизации, а OpenMP работает только на примитивах.