cache问题

hh0303b22

各位大侠!小弟现在说在的项目，要求通过将数据 load到cache中提升运算速度，求助了！
需求举例：所用cpu为powerpc8641D(L1为32K,L2为1M),做1024点的FFT，每次的1024点数据量为4K,
               要求并行计算中每次运算前这4K数据都在cache中了.请各位提供思路了!
当然，不针对具体情况了，欢迎类似经验，呵呵。。。。。。新注册，没什么积分啊，不好意思！

albcamus

这个你得看ppc的手册啊，有没有prefetch之类的指令。  

不知道ppc是否可以由软件干预流水线。

prolj

不了解ppc。光知道ppc有硬件预取指令，预取进去不行吗？

abutter

原帖由 hh0303b22 于 2008-12-5 17:45 发表
各位大侠!小弟现在说在的项目，要求通过将数据 load到cache中提升运算速度，求助了！
需求举例：所用cpu为powerpc8641D(L1为32K,L2为1M),做1024点的FFT，每次的1024点数据量为4K,
               要求并行计算 ...

为什么要求都在 cache 里面？

cjaizss

查datasheet,看cache这一章节

fineamy

并行计算优化要素：
CPU给定，即并行度给定，那么最关键就是提前计算。这就要求减少数据相关性。
另外
1.减少读内存次数，尽量增加cache命中率。现在CPU提供的prefetch指令给予用户人工干预cache的能力，有了更大的适应性。实际上就是一人工辅助cache预测
2.减少跳转数，跳转预测。配合提前计算，尽量化条件跳转为绝对跳转。多个跳转时，跳转路尽可能照发生概率合理安排。
3.专用指令，有的话尽量用。有多个备选指令，尽量选用消耗最少的。
4.。。。
5.。。

[ 本帖最后由 fineamy 于 2008-12-6 13:20 编辑 ]

hh0303b22

“CPU提供的prefetch指令给予用户人工干预cache的能力，有了更大的适应性。实际上就是一人工辅助cache预测”
我也是使用其预取指令来做的，CPU提供的prefetch指令每次通过指定的“effective address”load一行，我就load了data_len/line_len次，不知道是effective address没弄对还是什么，结果耗费的时间还和先前一样！
      linux下我在用户空间的数据地址就是段偏移地址吧，怎么得到其“effective address”，说法都不一样！
      感谢大家的回复，小弟弄出来了会把体会发上来的！

hh0303b22

prefetch指令是有的，“软件干预流水线”是指！？？？

fineamy

源代码中有prefetch例子,
好像还有一类是人工填充cache之类的，都是由一堆数字串构成，可以找找参考下

fineamy

ppc也算高档cpu，应该也有吧

/* Prefetch instructions for Pentium III and AMD Athlon */
/* It's not worth to care about 3dnow! prefetches for the K6
   because they are microcoded there and very slow.
   However we don't do prefetches for pre XP Athlons currently
   That should be fixed. */
#define ARCH_HAS_PREFETCH
static inline void prefetch(const void *x)
{
        alternative_input(ASM_NOP4,
                          "prefetchnta (%1)",
                          X86_FEATURE_XMM,
                          "r" (x));
}


/*
* Alternative inline assembly with input.
*
* Pecularities:
* No memory clobber here.
* Argument numbers start with 1.
* Best is to use constraints that are fixed size (like (%1) ... "r")
* If you use variable sized constraints like "m" or "g" in the
* replacement maake sure to pad to the worst case length.
*/
#define alternative_input(oldinstr, newinstr, feature, input...)                \
        asm volatile ("661:\n\t" oldinstr "\n662:\n"                                \
                      ".section .altinstructions,\"a\"\n"                        \
                      "  .align 4\n"                                                \
                      "  .long 661b\n"            /* label */                        \
                      "  .long 663f\n"                  /* new instruction */         \
                      "  .byte %c0\n"             /* feature bit */                \
                      "  .byte 662b-661b\n"       /* sourcelen */                \
                      "  .byte 664f-663f\n"       /* replacementlen */                 \
                      ".previous\n"                                                \
                      ".section .altinstr_replacement,\"ax\"\n"                        \
                      "663:\n\t" newinstr "\n664:\n"   /* replacement */         \
                      ".previous" :: "i" (feature), ##input)