M5 Ultra 的频率按照1.9X算（图里1.9G）也就撑死40TOPS的 FP32数值，考虑到这不是Dual-Issue FP32， 本身并不算很低。 但M5 系列的矩阵加速着实不行，同宽度只有2倍而已，加上数据格式支持的不多。所以矩阵FP16 也就 160TOPS， 矩阵Int8 320TOPS，着实很不够看。
那么M5 Ultra和AMD的Strix Halo RDNA3.5一样的问题，Prefill的速度都不太理想，也很难用上更加先进的数据格式。
Apple M5 Ultra 的带宽虽然看着不错，但是无论怎么算，他的算力都很一般。
Apple M5 Ultra 的带宽虽然看着不错，但是无论怎么算，他的算力都很一般。
M5 Ultra 的频率按照1.9X算（图里1.9G）也就撑死40TOPS的 FP32数值，考虑到这不是Dual-Issue FP32， 本身并不算很低。 但M5 系列的矩阵加速着实不行，同宽度只有2倍而已，加上数据格式支持的不多。所以矩阵FP16 也就 160TOPS， 矩阵Int8 320TOPS，着实很不够看。
那么M5 Ultra和AMD的Strix Halo RDNA3.5一样的问题，Prefill的速度都不太理想，也很难用上更加先进的数据格式。
M5 Ultra 的频率按照1.9X算（图里1.9G）也就撑死40TOPS的 FP32数值，考虑到这不是Dual-Issue FP32， 本身并不算很低。 但M5 系列的矩阵加速着实不行，同宽度只有2倍而已，加上数据格式支持的不多。所以矩阵FP16 也就 160TOPS， 矩阵Int8 320TOPS，着实很不够看。
那么M5 Ultra和AMD的Strix Halo RDNA3.5一样的问题，Prefill的速度都不太理想，也很难用上更加先进的数据格式。