240x4x128:240x128x1_n"llama_3_8b:mm1*32"
30x14336:14336x4096_n"llama_3_8b:mm2*32"
30x4096:4096x28672_n"llama_3_8b:mm3*32"
30x4096:4096x32000_n"llama_3_8b:mm4*1"
30x4096:4096x4096_n"llama_3_8b:mm5*32"
30x4096:4096x6144_n"llama_3_8b:mm6*32"
240x4x1:240x1x128_n"llama_3_8b:mm7*32"
