CUBLASメモリ割り当てエラー
-
05-07-2019 - |
質問
次のように浮動小数点数の17338896要素を割り当てようとしました(約70 mb):
state = cublasAlloc(theSim->Ndim*theSim->Ndim,
sizeof(*(theSim->K0)),
(void**)&K0cuda);
if(state != CUBLAS_STATUS_SUCCESS) {
printf("Error allocation video memory.\n");
return -1;
}
ただし、変数の状態に関する CUBLAS_STATUS_ALLOC_FAILED
のエラーメッセージが表示されます。これは、マシンで使用可能なビデオカードメモリの量(128 MBの鉱山)と関係があるのでしょうか、またはこれはcublasAlloc()関数を使用して割り当てることができるメモリ量の制限になりますか(つまり、量に関係ありません)マシンで使用可能なメモリの量)? cudaMalloc()関数を使用してみましたが、同じ問題に直面しています。これを見てくれてありがとう。
--------------エラー再現の追加----------------------------- --------
#include <cuda.h>
#include <stdio.h>
int main (int argc, char *argv[]) {
// CUDA setup
cublasStatus state;
if(cublasInit() == CUBLAS_STATUS_NOT_INITIALIZED) {
printf("CUBLAS init error.\n");
return -1;
}
// Instantiate video memory pointers
float *K0cuda;
// Allocate video memory needed
state = cublasAlloc(20000000,
sizeof(float),
(void**)&K0cuda);
if(state != CUBLAS_STATUS_SUCCESS) {
printf("Error allocation video memory.\n");
return -1;
}
// Copy K0 from CPU memory to GPU memory
// Note: before so, decide whether to integrate as a part of InsertionSim or
// CUDA content as a separate class
//state = cublasSetMatrix(theSim->Ndim, theSim->Ndim, sizeof(*theSim->K0),
// theSim->K0, theSim->Ndim, K0cuda, theSim->Ndim);
//if(state != CUBLAS_STATUS_SUCCESS) {
// printf("Error copy to video memory.\n");
// return -1;
//}
// Free memory
if(cublasFree(K0cuda) != CUBLAS_STATUS_SUCCESS) {
printf("Error freeing video memory.\n");
return -1;
}
// CUDA shutdown
if(cublasShutdown() != CUBLAS_STATUS_SUCCESS) {
printf("CUBLAS shutdown error.\n");
return -1;
}
if(theSim != NULL) delete theSim;
return 0;
}
解決
メモリは断片化する可能性があります。つまり、単一の大きなブロックではなく、複数の小さなブロックを割り当てることができます。ビデオカードには、通常の2Dタスクに必要なメモリが明らかに必要です。それにより、128 MBがほぼ64 MBの2つのブロックに分割される場合、この種のエラーが発生します。
所属していません StackOverflow