Ошибка выделения памяти в CUBLAS

Question

Я попытался выделить 17338896 элементов чисел с плавающей запятой следующим образом (что составляет примерно 70 МБ):

    state = cublasAlloc(theSim->Ndim*theSim->Ndim, 
                       sizeof(*(theSim->K0)), 
                       (void**)&K0cuda);
    if(state != CUBLAS_STATUS_SUCCESS) {
        printf("Error allocation video memory.\n");
        return -1;
    }

Однако я получаю сообщение об ошибке CUBLAS_STATUS_ALLOC_FAILED для состояния переменной. Будет ли это как-то связано с объемом памяти видеокарты, доступной на машине (128 мегабайт на моем компьютере), или это будет предел объема памяти, который я могу выделить с помощью функции cublasAlloc () (т.е. не имеет отношения к объему памяти доступно на машине)? Я попытался использовать функцию cudaMalloc (), и я столкнулся с той же проблемой. Заранее спасибо за внимание.

-------------- Добавление ошибок воспроизведения ----------------------------- --------

#include <cuda.h>
#include <stdio.h>
int main (int argc, char *argv[]) {

    // CUDA setup
    cublasStatus state;

    if(cublasInit() == CUBLAS_STATUS_NOT_INITIALIZED) {
        printf("CUBLAS init error.\n");
        return -1;
    }

    // Instantiate video memory pointers
    float *K0cuda;

    // Allocate video memory needed
    state = cublasAlloc(20000000, 
                        sizeof(float), 
                        (void**)&K0cuda);
    if(state != CUBLAS_STATUS_SUCCESS) {
        printf("Error allocation video memory.\n");
        return -1;
    }

    // Copy K0 from CPU memory to GPU memory
    // Note: before so, decide whether to integrate as a part of InsertionSim or
    //      CUDA content as a separate class
    //state = cublasSetMatrix(theSim->Ndim, theSim->Ndim, sizeof(*theSim->K0),
    //                      theSim->K0, theSim->Ndim, K0cuda, theSim->Ndim);
    //if(state != CUBLAS_STATUS_SUCCESS) {
    //  printf("Error copy to video memory.\n");
    //  return -1;
    //}

    // Free memory
    if(cublasFree(K0cuda) != CUBLAS_STATUS_SUCCESS) {
        printf("Error freeing video memory.\n");
        return -1;
    }

    // CUDA shutdown
    if(cublasShutdown() != CUBLAS_STATUS_SUCCESS) {
        printf("CUBLAS shutdown error.\n");
        return -1;
    }

    if(theSim != NULL) delete theSim;

    return 0;
}

Answer 1

Память может фрагментироваться, что означает, что вы все равно можете выделить несколько меньших блоков, но не один большой блок. Ваша видеокарта, очевидно, будет нуждаться в некоторой памяти для выполнения обычной 2D-задачи. Если это случится, если разбить 128 МБ на 2 блока почти по 64 МБ, вы увидите такой тип отказа.